29.9-dars: Intervyu: statistika va ehtimollik

1. ANIQLASHTIRISH (10-20 soniya)
   "95% aniq" - sezgirlikmi, spetsifiklikmi, ikkalasimi?
   tanga adolatli-mi? kunlar bir tekis taqsimlanganmi? kabisa yili?
2. MODEL / FORMULA
   Bayes, kombinatorika, Markov holatlari, CLT
3. INTUITSIYA (sonli misol)
   "1000 odamni tasavvur qilaylik: 10 kasal, ..."
4. TEKSHIRUV
   chegaraviy holat (tarqalish 0 yoki 1 bo'lsa?), o'lcham tekshiruvi,
   "kompyuterim bo'lsa - 5 qatorli simulyatsiya bilan tekshirardim"
5. AMALIY MA'NO
   "shuning uchun skrining testidan keyin tasdiqlovchi test kerak"

XATOLAR: darhol raqam aytish; jim o'ylash (fikrni ovoz chiqarib ayting);
         noaniq javobni "ishonchli" qilib aytish; tekshirmaslik

Bayes 9.4-bob:  P(K | +) = P(+ | K) P(K) / P(+)
  P(+) = P(+ | K) P(K) + P(+ | sog') P(sog')
       = 0.95 * 0.01 + 0.10 * 0.99 = 0.0095 + 0.099 = 0.1085
  P(K | +) = 0.0095 / 0.1085 = 0.0876  (~9%)

INTUITSIYA (1000 odam):
  10 kasal   -> ~10 ta musbat (haqiqiy)
  990 sog'lom -> ~99 ta musbat (yolg'on)
  musbatlar ichida kasal: 10 / (10 + 99) ~ 9%

AMALIY: kam tarqalgan holatda skrining testi ko'p yolg'on musbat beradi;
  ikkinchi mustaqil test: prior endi 0.0876 -> P ~ 0.48
  ML dagi aynan shu hodisa: nomutanosib sinflarda precision past (14.9)

Aniqlashtirish: 365 kun, bir tekis, kabisa yili yo'q, egizaklar yo'q
Teskari hodisa 9.2-bob: HAMMASI turlicha
  P(turlicha) = 365/365 * 364/365 * ... * (365 - k + 1)/365
  P(kamida bitta juft) = 1 - P(turlicha)
  k = 23 -> 0.507;  k = 57 -> 0.99

INTUITSIYA: savol "MENING tug'ilgan kunim bilan" emas, "ISTALGAN ikki
  kishi" haqida; 23 kishida juftliklar soni 23 * 22 / 2 = 253 ta
AMALIY: xesh to'qnashuvlari, A/B test uchun ID lar, takror yozuvlar -
  "kichik ehtimol * ko'p juftlik = katta ehtimol"

HH uchun holatlar: S0 (boshlanish yoki oxirgi T), S1 (oxirgi H)
  E0 = 1 + 0.5 * E1 + 0.5 * E0      (H -> S1, T -> S0)
  E1 = 1 + 0.5 * 0  + 0.5 * E0      (H -> tamom, T -> S0 ga QAYTISH)
  -> E0 = 2 + E1,  E1 = 1 + 0.5 * E0  -> E0 = 6

HT uchun:
  E0 = 1 + 0.5 * E1 + 0.5 * E0
  E1 = 1 + 0.5 * 0  + 0.5 * E1      (T -> tamom, H -> S1 da QOLADI)
  -> E1 = 2, E0 = 4

UMUMIY: k ta ketma-ket gerb uchun 2^(k+1) - 2  (HHH -> 14)
INTUITSIYA: ikkala naqsh ehtimoli bir xil (1/4), lekin HH "o'z-o'zi bilan
  ustma-ust tushadi" - muvaffaqiyatsizlik butun yutuqni yo'qotadi

TA'RIF 11.1-bob: nol gipoteza to'g'ri bo'lsa, kuzatilgan yoki undan ham
  chetroq natijani olish ehtimoli.
  p = P(shunday yoki chetroq ma'lumot | H0)

p-QIYMAT NIMA EMAS:
  1. P(H0 | ma'lumot) EMAS            - buning uchun prior kerak (Bayes)
  2. ta'sir kattaligi EMAS            - katta n da kichik ta'sir ham p ~ 0
  3. natija takrorlanish ehtimoli EMAS
  4. p > 0.05 -> "ta'sir yo'q" EMAS   - quvvat past bo'lishi mumkin
  5. p = 0.049 va p = 0.051 - deyarli bir xil dalil

H0 TO'G'RI BO'LSA: p ~ Uniform(0, 1) -> P(p < 0.05) = 0.05 = alfa

"p < 0.05 li testlarning qanchasida H0 to'g'ri?" (FDR) - bog'liq:
  haqiqiy ta'sirlar ulushi pi va quvvat:
  FDR = (1 - pi) * alfa / ((1 - pi) * alfa + pi * quvvat)
  pi = 0.1, quvvat 0.48 -> FDR ~ 0.48  (deyarli yarmi!)

CHASTOTALI TALQIN (4.13, 11-qism):
  PROTSEDURA 95% qamrovga ega: tajribani ko'p marta takrorlasak, qurilgan
  oraliqlarning ~95% i haqiqiy parametrni qamraydi.
  BITTA tayyor oraliq [2.1, 3.4] parametrni yo qamraydi, yo yo'q -
  "95% ehtimol bilan parametr shu oraliqda" chastotali ma'noda NOTO'G'RI
  (Bayes kredibl oralig'ida esa bunday talqin to'g'ri - prior bilan)

QAMROV SHARTLARI: t-oraliq normal ma'lumotda aniq; boshqa taqsimotda CLT
  ga tayanadi -> kichik n va og'ir dumli taqsimotda qamrov 95% dan PAST
  (2-misol: lognormal, n=5 -> 0.766)
  yechim: katta n, log-transformatsiya, bootstrap (11.8)

                    H0 to'g'ri           H1 to'g'ri
H0 rad etildi       I TUR XATO (alfa)    to'g'ri (quvvat = 1 - beta)
H0 rad etilmadi     to'g'ri              II TUR XATO (beta)

MISOL (mahsulot): I tur - ishlamaydigan funksiyani chiqarish;
                  II tur - foydali funksiyani tashlab yuborish
QUVVAT 11.2-bob oshadi: n kattalashsa, ta'sir katta bo'lsa, dispersiya
  kichik bo'lsa, alfa katta bo'lsa
KAM QUVVAT XAVFI:
  1. haqiqiy ta'sirlar ko'p o'tkazib yuboriladi
  2. "G'OLIB LA'NATI" (type M xato): sezilarli chiqqan natijalar
     ta'sirni OSHIRIB ko'rsatadi - faqat "omadli" katta baholar
     chegaradan o'tadi

CLT 4.7-bob: mustaqil, bir xil taqsimlangan, CHEKLI dispersiyali X_i uchun
  n kattalashganda o'rtacha taqsimoti ~ Normal(mu, sigma^2 / n)
  - TAQSIMOTNING o'zi emas, O'RTACHA normallashadi
  - std(o'rtacha) = sigma / sqrt(n)
  - asimmetriya(o'rtacha) = asimmetriya(X) / sqrt(n) -> sekin kamayadi

QACHON EHTIYOT BO'LISH KERAK:
  - og'ir dumli, asimmetrik (daromad, chek summasi): n=30 "qoidasi" yetmaydi
  - dispersiya cheksiz (Koshi taqsimoti) - CLT umuman ishlamaydi
  - kuzatuvlar bog'liq (bitta foydalanuvchining ko'p sessiyasi) -
    samarali n kichikroq, SE ni klaster bo'yicha hisoblang

1. METRIKA: bitta asosiy (konversiya) + guardrail lar (qaytish, xatolar)
2. MDE (minimal aniqlanadigan ta'sir) - biznes uchun muhim eng kichik farq
3. NAMUNA HAJMI (11.2, 11.4):
   n = ( z_(1-alfa/2) * sqrt(2 * p_ort * q_ort)
         + z_(1-beta) * sqrt(p0 q0 + p1 q1) )^2 / MDE^2
   p0 = 0.10, MDE = 0.01 -> har guruhga ~14 750
   tez qoida: n ~ 16 * p (1 - p) / MDE^2 = 14 400
4. DAVOMIYLIK: n / kunlik trafik, kamida to'liq hafta(lar) - hafta kuni ta'siri
5. TASODIFIY TAQSIMLASH: foydalanuvchi bo'yicha (xesh, 27.13), SRM tekshiruvi
6. TAHLIL: oldindan yozilgan reja bo'yicha, bir marta

PEEKING 27.13-bob: har qarash - yangi imkoniyat "tasodifan" p < 0.05 olish
  20 qarash -> yolg'on musbat 0.05 dan ~0.25 ga
  yechim: oldindan belgilangan n; ketma-ket testlar (alfa sarflash)
KO'P TESTLASH 11.9-bob: 20 ta H0 metrikada P(>=1 yolg'on) = 1 - 0.95^20 = 0.64
  Bonferroni (alfa/m) - FWER nazorati, konservativ
  Benjamini-Hochberg - FDR nazorati, ko'proq topadi

Sabab: guruhlar tarkibi farq qiladi (8.4, 28.11)
  yangi sahifa ko'proq MOBIL foydalanuvchilarga ko'rsatilgan,
  mobil konversiya o'z-o'zidan past (4% va 12%)
  -> umumiy yangi guruh "past konversiyali" segmentga og'gan

QAYSI JAVOB TO'G'RI: segment (qurilma) sahifa tanloviga SABAB bo'lsa -
  segment ichidagi farqlar, segment ulushlari bilan standartlanadi
TO'G'RI RANDOMIZATSIYADA (A/B): segmentlar ulushi guruhlarda teng ->
  Simpson yuz bermaydi (katta n da); yuz bersa - taqsimlash buzilgan
  (SRM), rollout bosqichma-bosqich bo'lgan yoki trafik aralashgan

Uchta tushuntirish 4.10-bob:
  1. yashirin sabab: tarmoq muammosi -> murojaat VA ketish
  2. teskari yo'nalish: ketishga qaror qilgan mijoz shartnomani
     bekor qilish uchun murojaat qiladi
  3. haqiqiy sabab: yomon xizmat ko'rsatish mijozni ketkazadi
TEKSHIRISH: yashirin sabab bo'yicha qatlamlash, vaqt tartibi,
  tajriba (murojaat jarayonini tasodifiy yaxshilash), 28.11 usullari
AMALIY: murojaatni qiyinlashtirish - muammoni yashiradi, ketishni
  kamaytirmaydi (va ehtimol oshiradi)

OMON QOLGANLAR (survivorship): faqat "omon qolganlar" ko'rinadi
  muvaffaqiyatsiz startaplar (universitetni tashlaganlar ham) hisobda yo'q
  -> o'rtacha, ulushlar oshirib ko'rsatiladi
  savol: "ko'rinmaydiganlar kim va ular qancha?"

BERKSON (tanlash - kollayder, 28.11): tanlash ikki mustaqil omilga bog'liq
  bo'lsa, tanlangan guruhda ular SOXTA bog'lanadi
  (muvaffaqiyat = joy + jamoa -> muvaffaqiyatlilar ichida joy va jamoa
   manfiy korrelyatsiyali)

BOSHQA TANLASH TURLARI: faqat sharh qoldirganlar, faqat so'rovnomaga
  javob berganlar, faqat ilovani o'chirmaganlar, maoshini ochiq e'lon
  qilganlar (29.8, 2.8)

Aniqlashtirish: boshlovchi HAR DOIM echkili eshikni ochadimi? (ha - klassik shart)
Almashtirish yutadi, agar birinchi tanlov NOTO'G'RI bo'lsa:
  P(birinchi tanlov to'g'ri) = 1/3  -> qolish 1/3
  P(birinchi tanlov noto'g'ri) = 2/3 -> almashish 2/3
INTUITSIYA: 100 eshik, boshlovchi 98 ta echkini ochadi - qolgan bitta
  eshik "boshlovchi tanlagan" eshik
Agar boshlovchi tasodifan ochsa va tasodifan echki chiqsa - javob 1/2
  (shart o'zgarsa - javob o'zgaradi; shuning uchun aniqlashtirish kerak)

mashina = rng.integers(0, 3, 200_000)
tanlov = rng.integers(0, 3, 200_000)
qolish = (tanlov == mashina).mean()        # ~0.333
almashish = (tanlov != mashina).mean()     # ~0.667 - almashganda yutish

Aniqlashtirish: avtobuslar JADVAL bo'yicha (aniq 10 daqiqada) yoki
  tasodifiy (Puasson oqimi) keladimi?
JADVAL:     kutish ~ Uniform(0, 10) -> o'rtacha 5 daqiqa
PUASSON:    oraliqlar eksponensial, xotirasiz -> o'rtacha 10 daqiqa (!)
NEGA: tasodifiy vaqtda kelgan odam UZUN oraliqqa tushish ehtimoli yuqori
  (uzun oraliq vaqt o'qida ko'proq joy egallaydi) - "uzunlik bo'yicha
  tanlash"; umumiy formula: E[kutish] = E[T^2] / (2 E[T])
DS DAGI SHAKLLARI: "o'rtacha sinf hajmi" talabalar nuqtai nazaridan
  kattaroq; tasodifiy foydalanuvchi sessiyasi o'rtachadan uzunroq;
  tasodifiy tanlangan mijozning buyurtmasi "o'rtacha buyurtma"dan katta

oraliq = rng.exponential(10, 200_000)
vaqt = np.cumsum(oraliq)
kelish = rng.uniform(0, vaqt[-1], 200_000)
kutish = vaqt[np.searchsorted(vaqt, kelish)] - kelish   # o'rtacha ~10, 5 emas

Kuzatilgan natija = doimiy qobiliyat + tasodifiy omad
Eng chetdagilar (eng yomon / eng yaxshi) - o'rtacha OMADSIZ / OMADLI
Keyingi o'lchovda omad qaytadan tasodifiy -> natija o'rtachaga yaqinlashadi
  HECH NARSA qilmasa ham!
Simulyatsiya (qobiliyat va shovqin dispersiyasi teng): 1-testdagi top-10%
  o'rtachasi 2.49, 2-testda 1.23 - yarmiga "tushdi"
TEKSHIRISH: nazorat guruhi - xuddi shunday tanlangan, lekin menejer
  YUBORILMAGAN do'konlar; ta'sir = farqlar farqi (28.11 DiD)

                 CHASTOTALI                    BAYES
parametr         noma'lum, lekin QAT'IY        tasodifiy o'zgaruvchi
                                               (ishonch darajasi)
ehtimol          uzoq muddatli chastota        ishonch darajasi
natija           p-qiymat, ishonch oralig'i    posterior, kredibl oraliq
oldingi bilim    formal ravishda kirmaydi      prior orqali kiradi
savolga javob    "H0 da bunday ma'lumot         "ma'lumotni ko'rgach,
                  qanchalik kutilmagan?"         parametr qayerda?"
qachon qulay     standart tajribalar,           kichik namuna + oldingi bilim,
                 regulyator talablari           ketma-ket qarorlar (29.8 voronka)

import numpy as np
from scipy import stats

# Bayes
p_k_musbat = sez * prev / (sez * prev + (1 - spes) * (1 - prev))

# tug'ilgan kun
p_juft = 1 - np.prod(1 - np.arange(k) / 365)

# Monte Carlo tekshiruv shabloni
rng = np.random.default_rng(0)
x = rng.random(1_000_000) < p            # hodisa
baho, se = x.mean(), x.std() / np.sqrt(x.size)
mos = abs(baho - nazariy) < 2 * se

# ishonch oralig'i (t) va ikki proporsiya testi
lo, hi = stats.t.interval(0.95, n - 1, loc=x.mean(), scale=stats.sem(x))
p_qiymat = stats.norm.sf(abs(z)) * 2

# A/B namuna hajmi (har guruhga)
za, zb = stats.norm.ppf(0.975), stats.norm.ppf(0.8)
pb = (p0 + p1) / 2
n = ((za * np.sqrt(2 * pb * (1 - pb))
      + zb * np.sqrt(p0 * (1 - p0) + p1 * (1 - p1))) / (p1 - p0)) ** 2

aniqlashtirish -> formula -> intuitsiya (1000 odam) -> tekshiruv (chegara, simulyatsiya) -> amaliy ma'no
P(A|B) != P(B|A); p != P(H0|ma'lumot); CI - protsedura xossasi
n oldindan; bitta asosiy metrika; peeking yo'q; ko'p test - tuzatish
tarkib (Simpson), yashirin sabab, tanlash - "ma'lumot qanday paydo bo'lgan?"

"""Ehtimollik klassikasi: Bayes (tibbiy test), tug'ilgan kun paradoksi, HH uchun kutilma."""

import numpy as np


def bayes(prev, sez, spes):
    """P(kasal | test musbat) - analitik."""
    tp = prev * sez
    fp = (1 - prev) * (1 - spes)
    return tp / (tp + fp)


def birinchi_juftlik(tangalar, naqsh):
    """Har qatorda naqsh (masalan [1, 1]) birinchi marta TUGAGAN tashlash raqami."""
    k = len(naqsh)
    mos = np.ones((tangalar.shape[0], tangalar.shape[1] - k + 1), dtype=bool)
    for j, v in enumerate(naqsh):
        mos &= tangalar[:, j:tangalar.shape[1] - k + 1 + j] == v
    bor = mos.any(axis=1)
    return mos.argmax(axis=1) + k, bor


def main() -> None:
    rng = np.random.default_rng(9)

    print("=== 1. Bayes: kasallik 1%, sezgirlik 0.95, spetsifiklik 0.90 ===")
    prev, sez, spes = 0.01, 0.95, 0.90
    n = 1_000_000
    kasal = rng.random(n) < prev
    musbat = np.where(kasal, rng.random(n) < sez, rng.random(n) < 1 - spes)
    mc = kasal[musbat].mean()
    se = np.sqrt(mc * (1 - mc) / musbat.sum())
    an = bayes(prev, sez, spes)
    print(f"  analitik P(kasal | +) = {an:.4f}")
    print(f"  Monte Carlo ({n} odam): {mc:.4f} (SE {se:.4f}), "
          f"mos: {abs(mc - an) < 2 * se}")
    print(f"  1000 odamda: {int(round(1000 * prev * sez))} haqiqiy musbat, "
          f"{int(round(1000 * (1 - prev) * (1 - spes)))} yolg'on musbat")
    ikkinchi = bayes(an, sez, spes)
    print(f"  ikkinchi mustaqil test ham musbat: {ikkinchi:.4f}")
    for p in [0.001, 0.01, 0.1, 0.3]:
        print(f"    tarqalish {p:<5} -> P(kasal | +) = {bayes(p, sez, spes):.3f}")

    print("\n=== 2. Tug'ilgan kun paradoksi (365 kun, bir tekis) ===")
    print(f"  {'odam':>5} {'analitik':>9} {'Monte Carlo':>12} {'SE':>6}")
    for k in [10, 23, 30, 50, 57]:
        an = 1 - np.prod(1 - np.arange(k) / 365)
        kun = np.sort(rng.integers(0, 365, (50_000, k)), axis=1)
        mc = (np.diff(kun, axis=1) == 0).any(axis=1).mean()
        print(f"  {k:>5} {an:>9.3f} {mc:>12.3f} {np.sqrt(mc * (1 - mc) / 50_000):>6.4f}")
    kerak = next(k for k in range(1, 366)
                 if 1 - np.prod(1 - np.arange(k) / 365) >= 0.5)
    print(f"  ehtimol 0.5 dan oshadigan eng kichik guruh: {kerak} odam")
    print(f"  23 odamda juftliklar soni: {23 * 22 // 2} (shuning uchun ehtimol katta)")

    print("\n=== 3. Kutilgan tashlashlar: HH, HT, HHH (H - gerb) ===")
    tangalar = rng.integers(0, 2, (100_000, 400), dtype=np.int8)
    nazariy = {"HH": 6, "HT": 4, "HHH": 14}
    naqshlar = {"HH": [1, 1], "HT": [1, 0], "HHH": [1, 1, 1]}
    for nom, nq in naqshlar.items():
        t, bor = birinchi_juftlik(tangalar, nq)
        o, s = t.mean(), t.std(ddof=1) / np.sqrt(len(t))
        print(f"  {nom:<4} nazariy {nazariy[nom]:>3}, simulyatsiya {o:6.3f} "
              f"(SE {s:.3f}), topilmagan {int((~bor).sum())}, "
              f"mos: {abs(o - nazariy[nom]) < 2 * s}")
    print("  HH (6) > HT (4): HT kutilganda H dan keyin yana H kelsa, 'H' holati")
    print("  saqlanadi; HH kutilganda H dan keyingi T hammasini boshiga qaytaradi")

    print("\n=== 4. Xulosa ===")
    print(f"  musbat testdan keyin kasallik ehtimoli {bayes(prev, sez, spes):.1%} - "
          "95% emas")
    print("  ⭐ Javob: formula + intuitsiya (1000 odam) + simulyatsiya bilan tekshiruv")


if __name__ == "__main__":
    main()

=== 1. Bayes: kasallik 1%, sezgirlik 0.95, spetsifiklik 0.90 ===
  analitik P(kasal | +) = 0.0876
  Monte Carlo (1000000 odam): 0.0884 (SE 0.0009), mos: True
  1000 odamda: 10 haqiqiy musbat, 99 yolg'on musbat
  ikkinchi mustaqil test ham musbat: 0.4769
    tarqalish 0.001 -> P(kasal | +) = 0.009
    tarqalish 0.01  -> P(kasal | +) = 0.088
    tarqalish 0.1   -> P(kasal | +) = 0.514
    tarqalish 0.3   -> P(kasal | +) = 0.803

=== 2. Tug'ilgan kun paradoksi (365 kun, bir tekis) ===
   odam  analitik  Monte Carlo     SE
     10     0.117        0.120 0.0015
     23     0.507        0.509 0.0022
     30     0.706        0.702 0.0020
     50     0.970        0.971 0.0008
     57     0.990        0.990 0.0004
  ehtimol 0.5 dan oshadigan eng kichik guruh: 23 odam
  23 odamda juftliklar soni: 253 (shuning uchun ehtimol katta)

=== 3. Kutilgan tashlashlar: HH, HT, HHH (H - gerb) ===
  HH   nazariy   6, simulyatsiya  5.993 (SE 0.015), topilmagan 0, mos: True
  HT   nazariy   4, simulyatsiya  4.002 (SE 0.006), topilmagan 0, mos: True
  HHH  nazariy  14, simulyatsiya 13.936 (SE 0.037), topilmagan 0, mos: True
  HH (6) > HT (4): HT kutilganda H dan keyin yana H kelsa, 'H' holati
  saqlanadi; HH kutilganda H dan keyingi T hammasini boshiga qaytaradi

=== 4. Xulosa ===
  musbat testdan keyin kasallik ehtimoli 8.8% - 95% emas
  ⭐ Javob: formula + intuitsiya (1000 odam) + simulyatsiya bilan tekshiruv

"""p-qiymat nima va nima emas, ishonch oralig'i qamrovi va markaziy limit teoremasi."""

import numpy as np
from scipy import stats


def t_test(a, b):
    """Qatorlar bo'yicha vektorlashgan Welch t-test p-qiymatlari."""
    va, vb = a.var(axis=1, ddof=1) / a.shape[1], b.var(axis=1, ddof=1) / b.shape[1]
    t = (a.mean(axis=1) - b.mean(axis=1)) / np.sqrt(va + vb)
    df = (va + vb) ** 2 / (va ** 2 / (a.shape[1] - 1) + vb ** 2 / (b.shape[1] - 1))
    return 2 * stats.t.sf(np.abs(t), df)


def main() -> None:
    rng = np.random.default_rng(99)
    m, n = 20_000, 30

    print("=== 1. H0 to'g'ri bo'lganda p-qiymat taqsimoti (20 000 test, n=30) ===")
    p0 = t_test(rng.normal(0, 1, (m, n)), rng.normal(0, 1, (m, n)))
    hist = np.histogram(p0, bins=10, range=(0, 1))[0] / m
    print("  o'nliklar ulushi: " + " ".join(f"{h:.3f}" for h in hist))
    ulush = (p0 < 0.05).mean()
    print(f"  p < 0.05 ulushi: {ulush:.4f} (SE {np.sqrt(0.05 * 0.95 / m):.4f})"
          f" - bu alfa, ya'ni I tur xato")

    print("\n=== 2. p-qiymat P(H0 | ma'lumot) EMAS ===")
    haq = rng.random(m) < 0.10                    # testlarning 10% ida haqiqiy ta'sir
    siljish = np.where(haq, 0.5, 0.0)[:, None]
    p = t_test(rng.normal(0, 1, (m, n)) + siljish, rng.normal(0, 1, (m, n)))
    sez = p < 0.05
    quvvat = sez[haq].mean()
    yolgon = (~haq[sez]).mean()
    print(f"  haqiqiy ta'sir ulushi 0.10, ta'sir 0.5 std, n=30 -> quvvat {quvvat:.3f}")
    print(f"  p < 0.05 bo'lgan testlar: {sez.sum()} ta; ulardan H0 to'g'ri: "
          f"{yolgon:.3f}")
    nazariy = 0.9 * 0.05 / (0.9 * 0.05 + 0.1 * quvvat)
    print(f"  Bayes bilan: 0.9*0.05 / (0.9*0.05 + 0.1*{quvvat:.3f}) = {nazariy:.3f}")
    oraliq = (p > 0.04) & (p < 0.05)
    print(f"  0.04 < p < 0.05 bo'lgan testlarda H0 to'g'ri: "
          f"{(~haq[oraliq]).mean():.3f} (n={oraliq.sum()})")

    print("\n=== 3. p-qiymat ta'sir kattaligi EMAS ===")
    for nn, d in [(100, 0.30), (200_000, 0.01)]:
        a, b = rng.normal(d, 1, nn), rng.normal(0, 1, nn)
        pv = stats.ttest_ind(a, b, equal_var=False).pvalue
        print(f"  n={nn:>7} har guruhda, haqiqiy farq {d:.2f} std: "
              f"farq {a.mean() - b.mean():+.4f}, p = {pv:.2g}")

    print("\n=== 4. 95% ishonch oralig'i qamrovi (o'rtacha uchun) ===")
    print(f"  {'taqsimot':<14} {'n':>4} {'t-oraliq':>9} {'z-oraliq':>9}")
    for nom, gen, mu in [("normal", lambda s: rng.normal(5, 2, s), 5.0),
                         ("lognormal", lambda s: rng.lognormal(0, 1.2, s),
                          float(np.exp(1.2 ** 2 / 2)))]:
        for nn in [5, 30, 200]:
            x = gen((m, nn))
            o, s = x.mean(axis=1), x.std(axis=1, ddof=1) / np.sqrt(nn)
            tq = stats.t.ppf(0.975, nn - 1)
            qt = ((o - tq * s <= mu) & (mu <= o + tq * s)).mean()
            qz = ((o - 1.96 * s <= mu) & (mu <= o + 1.96 * s)).mean()
            print(f"  {nom:<14} {nn:>4} {qt:>9.3f} {qz:>9.3f}")
    print("  talqin: 100 ta tajribada ~95 ta oraliq haqiqiy qiymatni qamraydi;")
    print("  BITTA tayyor oraliq uchun 'ehtimol 95%' - chastotali talqinda noto'g'ri")

    print("\n=== 5. Markaziy limit teoremasi: lognormal daromad o'rtachasi ===")
    print(f"  {'n':>4} {'asimmetriya':>12} {'nazariy':>8} {'std':>7} {'nazariy':>8}")
    sigma = np.sqrt((np.exp(1.2 ** 2) - 1) * np.exp(1.2 ** 2))
    asim = (np.exp(1.2 ** 2) + 2) * np.sqrt(np.exp(1.2 ** 2) - 1)
    for nn in [1, 5, 30, 200]:
        o = rng.lognormal(0, 1.2, (m, nn)).mean(axis=1)
        print(f"  {nn:>4} {stats.skew(o):>12.2f} {asim / np.sqrt(nn):>8.2f} "
              f"{o.std():>7.3f} {sigma / np.sqrt(nn):>8.3f}")

    print("\n=== 6. Xulosa (natijadan hisoblangan) ===")
    print(f"  H0 da p < 0.05 ulushi {ulush:.3f}; lekin p < 0.05 li testlarning "
          f"{yolgon:.0%} ida H0 to'g'ri")
    print("  ⭐ p - 'H0 to'g'ri bo'lsa, shunday yoki undan chetroq natija ehtimoli'")


if __name__ == "__main__":
    main()

=== 1. H0 to'g'ri bo'lganda p-qiymat taqsimoti (20 000 test, n=30) ===
  o'nliklar ulushi: 0.098 0.097 0.098 0.101 0.097 0.099 0.102 0.103 0.106 0.099
  p < 0.05 ulushi: 0.0509 (SE 0.0015) - bu alfa, ya'ni I tur xato

=== 2. p-qiymat P(H0 | ma'lumot) EMAS ===
  haqiqiy ta'sir ulushi 0.10, ta'sir 0.5 std, n=30 -> quvvat 0.481
  p < 0.05 bo'lgan testlar: 1925 ta; ulardan H0 to'g'ri: 0.497
  Bayes bilan: 0.9*0.05 / (0.9*0.05 + 0.1*0.481) = 0.484
  0.04 < p < 0.05 bo'lgan testlarda H0 to'g'ri: 0.696 (n=250)

=== 3. p-qiymat ta'sir kattaligi EMAS ===
  n=    100 har guruhda, haqiqiy farq 0.30 std: farq +0.2705, p = 0.049
  n= 200000 har guruhda, haqiqiy farq 0.01 std: farq +0.0128, p = 5.5e-05

=== 4. 95% ishonch oralig'i qamrovi (o'rtacha uchun) ===
  taqsimot          n  t-oraliq  z-oraliq
  normal            5     0.952     0.880
  normal           30     0.948     0.938
  normal          200     0.948     0.947
  lognormal         5     0.766     0.689
  lognormal        30     0.851     0.841
  lognormal       200     0.911     0.910
  talqin: 100 ta tajribada ~95 ta oraliq haqiqiy qiymatni qamraydi;
  BITTA tayyor oraliq uchun 'ehtimol 95%' - chastotali talqinda noto'g'ri

=== 5. Markaziy limit teoremasi: lognormal daromad o'rtachasi ===
     n  asimmetriya  nazariy     std  nazariy
     1         6.71    11.16   3.553    3.687
     5         5.20     4.99   1.688    1.649
    30         3.10     2.04   0.694    0.673
   200         0.79     0.79   0.261    0.261

=== 6. Xulosa (natijadan hisoblangan) ===
  H0 da p < 0.05 ulushi 0.051; lekin p < 0.05 li testlarning 50% ida H0 to'g'ri
  ⭐ p - 'H0 to'g'ri bo'lsa, shunday yoki undan chetroq natija ehtimoli'

"""A/B test savollari: namuna hajmi, I/II tur xato, quvvat, peeking, ko'p testlash."""

import numpy as np
from scipy import stats


YOLGON = "yolg'on"


def namuna_hajmi(p0, mde, alfa=0.05, quvvat=0.8):
    """Ikki proporsiya uchun har guruhga kerakli n (normal yaqinlashish)."""
    p1 = p0 + mde
    za, zb = stats.norm.ppf(1 - alfa / 2), stats.norm.ppf(quvvat)
    pb = (p0 + p1) / 2
    s = za * np.sqrt(2 * pb * (1 - pb)) + zb * np.sqrt(p0 * (1 - p0) + p1 * (1 - p1))
    return int(np.ceil((s / mde) ** 2))


def z_p(xa, xb, n):
    """Ikki proporsiya z-testi (birlashgan), vektorlashgan; p-qiymat."""
    pa, pb = xa / n, xb / n
    pp = (xa + xb) / (2 * n)
    se = np.sqrt(2 * pp * (1 - pp) / n)
    z = np.divide(pb - pa, se, out=np.zeros_like(se), where=se > 0)
    return 2 * stats.norm.sf(np.abs(z)), pb - pa


def bh(p, q=0.05):
    """Benjamini-Hochberg: rad etilgan gipotezalar maskasi."""
    m = len(p)
    tartib = np.argsort(p)
    chegara = q * np.arange(1, m + 1) / m
    ok = p[tartib] <= chegara
    k = np.max(np.nonzero(ok)[0]) + 1 if ok.any() else 0
    rad = np.zeros(m, dtype=bool)
    rad[tartib[:k]] = True
    return rad


def main() -> None:
    rng = np.random.default_rng(2710)
    p0, mde, sim = 0.10, 0.01, 4000
    tekshir = []

    print("=== 1. Namuna hajmi: konversiya 10%, MDE +1 p.p., alfa 0.05, quvvat 0.8 ===")
    n = namuna_hajmi(p0, mde)
    print(f"  har guruhga n = {n}")
    for nom, d in [("H0 (farq yo'q)", 0.0), ("H1 (+1 p.p.)", mde)]:
        xa = rng.binomial(n, p0, sim)
        xb = rng.binomial(n, p0 + d, sim)
        p, _ = z_p(xa, xb, n)
        u = (p < 0.05).mean()
        se = np.sqrt(u * (1 - u) / sim)
        print(f"  {nom:<16} p < 0.05 ulushi {u:.3f} (SE {se:.3f})")
        tekshir.append(abs(u - (0.05 if d == 0 else 0.8)) < 2 * se)

    print("\n=== 2. Kam quvvatli test va 'g'olib la'nati' (n/4) ===")
    n4 = n // 4
    xa = rng.binomial(n4, p0, sim)
    xb = rng.binomial(n4, p0 + mde, sim)
    p, farq = z_p(xa, xb, n4)
    sez = p < 0.05
    print(f"  n = {n4}: quvvat {sez.mean():.3f} -> II tur xato {1 - sez.mean():.3f}")
    print(f"  haqiqiy farq {mde:.4f}; sezilarli natijalardagi o'rtacha farq "
          f"{farq[sez].mean():.4f} (x{farq[sez].mean() / mde:.2f} oshirilgan)")
    print("  'sezilarli emas' != 'ta'sir yo'q': "
          f"{1 - sez.mean():.0%} holatda haqiqiy ta'sir o'tkazib yuborildi")

    print("\n=== 3. Peeking: 20 marta qarab, p < 0.05 da to'xtatish (H0 to'g'ri) ===")
    qadam = n // 20
    ka = rng.binomial(qadam, p0, (sim, 20)).cumsum(axis=1)
    kb = rng.binomial(qadam, p0, (sim, 20)).cumsum(axis=1)
    nlar = qadam * np.arange(1, 21)
    pk, _ = z_p(ka, kb, nlar[None, :])
    for k in [1, 5, 10, 20]:
        qarash = np.linspace(0, 19, k).round().astype(int) if k > 1 else np.array([19])
        u = (pk[:, qarash] < 0.05).any(axis=1).mean()
        print(f"  {k:>2} marta qarash: yolg'on musbat {u:.3f}")
    bonf = (pk < 0.05 / 20).any(axis=1).mean()
    print(f"  20 marta, har birida alfa/20: {bonf:.3f} (konservativ)")

    print("\n=== 4. Ko'p testlash: 20 metrika ===")
    m = 20
    print(f"  hammasi H0: P(kamida bitta p < 0.05) nazariy 1 - 0.95^20 = "
          f"{1 - 0.95 ** m:.3f}")
    p_h0 = rng.random((sim, m))
    print(f"  simulyatsiya: {(p_h0 < 0.05).any(axis=1).mean():.3f}")
    haq = np.zeros(m, dtype=bool)
    haq[:4] = True                                 # 4 ta metrikada haqiqiy ta'sir
    natija = {"tuzatishsiz": [], "Bonferroni": [], "BH (FDR 0.05)": []}
    for _ in range(sim):
        z = rng.normal(np.where(haq, 3.0, 0.0), 1.0)
        p = 2 * stats.norm.sf(np.abs(z))
        for nom, rad in [("tuzatishsiz", p < 0.05), ("Bonferroni", p < 0.05 / m),
                         ("BH (FDR 0.05)", bh(p))]:
            natija[nom].append((rad[haq].sum(), rad[~haq].sum(),
                                rad[~haq].sum() / max(rad.sum(), 1)))
    print(f"  4 ta haqiqiy ta'sir (z ~ 3), 16 ta H0; {sim} takror:")
    print(f"  {'usul':<14} {'topildi (4 dan)':>15} {YOLGON:>8} {'FDR':>6} "
          f"{'P(>=1 ' + YOLGON + ')':>15}")
    for nom, v in natija.items():
        v = np.array(v)
        print(f"  {nom:<14} {v[:, 0].mean():>15.2f} {v[:, 1].mean():>8.2f} "
              f"{v[:, 2].mean():>6.3f} {(v[:, 1] > 0).mean():>15.3f}")

    print("\n=== 5. Xulosa (natijadan hisoblangan) ===")
    print(f"  n={n}: yolg'on musbat 0.05 ga, quvvat 0.8 ga 2*SE ichida mos: "
          f"{tekshir[0]}, {tekshir[1]}")
    print("  ⭐ Namuna hajmi oldindan; bitta asosiy metrika; qarashlar rejalashtirilgan")


if __name__ == "__main__":
    main()

=== 1. Namuna hajmi: konversiya 10%, MDE +1 p.p., alfa 0.05, quvvat 0.8 ===
  har guruhga n = 14751
  H0 (farq yo'q)   p < 0.05 ulushi 0.046 (SE 0.003)
  H1 (+1 p.p.)     p < 0.05 ulushi 0.792 (SE 0.006)

=== 2. Kam quvvatli test va 'g'olib la'nati' (n/4) ===
  n = 3687: quvvat 0.287 -> II tur xato 0.713
  haqiqiy farq 0.0100; sezilarli natijalardagi o'rtacha farq 0.0183 (x1.83 oshirilgan)
  'sezilarli emas' != 'ta'sir yo'q': 71% holatda haqiqiy ta'sir o'tkazib yuborildi

=== 3. Peeking: 20 marta qarab, p < 0.05 da to'xtatish (H0 to'g'ri) ===
   1 marta qarash: yolg'on musbat 0.052
   5 marta qarash: yolg'on musbat 0.166
  10 marta qarash: yolg'on musbat 0.212
  20 marta qarash: yolg'on musbat 0.253
  20 marta, har birida alfa/20: 0.019 (konservativ)

=== 4. Ko'p testlash: 20 metrika ===
  hammasi H0: P(kamida bitta p < 0.05) nazariy 1 - 0.95^20 = 0.642
  simulyatsiya: 0.652
  4 ta haqiqiy ta'sir (z ~ 3), 16 ta H0; 4000 takror:
  usul           topildi (4 dan)  yolg'on    FDR  P(>=1 yolg'on)
  tuzatishsiz               3.43     0.80  0.163           0.561
  Bonferroni                1.96     0.05  0.018           0.045
  BH (FDR 0.05)             2.51     0.15  0.040           0.138

=== 5. Xulosa (natijadan hisoblangan) ===
  n=14751: yolg'on musbat 0.05 ga, quvvat 0.8 ga 2*SE ichida mos: True, True
  ⭐ Namuna hajmi oldindan; bitta asosiy metrika; qarashlar rejalashtirilgan

"""Tarafkashliklar: Simpson paradoksi, korrelyatsiya va sabab, omon qolganlar (survivorship)."""

import numpy as np
import pandas as pd


def main() -> None:
    rng = np.random.default_rng(404)

    print("=== 1. Simpson: yangi to'lov sahifasi (mobil foydalanuvchilarga ko'proq) ===")
    n = 60_000
    mobil = rng.random(n) < 0.5
    yangi = rng.random(n) < np.where(mobil, 0.8, 0.2)       # taqsimlash TASODIFIY EMAS
    p = np.where(mobil, 0.04, 0.12) + 0.01 * yangi          # har segmentda +1 p.p.
    df = pd.DataFrame({"qurilma": np.where(mobil, "mobil", "kompyuter"),
                       "sahifa": np.where(yangi, "yangi", "eski"),
                       "xarid": rng.random(n) < p})
    jad = df.pivot_table(index="qurilma", columns="sahifa", values="xarid",
                         aggfunc="mean")
    jad["farq"] = jad["yangi"] - jad["eski"]
    umumiy = df.groupby("sahifa")["xarid"].mean()
    for q, r in jad.iterrows():
        print(f"  {q:<10} eski {r['eski']:.4f}  yangi {r['yangi']:.4f}  "
              f"farq {r['farq']:+.4f}")
    uf = umumiy["yangi"] - umumiy["eski"]
    print(f"  {'UMUMIY':<10} eski {umumiy['eski']:.4f}  yangi {umumiy['yangi']:.4f}  "
          f"farq {uf:+.4f}")
    ulush = df["qurilma"].value_counts(normalize=True)
    st = float(sum(jad.loc[q, "farq"] * ulush[q] for q in jad.index))
    print(f"  segment ulushlari bilan standartlangan farq: {st:+.4f} (haqiqiy +0.0100)")

    print("\n=== 2. Korrelyatsiya va sabab: murojaatlar va mijoz ketishi ===")
    n = 20_000
    muammo = rng.random(n) < 0.2                   # tarmoq muammosi (yashirin sabab)
    murojaat = rng.poisson(np.where(muammo, 3.0, 0.5))
    ketdi = rng.random(n) < np.where(muammo, 0.30, 0.08)   # murojaat ketishga TA'SIR QILMAYDI
    r = np.corrcoef(murojaat, ketdi)[0, 1]
    print(f"  corr(murojaatlar, ketish) = {r:+.3f}")
    for m, nom in [(False, "muammosiz"), (True, "muammoli")]:
        s = muammo == m
        print(f"  {nom:<10} ichida corr = {np.corrcoef(murojaat[s], ketdi[s])[0, 1]:+.3f}"
              f" (n={s.sum()})")
    kop = murojaat >= 3
    print(f"  ketish: >=3 murojaat {ketdi[kop].mean():.3f}, <3 murojaat "
          f"{ketdi[~kop].mean():.3f}")
    print("  xato xulosa: 'murojaatni qiyinlashtirsak, ketish kamayadi'")

    print("\n=== 3. Omon qolganlar: startaplar o'sishi ===")
    n = 5_000
    osish = rng.normal(0.0, 0.30, n)               # yillik o'sish, haqiqiy o'rtacha 0
    omon = osish > 0.15                            # faqat yaxshi o'sganlar "ko'rinadi"
    print(f"  hamma startaplar: o'rtacha o'sish {osish.mean():+.3f} (n={n})")
    print(f"  omon qolganlar:   o'rtacha o'sish {osish[omon].mean():+.3f} "
          f"(n={omon.sum()}, {omon.mean():.1%})")

    print("\n=== 4. Berkson: tanlash mustaqil belgilarni bog'laydi ===")
    joy = rng.normal(0, 1, n)                      # joylashuv sifati
    jamoa = rng.normal(0, 1, n)                    # jamoa tajribasi (mustaqil)
    tanlandi = joy + jamoa + rng.normal(0, 0.5, n) > 1.5
    print(f"  hamma: corr(joy, jamoa) = {np.corrcoef(joy, jamoa)[0, 1]:+.3f}")
    rt = np.corrcoef(joy[tanlandi], jamoa[tanlandi])[0, 1]
    print(f"  faqat muvaffaqiyatlilar ({tanlandi.mean():.1%}): corr = {rt:+.3f}")
    print("  xato xulosa: 'yaxshi joy tanlaganlar jamoaga e'tibor bermaydi'")

    print("\n=== 5. Xulosa (natijadan hisoblangan) ===")
    if np.sign(uf) != np.sign(st):
        print(f"  Simpson: umumiy farq {uf:+.4f}, segmentlar ichida esa ijobiy "
              f"({st:+.4f})")
    ichki = max(abs(np.corrcoef(murojaat[muammo == m], ketdi[muammo == m])[0, 1])
                for m in [False, True])
    print(f"  korrelyatsiya {r:+.3f} -> yashirin sabab ichida {ichki:.3f} gacha tushdi")
    print(f"  omon qolganlar o'rtachasi {osish[omon].mean() - osish.mean():+.3f} "
          f"ga oshirib ko'rsatilgan")
    print("  ⭐ Avval so'rang: ma'lumot qanday tanlangan va nima taqsimlashni hal qilgan?")


if __name__ == "__main__":
    main()

=== 1. Simpson: yangi to'lov sahifasi (mobil foydalanuvchilarga ko'proq) ===
  kompyuter  eski 0.1192  yangi 0.1352  farq +0.0159
  mobil      eski 0.0403  yangi 0.0501  farq +0.0099
  UMUMIY     eski 0.1036  yangi 0.0671  farq -0.0365
  segment ulushlari bilan standartlangan farq: +0.0129 (haqiqiy +0.0100)

=== 2. Korrelyatsiya va sabab: murojaatlar va mijoz ketishi ===
  corr(murojaatlar, ketish) = +0.193
  muammosiz  ichida corr = +0.005 (n=15981)
  muammoli   ichida corr = +0.027 (n=4019)
  ketish: >=3 murojaat 0.290, <3 murojaat 0.105
  xato xulosa: 'murojaatni qiyinlashtirsak, ketish kamayadi'

=== 3. Omon qolganlar: startaplar o'sishi ===
  hamma startaplar: o'rtacha o'sish -0.007 (n=5000)
  omon qolganlar:   o'rtacha o'sish +0.348 (n=1537, 30.7%)

=== 4. Berkson: tanlash mustaqil belgilarni bog'laydi ===
  hamma: corr(joy, jamoa) = -0.024
  faqat muvaffaqiyatlilar (15.5%): corr = -0.564
  xato xulosa: 'yaxshi joy tanlaganlar jamoaga e'tibor bermaydi'

=== 5. Xulosa (natijadan hisoblangan) ===
  Simpson: umumiy farq -0.0365, segmentlar ichida esa ijobiy (+0.0129)
  korrelyatsiya +0.193 -> yashirin sabab ichida 0.027 gacha tushdi
  omon qolganlar o'rtachasi +0.355 ga oshirib ko'rsatilgan
  ⭐ Avval so'rang: ma'lumot qanday tanlangan va nima taqsimlashni hal qilgan?

p_kasal = sezgirlik                                                         # ⚠️
p_kasal = sez * prev / (sez * prev + (1 - spes) * (1 - prev))              # ✅

⚠️ "p = 0.03, demak ta'sir 97% ehtimol bilan haqiqiy"
✅ "Agar ta'sir bo'lmasa, bunday yoki kattaroq farq 3% ehtimol bilan chiqardi.
    Ta'sir kattaligi va oralig'i: +1.2 p.p. [0.1, 2.3]"

⚠️ "Haqiqiy o'rtacha 95% ehtimol bilan [2.1, 3.4] da"
✅ "Bu protsedura bilan qurilgan oraliqlarning 95% i haqiqiy qiymatni qamraydi"

davomiylik = "1 hafta"                                                      # ⚠️
n = namuna_hajmi(p0=0.10, mde=0.01)   # ~14 750 har guruhga -> kunlar      # ✅

for kun in range(30):
    if p_qiymat(kun) < 0.05:
        break                                                               # ⚠️
natija = p_qiymat(oxirgi_kun)   # oldindan belgilangan n da bir marta       # ✅

sezilarli = [m for m, p in zip(metrikalar, pqiymatlar) if p < 0.05]          # ⚠️
sezilarli = [m for m, r in zip(metrikalar, bh(np.array(pqiymatlar))) if r]  # ✅

⚠️ "Kichik testda +1.8 p.p. chiqdi - rejaga +1.8 yozamiz"
✅ "Quvvat 0.29 edi; sezilarli natijalar o'rtacha x1.8 oshirilgan.
    Katta test bilan tasdiqlaymiz yoki konservativ baho olamiz"

1.  # tarqalish 0.1% bo'lsa, musbat testdan keyin kasallik ehtimoli?
2.  # ikkinchi mustaqil test ham musbat - taxminan qancha?
3.  # 57 odamda umumiy tug'ilgan kun ehtimoli?
4.  # HHH uchun kutilgan tashlashlar?
5.  # H0 to'g'ri bo'lsa, p-qiymatlarning qancha ulushi 0.2 dan 0.3 gacha?
6.  # haqiqiy ta'sirlar 10%, quvvat ~0.48: p < 0.05 lardan qanchasida H0 to'g'ri?
7.  # lognormal (sigma 1.2), n=5: t-oraliq qamrovi 0.95 dan yuqorimi, pastmi?
8.  # namuna hajmi n/4 bo'lsa quvvat taxminan qancha?
9.  # 5 marta qarab to'xtatish: yolg'on musbat taxminan?
10. # Bonferroni va BH: qaysi biri ko'proq haqiqiy ta'sir topadi?
11. # tasodifiy taqsimlangan katta A/B testda Simpson paradoksi bo'ladimi?
12. # omon qolganlar ichida mustaqil ikki omil qanday bog'lanadi?

1.  p_kasal = 0.95     # test sezgirligi 95%
2.  natija = "ta'sir yo'q" if p > 0.05 else "ta'sir bor"
3.  if min(pqiymatlar) < 0.05: xulosa = "yangi dizayn yaxshiroq"
4.  while p >= 0.05: kun += 1; p = test(kun)
5.  oraliq = (x.mean() - 1.96 * x.std() / np.sqrt(5), x.mean() + 1.96 * x.std() / np.sqrt(5))   # daromad, n=5