JavaScript Full-stackReal-time capstone 2: masshtab, presence va bildirishnomalar — Redis orqali ko'p nusxa, yuk o'lchovi va Redis uzilishi
JavaScript Full-stack · 38-qism. Yakuniy loyihalar (capstone)

Real-time capstone 2: masshtab, presence va bildirishnomalar — Redis orqali ko'p nusxa, yuk o'lchovi va Redis uzilishi

23 daqiqa7/14-dars

Qisqacha: Chat bitta nusxada ishlashi oson. Ikki nusxada esa har nusxa faqat o'ziga ulanganlarni biladi, shuning uchun ular orasida Redis pub/sub turadi. Kanon o'lchovi: 400 SSE ulanish × 50 xabar — 20 000/20 000 yetkazildi, p99 20 ms. Presence (kim onlayn) — Redis ZSET va 30 soniyalik oyna. Biz o'zimiz uchta narsani o'lchadik. Chiqib ketgan a'zo 30 soniya "onlayn" turadi. Chat'da rate limit yo'q. Redis to'xtasa, faqat chat emas, ikkala api nusxasi ham yiqiladi.

Bu darsda

  • Real-time'ni ko'p nusxaga masshtablash usullarini solishtirasiz: sticky sessiya, Redis pub/sub, alohida xizmat.
  • Presence'ni Redis ZSET bilan qurasiz va uning aniqligini o'lchaysiz.
  • Yuk o'lchovini o'qiysiz: p50, p99 va o'lchovning o'zi nimani ko'rsatmasligi.
  • Rate limit va bildirishnomalar rejasini yozasiz — kanonda ular yo'q.
  • Redis uzilishida tizim qanday yiqilishini ko'rasiz va tuzatish rejasini tuzasiz.

Oldin bilishingiz kerak: Real-time capstone 1, Realtime'ni masshtablash, Bildirishnoma tizimi arxitekturasi, Dizayn: taqsimlangan rate limiter, Yuklama va stress testlari, Resilience naqshlari.

1. Nega bu kerak?

Oldingi darsda xabar yo'li qurildi: POST → baza → Redis → SSE. Endi uni "ko'p odam, ko'p nusxa, ko'p soat" sharoitida ko'ramiz. Uch savol bor. Ikkinchi nusxa qo'shilganda xabarlar hammaga yetadimi? Jamoadoshim hozir shu yerdami? Men oflayn bo'lsam, muhim xabarni qanday bilaman?

Hayotiy o'xshatish: katta bozordagi radiouzel. Bozorning har qavatida o'z karnayi bor (api nusxasi), har karnay faqat o'z qavatidagilarga eshitiladi. E'lon qaysi qavatda berilsa ham, hamma qavatga yetishi uchun markaziy pult kerak (Redis). Kim bozorda ekanini bilish uchun esa kirish eshigidagi ro'yxat yetmaydi — odamlar chiqib ketayotganda yozilmaydi. Shuning uchun "oxirgi marta qachon ko'rindi" ro'yxati yuritiladi (presence).

Nazariya Realtime'ni masshtablash va Amaliyot: chat va bildirishnomalar darslarida. Bu darsda jamoa kodi, o'lchov va kodda yo'q narsalar.

2. Talab

Hikoya Asosiy mezon Natija
Ikki nusxada chat A ga yozilgan xabar B dagi mijozga yetkazildi
Ko'p a'zo 400 ulanish, 50 xabar hammasi yetkazildi, p99 < 50 ms
Kim onlayn ochiq oqim — onlayn 30 s ichida yangilanadi
Uzilib qoldim brauzer qayta ulanadi Last-Event-ID bilan
Kimdir spam qiladi bir a'zo sekundiga o'nlab xabar 429
Oflaynman muhim xabar Telegram yoki brauzer bildirishnomasi
Redis to'xtadi chat vaqtincha ishlamaydi qolgan API ishlaydi

Oxirgi uch qatorni kanon qilmagan. Ular shu darsning asosiy topilmalari va «O'zingiz qiling» bandlari.

3. Qarorlar

3.1 Ko'p nusxa: xabar qanday hammaga yetadi

Variant Afzallik Kamchilik
sticky sessiya (bir jamoa — bir nusxa) nusxalararo aloqa kerak emas nusxa yiqilsa, jamoa uzildi; yuk notekis
Redis pub/sub (kanon) har nusxa mustaqil, yuk taqsimlagich oddiy Redis — umumiy bog'liqlik
alohida real-time xizmat (Centrifugo, Ably, Pusher) masshtab va qayta ulanish tayyor yana bitta servis yoki to'lov

Socket.IO'dagi "Redis adapter" xuddi shu ikkinchi variant: har nusxa Redis kanaliga yozadi va o'qiydi (Socket.IO). jamoa buni SSE bilan, kutubxonasiz qiladi. Tayyor xizmatlar haqida — Tayyor realtime xizmatlari va CRDT.

Ikkinchi variantning narxi — Redis butun chat uchun umumiy nuqta. Bu qanchalik jiddiy ekanini «Natijani halol o'qish» bo'limida o'lchaymiz.

3.2 Presence: qayerda saqlanadi

Variant Afzallik Kamchilik
har nusxa xotirasida tez boshqa nusxadagilarni bilmaydi
Postgres jadvali doimiy har 15 s da yozuv × ulanishlar — bazaga bekor yuk
Redis ZSET (kanon) umumiy, tez, vaqt bo'yicha saralangan Redis xotirasi; aniqlik oynaga bog'liq

ZSET — har a'zoga bitta son (oxirgi ko'rinish vaqti, ms) biriktirilgan to'plam. "Oxirgi 30 soniyada ko'ringanlar" so'rovi ikki buyruq: eskilarini o'chirish (ZREMRANGEBYSCORE) va qolganlarini o'qish (ZRANGE).

Presence aniq bo'lishi shart emas — "Malika hozir onlayn edi" degan ma'lumot bir necha soniya kechiksa, hech kim zarar ko'rmaydi. Bu oxir-oqibat izchillik (eventual consistency) uchun yaxshi misol. Tranzaksiya, qulf, bazaga yozish kerak emas.

3.3 Bildirishnoma: kimga va qanday

Oflayn a'zoga xabar yetkazish uchun uch kanal bor:

Kanal Afzallik Kamchilik
Web Push (VAPID) brauzer yopiq bo'lsa ham ruxsat so'rash; iOS'da cheklovlar
Telegram bot O'zbekistonda deyarli hamma ishlatadi a'zo botni ulashi kerak; Telegram bot capstone
email universal sekin, ko'pincha o'qilmaydi

Kanonda bildirishnoma yo'q. ADR-0008 kontekstda uni tilga oladi, lekin kod va testlarda u yo'q. Shuning uchun bu bo'limda qaror emas, reja beramiz. Asosiy tamoyil — Bildirishnoma tizimi arxitekturasi: xabar yozilgan tranzaksiyada outbox qatori, alohida ishchi, takrorni tashlash va chastota chegarasi.

3.4 Rate limit: qayerda

Joy Afzallik Kamchilik
xost nginx (limit_req) ilovagacha yetmaydi IP bo'yicha; bitta ofisdagi butun jamoa bitta IP
ilova, Redis'da, foydalanuvchi bo'yicha aniq: a'zo va jamoa bo'yicha har POST da Redis murojaati

Chat uchun ikkinchisi kerak: spam qiluvchi — kirgan foydalanuvchi, IP emas. Algoritm — tokenlar idishi (Rate limiting): qisqa portlashga ruxsat, uzoq oqimga — yo'q. Kanonda chat uchun bu ham yo'q.

Tekshirib ko'ring: Presence oynasi 30 s, yurak urishi esa 15 s. Nega oyna yurak urishidan ikki baravar katta tanlangan?

Javob

Yurak urishi aniq 15 soniyada kelmaydi: tarmoq kechikadi, Redis buyrug'i sekinlashadi, taymer suriladi. Oyna 15 s bo'lsa, bitta kechikkan yurak urishi — onlayn a'zo bir lahzaga "oflayn" ko'rinadi va ro'yxat miltillaydi. Ikki baravar oyna bitta urish tushib qolsa ham chidaydi. Narxi — chiqib ketgan a'zo 30 s gacha "onlayn" ko'rinadi.

4. Qurish

flowchart LR
  subgraph A[api nusxa A]
    UA[ulanishlar: 200 ta]
  end
  subgraph B[api nusxa B]
    UB[ulanishlar: 200 ta]
  end
  P[POST xabar] --> A
  A -->|COMMIT| DB[(Postgres: xabarlar)]
  A -->|PUBLISH jamoa:chat:7| R[(Redis)]
  R -->|xabar| A
  R -->|xabar| B
  UA -.->|yurak: ZADD| Z[(Redis ZSET: presence)]
  UB -.->|yurak: ZADD| Z

Xabar POST qabul qilgan nusxaga ham Redis orqali qaytadi. Nusxa o'z ulanishlariga to'g'ridan yozmaydi — faqat Redis'dan kelganini tarqatadi. Natijada ikkala nusxada bitta yo'l bor va "o'zimga yozdim, boshqaga yozmadim" xatosi bo'lmaydi.

4.1 Obuna: bitta jamoaga bitta

Har SSE ulanish uchun alohida Redis obunasi ochilsa, 400 ulanish — 400 obuna. Kanon esa nusxada jamoa bo'yicha bitta obuna qiladi va ulanishlarni sanaydi (qatorga bo'lindi, kanon bilan aynan):

ts
async #obuna(jamoa: number): Promise<void> {
  const n = this.#obunalar.get(jamoa) ?? 0;
  this.#obunalar.set(jamoa, n + 1);
  if (n > 0) return;
  await this.sub.subscribe(this.#kanal(jamoa), (xom) => {
    const m = JSON.parse(xom) as { tur: string; x?: Xabar };
    for (const u of this.#ulanishlar) {
      if (u.jamoa !== jamoa) continue;
      if (m.tur === "xabar" && m.x !== undefined)
        u.res.write(`id: ${String(m.x.id)}\nevent: xabar\ndata: ${
          JSON.stringify(m.x)}\n\n`);
      else u.res.write(`event: ${m.tur}\ndata: ${xom}\n\n`);
    }
  });
}

async #obunaBekor(jamoa: number): Promise<void> {
  const n = (this.#obunalar.get(jamoa) ?? 1) - 1;
  if (n > 0) { this.#obunalar.set(jamoa, n); return; }
  this.#obunalar.delete(jamoa);
  await this.sub.unsubscribe(this.#kanal(jamoa))
    .catch(() => undefined);
}

Uchta tafsilot:

  • Hisoblagich. Birinchi ulanish obuna ochadi, oxirgisi yopadi. Qolganlari faqat sonni o'zgartiradi. Redis'dagi obunalar soni — nusxadagi faol jamoalar soniga teng, ulanishlar soniga emas.
  • Alohida sub klienti. Redis'ning odatiy (RESP2) protokolida obuna rejimidagi ulanish boshqa buyruqlarni bajara olmaydi — faqat SUBSCRIBE, PING kabi bir nechtasini. Yangi RESP3 protokolida bu cheklov yo'q, lekin alohida klient baribir soddaroq. Shuning uchun main.ts ikkita klient yaratadi: pub (e'lon, ZSET) va sub (faqat obuna).
  • Fan-out. Kelgan har xabar nusxadagi hamma ulanishlar bo'ylab aylanadi va jamoasi mos kelmaganlarini o'tkazib yuboradi. 200 ulanish va bitta faol jamoada bu sezilmaydi. Yuzlab jamoada esa har xabar uchun butun ro'yxat aylanadi. Tuzatish — Map<jamoa, Set<Ulanish>>.

4.2 Presence

Uch metod (qatorga bo'lindi, kanon bilan aynan):

ts
async onlayn(jamoa: number): Promise<number[]> {
  const k = this.#presence(jamoa);
  await this.pub.zRemRangeByScore(k, 0, Date.now() - PRESENCE_MS);
  return (await this.pub.zRange(k, 0, -1)).map(Number);
}

async #korindi(jamoa: number, f: number): Promise<void> {
  await this.pub.zAdd(this.#presence(jamoa),
    { score: Date.now(), value: String(f) });
}

async #yurakUrishi(): Promise<void> {
  for (const u of this.#ulanishlar) {
    u.res.write(": yurak\n\n");
    await this.#korindi(u.jamoa, u.f).catch(() => undefined);
  }
}

Yurak urishi ikki ish qiladi: oqimga izoh qatori yozadi (proksi ulanishni "o'lik" deb yopmasin) va ZSET'dagi vaqtni yangilaydi. onlayn() esa o'qishdan oldin 30 soniyadan eskilarini o'chiradi.

Muhim kuzatuv: ulanish yopilganda (req.on("close")) ZSET'dan hech narsa o'chirilmaydi. A'zo faqat vaqt o'tib "eskirib" ketadi. Mana shu xulqning modeli:

js
// presence modeli: Redis ZSET o'rniga Map (a'zo → oxirgi ko'rinish)
const OYNA = 30_000; // PRESENCE_MS
const zset = new Map();

const korindi = (azo, t) => zset.set(azo, t); // ZADD
function onlayn(t) {
  for (const [azo, vaqt] of zset) {
    if (vaqt <= t - OYNA) zset.delete(azo); // ZREMRANGEBYSCORE
  }
  return [...zset.keys()].sort();
}

// 0 s: Aziz va Malika ulandi; yurak urishi har 15 s (ochiq oqim)
korindi("Aziz", 0);
korindi("Malika", 0);
korindi("Aziz", 15_000); // Aziz oqimi ochiq
// Malika 5-soniyada oynani yopdi — hech narsa o'chirilmaydi
for (const s of [10, 29, 31, 46]) {
  if (s === 31) korindi("Aziz", 30_000); // keyingi yurak urishi
  console.log(`${s} s: onlayn — ${onlayn(s * 1000).join(", ")}`);
}

Konsolda:

text
10 s: onlayn — Aziz, Malika
29 s: onlayn — Aziz, Malika
31 s: onlayn — Aziz
46 s: onlayn — Aziz

Malika 5-soniyada chiqib ketgan, lekin 29-soniyada ham "onlayn". Model haqiqiy o'lchov bilan mos keladi («Natijani halol o'qish» bo'limi).

4.3 Uzun ulanishlar va proksi

SSE ulanish soatlab ochiq turadi. Yo'ldagi har bir qatlam uni yopishi mumkin: ichki nginx, xost nginx, korporativ proksi, mobil operator. Kanondagi himoya qatlamlari:

Qatlam Sozlama
ilova har 15 s : yurak izohi
ichki nginx proxy_read_timeout 1h, proxy_buffering off (SaaS capstone 4)
javob sarlavhasi X-Accel-Buffering: no
brauzer retry: 3000 — uzilsa, 3 s dan keyin Last-Event-ID bilan qayta ulanadi

Bir soatdan keyin nginx baribir ulanishni yopadi — bu xato emas. Brauzer 3 soniyada qayta ulanadi va o'tkazib yuborilganlarni oladi. Qayta ulanish — normal holat, favqulodda emas. Shuning uchun Real-time capstone 1 dagi takror himoyasi va tarix tartibi muhim edi.

4.4 Yuk o'lchovi qanday qilingan

Kanon skripti (chat-olchov.mjs) shunday ishlaydi. N ta SSE ulanish ochiladi, yarmi A ga, yarmi B ga. Keyin M ta xabar ketma-ket yuboriladi, navbat bilan A va B ga. Server har e'longa t: Date.now() qo'shadi. Mijoz xabarni olganda Date.now() - t ni yozadi. Hammasi bitta mashinada, shuning uchun soatlar bir xil.

Persentil formulasi skriptdan aynan: tartiblangan ro'yxatda Math.floor(x × n) indeksi. 3-mashqda shu formula bilan o'zingiz hisoblaysiz.

4.5 Biz shunday xato qildik: o'lchov eski nusxalarni o'lchadi

Kanon ko'p nusxa o'lchovini (vazifalar-api, 4.4.0 va 4.5.0 solishtiruvi) birinchi marta yurgizganda natija shubhali chiqdi. Sabab: eski versiya nusxalari 0.0.0.0 manzilida tinglagan edi, to'xtatish skripti esa ularni 127.0.0.1 bo'yicha qidirdi va topmadi. "Yangi" versiya ishga tushdi, lekin so'rovlar hali ishlab turgan eski nusxalarga bordi. Natija tashlandi, nusxalar qo'lda to'xtatilib, o'lchov qayta qilindi. Xom log saqlanmagan, xulosa kanon hisobotidan.

Saboq: yuk o'lchovidan oldin "men aynan nimani o'lchayapman?" ni tekshiring. Har nusxa javobida versiya yoki nusxa nomi bo'lsin (/health/ready da), o'lchov skripti esa uni yozib borsin. Aks holda chiroyli raqamlar boshqa tizimga tegishli bo'lib chiqishi mumkin.

Chat'ning o'zidagi kanon xatosi — SSE sarlavhalari 15 soniya kechikishi — oldingi darsda: Real-time capstone 1.

5. Tekshirish

5.1 Kanon o'lchovi

Bitta mashina (i5-12500H, Windows 11), 2 api nusxasi, bitta Redis, ketma-ket POST:

Ulanish × xabar Yetkazildi p50 / p99 / max
100 × 100 10 000 / 10 000 4 / 9 / 13 ms
400 × 50 20 000 / 20 000 7 / 20 / 25 ms
50 × 20 (production Compose, nginx) 1 000 / 1 000 1 / 7 / 8 ms

Tayyorgarlik vaqtlari ham xomda bor:

Ulanish × xabar Ulanishlarni ochish Xabarlarni yozish
100 × 100 504 ms 1 794 ms
400 × 50 1 728 ms 1 079 ms
50 × 20 283 ms 256 ms

400 ulanishni ochish 1.7 soniya oldi — har biri ro'yxatdan o'tish emas, faqat cookie bilan GET. Haqiqiy hayotda bu "hamma bir vaqtda qayta ulanadi" holatiga o'xshaydi: masalan, deploy'dan keyin yoki nginx qayta ishga tushganda. Bunday "qayta ulanish to'lqini" ham o'lchanishi kerak bo'lgan alohida ssenariy.

Talabdagi "p99 < 50 ms" mezoni bajarildi. Ulanishlar 100 dan 400 ga — 4 barobar — oshganda p99 9 ms dan 20 ms ga oshdi, ya'ni ikki barobardan sal ko'p. Fan-out ishi ulanishlar soniga mutanosib, shuning uchun o'sish kutilgan. Masshtab chegarasi esa bu o'lchovda ko'rinmadi.

5.2 Natijani halol o'qish: o'lchov nimani ko'rsatmaydi

Raqamlar to'g'ri, lekin ular tor savolga javob beradi. Ularni qanday o'qish kerak:

  • Kechikish — e'londan qabulgacha. t server Redis'ga e'lon qilishdan oldin qo'yiladi. Baza yozuvi, POST ning tarmoq yo'li va nginx kirmaydi. "Foydalanuvchi yuborgandan jamoadoshi ko'rguncha" vaqti bundan katta.
  • Xabarlar ketma-ket. Skript keyingi POST ni oldingisining javobidan keyin yuboradi. 50 ta xabar 1 079 ms da — sekundiga taxminan 46 ta. Bir vaqtda yuzlab muallif yozganda nima bo'lishi o'lchanmagan.
  • Mijoz va server — bitta protsessorda. 400 mijozning parsingi ham o'sha protsessor vaqtini oladi. Alohida mashinadagi mijozlar bilan natija boshqacha bo'ladi — yaxshiroq ham, yomonroq ham.
  • "Nusxalardagi SSE: 0". Skript oxirida /health/ready dan har nusxadagi ulanishlar sonini so'raydi va ikkalasida ham 0 oladi. Izohning o'zi aytadi: bu o'lchov oxirida, ulanishlar yopilgandan keyin olingan. Production Compose qatoridagi "A 25, B 25" esa skriptning yorlig'i: u yerda ikkala manzil ham bitta nginx edi. Ulanishlar ikki replika orasida qanday taqsimlangani o'lchanmagan.
  • t maydoni production'da qoldi. O'lchov uchun qo'shilgan t har xabar bilan hamma mijozlarga ketadi. Zarar kichik, lekin bu "o'lchov kodi protokolga sizib o'tdi" degan misol.
  • Sekin mijoz. u.res.write() qaytargan qiymat tekshirilmaydi. Mijoz o'qimay qo'ysa (sekin tarmoq), Node uning javobini xotirada to'playveradi. Bu kod o'qishdan topildi, o'lchanmagan (Resilience naqshlari — backpressure).

Kanon o'lchovidan tashqari biz lokal production stack'ida (kanon image'lari, nginx + 2 nusxa) uchta tajriba qildik. Skriptlar va natijalar mashq papkasidagi olchov/ da.

Presence aniqligi. SSE ochildi, keyin yopildi, onlayn ro'yxati vaqt bo'yicha so'raldi:

text
SSE ochilmagan: onlayn 0
SSE ochiq: onlayn 1
SSE yopilgandan 1 s keyin: onlayn 1
SSE yopilgandan 10 s keyin: onlayn 1
SSE yopilgandan 20 s keyin: onlayn 1
SSE yopilgandan 29 s keyin: onlayn 1
SSE yopilgandan 31 s keyin: onlayn 0

Model bilan aynan: yopilgan oqim 30 soniya "onlayn" turadi. Tuzatish arzon — close hodisasida ZREM. Lekin ehtiyot bo'ling: a'zoning ikkinchi tabi ochiq bo'lishi mumkin. Ya'ni a'zo bo'yicha ulanishlar sonini sanash kerak, xuddi obunalardagi kabi.

Spam. Bitta a'zo bir soniya ichida 60 ta parallel POST:

text
60 parallel POST (1 s ichida): 60 × 201

Hammasi qabul qilindi va har biri 400 ta ulanishga tarqatilgan bo'lardi. Bitta buzg'unchi butun jamoaning ekranini to'ldiradi va ikkala nusxani band qiladi. 2-mashqdagi tokenlar idishi buni to'xtatadi.

Redis uzilishi. ADR-0008 da yozilgan: "Redis yiqilsa xabar yo'qolmaydi, qayta ulanishda tarixdan keladi". Biz buni sinadik: SSE ochiq, Redis konteyneri to'xtatildi, POST yuborildi, keyin Redis yoqildi.

text
tayyorla: Redis ishlayapti — POST 201 (19 ms), id 287
Redis to'xtatilgan: POST "uzilish paytida" — javob yo'q (8 s timeout)
Redis qaytdi: o'sha mijozId bilan takror POST — 201 (169 ms), id 288
bazadagi tarix: "uzilishdan oldin", "uzilish paytida"
yangi xabar — POST 201 (19 ms), id 289
yangi SSE ulanishga jonli kelgan: "qaytgandan keyin"

Uchinchi qatorga qarang: takror POST 201 oldi, 200 emas. Demak, uzilish paytidagi birinchi POST bazaga umuman yetmagan. Nega? api logi javob beradi:

text
SocketClosedUnexpectedlyError: Socket closed unexpectedly
Emitted 'error' event on Class instance at:

Tarjimasi: "Soket kutilmaganda yopildi. error hodisasi … obyektida chiqarildi". Bu Node'ning qoidasi: EventEmitter error hodisasini chiqarsa va unga hech kim quloq solmasa, jarayon to'xtaydi. main.ts da Redis klientlari shunday yaratilgan (qatorga bo'lindi, kanon bilan aynan):

ts
const redis = (): RedisClientType =>
  createClient({ url: E.REDIS_URL });
const [pub, sub] = [redis(), redis()];
await Promise.all([pub.connect(), sub.connect()]);

.on("error", …) yo'q. Redis to'xtagan zahoti ikkala api nusxasi yiqildi. Docker ularni qayta ishga tushirdi (restart: unless-stopped), lekin yangi jarayon ham ishga tushishda Redis'ga ulana olmadi va yana yiqildi:

text
Error: getaddrinfo ENOTFOUND redis

Tarjimasi: "redis nomli xost topilmadi" — konteyner to'xtagani uchun ichki DNS'da u yo'q. Redis qaytguncha bir necha qayta ishga tushish bo'ldi (nusxalarda 3 va 2 marta), keyin ikkalasi ham tiklandi. nginx logida — 499 (mijoz kutmay uzdi) va connect() failed (111: Connection refused).

Natijani halol o'qiymiz. ADR'ning da'vosi tor ma'noda to'g'ri: qabul qilingan xabar yo'qolmadi. Lekin Redis uzilishi — chat uchun emas, butun API uchun uzilish bo'lib chiqdi: vazifalar, auth, billing va Payme webhook'lari ham. ADR-0001 dagi "bitta server — yagona nosozlik nuqtasi" ga yana bittasi qo'shildi: Redis. Bu testlarda ko'rinmaydi, chunki testlar Redis'ni hech qachon o'chirmaydi.

Tekshirib ko'ring: Redis'ning o'zi xabarni saqlamaydi (pub/sub — "ko'pi bilan bir marta" yetkazish). Shunda nega Redis uzilishi butun API'ni yiqitdi — vazifalar va billing Redis pub/sub'dan foydalanmaydi-ku?

Javob

Sabab ma'lumotda emas, jarayonda. pub va sub klientlari api jarayonining o'zida yaratilgan va ularning error hodisasini hech kim tinglamaydi. Node qoidasi bo'yicha bunday hodisa butun jarayonni to'xtatadi — u bilan birga shu jarayondagi vazifalar, auth va Payme webhook marshrutlari ham o'ladi. Bitta modulning tashqi bog'liqligi hammaga umumiy bo'lib qoldi.

Tuzatish yo'nalishi (kanonda yo'q):

  • pub.on("error", log) va sub.on("error", log) — jarayon yiqilmasin, klient o'zi qayta ulanadi;
  • chat yo'llari Redis bo'lmasa 503 qaytarsin, qolgan API ishlayversin (graceful degradation);
  • /health/ready Redis holatini ham ko'rsatsin, lekin ishchi nusxani yuk taqsimlagichdan chiqarib yubormasin — aks holda Redis uzilishi yana butun API'ni o'chiradi.

5.3 Sinalmaganlar

  • Bir nechta mashina va haqiqiy tarmoq (kechikish, paket yo'qolishi).
  • Minglab ulanish, xotira va fayl deskriptorlari chegarasi.
  • Soatlab ochiq turgan ulanishlar (soak test).
  • Redis Sentinel yoki klaster — kanonda bitta Redis.
  • Bildirishnomalar va chat rate limit — kanonda yo'q.

6. Hujumchi nigohi

Hujum Qanday urinadi jamoa holati
Xabar spami sekundiga yuzlab POST chegara yo'q — 60 × 201 (o'lchandi)
Ulanish to'plash bitta hisobdan minglab SSE chegara yo'q; har biri xotira va fan-out
Sekin o'quvchi oqimni ochib, o'qimaslik write bosimi tekshirilmaydi
Presence orqali kuzatish kim qachon onlayn faqat jamoa a'zolariga (rol tekshiruvi)
Redis'ga to'g'ridan parolsiz ulanish requirepass, port tashqariga ochilmagan
Redis'ni o'chirish Redis'ni band qilish yoki to'ldirish butun API yiqiladi (o'lchandi)

Eng arzon hujum — birinchi ikki qator. Hisob ochish bepul (14 kunlik sinov), demak buzg'unchi jamoa ochib, o'z jamoasida ham, taklif orqali kirgan jamoada ham spam qila oladi. Rate limit uchun ikki daraja tavsiya qilinadi. Birinchisi — a'zo bo'yicha (masalan, 10 soniyada 20 ta xabar). Ikkinchisi — ulanishlar soni bo'yicha (bitta foydalanuvchiga 5 ta SSE). DoS va resurs tugashidan himoya darsidagi qoida shu: har resursning egasi bo'yicha chegarasi bo'lsin.

7. Ko'p uchraydigan xatolar

7.1 Har ulanishga alohida obuna

400 ulanish — 400 Redis obunasi. Jamoa bo'yicha bitta obuna va hisoblagich.

7.2 Redis klientining error hodisasini tinglamaslik

Bitta uzilish — jarayon to'xtaydi. Har klientga .on("error").

7.3 Presence'ni faqat "ulandi/uzildi" bilan

Uzilish hodisasi har doim kelmaydi (telefon tarmoqdan chiqib ketdi). Yurak urishi va vaqt oynasi.

7.4 p50 ga qarab xulosa qilish

O'rtacha va mediana foydalanuvchilarning eng yomon tajribasini yashiradi. p99 va max.

7.5 O'lchovda "nimani o'lchayotganim"ni tekshirmaslik

Eski nusxa, boshqa port, kesh — chiroyli, lekin begona raqamlar. Javobda versiya.

7.6 Bildirishnomani to'g'ridan POST ichida yuborish

Tashqi xizmat sekinlashsa, chat ham sekinlashadi. Outbox va ishchi.

8. Mashqlar

Mashqlar kurs/mashqlar/38/07-realtime-masshtab/ da. 2- va 3-mashq yechimlari Node 24.21.0 da tekshirilgan (biz ishga tushirdik).

1-mashq (oson): bo'shliqlarni to'ldiring

  • Kanonda presence oynasi, soniya —
  • 400 SSE × 50 xabar o'lchovida p99, ms —
  • Redis'da obuna rejimidagi klient boshqa buyruq bajara olmaydi, shuning uchun klientlar soni —
  • Presence saqlanadigan Redis tuzilmasi —
  • Kanonda bitta a'zoning 60 parallel POST idan qabul qilingani —
Yechim
  • 30 — PRESENCE_MS = 30_000; yurak urishi 15 s.
  • 20 — p50 7 ms, max 25 ms; 100 ulanishda p99 9 ms.
  • 2 — pub (e'lon va ZSET) va sub (obuna).
  • ZSET — a'zo → oxirgi ko'rinish vaqti; ZREMRANGEBYSCORE va ZRANGE.
  • 60 — chat'da rate limit yo'q; tokenlar idishi kerak.

2-mashq (o'rta): tokenlar idishi

Chat uchun rate limit modelini yozing. Idish sig'imi 5 token, har soniyada 1 token qo'shiladi, sig'imdan oshmaydi. Har xabar 1 token oladi, token bo'lmasa — 429. So'rovlar: 0-soniyada 8 ta, 3-soniyada 4 ta, 10-soniyada 1 ta. Har so'rov natijasini va jami 201/429 sonini chiqaring.

Ishora: tokenlarni har so'rovda o'tgan vaqtga qarab to'ldiring — taymer kerak emas (Dizayn: taqsimlangan rate limiter).

Yechim
js
// tokenlar idishi: sig'im 5, har soniyada 1 token qo'shiladi
function idish(sigim, tezlik) {
  let tokenlar = sigim;
  let oxirgi = 0;
  return function ruxsat(t) { // t — soniyada
    tokenlar = Math.min(sigim, tokenlar + (t - oxirgi) * tezlik);
    oxirgi = t;
    if (tokenlar < 1) return 429;
    tokenlar -= 1;
    return 201;
  };
}

const ruxsat = idish(5, 1);
const sorovlar = [
  ...Array.from({ length: 8 }, () => 0), // 0-soniyada 8 ta xabar
  3, 3, 3, 3, // 3-soniyada yana 4 ta
  10, // 10-soniyada bitta
];
const natija = sorovlar.map((t) => `${t}s:${ruxsat(t)}`);
console.log(natija.join(" "));
const n = (k) => natija.filter((x) => x.endsWith(`:${k}`)).length;
console.log(`201 × ${n(201)}, 429 × ${n(429)}`);

Konsolda:

text
0s:201 0s:201 0s:201 0s:201 0s:201 0s:429 0s:429 0s:429 3s:201 3s:201 3s:201 3s:429 10s:201
201 × 9, 429 × 4

Birinchi beshtasi — portlash, idish to'la edi. 3-soniyagacha 3 token to'plandi — uchtasi o'tdi, to'rtinchisi rad. 10-soniyada idish yana to'la. Ko'p nusxada bu hisob Redis'da bo'lishi kerak: ikki nusxaning har biri o'z idishini yuritsa, limit ikki barobar bo'ladi. Redis'da esa "o'qish — hisoblash — yozish" bitta atomik amal bo'lishi shart (Lua skript yoki INCR + EXPIRE bilan oyna) — Distributed lock va rate limit Redis'da.

3-mashq (qiyin): persentillar

Kanon o'lchov skriptidagi formulani yozing: tartiblangan ro'yxatda Math.floor(x × n) indeksi (ro'yxat oxiridan oshmasin). 1 000 ta kechikish yasang: har 50-chisi (2 %) — sekin mijoz, 40–80 ms; qolganlari 3–6 ms. Tasodif — urug'li generator (har ishga tushishda bir xil). O'rtacha, p50, p95, p99 va max ni chiqaring.

Ishora: Math.random ishlatmang — natija har safar boshqacha bo'ladi (Vaqt va tasodifni boshqarish).

Yechim
js
// kanon o'lchov skripti formulasi: tartiblangan[floor(x × n)]
function persentil(namunalar, x) {
  const s = [...namunalar].sort((a, b) => a - b);
  return s[Math.min(s.length - 1, Math.floor(x * s.length))];
}

// 1 000 ta: 980 tasi 3–6 ms, 20 tasi (2 %) — sekin mijoz, 40–80 ms
let urug = 7;
const M = 2147483647; // 2^31 − 1
const tasodif = () => (urug = (urug * 48271) % M) / M;
const namunalar = Array.from({ length: 1000 }, (_, i) =>
  i % 50 === 0
    ? 40 + Math.round(tasodif() * 40)
    : 3 + Math.round(tasodif() * 3));

const orta = namunalar.reduce((a, b) => a + b, 0) / namunalar.length;
console.log(`o'rtacha ${orta.toFixed(1)} ms`);
for (const x of [0.5, 0.95, 0.99]) {
  console.log(`p${x * 100}: ${persentil(namunalar, x)} ms`);
}
console.log(`max: ${Math.max(...namunalar)} ms`);

Konsolda:

text
o'rtacha 5.5 ms
p50: 4 ms
p95: 6 ms
p99: 63 ms
max: 77 ms

O'rtacha 5.5 ms — "hammasi yaxshi" ko'rinadi. p95 ham 6 ms. Faqat p99 2 % sekin mijozni ko'rsatadi: 63 ms. Ya'ni har 50 xabardan bittasi sezilarli kechikadi. 400 a'zoli jamoada bu har xabarda 8 ta odam. Kanon o'lchovida p99 20 ms va max 25 ms edi — sekin mijozlar bo'lmagan. Haqiqiy foydalanuvchilarda (mobil tarmoq) dumi uzunroq bo'ladi. Shuning uchun real tizimda kechikish mijoz tomonidan ham yig'iladi.

9. O'zingiz qiling: masshtab va chidamlilik

  1. Ikki nusxa — jamoa api'ni ikki portda ko'taring, bitta Redis; A ga yozilgan xabar B dagi oqimga kelsin.
  2. O'lchov — kanondagi kabi skript: N ulanish, M xabar, p50/p99/max. Javobga nusxa nomini qo'shing va taqsimotni ham yozing.
  3. Tuzatishlar — har biriga avval eski kodda yiqiladigan test yoki tajriba:
    • Redis klientlariga .on("error"); Redis to'xtatilganda vazifalar API'si 200, chat 503; Redis qaytgach chat o'zi tiklansin;
    • presence: close da a'zoning ulanishlari 0 ga tushsa — ZREM; ikki tab — bittasi yopilsa, a'zo onlayn qoladi;
    • fan-out: Map<jamoa, Set<Ulanish>>;
    • sekin mijoz: write() false qaytarsa va bufer chegaradan oshsa — ulanishni yopish (mijoz qayta ulanadi va tarixdan oladi);
    • t maydoni faqat o'lchov rejimida.
  4. Rate limit — Redis'da tokenlar idishi: a'zo bo'yicha xabarlar, foydalanuvchi bo'yicha SSE ulanishlar; 429 va Retry-After.
  5. Bildirishnomalar — pastdagi reja bo'yicha: outbox, ishchi, Telegram yoki Web Push (Push bildirishnomalar: FCM va Web Push, Web push bildirishnomalar).
  6. Yuk testi — k6 yoki autocannon bilan bir vaqtda ko'p muallif (Yuklama va stress testlari).
Yechim namunasi: oflayn a'zoga bildirishnoma (reja)

Kanonda bu yo'q. Yo'nalish — mavjud qismlardan:

sequenceDiagram
  participant A as api
  participant P as Postgres
  participant I as ishchi
  participant T as Telegram yoki Web Push
  A->>P: INSERT xabar va outbox qatori (bitta tranzaksiya)
  A-->>A: COMMIT, PUBLISH
  I->>P: outbox: SKIP LOCKED
  I->>I: kim onlayn emas? (presence)
  I->>I: chastota: a'zoga 5 daqiqada 1 ta
  I->>T: "Chat: 3 ta yangi xabar"
  I->>P: outbox qatori — yuborildi

Qarorlar: bildirishnoma xabar tranzaksiyasida outbox qatori sifatida yoziladi (Transactional outbox naqshi). Ishchi kim oflayn ekanini presence'dan oladi, har xabar uchun emas, guruhlab yuboradi ("3 ta yangi xabar"). Takror — outbox id bo'yicha (BullMQ jobId). Telegram uchun a'zo botni o'zi ulaydi (/start kodi bilan), bot tokeni .env da. Xuddi shu zanjir bozor loyihasida o'lchangan: Mikroservis capstone da 1 000 ta xabardan 997 tasi yetkazildi, qolgan 3 tasi qayta yuborish uchun saqlandi.

10. Real ishda

  • Masshtabning birinchi chegarasi odatda protsessor emas, ulanishlar soni va xotira: har ochiq ulanish — bufer, deskriptor, taymer.
  • Presence katta ilovalarda ataylab "taxminiy": "yaqinda faol edi" va "5 daqiqa oldin" yetarli, aniq soniya kerak emas.
  • Redis kichik loyihada "yana bitta yordamchi servis" bo'lib ko'rinadi, lekin real-time'da u yuragi. Uning uzilishini rejalashtirmagan tizim birinchi uzilishda butunlay to'xtaydi.
  • Bildirishnomalarning eng ko'p uchraydigan shikoyati — "juda ko'p". Guruhlash va chastota chegarasi "yetkazish" dan muhimroq.
  • Intervyuda "chatni 10 barobar masshtablang" savoliga raqam bilan javob bering: hozir 400 ulanishda p99 20 ms, chegara qayerda kutiladi, uni qanday o'lchaysiz va Redis uzilsa nima bo'ladi.

Xulosa

  • Ko'p nusxa: Redis pub/sub, nusxada jamoa bo'yicha bitta obuna; xabar Redis orqali hamma nusxaga, shu jumladan o'ziga.
  • Presence: Redis ZSET, yurak urishi 15 s, oyna 30 s; o'lchov — yopilgan oqim 30 s "onlayn".
  • Yuk: 400 SSE × 50 — 20 000/20 000, p99 20 ms; o'lchov e'londan qabulgacha, ketma-ket POST va bitta mashina ekanini unutmang.
  • Kanonda yo'q: chat rate limit (60 × 201) va bildirishnomalar — tokenlar idishi va outbox rejasi.
  • Redis uzilishi butun API'ni yiqitdi: error tinglovchisi yo'q; tuzatish — tinglovchi, chat uchun 503 va graceful degradation.

Keyingi dars: E-commerce capstone 1: katalog, savat va buyurtma — yangi loyiha bozor.

Manbalar

  • Redis — Pub/Sub: https://redis.io/docs/latest/develop/pubsub/ (tekshirildi, 2026-11: eski …/interact/pubsub/ manzili 404 — yangilandi; yetkazish "ko'pi bilan bir marta" (at-most-once); RESP2 obuna rejimida ruxsat etilgan buyruqlar ro'yxati, RESP3 da cheklov yo'q)
  • Redis — Sorted sets: https://redis.io/docs/latest/develop/data-types/sorted-sets/ (tekshirildi, 2026-11)
  • Node.js — Events: error events: https://nodejs.org/api/events.html#error-events (tekshirildi, 2026-11: error tinglovchisi bo'lmasa — xato tashlanadi va jarayon to'xtaydi; xulq Node 24.22.2 konteynerida ham kuzatildi)
  • Kurs tajribasi (IlmHamroh, 2026-11): jamoa chat o'lchovi — 2 nusxa, 100 va 400 SSE; production Compose — 50 SSE. Presence, spam va Redis uzilishi — biz lokal production stack'ida o'lchadik (2026-11-10, kanon image'lari); obuna fan-out va sekin mijoz — kod o'qishdan.
38-qism. Yakuniy loyihalar (capstone) · 7-dars yakunlandi

Real-time capstone 2: masshtab, presence va bildirishnomalar — Redis orqali ko'p nusxa, yuk o'lchovi va Redis uzilishi

23 daqvaqt
0belgi
Keyingi dars: E-commerce capstone 1: katalog, savat va buyurtma — bozor do'konining yadrosi
Telegram'da
Darsda xato koʻrdingizmi?

Izohlar · 0