Real-time capstone 2: masshtab, presence va bildirishnomalar — Redis orqali ko'p nusxa, yuk o'lchovi va Redis uzilishi
Qisqacha: Chat bitta nusxada ishlashi oson. Ikki nusxada esa har nusxa faqat o'ziga ulanganlarni biladi, shuning uchun ular orasida Redis pub/sub turadi. Kanon o'lchovi: 400 SSE ulanish × 50 xabar — 20 000/20 000 yetkazildi, p99 20 ms. Presence (kim onlayn) — Redis ZSET va 30 soniyalik oyna. Biz o'zimiz uchta narsani o'lchadik. Chiqib ketgan a'zo 30 soniya "onlayn" turadi. Chat'da rate limit yo'q. Redis to'xtasa, faqat chat emas, ikkala api nusxasi ham yiqiladi.
Bu darsda
- Real-time'ni ko'p nusxaga masshtablash usullarini solishtirasiz: sticky sessiya, Redis pub/sub, alohida xizmat.
- Presence'ni Redis ZSET bilan qurasiz va uning aniqligini o'lchaysiz.
- Yuk o'lchovini o'qiysiz: p50, p99 va o'lchovning o'zi nimani ko'rsatmasligi.
- Rate limit va bildirishnomalar rejasini yozasiz — kanonda ular yo'q.
- Redis uzilishida tizim qanday yiqilishini ko'rasiz va tuzatish rejasini tuzasiz.
Oldin bilishingiz kerak: Real-time capstone 1, Realtime'ni masshtablash, Bildirishnoma tizimi arxitekturasi, Dizayn: taqsimlangan rate limiter, Yuklama va stress testlari, Resilience naqshlari.
1. Nega bu kerak?
Oldingi darsda xabar yo'li qurildi: POST → baza → Redis → SSE. Endi uni "ko'p odam, ko'p nusxa, ko'p soat" sharoitida ko'ramiz. Uch savol bor. Ikkinchi nusxa qo'shilganda xabarlar hammaga yetadimi? Jamoadoshim hozir shu yerdami? Men oflayn bo'lsam, muhim xabarni qanday bilaman?
Hayotiy o'xshatish: katta bozordagi radiouzel. Bozorning har qavatida o'z karnayi bor (api nusxasi), har karnay faqat o'z qavatidagilarga eshitiladi. E'lon qaysi qavatda berilsa ham, hamma qavatga yetishi uchun markaziy pult kerak (Redis). Kim bozorda ekanini bilish uchun esa kirish eshigidagi ro'yxat yetmaydi — odamlar chiqib ketayotganda yozilmaydi. Shuning uchun "oxirgi marta qachon ko'rindi" ro'yxati yuritiladi (presence).
Nazariya Realtime'ni masshtablash va Amaliyot: chat va bildirishnomalar darslarida. Bu darsda jamoa kodi, o'lchov va kodda yo'q narsalar.
2. Talab
| Hikoya | Asosiy mezon | Natija |
|---|---|---|
| Ikki nusxada chat | A ga yozilgan xabar B dagi mijozga | yetkazildi |
| Ko'p a'zo | 400 ulanish, 50 xabar | hammasi yetkazildi, p99 < 50 ms |
| Kim onlayn | ochiq oqim — onlayn | 30 s ichida yangilanadi |
| Uzilib qoldim | brauzer qayta ulanadi | Last-Event-ID bilan |
| Kimdir spam qiladi | bir a'zo sekundiga o'nlab xabar | 429 |
| Oflaynman | muhim xabar | Telegram yoki brauzer bildirishnomasi |
| Redis to'xtadi | chat vaqtincha ishlamaydi | qolgan API ishlaydi |
Oxirgi uch qatorni kanon qilmagan. Ular shu darsning asosiy topilmalari va «O'zingiz qiling» bandlari.
3. Qarorlar
3.1 Ko'p nusxa: xabar qanday hammaga yetadi
| Variant | Afzallik | Kamchilik |
|---|---|---|
| sticky sessiya (bir jamoa — bir nusxa) | nusxalararo aloqa kerak emas | nusxa yiqilsa, jamoa uzildi; yuk notekis |
| Redis pub/sub (kanon) | har nusxa mustaqil, yuk taqsimlagich oddiy | Redis — umumiy bog'liqlik |
| alohida real-time xizmat (Centrifugo, Ably, Pusher) | masshtab va qayta ulanish tayyor | yana bitta servis yoki to'lov |
Socket.IO'dagi "Redis adapter" xuddi shu ikkinchi variant: har nusxa Redis kanaliga yozadi va o'qiydi (Socket.IO). jamoa buni SSE bilan, kutubxonasiz qiladi. Tayyor xizmatlar haqida — Tayyor realtime xizmatlari va CRDT.
Ikkinchi variantning narxi — Redis butun chat uchun umumiy nuqta. Bu qanchalik jiddiy ekanini «Natijani halol o'qish» bo'limida o'lchaymiz.
3.2 Presence: qayerda saqlanadi
| Variant | Afzallik | Kamchilik |
|---|---|---|
| har nusxa xotirasida | tez | boshqa nusxadagilarni bilmaydi |
| Postgres jadvali | doimiy | har 15 s da yozuv × ulanishlar — bazaga bekor yuk |
| Redis ZSET (kanon) | umumiy, tez, vaqt bo'yicha saralangan | Redis xotirasi; aniqlik oynaga bog'liq |
ZSET — har a'zoga bitta son (oxirgi ko'rinish vaqti, ms) biriktirilgan to'plam. "Oxirgi 30 soniyada ko'ringanlar" so'rovi ikki buyruq: eskilarini o'chirish (ZREMRANGEBYSCORE) va qolganlarini o'qish (ZRANGE).
Presence aniq bo'lishi shart emas — "Malika hozir onlayn edi" degan ma'lumot bir necha soniya kechiksa, hech kim zarar ko'rmaydi. Bu oxir-oqibat izchillik (eventual consistency) uchun yaxshi misol. Tranzaksiya, qulf, bazaga yozish kerak emas.
3.3 Bildirishnoma: kimga va qanday
Oflayn a'zoga xabar yetkazish uchun uch kanal bor:
| Kanal | Afzallik | Kamchilik |
|---|---|---|
| Web Push (VAPID) | brauzer yopiq bo'lsa ham | ruxsat so'rash; iOS'da cheklovlar |
| Telegram bot | O'zbekistonda deyarli hamma ishlatadi | a'zo botni ulashi kerak; Telegram bot capstone |
| universal | sekin, ko'pincha o'qilmaydi |
Kanonda bildirishnoma yo'q. ADR-0008 kontekstda uni tilga oladi, lekin kod va testlarda u yo'q. Shuning uchun bu bo'limda qaror emas, reja beramiz. Asosiy tamoyil — Bildirishnoma tizimi arxitekturasi: xabar yozilgan tranzaksiyada outbox qatori, alohida ishchi, takrorni tashlash va chastota chegarasi.
3.4 Rate limit: qayerda
| Joy | Afzallik | Kamchilik |
|---|---|---|
xost nginx (limit_req) |
ilovagacha yetmaydi | IP bo'yicha; bitta ofisdagi butun jamoa bitta IP |
| ilova, Redis'da, foydalanuvchi bo'yicha | aniq: a'zo va jamoa bo'yicha | har POST da Redis murojaati |
Chat uchun ikkinchisi kerak: spam qiluvchi — kirgan foydalanuvchi, IP emas. Algoritm — tokenlar idishi (Rate limiting): qisqa portlashga ruxsat, uzoq oqimga — yo'q. Kanonda chat uchun bu ham yo'q.
Tekshirib ko'ring: Presence oynasi 30 s, yurak urishi esa 15 s. Nega oyna yurak urishidan ikki baravar katta tanlangan?
Javob
Yurak urishi aniq 15 soniyada kelmaydi: tarmoq kechikadi, Redis buyrug'i sekinlashadi, taymer suriladi. Oyna 15 s bo'lsa, bitta kechikkan yurak urishi — onlayn a'zo bir lahzaga "oflayn" ko'rinadi va ro'yxat miltillaydi. Ikki baravar oyna bitta urish tushib qolsa ham chidaydi. Narxi — chiqib ketgan a'zo 30 s gacha "onlayn" ko'rinadi.
4. Qurish
flowchart LR
subgraph A[api nusxa A]
UA[ulanishlar: 200 ta]
end
subgraph B[api nusxa B]
UB[ulanishlar: 200 ta]
end
P[POST xabar] --> A
A -->|COMMIT| DB[(Postgres: xabarlar)]
A -->|PUBLISH jamoa:chat:7| R[(Redis)]
R -->|xabar| A
R -->|xabar| B
UA -.->|yurak: ZADD| Z[(Redis ZSET: presence)]
UB -.->|yurak: ZADD| ZXabar POST qabul qilgan nusxaga ham Redis orqali qaytadi. Nusxa o'z ulanishlariga to'g'ridan yozmaydi — faqat Redis'dan kelganini tarqatadi. Natijada ikkala nusxada bitta yo'l bor va "o'zimga yozdim, boshqaga yozmadim" xatosi bo'lmaydi.
4.1 Obuna: bitta jamoaga bitta
Har SSE ulanish uchun alohida Redis obunasi ochilsa, 400 ulanish — 400 obuna. Kanon esa nusxada jamoa bo'yicha bitta obuna qiladi va ulanishlarni sanaydi (qatorga bo'lindi, kanon bilan aynan):
async #obuna(jamoa: number): Promise<void> {
const n = this.#obunalar.get(jamoa) ?? 0;
this.#obunalar.set(jamoa, n + 1);
if (n > 0) return;
await this.sub.subscribe(this.#kanal(jamoa), (xom) => {
const m = JSON.parse(xom) as { tur: string; x?: Xabar };
for (const u of this.#ulanishlar) {
if (u.jamoa !== jamoa) continue;
if (m.tur === "xabar" && m.x !== undefined)
u.res.write(`id: ${String(m.x.id)}\nevent: xabar\ndata: ${
JSON.stringify(m.x)}\n\n`);
else u.res.write(`event: ${m.tur}\ndata: ${xom}\n\n`);
}
});
}
async #obunaBekor(jamoa: number): Promise<void> {
const n = (this.#obunalar.get(jamoa) ?? 1) - 1;
if (n > 0) { this.#obunalar.set(jamoa, n); return; }
this.#obunalar.delete(jamoa);
await this.sub.unsubscribe(this.#kanal(jamoa))
.catch(() => undefined);
}Uchta tafsilot:
- Hisoblagich. Birinchi ulanish obuna ochadi, oxirgisi yopadi. Qolganlari faqat sonni o'zgartiradi. Redis'dagi obunalar soni — nusxadagi faol jamoalar soniga teng, ulanishlar soniga emas.
- Alohida
subklienti. Redis'ning odatiy (RESP2) protokolida obuna rejimidagi ulanish boshqa buyruqlarni bajara olmaydi — faqatSUBSCRIBE,PINGkabi bir nechtasini. Yangi RESP3 protokolida bu cheklov yo'q, lekin alohida klient baribir soddaroq. Shuning uchunmain.tsikkita klient yaratadi:pub(e'lon, ZSET) vasub(faqat obuna). - Fan-out. Kelgan har xabar nusxadagi hamma ulanishlar bo'ylab aylanadi va jamoasi mos kelmaganlarini o'tkazib yuboradi. 200 ulanish va bitta faol jamoada bu sezilmaydi. Yuzlab jamoada esa har xabar uchun butun ro'yxat aylanadi. Tuzatish —
Map<jamoa, Set<Ulanish>>.
4.2 Presence
Uch metod (qatorga bo'lindi, kanon bilan aynan):
async onlayn(jamoa: number): Promise<number[]> {
const k = this.#presence(jamoa);
await this.pub.zRemRangeByScore(k, 0, Date.now() - PRESENCE_MS);
return (await this.pub.zRange(k, 0, -1)).map(Number);
}
async #korindi(jamoa: number, f: number): Promise<void> {
await this.pub.zAdd(this.#presence(jamoa),
{ score: Date.now(), value: String(f) });
}
async #yurakUrishi(): Promise<void> {
for (const u of this.#ulanishlar) {
u.res.write(": yurak\n\n");
await this.#korindi(u.jamoa, u.f).catch(() => undefined);
}
}Yurak urishi ikki ish qiladi: oqimga izoh qatori yozadi (proksi ulanishni "o'lik" deb yopmasin) va ZSET'dagi vaqtni yangilaydi. onlayn() esa o'qishdan oldin 30 soniyadan eskilarini o'chiradi.
Muhim kuzatuv: ulanish yopilganda (req.on("close")) ZSET'dan hech narsa o'chirilmaydi. A'zo faqat vaqt o'tib "eskirib" ketadi. Mana shu xulqning modeli:
// presence modeli: Redis ZSET o'rniga Map (a'zo → oxirgi ko'rinish)
const OYNA = 30_000; // PRESENCE_MS
const zset = new Map();
const korindi = (azo, t) => zset.set(azo, t); // ZADD
function onlayn(t) {
for (const [azo, vaqt] of zset) {
if (vaqt <= t - OYNA) zset.delete(azo); // ZREMRANGEBYSCORE
}
return [...zset.keys()].sort();
}
// 0 s: Aziz va Malika ulandi; yurak urishi har 15 s (ochiq oqim)
korindi("Aziz", 0);
korindi("Malika", 0);
korindi("Aziz", 15_000); // Aziz oqimi ochiq
// Malika 5-soniyada oynani yopdi — hech narsa o'chirilmaydi
for (const s of [10, 29, 31, 46]) {
if (s === 31) korindi("Aziz", 30_000); // keyingi yurak urishi
console.log(`${s} s: onlayn — ${onlayn(s * 1000).join(", ")}`);
}Konsolda:
10 s: onlayn — Aziz, Malika
29 s: onlayn — Aziz, Malika
31 s: onlayn — Aziz
46 s: onlayn — AzizMalika 5-soniyada chiqib ketgan, lekin 29-soniyada ham "onlayn". Model haqiqiy o'lchov bilan mos keladi («Natijani halol o'qish» bo'limi).
4.3 Uzun ulanishlar va proksi
SSE ulanish soatlab ochiq turadi. Yo'ldagi har bir qatlam uni yopishi mumkin: ichki nginx, xost nginx, korporativ proksi, mobil operator. Kanondagi himoya qatlamlari:
| Qatlam | Sozlama |
|---|---|
| ilova | har 15 s : yurak izohi |
| ichki nginx | proxy_read_timeout 1h, proxy_buffering off (SaaS capstone 4) |
| javob sarlavhasi | X-Accel-Buffering: no |
| brauzer | retry: 3000 — uzilsa, 3 s dan keyin Last-Event-ID bilan qayta ulanadi |
Bir soatdan keyin nginx baribir ulanishni yopadi — bu xato emas. Brauzer 3 soniyada qayta ulanadi va o'tkazib yuborilganlarni oladi. Qayta ulanish — normal holat, favqulodda emas. Shuning uchun Real-time capstone 1 dagi takror himoyasi va tarix tartibi muhim edi.
4.4 Yuk o'lchovi qanday qilingan
Kanon skripti (chat-olchov.mjs) shunday ishlaydi. N ta SSE ulanish ochiladi, yarmi A ga, yarmi B ga. Keyin M ta xabar ketma-ket yuboriladi, navbat bilan A va B ga. Server har e'longa t: Date.now() qo'shadi. Mijoz xabarni olganda Date.now() - t ni yozadi. Hammasi bitta mashinada, shuning uchun soatlar bir xil.
Persentil formulasi skriptdan aynan: tartiblangan ro'yxatda Math.floor(x × n) indeksi. 3-mashqda shu formula bilan o'zingiz hisoblaysiz.
4.5 Biz shunday xato qildik: o'lchov eski nusxalarni o'lchadi
Kanon ko'p nusxa o'lchovini (vazifalar-api, 4.4.0 va 4.5.0 solishtiruvi) birinchi marta yurgizganda natija shubhali chiqdi. Sabab: eski versiya nusxalari 0.0.0.0 manzilida tinglagan edi, to'xtatish skripti esa ularni 127.0.0.1 bo'yicha qidirdi va topmadi. "Yangi" versiya ishga tushdi, lekin so'rovlar hali ishlab turgan eski nusxalarga bordi. Natija tashlandi, nusxalar qo'lda to'xtatilib, o'lchov qayta qilindi. Xom log saqlanmagan, xulosa kanon hisobotidan.
Saboq: yuk o'lchovidan oldin "men aynan nimani o'lchayapman?" ni tekshiring. Har nusxa javobida versiya yoki nusxa nomi bo'lsin (/health/ready da), o'lchov skripti esa uni yozib borsin. Aks holda chiroyli raqamlar boshqa tizimga tegishli bo'lib chiqishi mumkin.
Chat'ning o'zidagi kanon xatosi — SSE sarlavhalari 15 soniya kechikishi — oldingi darsda: Real-time capstone 1.
5. Tekshirish
5.1 Kanon o'lchovi
Bitta mashina (i5-12500H, Windows 11), 2 api nusxasi, bitta Redis, ketma-ket POST:
| Ulanish × xabar | Yetkazildi | p50 / p99 / max |
|---|---|---|
| 100 × 100 | 10 000 / 10 000 | 4 / 9 / 13 ms |
| 400 × 50 | 20 000 / 20 000 | 7 / 20 / 25 ms |
| 50 × 20 (production Compose, nginx) | 1 000 / 1 000 | 1 / 7 / 8 ms |
Tayyorgarlik vaqtlari ham xomda bor:
| Ulanish × xabar | Ulanishlarni ochish | Xabarlarni yozish |
|---|---|---|
| 100 × 100 | 504 ms | 1 794 ms |
| 400 × 50 | 1 728 ms | 1 079 ms |
| 50 × 20 | 283 ms | 256 ms |
400 ulanishni ochish 1.7 soniya oldi — har biri ro'yxatdan o'tish emas, faqat cookie bilan GET. Haqiqiy hayotda bu "hamma bir vaqtda qayta ulanadi" holatiga o'xshaydi: masalan, deploy'dan keyin yoki nginx qayta ishga tushganda. Bunday "qayta ulanish to'lqini" ham o'lchanishi kerak bo'lgan alohida ssenariy.
Talabdagi "p99 < 50 ms" mezoni bajarildi. Ulanishlar 100 dan 400 ga — 4 barobar — oshganda p99 9 ms dan 20 ms ga oshdi, ya'ni ikki barobardan sal ko'p. Fan-out ishi ulanishlar soniga mutanosib, shuning uchun o'sish kutilgan. Masshtab chegarasi esa bu o'lchovda ko'rinmadi.
5.2 Natijani halol o'qish: o'lchov nimani ko'rsatmaydi
Raqamlar to'g'ri, lekin ular tor savolga javob beradi. Ularni qanday o'qish kerak:
- Kechikish — e'londan qabulgacha.
tserver Redis'ga e'lon qilishdan oldin qo'yiladi. Baza yozuvi,POSTning tarmoq yo'li va nginx kirmaydi. "Foydalanuvchi yuborgandan jamoadoshi ko'rguncha" vaqti bundan katta. - Xabarlar ketma-ket. Skript keyingi
POSTni oldingisining javobidan keyin yuboradi. 50 ta xabar 1 079 ms da — sekundiga taxminan 46 ta. Bir vaqtda yuzlab muallif yozganda nima bo'lishi o'lchanmagan. - Mijoz va server — bitta protsessorda. 400 mijozning parsingi ham o'sha protsessor vaqtini oladi. Alohida mashinadagi mijozlar bilan natija boshqacha bo'ladi — yaxshiroq ham, yomonroq ham.
- "Nusxalardagi SSE: 0". Skript oxirida
/health/readydan har nusxadagi ulanishlar sonini so'raydi va ikkalasida ham 0 oladi. Izohning o'zi aytadi: bu o'lchov oxirida, ulanishlar yopilgandan keyin olingan. Production Compose qatoridagi "A 25, B 25" esa skriptning yorlig'i: u yerda ikkala manzil ham bitta nginx edi. Ulanishlar ikki replika orasida qanday taqsimlangani o'lchanmagan. tmaydoni production'da qoldi. O'lchov uchun qo'shilganthar xabar bilan hamma mijozlarga ketadi. Zarar kichik, lekin bu "o'lchov kodi protokolga sizib o'tdi" degan misol.- Sekin mijoz.
u.res.write()qaytargan qiymat tekshirilmaydi. Mijoz o'qimay qo'ysa (sekin tarmoq), Node uning javobini xotirada to'playveradi. Bu kod o'qishdan topildi, o'lchanmagan (Resilience naqshlari — backpressure).
Kanon o'lchovidan tashqari biz lokal production stack'ida (kanon image'lari, nginx + 2 nusxa) uchta tajriba qildik. Skriptlar va natijalar mashq papkasidagi olchov/ da.
Presence aniqligi. SSE ochildi, keyin yopildi, onlayn ro'yxati vaqt bo'yicha so'raldi:
SSE ochilmagan: onlayn 0
SSE ochiq: onlayn 1
SSE yopilgandan 1 s keyin: onlayn 1
SSE yopilgandan 10 s keyin: onlayn 1
SSE yopilgandan 20 s keyin: onlayn 1
SSE yopilgandan 29 s keyin: onlayn 1
SSE yopilgandan 31 s keyin: onlayn 0Model bilan aynan: yopilgan oqim 30 soniya "onlayn" turadi. Tuzatish arzon — close hodisasida ZREM. Lekin ehtiyot bo'ling: a'zoning ikkinchi tabi ochiq bo'lishi mumkin. Ya'ni a'zo bo'yicha ulanishlar sonini sanash kerak, xuddi obunalardagi kabi.
Spam. Bitta a'zo bir soniya ichida 60 ta parallel POST:
60 parallel POST (1 s ichida): 60 × 201Hammasi qabul qilindi va har biri 400 ta ulanishga tarqatilgan bo'lardi. Bitta buzg'unchi butun jamoaning ekranini to'ldiradi va ikkala nusxani band qiladi. 2-mashqdagi tokenlar idishi buni to'xtatadi.
Redis uzilishi. ADR-0008 da yozilgan: "Redis yiqilsa xabar yo'qolmaydi, qayta ulanishda tarixdan keladi". Biz buni sinadik: SSE ochiq, Redis konteyneri to'xtatildi, POST yuborildi, keyin Redis yoqildi.
tayyorla: Redis ishlayapti — POST 201 (19 ms), id 287
Redis to'xtatilgan: POST "uzilish paytida" — javob yo'q (8 s timeout)
Redis qaytdi: o'sha mijozId bilan takror POST — 201 (169 ms), id 288
bazadagi tarix: "uzilishdan oldin", "uzilish paytida"
yangi xabar — POST 201 (19 ms), id 289
yangi SSE ulanishga jonli kelgan: "qaytgandan keyin"Uchinchi qatorga qarang: takror POST 201 oldi, 200 emas. Demak, uzilish paytidagi birinchi POST bazaga umuman yetmagan. Nega? api logi javob beradi:
SocketClosedUnexpectedlyError: Socket closed unexpectedly
Emitted 'error' event on Class instance at:Tarjimasi: "Soket kutilmaganda yopildi. error hodisasi … obyektida chiqarildi". Bu Node'ning qoidasi: EventEmitter error hodisasini chiqarsa va unga hech kim quloq solmasa, jarayon to'xtaydi. main.ts da Redis klientlari shunday yaratilgan (qatorga bo'lindi, kanon bilan aynan):
const redis = (): RedisClientType =>
createClient({ url: E.REDIS_URL });
const [pub, sub] = [redis(), redis()];
await Promise.all([pub.connect(), sub.connect()]);.on("error", …) yo'q. Redis to'xtagan zahoti ikkala api nusxasi yiqildi. Docker ularni qayta ishga tushirdi (restart: unless-stopped), lekin yangi jarayon ham ishga tushishda Redis'ga ulana olmadi va yana yiqildi:
Error: getaddrinfo ENOTFOUND redisTarjimasi: "redis nomli xost topilmadi" — konteyner to'xtagani uchun ichki DNS'da u yo'q. Redis qaytguncha bir necha qayta ishga tushish bo'ldi (nusxalarda 3 va 2 marta), keyin ikkalasi ham tiklandi. nginx logida — 499 (mijoz kutmay uzdi) va connect() failed (111: Connection refused).
Natijani halol o'qiymiz. ADR'ning da'vosi tor ma'noda to'g'ri: qabul qilingan xabar yo'qolmadi. Lekin Redis uzilishi — chat uchun emas, butun API uchun uzilish bo'lib chiqdi: vazifalar, auth, billing va Payme webhook'lari ham. ADR-0001 dagi "bitta server — yagona nosozlik nuqtasi" ga yana bittasi qo'shildi: Redis. Bu testlarda ko'rinmaydi, chunki testlar Redis'ni hech qachon o'chirmaydi.
Tekshirib ko'ring: Redis'ning o'zi xabarni saqlamaydi (pub/sub — "ko'pi bilan bir marta" yetkazish). Shunda nega Redis uzilishi butun API'ni yiqitdi — vazifalar va billing Redis pub/sub'dan foydalanmaydi-ku?
Javob
Sabab ma'lumotda emas, jarayonda. pub va sub klientlari api jarayonining o'zida yaratilgan va ularning error hodisasini hech kim tinglamaydi. Node qoidasi bo'yicha bunday hodisa butun jarayonni to'xtatadi — u bilan birga shu jarayondagi vazifalar, auth va Payme webhook marshrutlari ham o'ladi. Bitta modulning tashqi bog'liqligi hammaga umumiy bo'lib qoldi.
Tuzatish yo'nalishi (kanonda yo'q):
pub.on("error", log)vasub.on("error", log)— jarayon yiqilmasin, klient o'zi qayta ulanadi;- chat yo'llari Redis bo'lmasa 503 qaytarsin, qolgan API ishlayversin (graceful degradation);
/health/readyRedis holatini ham ko'rsatsin, lekin ishchi nusxani yuk taqsimlagichdan chiqarib yubormasin — aks holda Redis uzilishi yana butun API'ni o'chiradi.
5.3 Sinalmaganlar
- Bir nechta mashina va haqiqiy tarmoq (kechikish, paket yo'qolishi).
- Minglab ulanish, xotira va fayl deskriptorlari chegarasi.
- Soatlab ochiq turgan ulanishlar (soak test).
- Redis Sentinel yoki klaster — kanonda bitta Redis.
- Bildirishnomalar va chat rate limit — kanonda yo'q.
6. Hujumchi nigohi
| Hujum | Qanday urinadi | jamoa holati |
|---|---|---|
| Xabar spami | sekundiga yuzlab POST |
chegara yo'q — 60 × 201 (o'lchandi) |
| Ulanish to'plash | bitta hisobdan minglab SSE | chegara yo'q; har biri xotira va fan-out |
| Sekin o'quvchi | oqimni ochib, o'qimaslik | write bosimi tekshirilmaydi |
| Presence orqali kuzatish | kim qachon onlayn | faqat jamoa a'zolariga (rol tekshiruvi) |
| Redis'ga to'g'ridan | parolsiz ulanish | requirepass, port tashqariga ochilmagan |
| Redis'ni o'chirish | Redis'ni band qilish yoki to'ldirish | butun API yiqiladi (o'lchandi) |
Eng arzon hujum — birinchi ikki qator. Hisob ochish bepul (14 kunlik sinov), demak buzg'unchi jamoa ochib, o'z jamoasida ham, taklif orqali kirgan jamoada ham spam qila oladi. Rate limit uchun ikki daraja tavsiya qilinadi. Birinchisi — a'zo bo'yicha (masalan, 10 soniyada 20 ta xabar). Ikkinchisi — ulanishlar soni bo'yicha (bitta foydalanuvchiga 5 ta SSE). DoS va resurs tugashidan himoya darsidagi qoida shu: har resursning egasi bo'yicha chegarasi bo'lsin.
7. Ko'p uchraydigan xatolar
7.1 Har ulanishga alohida obuna
400 ulanish — 400 Redis obunasi. Jamoa bo'yicha bitta obuna va hisoblagich.
7.2 Redis klientining error hodisasini tinglamaslik
Bitta uzilish — jarayon to'xtaydi. Har klientga .on("error").
7.3 Presence'ni faqat "ulandi/uzildi" bilan
Uzilish hodisasi har doim kelmaydi (telefon tarmoqdan chiqib ketdi). Yurak urishi va vaqt oynasi.
7.4 p50 ga qarab xulosa qilish
O'rtacha va mediana foydalanuvchilarning eng yomon tajribasini yashiradi. p99 va max.
7.5 O'lchovda "nimani o'lchayotganim"ni tekshirmaslik
Eski nusxa, boshqa port, kesh — chiroyli, lekin begona raqamlar. Javobda versiya.
7.6 Bildirishnomani to'g'ridan POST ichida yuborish
Tashqi xizmat sekinlashsa, chat ham sekinlashadi. Outbox va ishchi.
8. Mashqlar
Mashqlar kurs/mashqlar/38/07-realtime-masshtab/ da. 2- va 3-mashq yechimlari Node 24.21.0 da tekshirilgan (biz ishga tushirdik).
1-mashq (oson): bo'shliqlarni to'ldiring
- Kanonda presence oynasi, soniya —
- 400 SSE × 50 xabar o'lchovida p99, ms —
- Redis'da obuna rejimidagi klient boshqa buyruq bajara olmaydi, shuning uchun klientlar soni —
- Presence saqlanadigan Redis tuzilmasi —
- Kanonda bitta a'zoning 60 parallel
POSTidan qabul qilingani —
Yechim
- 30 —
PRESENCE_MS = 30_000; yurak urishi 15 s. - 20 — p50 7 ms, max 25 ms; 100 ulanishda p99 9 ms.
- 2 —
pub(e'lon va ZSET) vasub(obuna). - ZSET — a'zo → oxirgi ko'rinish vaqti;
ZREMRANGEBYSCOREvaZRANGE. - 60 — chat'da rate limit yo'q; tokenlar idishi kerak.
2-mashq (o'rta): tokenlar idishi
Chat uchun rate limit modelini yozing. Idish sig'imi 5 token, har soniyada 1 token qo'shiladi, sig'imdan oshmaydi. Har xabar 1 token oladi, token bo'lmasa — 429. So'rovlar: 0-soniyada 8 ta, 3-soniyada 4 ta, 10-soniyada 1 ta. Har so'rov natijasini va jami 201/429 sonini chiqaring.
Ishora: tokenlarni har so'rovda o'tgan vaqtga qarab to'ldiring — taymer kerak emas (Dizayn: taqsimlangan rate limiter).
Yechim
// tokenlar idishi: sig'im 5, har soniyada 1 token qo'shiladi
function idish(sigim, tezlik) {
let tokenlar = sigim;
let oxirgi = 0;
return function ruxsat(t) { // t — soniyada
tokenlar = Math.min(sigim, tokenlar + (t - oxirgi) * tezlik);
oxirgi = t;
if (tokenlar < 1) return 429;
tokenlar -= 1;
return 201;
};
}
const ruxsat = idish(5, 1);
const sorovlar = [
...Array.from({ length: 8 }, () => 0), // 0-soniyada 8 ta xabar
3, 3, 3, 3, // 3-soniyada yana 4 ta
10, // 10-soniyada bitta
];
const natija = sorovlar.map((t) => `${t}s:${ruxsat(t)}`);
console.log(natija.join(" "));
const n = (k) => natija.filter((x) => x.endsWith(`:${k}`)).length;
console.log(`201 × ${n(201)}, 429 × ${n(429)}`);Konsolda:
0s:201 0s:201 0s:201 0s:201 0s:201 0s:429 0s:429 0s:429 3s:201 3s:201 3s:201 3s:429 10s:201
201 × 9, 429 × 4Birinchi beshtasi — portlash, idish to'la edi. 3-soniyagacha 3 token to'plandi — uchtasi o'tdi, to'rtinchisi rad. 10-soniyada idish yana to'la. Ko'p nusxada bu hisob Redis'da bo'lishi kerak: ikki nusxaning har biri o'z idishini yuritsa, limit ikki barobar bo'ladi. Redis'da esa "o'qish — hisoblash — yozish" bitta atomik amal bo'lishi shart (Lua skript yoki INCR + EXPIRE bilan oyna) — Distributed lock va rate limit Redis'da.
3-mashq (qiyin): persentillar
Kanon o'lchov skriptidagi formulani yozing: tartiblangan ro'yxatda Math.floor(x × n) indeksi (ro'yxat oxiridan oshmasin). 1 000 ta kechikish yasang: har 50-chisi (2 %) — sekin mijoz, 40–80 ms; qolganlari 3–6 ms. Tasodif — urug'li generator (har ishga tushishda bir xil). O'rtacha, p50, p95, p99 va max ni chiqaring.
Ishora: Math.random ishlatmang — natija har safar boshqacha bo'ladi (Vaqt va tasodifni boshqarish).
Yechim
// kanon o'lchov skripti formulasi: tartiblangan[floor(x × n)]
function persentil(namunalar, x) {
const s = [...namunalar].sort((a, b) => a - b);
return s[Math.min(s.length - 1, Math.floor(x * s.length))];
}
// 1 000 ta: 980 tasi 3–6 ms, 20 tasi (2 %) — sekin mijoz, 40–80 ms
let urug = 7;
const M = 2147483647; // 2^31 − 1
const tasodif = () => (urug = (urug * 48271) % M) / M;
const namunalar = Array.from({ length: 1000 }, (_, i) =>
i % 50 === 0
? 40 + Math.round(tasodif() * 40)
: 3 + Math.round(tasodif() * 3));
const orta = namunalar.reduce((a, b) => a + b, 0) / namunalar.length;
console.log(`o'rtacha ${orta.toFixed(1)} ms`);
for (const x of [0.5, 0.95, 0.99]) {
console.log(`p${x * 100}: ${persentil(namunalar, x)} ms`);
}
console.log(`max: ${Math.max(...namunalar)} ms`);Konsolda:
o'rtacha 5.5 ms
p50: 4 ms
p95: 6 ms
p99: 63 ms
max: 77 msO'rtacha 5.5 ms — "hammasi yaxshi" ko'rinadi. p95 ham 6 ms. Faqat p99 2 % sekin mijozni ko'rsatadi: 63 ms. Ya'ni har 50 xabardan bittasi sezilarli kechikadi. 400 a'zoli jamoada bu har xabarda 8 ta odam. Kanon o'lchovida p99 20 ms va max 25 ms edi — sekin mijozlar bo'lmagan. Haqiqiy foydalanuvchilarda (mobil tarmoq) dumi uzunroq bo'ladi. Shuning uchun real tizimda kechikish mijoz tomonidan ham yig'iladi.
9. O'zingiz qiling: masshtab va chidamlilik
- Ikki nusxa —
jamoaapi'ni ikki portda ko'taring, bitta Redis; A ga yozilgan xabar B dagi oqimga kelsin. - O'lchov — kanondagi kabi skript: N ulanish, M xabar, p50/p99/max. Javobga nusxa nomini qo'shing va taqsimotni ham yozing.
- Tuzatishlar — har biriga avval eski kodda yiqiladigan test yoki tajriba:
- Redis klientlariga
.on("error"); Redis to'xtatilganda vazifalar API'si 200, chat 503; Redis qaytgach chat o'zi tiklansin; - presence:
closeda a'zoning ulanishlari 0 ga tushsa —ZREM; ikki tab — bittasi yopilsa, a'zo onlayn qoladi; - fan-out:
Map<jamoa, Set<Ulanish>>; - sekin mijoz:
write()falseqaytarsa va bufer chegaradan oshsa — ulanishni yopish (mijoz qayta ulanadi va tarixdan oladi); tmaydoni faqat o'lchov rejimida.
- Redis klientlariga
- Rate limit — Redis'da tokenlar idishi: a'zo bo'yicha xabarlar, foydalanuvchi bo'yicha SSE ulanishlar; 429 va
Retry-After. - Bildirishnomalar — pastdagi reja bo'yicha: outbox, ishchi, Telegram yoki Web Push (Push bildirishnomalar: FCM va Web Push, Web push bildirishnomalar).
- Yuk testi — k6 yoki autocannon bilan bir vaqtda ko'p muallif (Yuklama va stress testlari).
Yechim namunasi: oflayn a'zoga bildirishnoma (reja)
Kanonda bu yo'q. Yo'nalish — mavjud qismlardan:
sequenceDiagram
participant A as api
participant P as Postgres
participant I as ishchi
participant T as Telegram yoki Web Push
A->>P: INSERT xabar va outbox qatori (bitta tranzaksiya)
A-->>A: COMMIT, PUBLISH
I->>P: outbox: SKIP LOCKED
I->>I: kim onlayn emas? (presence)
I->>I: chastota: a'zoga 5 daqiqada 1 ta
I->>T: "Chat: 3 ta yangi xabar"
I->>P: outbox qatori — yuborildiQarorlar: bildirishnoma xabar tranzaksiyasida outbox qatori sifatida yoziladi (Transactional outbox naqshi). Ishchi kim oflayn ekanini presence'dan oladi, har xabar uchun emas, guruhlab yuboradi ("3 ta yangi xabar"). Takror — outbox id bo'yicha (BullMQ jobId). Telegram uchun a'zo botni o'zi ulaydi (/start kodi bilan), bot tokeni .env da. Xuddi shu zanjir bozor loyihasida o'lchangan: Mikroservis capstone da 1 000 ta xabardan 997 tasi yetkazildi, qolgan 3 tasi qayta yuborish uchun saqlandi.
10. Real ishda
- Masshtabning birinchi chegarasi odatda protsessor emas, ulanishlar soni va xotira: har ochiq ulanish — bufer, deskriptor, taymer.
- Presence katta ilovalarda ataylab "taxminiy": "yaqinda faol edi" va "5 daqiqa oldin" yetarli, aniq soniya kerak emas.
- Redis kichik loyihada "yana bitta yordamchi servis" bo'lib ko'rinadi, lekin real-time'da u yuragi. Uning uzilishini rejalashtirmagan tizim birinchi uzilishda butunlay to'xtaydi.
- Bildirishnomalarning eng ko'p uchraydigan shikoyati — "juda ko'p". Guruhlash va chastota chegarasi "yetkazish" dan muhimroq.
- Intervyuda "chatni 10 barobar masshtablang" savoliga raqam bilan javob bering: hozir 400 ulanishda p99 20 ms, chegara qayerda kutiladi, uni qanday o'lchaysiz va Redis uzilsa nima bo'ladi.
Xulosa
- Ko'p nusxa: Redis pub/sub, nusxada jamoa bo'yicha bitta obuna; xabar Redis orqali hamma nusxaga, shu jumladan o'ziga.
- Presence: Redis ZSET, yurak urishi 15 s, oyna 30 s; o'lchov — yopilgan oqim 30 s "onlayn".
- Yuk: 400 SSE × 50 — 20 000/20 000, p99 20 ms; o'lchov e'londan qabulgacha, ketma-ket
POSTva bitta mashina ekanini unutmang. - Kanonda yo'q: chat rate limit (60 × 201) va bildirishnomalar — tokenlar idishi va outbox rejasi.
- Redis uzilishi butun API'ni yiqitdi:
errortinglovchisi yo'q; tuzatish — tinglovchi, chat uchun 503 va graceful degradation.
Keyingi dars: E-commerce capstone 1: katalog, savat va buyurtma — yangi loyiha bozor.
Manbalar
- Redis — Pub/Sub: https://redis.io/docs/latest/develop/pubsub/ (tekshirildi, 2026-11: eski
…/interact/pubsub/manzili 404 — yangilandi; yetkazish "ko'pi bilan bir marta" (at-most-once); RESP2 obuna rejimida ruxsat etilgan buyruqlar ro'yxati, RESP3 da cheklov yo'q) - Redis — Sorted sets: https://redis.io/docs/latest/develop/data-types/sorted-sets/ (tekshirildi, 2026-11)
- Node.js — Events: error events: https://nodejs.org/api/events.html#error-events (tekshirildi, 2026-11:
errortinglovchisi bo'lmasa — xato tashlanadi va jarayon to'xtaydi; xulq Node 24.22.2 konteynerida ham kuzatildi) - Kurs tajribasi (IlmHamroh, 2026-11):
jamoachat o'lchovi — 2 nusxa, 100 va 400 SSE; production Compose — 50 SSE. Presence, spam va Redis uzilishi — biz lokal production stack'ida o'lchadik (2026-11-10, kanon image'lari); obuna fan-out va sekin mijoz — kod o'qishdan.
Izohlar · 0
Izoh yozish uchun kiring.