Log agregatsiya: Loki, Grafana va Alloy — konteyner loglarini bitta joyda qidirish
Qisqacha: Log agregatsiya — hamma konteyner va serverdagi loglarni bitta joyga yig'ib, ularni birga qidirish. Kanonda Alloy Docker'dan loglarni o'qiydi, ularga ikkita yorliq qo'yadi (
xizmatvadaraja) va Loki'ga yuboradi. Loki matnni emas, faqat yorliqlarni indekslaydi — shuning uchun arzon. Qidiruv LogQL tilida:{xizmat="api"} | json | res_status="404". Kanon topgan muammo: 401 va 404 javoblarwarndarajasida yozilgan, 60 soniyalik yuk qamralgan 5 daqiqalik oynada 1 094 ta "ogohlantirish" chiqdi — haqiqiy ogohlantirish shovqinda yo'qoladi.
Bu darsda
- Nega
docker logsvajournalctlproduction'da yetmasligini tushuntirasiz. - Loki nima uchun faqat yorliqlarni indekslashini va yorliqni qanday tanlashni bilasiz.
- Kanonning Alloy va Loki sozlamalarini qatorma-qator o'qiysiz.
- LogQL bilan qidirasiz va hisoblaysiz: filtr,
| json,count_over_time. - Log darajalarini to'g'ri tanlashni kanon xatosi misolida ko'rasiz.
Oldin bilishingiz kerak: Observability asoslari, Pino chuqur, Correlation ID va so'rov kuzatuvi, Loglar: journalctl, /var/log va logrotate.
O'tgan darsda kuzatuv stack'ini loyihaladik. Endi uning birinchi qismini quramiz — loglar. Ular eng tanish ma'lumot: 25-qismdan beri vazifalar-api har so'rovda JSON qator yozadi.
1. Nega bu kerak?
Deploy'dan keyin foydalanuvchi yozadi: "kechqurun 20:15 da vazifa saqlanmadi". Loglarni qayerdan qidirasiz?
apikonteynerida yokiapi-yashilda — so'rov qaysi biriga tushgani noma'lum (Zero-downtime deploy).- Deploy paytida konteynerlar qayta yaratildi.
docker logsfaqat joriy konteyner loglarini ko'rsatadi — eski konteyner o'chirilganda uning loglari ham ketadi. - Xato web nginx'da bo'lishi ham mumkin. Uning logi boshqa konteynerda, boshqa formatda.
Loglar: journalctl darsida bitta serverda loglarni o'qishni o'rgandik. Bu yerda muammo boshqa: manbalar ko'p, konteynerlar o'tkinchi, savol esa bitta — "20:15 da, shu foydalanuvchi bilan nima bo'ldi?".
Hayotiy o'xshatish: katta kasalxonada har bo'limning o'z daftari bor. Bemor uch bo'limdan o'tgan bo'lsa, shifokor uchta daftarni varaqlaydi. Elektron tibbiy karta esa hammasini bitta joyda, vaqt bo'yicha ko'rsatadi. Log agregatsiya — loglar uchun shunday "elektron karta".
2. Loglar qanday bo'lishi kerak
2.1 Strukturali log: eslatma
Agregatsiya faqat yaxshi yozilgan log bilan foydali. Qoidalarni Pino chuqur va Correlation ID darslaridan bilasiz:
- JSON, bir qator — bitta hodisa;
- daraja (
info,warn,error); sorovId— bitta so'rovning hamma qatorlarini bog'laydi;- maxfiy ma'lumot yo'q — parol, token, cookie
redactbilan yashiriladi; - stdout'ga — faylga emas (12-factor).
Kanon tajribasida (IlmHamroh, 2026-11) Loki'dan olingan haqiqiy qator — mavjud bo'lmagan yo'lga so'rov:
{"daraja":"warn","time":"2026-11-08T05:24:26.999Z","ilova":"vazifalar-api","sorovId":"4fd76177-62cb-402e-9dfe-240c64b3ed07","req":{"method":"GET","url":"/v1/yoq","ip":"172.19.0.1","userAgent":"node"},"res":{"status":404},"ms":2,"msg":"GET /v1/yoq 404"}Hammasi bor: vaqt, sorovId, yo'l, IP, status, davomiylik. Bu qatorni qidirish, filtrlash va sanash mumkin. Endi uni boshqa 2 000 ta qator bilan birga bitta joyga yig'amiz.
2.2 Darajaning ma'nosi
Har daraja — o'qiydigan odamga signal:
| Daraja | Ma'nosi | Kim nima qiladi |
|---|---|---|
error |
biz tuzatishimiz kerak bo'lgan narsa buzildi | darhol ko'radi |
warn |
hali buzilmadi, lekin e'tibor kerak | kunlik ko'rib chiqadi |
info |
normal hodisa | faqat qidirganda |
Bu jadvalni yodda tuting — «Biz shunday xato qildik» bo'limida unga qaytamiz.
3. Loki: faqat yorliqlar indekslanadi
3.1 G'oya
Loki — Grafana Labs'ning log saqlash tizimi. U loglarning matnini indekslamaydi. Faqat har log oqimiga qo'yilgan bir nechta yorliqni (label) indekslaydi. Matn siqilgan bo'laklarda saqlanadi va qidiruvda "grep kabi" ko'rib chiqiladi.
Klassik muqobil — Elasticsearch (ELK stack'ining "E" harfi) — har so'zni indekslaydi. Qidiruv tezroq, lekin indeks ko'pincha loglarning o'zidan katta bo'ladi va ko'p xotira talab qiladi. Loki aksincha: saqlash arzon, qidiruv esa yorliqlar bilan toraytirilgandagina tez.
Bir xil yorliqli loglar ketma-ketligi — oqim (stream). Masalan {xizmat="api", daraja="warn"} — bitta oqim. So'rov avval yorliqlar bo'yicha kerakli oqimlarni tanlaydi, keyin faqat ularning ichidan matnni qidiradi.
3.2 Yorliqni qanday tanlash kerak
Bu yerda Observability darsidagi kardinallik qoidasi yana ishlaydi. Har noyob yorliqlar to'plami — alohida oqim. Agar sorovId ni yorliq qilsangiz, har so'rov — yangi oqim. Million so'rov — million mayda oqim, Loki indeksi portlaydi.
Kanon qarori:
| Maydon | Qayerda | Nega |
|---|---|---|
xizmat (api, web, db …) |
yorliq | 10 ga yaqin qiymat |
daraja |
yorliq | 3–4 qiymat |
sorovId, url, ip, status |
log ichida | qiymatlari cheksiz |
Log ichidagi maydonlar yo'qolmaydi. LogQL ularni so'rov paytida | json bilan ochadi — «LogQL» bo'limida ko'ramiz.
Tekshirib ko'ring: Jamoadoshingiz taklif qiladi: "Foydalanuvchi ID'sini Loki yorlig'i qilaylik — bitta foydalanuvchining hamma logini tez topamiz". Nima deysiz?
Javob
Yo'q. Foydalanuvchilar soni cheksiz o'sadi — har biri yangi oqim, indeks va xotira kardinallik bilan birga o'sadi. Foydalanuvchi ID'si log ichida qolsin. Qidiruvni boshqa yorliq bilan toraytiring ({xizmat="api"}), keyin | json | foydalanuvchi_id="42" yoki matn filtri bilan izlang.
4. Alloy: loglarni yig'uvchi
4.1 Vazifasi
Alloy — Grafana Labs'ning "telemetriya yig'uvchisi" (agent). Telemetriya — ilova o'zi haqida chiqaradigan ma'lumot: log, metrika va trace. U loglarni, metrikalarni va trace'larni manbadan oladi, qayta ishlaydi va saqlash tizimiga yuboradi. Ilgari loglar uchun Promtail ishlatilardi. Grafana hujjatiga ko'ra Promtail 2026-yil 2-martdan beri qo'llab-quvvatlanmaydi (end of life), yangi imkoniyatlar faqat Alloy'da (tekshirildi, 2026-11). Eski loyihalarda Promtail sozlamasini uchratsangiz — bu o'sha vosita.
Kanonda Alloy uch ishni bajaradi:
- Docker'dan faqat shu loyiha konteynerlarini topadi.
- Har konteynerga
xizmatyorlig'ini beradi (Compose xizmat nomi). - Pino JSON'idan
darajani olib, yorliq qiladi va Loki'ga yuboradi.
4.2 Sozlama
Alloy o'z sozlama tilida yoziladi — bloklar va ular orasidagi ulanishlar. Kanon fayli deploy/kuzatuv/alloy.alloy (izohlar olib tashlangan, mazmuni aynan):
discovery.docker "konteynerlar" {
host = "unix:///var/run/docker.sock"
filter {
name = "label"
values = ["com.docker.compose.project=" + sys.env("LOYIHA")]
}
}
discovery.relabel "yorliqlar" {
targets = []
rule {
source_labels = ["__meta_docker_container_label_com_docker_compose_service"]
target_label = "xizmat"
}
}
loki.source.docker "loglar" {
host = "unix:///var/run/docker.sock"
targets = discovery.docker.konteynerlar.targets
relabel_rules = discovery.relabel.yorliqlar.rules
forward_to = [loki.process.pino.receiver]
}
loki.process "pino" {
stage.json {
expressions = { daraja = "daraja" }
}
stage.labels {
values = { daraja = "" }
}
forward_to = [loki.write.lokal.receiver]
}
loki.write "lokal" {
endpoint {
url = "http://loki:3100/loki/api/v1/push"
}
}Bloklarni yuqoridan pastga o'qiymiz:
| Blok | Nima qiladi |
|---|---|
discovery.docker |
Docker'dan konteynerlar ro'yxati, faqat com.docker.compose.project=<loyiha> yorliqli |
discovery.relabel |
Compose xizmat nomini xizmat yorlig'iga ko'chirish qoidasi |
loki.source.docker |
topilgan konteynerlarning loglarini o'qish |
loki.process |
JSON'dan daraja ni ajratib, yorliq qilish |
loki.write |
Loki'ga yuborish |
Har blok oxirida forward_to — keyingi blokka ulanish. Bu CI/CD darsidagi pipeline g'oyasining kichik ko'rinishi: har bosqich bitta ish qiladi va natijani keyingisiga beradi.
Uchta detalga e'tibor bering:
sys.env("LOYIHA")— loyiha nomi muhitdan. Bitta serverda boshqa loyihalar ham bo'lsa, Alloy ularning logini yig'maydi.stage.jsonfaqatdarajani oladi.sorovIdvaurlham JSON'da bor, lekin ular yorliq qilinmaydi — kardinallik.- JSON bo'lmagan qatorlar ham o'tadi. nginx yoki Postgres logida
darajayo'q — ular faqatxizmatyorlig'i bilan saqlanadi.
4.3 Compose'da
Alloy kuzatuv Compose fayliga xizmat sifatida qo'shiladi (deploy/kuzatuv/compose.kuzatuv.yaml dan, izohsiz; command qatorga bo'lindi, mazmuni aynan):
services:
alloy:
image: grafana/alloy:v1.21.3
command:
- run
- /etc/alloy/config.alloy
- --storage.path=/var/lib/alloy/data
environment: { LOYIHA: "${LOYIHA:-vazifalar}" }
volumes:
- ./alloy.alloy:/etc/alloy/config.alloy:ro
- /var/run/docker.sock:/var/run/docker.sock:roOxirgi qator — Docker soketi. Alloy konteynerlar ro'yxatini va ularning loglarini Docker API orqali oladi. Bu qatorning xavfi bor — «Hujumchi nigohi» bo'limida.
5. Loki sozlamasi
Kanonda Loki bitta jarayon, ma'lumot — konteyner volume'idagi fayllarda. Kichik server uchun shu yetarli. deploy/kuzatuv/loki.yml (izohsiz, qatorga bo'lindi, mazmuni aynan):
auth_enabled: false
server: { http_listen_port: 3100, log_level: warn }
common:
path_prefix: /loki
replication_factor: 1
ring: { kvstore: { store: inmemory } }
storage:
filesystem:
chunks_directory: /loki/chunks
rules_directory: /loki/rules
schema_config:
configs:
- from: "2026-01-01"
store: tsdb
object_store: filesystem
schema: v13
index: { prefix: index_, period: 24h }
limits_config:
retention_period: 168h
compactor:
working_directory: /loki/compactor
retention_enabled: true
delete_request_store: filesystemAsosiy qatorlar:
auth_enabled: false— bitta "ijarachi" (tenant — bitta Loki'dan foydalanadigan alohida mijoz yoki jamoa), login yo'q. Loki faqat ichki tarmoqda, portini tashqariga ochmaymiz.retention_period: 168h— 7 kun. Undan eskisini compactor (siqib-tozalovchi jarayon) o'chiradi —retention_enabled: truebo'lmasa, muddat yozilgan bo'lsa ham hech narsa o'chmaydi.object_store: filesystem— loglar diskda. Kattaroq tizimda bu S3 bo'ladi: Loki loglarni obyekt omboriga yozadi, bu arzon va cheksiz.
Qolgan qatorlar (ring, schema_config, index) — bitta jarayonli Loki uchun hujjatdagi odatiy qiymatlar. Ularni hozir o'zgartirmaysiz.
Saqlash muddati — narx va qonun o'rtasidagi murosa. 7 kun nosozlikni tekshirish uchun yetadi. Loglarda IP manzil bor, u esa shaxsiy ma'lumot bo'lishi mumkin. Uzoq saqlash — ko'proq javobgarlik (Ma'lumot saqlash muddati).
6. LogQL: qidirish va sanash
6.1 So'rov tuzilmasi
LogQL — Loki'ning so'rov tili. U Prometheus'ning PromQL tiliga o'xshab yaratilgan. Har so'rov ikki qismdan iborat:
- Oqim selektori — jingalak qavs ichida yorliqlar:
{xizmat="api"}. Majburiy. - Quvur —
|bilan ketma-ket bosqichlar: matn filtri, parser, maydon filtri.
| Bosqich | Misol | Ma'nosi |
|---|---|---|
| matn filtri | |= "/v1/yoq" |
qatorda shu matn bor |
| teskari filtr | != "/health" |
qatorda shu matn yo'q |
| parser | | json |
JSON maydonlarini vaqtinchalik yorliqqa aylantirish |
| maydon filtri | | res_status="404" |
ochilgan maydon bo'yicha |
| json ichma-ich maydonlarni pastki chiziq bilan yassilaydi: res.status → res_status, req.url → req_url. Bu yorliqlar faqat so'rov paytida mavjud — indeksga tushmaydi, kardinallik muammosi yo'q.
6.2 Kodda modellash
LogQL ichida nima bo'layotganini kichik model bilan ko'raylik: oqimni tanlash, JSON'ni yassilash, maydon bo'yicha filtr:
const loglar = [
{ xizmat: "api", qator: '{"daraja":"info","res":{"status":200}}' },
{ xizmat: "api", qator: '{"daraja":"warn","res":{"status":401}}' },
{
xizmat: "api-yashil",
qator: '{"daraja":"warn","res":{"status":404}}',
},
{ xizmat: "api", qator: '{"daraja":"warn","res":{"status":404}}' },
{ xizmat: "web", qator: '172.19.0.1 - - "GET / HTTP/1.1" 200' },
];
function tekisla(obj, oldi = "") {
const natija = {};
for (const [k, v] of Object.entries(obj)) {
const nom = oldi ? `${oldi}_${k}` : k;
if (v !== null && typeof v === "object") {
Object.assign(natija, tekisla(v, nom));
} else {
natija[nom] = String(v);
}
}
return natija;
}
function sana(loglar, xizmatRe, shart) {
let soni = 0;
for (const l of loglar) {
if (!xizmatRe.test(l.xizmat)) continue;
let m;
try {
m = tekisla(JSON.parse(l.qator));
} catch {
continue;
}
const mos = Object.entries(shart).every(([k, v]) => m[k] === v);
if (mos) soni++;
}
return soni;
}
console.log(tekisla(JSON.parse(loglar[2].qator)));
const api = /^(api|api-yashil)$/;
console.log(sana(loglar, api, { res_status: "404" }));
console.log(sana(loglar, api, { daraja: "warn" }));
console.log(sana(loglar, /^web$/, {}));Konsolda:
{ daraja: 'warn', res_status: '404' }
2
3
0Birinchi qator — | json nima qilishini ko'rsatadi: res.status → res_status, qiymat esa matn ('404'). Shuning uchun LogQL'da res_status="404" qo'shtirnoq bilan yoziladi. Ikkinchi va uchinchi qator — ikkala api nusxasidan 404 lar va warn lar soni. To'rtinchi: web nginx qatori JSON emas — modelimiz uni tashlab ketdi, shuning uchun 0. Haqiqiy Loki bunday qatorni tashlab ketmaydi: qatorni qoldiradi va unga __error__ yorlig'ini qo'yadi (hujjatga ko'ra, tekshirildi, 2026-11). Bunday qatorlarni shu yorliq bo'yicha ajratib olish yoki chiqarib tashlash mumkin. /^(api|api-yashil)$/ dagi ^ va $ tasodif emas: hujjatga ko'ra yorliqdagi =~ operatori ham butun qiymatga moslaydi (tekshirildi, 2026-11).
Object.entries — obyektni [kalit, qiymat] juftlariga aylantiradi. tekisla o'zini o'zi chaqiradi — rekursiya (Rekursiya asoslari).
6.3 Kanon so'rovlari
Kanon lokal stack'da 60 soniyalik yuk berdi: /v1/vazifalar ga har 50 ms (javob 401), bosh sahifaga har 100 ms, mavjud bo'lmagan /v1/yoq ga har 500 ms (javob 404). Keyin Loki'ga Grafana orqali so'rov yuborildi.
Birinchi so'rov — oxirgi 5 daqiqada har oqimda nechta qator. Natijada har qatorda: chapda oqim yorliqlari, o'ngda qatorlar soni. warn va info ni solishtiring:
sum by (xizmat, daraja) (count_over_time({xizmat=~".+"}[5m])){"daraja":"info","xizmat":"api"} = 152
{"daraja":"info","xizmat":"api-yashil"} = 152
{"daraja":"info","xizmat":"ishchi"} = 1
{"daraja":"warn","xizmat":"api"} = 547
{"daraja":"warn","xizmat":"api-yashil"} = 547
{"xizmat":"db"} = 7
{"xizmat":"pochta"} = 4
{"xizmat":"redis"} = 77
{"xizmat":"web"} = 1696
{"xizmat":"web-yashil"} = 45count_over_time(…[5m]) — har oqimda 5 daqiqadagi qatorlar soni. sum by (xizmat, daraja) — shu ikki yorliq bo'yicha guruhlash. db, redis, web qatorlarida daraja yo'q — ular JSON emas, Alloy unga yorliq qo'ymadi.
Ikkinchi so'rov — 404 lar soni, JSON maydoni bo'yicha:
sum(count_over_time({xizmat=~"api|api-yashil"} | json | res_status="404" [5m])){} = 117Yuk generatori /v1/yoq ga aynan 117 ta so'rov yuborgan edi. Loki ikkala nusxadagi 404 larni sanab, yo'qotishsiz shu sonni berdi. Bu natija loglar to'liq yetib kelganini ham tasdiqlaydi.
Uchinchisi — bitta qatorni topish: {xizmat="api"} |= "/v1/yoq". Natija — «Strukturali log» bo'limidagi qator. Undagi sorovId bilan endi shu so'rovning boshqa qatorlarini ham topish mumkin: {xizmat=~"api|api-yashil"} |= "4fd76177".
- web1 696 qator
- api, warn547 qator
- api-yashil, warn547 qator
- api, info152 qator
- api-yashil, info152 qator
- redis77 qator
- boshqalarweb-yashil 45, db 7, pochta 4, ishchi 157 qator
Manba: Kurs tajribasi (IlmHamroh, 2026-11): lokal Loki 3.7.9, LogQL count_over_time [5m], bitta o'lchov
Grafikka qarang: api'ning warn qatorlari info dan 3.6 baravar ko'p. Yukda bitta ham haqiqiy muammo yo'q edi. Bu keyingi bo'limning mavzusi.
7. Biz shunday xato qildik: 4xx — warn
7.1 Nima bo'ldi
25-qismdan beri vazifalar-api HTTP log darajasini shunday tanlaydi (src/umumiy/log.ts dan bitta qator):
customLogLevel: (_req, res, xato) => (xato !== undefined || res.statusCode >= 500 ? "error" : res.statusCode >= 400 ? "warn" : "info"),Ya'ni har 4xx — warn. Mantiqan tushunarli tuyuladi: "so'rov muvaffaqiyatsiz bo'ldi — ogohlantiraylik".
Kanon yukida natija: ikki nusxada 547 + 547 = 1 094 ta warn qatori — 5 daqiqalik oynada, uning ichida 60 soniyalik yuk bor edi. Yuqoridagi kod qatoriga ko'ra warn faqat 4xx javobga beriladi. Yukning o'zi 1 087 ta shunday so'rov yubordi: 970 ta 401 (kirmagan foydalanuvchi) va 117 ta 404 (yo'q sahifa). Bu normal holat: brauzer token muddati tugaganda 401 oladi, botlar har kuni /wp-admin ni qidiradi.
7.2 Oqibati
- Daraja ma'nosini yo'qotdi. «Darajaning ma'nosi» jadvalini eslang:
warn— "e'tibor kerak". 1 094 ta "e'tibor kerak" — demak, hech biriga e'tibor berilmaydi. - Dashboard paneli shovqinga to'ldi. Kanon dashboard'idagi "Xato loglari" paneli
daraja=~"error|warn"ni ko'rsatadi. Haqiqiyerrorqatori yuzlab 401 orasida ko'rinmay qoladi. - Alert qo'yib bo'lmaydi. "
warnlar soni oshdi" degan alert har bot hujumida chalinardi. - Joy. Loglarning katta qismi — shovqin, va ular 7 kun saqlanadi.
Kanon kodida daraja o'zgartirilmadi — u shu darsdagi saboq uchun qoldi.
7.3 Tavsiya: 4xx — info
Qoida: daraja bizning harakatimiz kerakligini bildiradi, so'rov muvaffaqiyatini emas. Mijoz xatosi (noto'g'ri parol, yo'q sahifa, eskirgan token) — normal hodisa, info. Server xatosi — error. warn esa haqiqiy ogohlantirishga qoladi. Masalan, 429 (tezlik cheklovi ishladi) — kimdir chegaraga urildi, bu kuzatishga arziydi.
Kanon va tavsiya qilinadigan qoidani kanon yukidagi taqsimotda solishtiramiz:
function darajaKanon(status) {
if (status >= 500) return "error";
if (status >= 400) return "warn";
return "info";
}
function darajaTavsiya(status) {
if (status >= 500) return "error";
if (status === 429) return "warn";
return "info";
}
function hisobla(statuslar, fn) {
const soni = {};
for (const s of statuslar) {
const d = fn(s);
soni[d] = (soni[d] ?? 0) + 1;
}
return soni;
}
const yuk = [
...Array(970).fill(401),
...Array(117).fill(404),
...Array(10).fill(200),
429,
500,
];
console.log("kanon: ", hisobla(yuk, darajaKanon));
console.log("tavsiya:", hisobla(yuk, darajaTavsiya));Konsolda:
kanon: { warn: 1088, info: 10, error: 1 }
tavsiya: { info: 1097, warn: 1, error: 1 }Yukdagi 970 ta 401 va 117 ta 404 — kanon yukining haqiqiy soni. 429 va 500 ni biz qo'shdik, taqqoslash uchun. Tavsiya bilan warn da faqat bitta qator qoladi — haqiqatan e'tibor kerak bo'lgani. ?? 0 — qiymat hali yo'q bo'lsa, 0 dan boshlash (?? operatori).
O'z loyihangizda o'zgartirsangiz, bitta testni ham yangilang. test/log.test.ts da "4xx — warn" degan test 404 qatorining darajasini tekshiradi. Daraja o'zgarsa, test yiqiladi — va bu to'g'ri: test xatti-harakat o'zgarganini ushladi. Bu o'zgarish kanonga kirmadi va sinalmagan.
8. Hujumchi nigohi
Alloy konteyneriga /var/run/docker.sock ulangan, :ro (faqat o'qish) bilan. Bu himoya emas. :ro faqat soket faylini o'chirish yoki almashtirishni taqiqlaydi. Soket orqali Docker API'ga yuborilgan buyruqlar esa to'liq ishlaydi: yangi konteyner yaratish, host diskini ulash.
Ya'ni hujumchi Alloy konteynerini egallasa — u butun serverni egallaydi. Kanon Compose faylida buni izoh bilan ochiq yozgan: "docker.sock = host root'iga teng huquq". Docker hujjati ham ogohlantiradi: Docker demonini faqat ishonchli foydalanuvchilar boshqarsin, chunki u host papkalarini konteynerga cheklovsiz ula oladi (tekshirildi, 2026-11).
Xavfni kamaytirish variantlari (kanonda sinalmagan, 2026-11):
- Soket proksisi — Docker API'dan faqat o'qish so'rovlarini o'tkazadigan oraliq konteyner. Alloy unga ulanadi, soketga emas.
- Fayldan o'qish — Docker
json-filedrayveri loglarni hostdagi fayllarga yozadi. Alloy shu papkani faqat o'qish uchun oladi. Kamchiligi: konteyner nomi va Compose yorliqlarini alohida aniqlash kerak. - Imkoniyatni kamaytirish — Alloy image'ini doimiy yangilash, uning portini tashqariga ochmaslik.
Ikkinchi xavf — loglarning mazmuni. Loki'ga tushgan har narsa endi boshqa tizimda yashaydi, Grafana orqali o'qiladi. Shuning uchun redact ro'yxati (Pino chuqur) va Grafana paroli muhim. Kanonda Grafana faqat 127.0.0.1 da.
9. Loyiha qadami
Loyihaga deploy/kuzatuv/ papkasining birinchi fayllari qo'shiladi:
| Fayl | Nima |
|---|---|
deploy/kuzatuv/alloy.alloy |
Docker loglari → yorliqlar → Loki |
deploy/kuzatuv/loki.yml |
bitta jarayon, fayl tizimi, 7 kun |
deploy/kuzatuv/compose.kuzatuv.yaml |
hozircha loki va alloy xizmatlari |
Kuzatuv Compose fayli ilova stack'ining ichki tarmog'iga tashqi tarmoq sifatida ulanadi (<loyiha>_ichki) — shunda Alloy, keyinroq Prometheus ham, xizmatlarni nomi bilan topadi.
Lokal sinab ko'ring:
- Ilova stack'ini ko'taring (Docker Compose).
- Kuzatuv stack'ini
LOYIHA=<ilova compose loyihasi nomi>bilan ko'taring. - Bir necha so'rov yuboring: 200, 401, 404.
- Grafana'da (keyingi darsda ulanadi) yoki Loki API'da
{xizmat="api"} |= "404"so'rovini bajaring. sum by (xizmat, daraja) (count_over_time({xizmat=~".+"}[5m]))bilan qaysi xizmat qancha log yozayotganini ko'ring.
4xx darajasini info ga tushirishni xohlasangiz — log.ts va test/log.test.ts birga. Hali commit qilmang: kuzatuv stack'i Production xatolarini tekshirish darsida bitta commit bo'ladi.
10. Ko'p uchraydigan xatolar
10.1 Yuqori kardinallikli yorliq
sorovId, foydalanuvchi ID, URL — yorliq emas. Ular log ichida qoladi va | json bilan qidiriladi.
10.2 Retention yozildi, lekin hech narsa o'chmaydi
retention_period yetarli emas — compactor'da retention_enabled: true kerak. Disk sekin to'ladi va bir kuni server to'xtaydi.
10.3 warn — "muvaffaqiyatsiz so'rov"
Mijoz xatolari warn da bo'lsa, haqiqiy ogohlantirish shovqinda yo'qoladi. Daraja — bizning harakatimiz kerakmi, shuni bildiradi.
10.4 Ilova faylga yozadi
Konteyner ichida faylga yozilgan log Docker'ga ham, Alloy'ga ham ko'rinmaydi. stdout.
10.5 docker.sock :ro — "xavfsiz"
:ro API'ni cheklamaydi. Soketga kirgan — host'ga kirgan.
10.6 Matn filtrisiz keng so'rov
{xizmat=~".+"} 7 kunlik oraliqda — Loki hamma oqimni ochadi va sekinlashadi. Avval yorliq bilan toraytiring, keyin matn filtri.
11. Mashqlar
Mashqlar kurs/mashqlar/34/13-loglar/ da. 2-mashq Node 24.21.0 da, 3-mashq Git Bash'da tekshirilgan (biz ishga tushirdik).
1-mashq (oson): bo'shliqlarni to'ldiring
- Loki indekslaydigan narsa — faqat lar
- JSON maydonlarini so'rov paytida ochadigan LogQL bosqichi —
| res.statusmaydoni| jsondan keyin qanday nomlanadi? —- Kanonda Loki loglarni necha soatdan keyin o'chiradi? —
- Kanon yukida ikki api nusxasi jami nechta
warnqator yozdi? —
Yechim
- yorliq — matn indekslanmaydi, shuning uchun saqlash arzon.
- json — ochilgan maydonlar faqat so'rov paytida.
- res_status — ichma-ich maydonlar pastki chiziq bilan yassilanadi.
- 168 — 7 kun, compactor o'chiradi.
- 1094 — 547 + 547, 5 daqiqalik oynada; hammasi 4xx, asosan yukdagi 401 va 404.
2-mashq (o'rta): bitta so'rovning izi
sorovIzi(qatorlar, sorovId) funksiyasini yozing. qatorlar — Pino JSON satrlari massivi (ba'zilari JSON emas). Funksiya shu sorovId ga tegishli qatorlarni vaqt bo'yicha tartiblab, har biri uchun "HH:MM:SS.mmm daraja msg" ko'rinishidagi satrlar massivini qaytarsin. JSON bo'lmagan qatorlarni o'tkazib yuboring.
Ishora: JSON.parse xato bersa — try/catch (Xatolar bilan ishlash). Vaqtdan soatni olish — time.slice(11, 23): ISO satrda 11-belgidan 23-gacha HH:MM:SS.mmm. ISO satrlar matn sifatida ham to'g'ri tartiblanadi.
Yechim
function sorovIzi(qatorlar, sorovId) {
const topildi = [];
for (const q of qatorlar) {
let j;
try {
j = JSON.parse(q);
} catch {
continue;
}
if (j.sorovId === sorovId) topildi.push(j);
}
topildi.sort((a, b) => (a.time < b.time ? -1 : 1));
return topildi.map(
(j) => `${j.time.slice(11, 23)} ${j.daraja} ${j.msg}`,
);
}
const q = (daraja, soniya, sorovId, msg) =>
JSON.stringify({
daraja,
time: `2026-11-08T05:24:${soniya}Z`,
sorovId,
msg,
});
const qatorlar = [
q("info", "27.010", "b2", "GET / 200"),
q("warn", "26.999", "4fd7", "GET /v1/yoq 404"),
"ilova ishga tushdi",
q("info", "26.997", "4fd7", "marshrut topilmadi"),
];
console.log(sorovIzi(qatorlar, "4fd7"));
console.log(sorovIzi(qatorlar, "yoq"));Konsolda:
[
'05:24:26.997 info marshrut topilmadi',
'05:24:26.999 warn GET /v1/yoq 404'
]
[]Ikkinchi qator massivda birinchi turgan bo'lsa ham, vaqt bo'yicha tartiblash to'g'ri ketma-ketlikni tikladi. Loglar har xil manbadan har xil kechikish bilan keladi — shuning uchun agregatsiyada vaqt belgisi muhim, kelish tartibi emas. Bu funksiya — {…} |= "4fd7" so'rovining kichik modeli. Bitta qator JSON emas edi — u indamay o'tkazildi.
3-mashq (qiyin): daraja va status hisoboti
Bash skript yozing. U avval Pino formatidagi api.log faylini yaratsin (qatorlar qisqartirilgan: time, ip, ms siz, req.url va res.status — yassi url va status; bitta qator JSON emas). Keyin awk bilan chiqarsin: har error qatori uchun XATO: sorovId url; oxirida darajalar soni, warn ichida 401 va 404 soni, JSON bo'lmagan qatorlar soni.
Ishora: maydonni ajratish uchun match($0, regex) — topilsa RSTART va RLENGTH o'rnatadi, substr bilan kesib olasiz. Qiymatdagi qo'shtirnoqni sub bilan olib tashlang. Funksiya parametri ro'yxatidagi qo'shimcha nom — lokal o'zgaruvchi (CI/CD tushunchasi darsining 3-mashqidagi kabi). awk ichida apostrof ishlatmang.
Yechim
cat > api.log <<'LOG'
{"daraja":"warn","sorovId":"a1","url":"/v1/teglar","status":401}
{"daraja":"info","sorovId":"a2","url":"/","status":200}
{"daraja":"warn","sorovId":"a3","url":"/v1/yoq","status":404}
{"daraja":"error","sorovId":"a4","url":"/v1/teglar","status":500}
{"daraja":"warn","sorovId":"a5","url":"/v1/teglar","status":401}
ilova ishga tushdi
LOG
awk '
function maydon(nom, qism) {
if (!match($0, "\"" nom "\":\"?[^\",}]*")) return ""
qism = substr($0, RSTART, RLENGTH)
sub("\"" nom "\":\"?", "", qism)
return qism
}
{
d = maydon("daraja")
if (d == "") { buzuq++; next }
daraja[d]++
if (d == "warn") st[maydon("status")]++
if (d == "error") print "XATO: " maydon("sorovId") " " maydon("url")
}
END {
print "info=" daraja["info"] + 0 " warn=" daraja["warn"] + 0
print "error=" daraja["error"] + 0
print "warn ichida: 401=" st["401"] + 0 " 404=" st["404"] + 0
print "JSON emas: " buzuq + 0
}
' api.logBiz ishga tushirdik:
XATO: a4 /v1/teglar
info=1 warn=3
error=1
warn ichida: 401=2 404=1
JSON emas: 1Uchta warn ning hammasi — 401 va 404. Ya'ni bu logda "e'tibor kerak" degan uchta qator bor, lekin haqiqiy muammo bitta — error. «Biz shunday xato qildik» bo'limidagi shovqinning kichik nusxasi. Regex bilan JSON'ni ajratish mo'rt usul: qiymat ichida vergul yoki qo'shtirnoq bo'lsa, buziladi. Serverda bu ish uchun jq bor (Loglar: journalctl), Loki'da esa | json.
12. Real ishda
- Log tizimlari: Loki (arzon, yorliqqa asoslangan), Elasticsearch/OpenSearch (to'liq matnli qidiruv), boshqariladigan xizmatlar — Grafana Cloud Logs, Datadog, Better Stack va boshqalar. Narx odatda hajmga (GB) bog'liq — shovqinli log to'g'ridan pul yeydi.
- Yig'uvchilar: Alloy, Vector, Fluent Bit, OpenTelemetry Collector. G'oya bir xil: manba → qayta ishlash → saqlash.
- Kompaniyalarda log darajalari bo'yicha yozma qoida bo'ladi: qachon
error, qachonwarn. Yangi xodim birinchi haftada shuni o'qiydi. - Intervyu savollari: "Loki va Elasticsearch farqi?", "Log yorlig'iga nima qo'ymaslik kerak?", "Mikroservislarda bitta so'rovning loglarini qanday topasiz?", "Loglarda shaxsiy ma'lumotni qanday himoya qilasiz?"
Xulosa
docker logskonteyner o'chganda yo'qoladi va ko'p nusxada ishlamaydi — loglar bitta joyga yig'iladi.- Loki faqat yorliqlarni indekslaydi: yorliq — past kardinallikli (
xizmat,daraja), qolgani log ichida. - Alloy: Docker'dan faqat shu loyiha konteynerlari →
xizmatyorlig'i → JSON'dandaraja→ Loki. - LogQL:
{yorliqlar} |= "matn" | json | maydon="qiymat";count_over_timebilan sanash — kanonda 117 ta 404 yo'qotishsiz topildi. - Loki retention:
retention_period+ compactor;docker.sock :ro— host root'iga teng xavf. - Kanon xatosi: 4xx —
warn, 60 soniyalik yukni qamragan 5 daqiqalik oynada 1 094 qator shovqin; tavsiya — 4xxinfo,warnfaqat haqiqiy ogohlantirishga.
Keyingi dars: Metrikalar: Prometheus va Grafana — /metrics ni yig'amiz, PromQL bilan so'raymiz va dashboard'ni fayldan quramiz.
Manbalar
- Grafana Loki hujjati — Labels (kardinallik bo'yicha tavsiyalar): https://grafana.com/docs/loki/latest/get-started/labels/ (tekshirildi, 2026-11)
- Grafana Loki hujjati — LogQL: https://grafana.com/docs/loki/latest/query/ (tekshirildi, 2026-11)
- Grafana Loki hujjati — Retention: https://grafana.com/docs/loki/latest/operations/storage/retention/ (tekshirildi, 2026-11)
- Grafana Alloy hujjati —
loki.source.docker: https://grafana.com/docs/alloy/latest/reference/components/loki/loki.source.docker/ (tekshirildi, 2026-11) - Docker hujjati — Protect the Docker daemon socket: https://docs.docker.com/engine/security/protect-access/ (tekshirildi, 2026-11)
- Docker hujjati — Docker daemon attack surface: https://docs.docker.com/engine/security/ (tekshirildi, 2026-11)
- Grafana Loki hujjati — Promtail (end of life): https://grafana.com/docs/loki/latest/send-data/promtail/ (tekshirildi, 2026-11)
- Grafana Loki hujjati — Log queries (
| json,__error__,=~): https://grafana.com/docs/loki/latest/query/log_queries/ (tekshirildi, 2026-11) - Kurs tajribasi (IlmHamroh, 2026-11): lokal Loki 3.7.9 + Alloy v1.21.3 + Grafana 13.3.0, ilova stack'i blue-green rejimda, 60 s yuk (401, 404, 200) — LogQL natijalari Grafana orqali. Mashq yechimlari — biz ishga tushirdik (2026-11-08).
Izohlar · 0
Izoh yozish uchun kiring.