JavaScript Full-stackLog agregatsiya: Loki, Grafana va Alloy — konteyner loglarini bitta joyda qidirish
JavaScript Full-stack · 34-qism. CI/CD, monitoring, bulut

Log agregatsiya: Loki, Grafana va Alloy — konteyner loglarini bitta joyda qidirish

20 daqiqa13/30-dars

Qisqacha: Log agregatsiya — hamma konteyner va serverdagi loglarni bitta joyga yig'ib, ularni birga qidirish. Kanonda Alloy Docker'dan loglarni o'qiydi, ularga ikkita yorliq qo'yadi (xizmat va daraja) va Loki'ga yuboradi. Loki matnni emas, faqat yorliqlarni indekslaydi — shuning uchun arzon. Qidiruv LogQL tilida: {xizmat="api"} | json | res_status="404". Kanon topgan muammo: 401 va 404 javoblar warn darajasida yozilgan, 60 soniyalik yuk qamralgan 5 daqiqalik oynada 1 094 ta "ogohlantirish" chiqdi — haqiqiy ogohlantirish shovqinda yo'qoladi.

Bu darsda

  • Nega docker logs va journalctl production'da yetmasligini tushuntirasiz.
  • Loki nima uchun faqat yorliqlarni indekslashini va yorliqni qanday tanlashni bilasiz.
  • Kanonning Alloy va Loki sozlamalarini qatorma-qator o'qiysiz.
  • LogQL bilan qidirasiz va hisoblaysiz: filtr, | json, count_over_time.
  • Log darajalarini to'g'ri tanlashni kanon xatosi misolida ko'rasiz.

Oldin bilishingiz kerak: Observability asoslari, Pino chuqur, Correlation ID va so'rov kuzatuvi, Loglar: journalctl, /var/log va logrotate.

O'tgan darsda kuzatuv stack'ini loyihaladik. Endi uning birinchi qismini quramiz — loglar. Ular eng tanish ma'lumot: 25-qismdan beri vazifalar-api har so'rovda JSON qator yozadi.

1. Nega bu kerak?

Deploy'dan keyin foydalanuvchi yozadi: "kechqurun 20:15 da vazifa saqlanmadi". Loglarni qayerdan qidirasiz?

  • api konteynerida yoki api-yashil da — so'rov qaysi biriga tushgani noma'lum (Zero-downtime deploy).
  • Deploy paytida konteynerlar qayta yaratildi. docker logs faqat joriy konteyner loglarini ko'rsatadi — eski konteyner o'chirilganda uning loglari ham ketadi.
  • Xato web nginx'da bo'lishi ham mumkin. Uning logi boshqa konteynerda, boshqa formatda.

Loglar: journalctl darsida bitta serverda loglarni o'qishni o'rgandik. Bu yerda muammo boshqa: manbalar ko'p, konteynerlar o'tkinchi, savol esa bitta — "20:15 da, shu foydalanuvchi bilan nima bo'ldi?".

Hayotiy o'xshatish: katta kasalxonada har bo'limning o'z daftari bor. Bemor uch bo'limdan o'tgan bo'lsa, shifokor uchta daftarni varaqlaydi. Elektron tibbiy karta esa hammasini bitta joyda, vaqt bo'yicha ko'rsatadi. Log agregatsiya — loglar uchun shunday "elektron karta".

2. Loglar qanday bo'lishi kerak

2.1 Strukturali log: eslatma

Agregatsiya faqat yaxshi yozilgan log bilan foydali. Qoidalarni Pino chuqur va Correlation ID darslaridan bilasiz:

  • JSON, bir qator — bitta hodisa;
  • daraja (info, warn, error);
  • sorovId — bitta so'rovning hamma qatorlarini bog'laydi;
  • maxfiy ma'lumot yo'q — parol, token, cookie redact bilan yashiriladi;
  • stdout'ga — faylga emas (12-factor).

Kanon tajribasida (IlmHamroh, 2026-11) Loki'dan olingan haqiqiy qator — mavjud bo'lmagan yo'lga so'rov:

text
{"daraja":"warn","time":"2026-11-08T05:24:26.999Z","ilova":"vazifalar-api","sorovId":"4fd76177-62cb-402e-9dfe-240c64b3ed07","req":{"method":"GET","url":"/v1/yoq","ip":"172.19.0.1","userAgent":"node"},"res":{"status":404},"ms":2,"msg":"GET /v1/yoq 404"}

Hammasi bor: vaqt, sorovId, yo'l, IP, status, davomiylik. Bu qatorni qidirish, filtrlash va sanash mumkin. Endi uni boshqa 2 000 ta qator bilan birga bitta joyga yig'amiz.

2.2 Darajaning ma'nosi

Har daraja — o'qiydigan odamga signal:

Daraja Ma'nosi Kim nima qiladi
error biz tuzatishimiz kerak bo'lgan narsa buzildi darhol ko'radi
warn hali buzilmadi, lekin e'tibor kerak kunlik ko'rib chiqadi
info normal hodisa faqat qidirganda

Bu jadvalni yodda tuting — «Biz shunday xato qildik» bo'limida unga qaytamiz.

3. Loki: faqat yorliqlar indekslanadi

3.1 G'oya

Loki — Grafana Labs'ning log saqlash tizimi. U loglarning matnini indekslamaydi. Faqat har log oqimiga qo'yilgan bir nechta yorliqni (label) indekslaydi. Matn siqilgan bo'laklarda saqlanadi va qidiruvda "grep kabi" ko'rib chiqiladi.

Klassik muqobil — Elasticsearch (ELK stack'ining "E" harfi) — har so'zni indekslaydi. Qidiruv tezroq, lekin indeks ko'pincha loglarning o'zidan katta bo'ladi va ko'p xotira talab qiladi. Loki aksincha: saqlash arzon, qidiruv esa yorliqlar bilan toraytirilgandagina tez.

Bir xil yorliqli loglar ketma-ketligi — oqim (stream). Masalan {xizmat="api", daraja="warn"} — bitta oqim. So'rov avval yorliqlar bo'yicha kerakli oqimlarni tanlaydi, keyin faqat ularning ichidan matnni qidiradi.

3.2 Yorliqni qanday tanlash kerak

Bu yerda Observability darsidagi kardinallik qoidasi yana ishlaydi. Har noyob yorliqlar to'plami — alohida oqim. Agar sorovId ni yorliq qilsangiz, har so'rov — yangi oqim. Million so'rov — million mayda oqim, Loki indeksi portlaydi.

Kanon qarori:

Maydon Qayerda Nega
xizmat (api, web, db …) yorliq 10 ga yaqin qiymat
daraja yorliq 3–4 qiymat
sorovId, url, ip, status log ichida qiymatlari cheksiz

Log ichidagi maydonlar yo'qolmaydi. LogQL ularni so'rov paytida | json bilan ochadi — «LogQL» bo'limida ko'ramiz.

Tekshirib ko'ring: Jamoadoshingiz taklif qiladi: "Foydalanuvchi ID'sini Loki yorlig'i qilaylik — bitta foydalanuvchining hamma logini tez topamiz". Nima deysiz?

Javob

Yo'q. Foydalanuvchilar soni cheksiz o'sadi — har biri yangi oqim, indeks va xotira kardinallik bilan birga o'sadi. Foydalanuvchi ID'si log ichida qolsin. Qidiruvni boshqa yorliq bilan toraytiring ({xizmat="api"}), keyin | json | foydalanuvchi_id="42" yoki matn filtri bilan izlang.

4. Alloy: loglarni yig'uvchi

4.1 Vazifasi

Alloy — Grafana Labs'ning "telemetriya yig'uvchisi" (agent). Telemetriya — ilova o'zi haqida chiqaradigan ma'lumot: log, metrika va trace. U loglarni, metrikalarni va trace'larni manbadan oladi, qayta ishlaydi va saqlash tizimiga yuboradi. Ilgari loglar uchun Promtail ishlatilardi. Grafana hujjatiga ko'ra Promtail 2026-yil 2-martdan beri qo'llab-quvvatlanmaydi (end of life), yangi imkoniyatlar faqat Alloy'da (tekshirildi, 2026-11). Eski loyihalarda Promtail sozlamasini uchratsangiz — bu o'sha vosita.

Kanonda Alloy uch ishni bajaradi:

  1. Docker'dan faqat shu loyiha konteynerlarini topadi.
  2. Har konteynerga xizmat yorlig'ini beradi (Compose xizmat nomi).
  3. Pino JSON'idan daraja ni olib, yorliq qiladi va Loki'ga yuboradi.

4.2 Sozlama

Alloy o'z sozlama tilida yoziladi — bloklar va ular orasidagi ulanishlar. Kanon fayli deploy/kuzatuv/alloy.alloy (izohlar olib tashlangan, mazmuni aynan):

text
discovery.docker "konteynerlar" {
  host = "unix:///var/run/docker.sock"
  filter {
    name   = "label"
    values = ["com.docker.compose.project=" + sys.env("LOYIHA")]
  }
}
discovery.relabel "yorliqlar" {
  targets = []
  rule {
    source_labels = ["__meta_docker_container_label_com_docker_compose_service"]
    target_label  = "xizmat"
  }
}
loki.source.docker "loglar" {
  host          = "unix:///var/run/docker.sock"
  targets       = discovery.docker.konteynerlar.targets
  relabel_rules = discovery.relabel.yorliqlar.rules
  forward_to    = [loki.process.pino.receiver]
}
loki.process "pino" {
  stage.json {
    expressions = { daraja = "daraja" }
  }
  stage.labels {
    values = { daraja = "" }
  }
  forward_to = [loki.write.lokal.receiver]
}
loki.write "lokal" {
  endpoint {
    url = "http://loki:3100/loki/api/v1/push"
  }
}

Bloklarni yuqoridan pastga o'qiymiz:

Blok Nima qiladi
discovery.docker Docker'dan konteynerlar ro'yxati, faqat com.docker.compose.project=<loyiha> yorliqli
discovery.relabel Compose xizmat nomini xizmat yorlig'iga ko'chirish qoidasi
loki.source.docker topilgan konteynerlarning loglarini o'qish
loki.process JSON'dan daraja ni ajratib, yorliq qilish
loki.write Loki'ga yuborish

Har blok oxirida forward_to — keyingi blokka ulanish. Bu CI/CD darsidagi pipeline g'oyasining kichik ko'rinishi: har bosqich bitta ish qiladi va natijani keyingisiga beradi.

Uchta detalga e'tibor bering:

  • sys.env("LOYIHA") — loyiha nomi muhitdan. Bitta serverda boshqa loyihalar ham bo'lsa, Alloy ularning logini yig'maydi.
  • stage.json faqat daraja ni oladi. sorovId va url ham JSON'da bor, lekin ular yorliq qilinmaydi — kardinallik.
  • JSON bo'lmagan qatorlar ham o'tadi. nginx yoki Postgres logida daraja yo'q — ular faqat xizmat yorlig'i bilan saqlanadi.

4.3 Compose'da

Alloy kuzatuv Compose fayliga xizmat sifatida qo'shiladi (deploy/kuzatuv/compose.kuzatuv.yaml dan, izohsiz; command qatorga bo'lindi, mazmuni aynan):

yaml
services:
  alloy:
    image: grafana/alloy:v1.21.3
    command:
      - run
      - /etc/alloy/config.alloy
      - --storage.path=/var/lib/alloy/data
    environment: { LOYIHA: "${LOYIHA:-vazifalar}" }
    volumes:
      - ./alloy.alloy:/etc/alloy/config.alloy:ro
      - /var/run/docker.sock:/var/run/docker.sock:ro

Oxirgi qator — Docker soketi. Alloy konteynerlar ro'yxatini va ularning loglarini Docker API orqali oladi. Bu qatorning xavfi bor — «Hujumchi nigohi» bo'limida.

5. Loki sozlamasi

Kanonda Loki bitta jarayon, ma'lumot — konteyner volume'idagi fayllarda. Kichik server uchun shu yetarli. deploy/kuzatuv/loki.yml (izohsiz, qatorga bo'lindi, mazmuni aynan):

yaml
auth_enabled: false
server: { http_listen_port: 3100, log_level: warn }
common:
  path_prefix: /loki
  replication_factor: 1
  ring: { kvstore: { store: inmemory } }
  storage:
    filesystem:
      chunks_directory: /loki/chunks
      rules_directory: /loki/rules
schema_config:
  configs:
    - from: "2026-01-01"
      store: tsdb
      object_store: filesystem
      schema: v13
      index: { prefix: index_, period: 24h }
limits_config:
  retention_period: 168h
compactor:
  working_directory: /loki/compactor
  retention_enabled: true
  delete_request_store: filesystem

Asosiy qatorlar:

  • auth_enabled: false — bitta "ijarachi" (tenant — bitta Loki'dan foydalanadigan alohida mijoz yoki jamoa), login yo'q. Loki faqat ichki tarmoqda, portini tashqariga ochmaymiz.
  • retention_period: 168h — 7 kun. Undan eskisini compactor (siqib-tozalovchi jarayon) o'chiradi — retention_enabled: true bo'lmasa, muddat yozilgan bo'lsa ham hech narsa o'chmaydi.
  • object_store: filesystem — loglar diskda. Kattaroq tizimda bu S3 bo'ladi: Loki loglarni obyekt omboriga yozadi, bu arzon va cheksiz.

Qolgan qatorlar (ring, schema_config, index) — bitta jarayonli Loki uchun hujjatdagi odatiy qiymatlar. Ularni hozir o'zgartirmaysiz.

Saqlash muddati — narx va qonun o'rtasidagi murosa. 7 kun nosozlikni tekshirish uchun yetadi. Loglarda IP manzil bor, u esa shaxsiy ma'lumot bo'lishi mumkin. Uzoq saqlash — ko'proq javobgarlik (Ma'lumot saqlash muddati).

6. LogQL: qidirish va sanash

6.1 So'rov tuzilmasi

LogQL — Loki'ning so'rov tili. U Prometheus'ning PromQL tiliga o'xshab yaratilgan. Har so'rov ikki qismdan iborat:

  1. Oqim selektori — jingalak qavs ichida yorliqlar: {xizmat="api"}. Majburiy.
  2. Quvur — | bilan ketma-ket bosqichlar: matn filtri, parser, maydon filtri.
Bosqich Misol Ma'nosi
matn filtri |= "/v1/yoq" qatorda shu matn bor
teskari filtr != "/health" qatorda shu matn yo'q
parser | json JSON maydonlarini vaqtinchalik yorliqqa aylantirish
maydon filtri | res_status="404" ochilgan maydon bo'yicha

| json ichma-ich maydonlarni pastki chiziq bilan yassilaydi: res.status → res_status, req.url → req_url. Bu yorliqlar faqat so'rov paytida mavjud — indeksga tushmaydi, kardinallik muammosi yo'q.

6.2 Kodda modellash

LogQL ichida nima bo'layotganini kichik model bilan ko'raylik: oqimni tanlash, JSON'ni yassilash, maydon bo'yicha filtr:

js
const loglar = [
  { xizmat: "api", qator: '{"daraja":"info","res":{"status":200}}' },
  { xizmat: "api", qator: '{"daraja":"warn","res":{"status":401}}' },
  {
    xizmat: "api-yashil",
    qator: '{"daraja":"warn","res":{"status":404}}',
  },
  { xizmat: "api", qator: '{"daraja":"warn","res":{"status":404}}' },
  { xizmat: "web", qator: '172.19.0.1 - - "GET / HTTP/1.1" 200' },
];

function tekisla(obj, oldi = "") {
  const natija = {};
  for (const [k, v] of Object.entries(obj)) {
    const nom = oldi ? `${oldi}_${k}` : k;
    if (v !== null && typeof v === "object") {
      Object.assign(natija, tekisla(v, nom));
    } else {
      natija[nom] = String(v);
    }
  }
  return natija;
}

function sana(loglar, xizmatRe, shart) {
  let soni = 0;
  for (const l of loglar) {
    if (!xizmatRe.test(l.xizmat)) continue;
    let m;
    try {
      m = tekisla(JSON.parse(l.qator));
    } catch {
      continue;
    }
    const mos = Object.entries(shart).every(([k, v]) => m[k] === v);
    if (mos) soni++;
  }
  return soni;
}

console.log(tekisla(JSON.parse(loglar[2].qator)));
const api = /^(api|api-yashil)$/;
console.log(sana(loglar, api, { res_status: "404" }));
console.log(sana(loglar, api, { daraja: "warn" }));
console.log(sana(loglar, /^web$/, {}));

Konsolda:

text
{ daraja: 'warn', res_status: '404' }
2
3
0

Birinchi qator — | json nima qilishini ko'rsatadi: res.status → res_status, qiymat esa matn ('404'). Shuning uchun LogQL'da res_status="404" qo'shtirnoq bilan yoziladi. Ikkinchi va uchinchi qator — ikkala api nusxasidan 404 lar va warn lar soni. To'rtinchi: web nginx qatori JSON emas — modelimiz uni tashlab ketdi, shuning uchun 0. Haqiqiy Loki bunday qatorni tashlab ketmaydi: qatorni qoldiradi va unga __error__ yorlig'ini qo'yadi (hujjatga ko'ra, tekshirildi, 2026-11). Bunday qatorlarni shu yorliq bo'yicha ajratib olish yoki chiqarib tashlash mumkin. /^(api|api-yashil)$/ dagi ^ va $ tasodif emas: hujjatga ko'ra yorliqdagi =~ operatori ham butun qiymatga moslaydi (tekshirildi, 2026-11).

Object.entries — obyektni [kalit, qiymat] juftlariga aylantiradi. tekisla o'zini o'zi chaqiradi — rekursiya (Rekursiya asoslari).

6.3 Kanon so'rovlari

Kanon lokal stack'da 60 soniyalik yuk berdi: /v1/vazifalar ga har 50 ms (javob 401), bosh sahifaga har 100 ms, mavjud bo'lmagan /v1/yoq ga har 500 ms (javob 404). Keyin Loki'ga Grafana orqali so'rov yuborildi.

Birinchi so'rov — oxirgi 5 daqiqada har oqimda nechta qator. Natijada har qatorda: chapda oqim yorliqlari, o'ngda qatorlar soni. warn va info ni solishtiring:

text
sum by (xizmat, daraja) (count_over_time({xizmat=~".+"}[5m]))
text
{"daraja":"info","xizmat":"api"} = 152
{"daraja":"info","xizmat":"api-yashil"} = 152
{"daraja":"info","xizmat":"ishchi"} = 1
{"daraja":"warn","xizmat":"api"} = 547
{"daraja":"warn","xizmat":"api-yashil"} = 547
{"xizmat":"db"} = 7
{"xizmat":"pochta"} = 4
{"xizmat":"redis"} = 77
{"xizmat":"web"} = 1696
{"xizmat":"web-yashil"} = 45

count_over_time(…[5m]) — har oqimda 5 daqiqadagi qatorlar soni. sum by (xizmat, daraja) — shu ikki yorliq bo'yicha guruhlash. db, redis, web qatorlarida daraja yo'q — ular JSON emas, Alloy unga yorliq qo'ymadi.

Ikkinchi so'rov — 404 lar soni, JSON maydoni bo'yicha:

text
sum(count_over_time({xizmat=~"api|api-yashil"} | json | res_status="404" [5m]))
text
{} = 117

Yuk generatori /v1/yoq ga aynan 117 ta so'rov yuborgan edi. Loki ikkala nusxadagi 404 larni sanab, yo'qotishsiz shu sonni berdi. Bu natija loglar to'liq yetib kelganini ham tasdiqlaydi.

Uchinchisi — bitta qatorni topish: {xizmat="api"} |= "/v1/yoq". Natija — «Strukturali log» bo'limidagi qator. Undagi sorovId bilan endi shu so'rovning boshqa qatorlarini ham topish mumkin: {xizmat=~"api|api-yashil"} |= "4fd76177".

5 daqiqadagi log qatorlari (60 s yuk bilan)
  • web1 696 qator
  • api, warn547 qator
  • api-yashil, warn547 qator
  • api, info152 qator
  • api-yashil, info152 qator
  • redis77 qator
  • boshqalarweb-yashil 45, db 7, pochta 4, ishchi 157 qator

Manba: Kurs tajribasi (IlmHamroh, 2026-11): lokal Loki 3.7.9, LogQL count_over_time [5m], bitta o'lchov

Grafikka qarang: api'ning warn qatorlari info dan 3.6 baravar ko'p. Yukda bitta ham haqiqiy muammo yo'q edi. Bu keyingi bo'limning mavzusi.

7. Biz shunday xato qildik: 4xx — warn

7.1 Nima bo'ldi

25-qismdan beri vazifalar-api HTTP log darajasini shunday tanlaydi (src/umumiy/log.ts dan bitta qator):

text
customLogLevel: (_req, res, xato) => (xato !== undefined || res.statusCode >= 500 ? "error" : res.statusCode >= 400 ? "warn" : "info"),

Ya'ni har 4xx — warn. Mantiqan tushunarli tuyuladi: "so'rov muvaffaqiyatsiz bo'ldi — ogohlantiraylik".

Kanon yukida natija: ikki nusxada 547 + 547 = 1 094 ta warn qatori — 5 daqiqalik oynada, uning ichida 60 soniyalik yuk bor edi. Yuqoridagi kod qatoriga ko'ra warn faqat 4xx javobga beriladi. Yukning o'zi 1 087 ta shunday so'rov yubordi: 970 ta 401 (kirmagan foydalanuvchi) va 117 ta 404 (yo'q sahifa). Bu normal holat: brauzer token muddati tugaganda 401 oladi, botlar har kuni /wp-admin ni qidiradi.

7.2 Oqibati

  • Daraja ma'nosini yo'qotdi. «Darajaning ma'nosi» jadvalini eslang: warn — "e'tibor kerak". 1 094 ta "e'tibor kerak" — demak, hech biriga e'tibor berilmaydi.
  • Dashboard paneli shovqinga to'ldi. Kanon dashboard'idagi "Xato loglari" paneli daraja=~"error|warn" ni ko'rsatadi. Haqiqiy error qatori yuzlab 401 orasida ko'rinmay qoladi.
  • Alert qo'yib bo'lmaydi. "warn lar soni oshdi" degan alert har bot hujumida chalinardi.
  • Joy. Loglarning katta qismi — shovqin, va ular 7 kun saqlanadi.

Kanon kodida daraja o'zgartirilmadi — u shu darsdagi saboq uchun qoldi.

7.3 Tavsiya: 4xx — info

Qoida: daraja bizning harakatimiz kerakligini bildiradi, so'rov muvaffaqiyatini emas. Mijoz xatosi (noto'g'ri parol, yo'q sahifa, eskirgan token) — normal hodisa, info. Server xatosi — error. warn esa haqiqiy ogohlantirishga qoladi. Masalan, 429 (tezlik cheklovi ishladi) — kimdir chegaraga urildi, bu kuzatishga arziydi.

Kanon va tavsiya qilinadigan qoidani kanon yukidagi taqsimotda solishtiramiz:

js
function darajaKanon(status) {
  if (status >= 500) return "error";
  if (status >= 400) return "warn";
  return "info";
}

function darajaTavsiya(status) {
  if (status >= 500) return "error";
  if (status === 429) return "warn";
  return "info";
}

function hisobla(statuslar, fn) {
  const soni = {};
  for (const s of statuslar) {
    const d = fn(s);
    soni[d] = (soni[d] ?? 0) + 1;
  }
  return soni;
}

const yuk = [
  ...Array(970).fill(401),
  ...Array(117).fill(404),
  ...Array(10).fill(200),
  429,
  500,
];
console.log("kanon:  ", hisobla(yuk, darajaKanon));
console.log("tavsiya:", hisobla(yuk, darajaTavsiya));

Konsolda:

text
kanon:   { warn: 1088, info: 10, error: 1 }
tavsiya: { info: 1097, warn: 1, error: 1 }

Yukdagi 970 ta 401 va 117 ta 404 — kanon yukining haqiqiy soni. 429 va 500 ni biz qo'shdik, taqqoslash uchun. Tavsiya bilan warn da faqat bitta qator qoladi — haqiqatan e'tibor kerak bo'lgani. ?? 0 — qiymat hali yo'q bo'lsa, 0 dan boshlash (?? operatori).

O'z loyihangizda o'zgartirsangiz, bitta testni ham yangilang. test/log.test.ts da "4xx — warn" degan test 404 qatorining darajasini tekshiradi. Daraja o'zgarsa, test yiqiladi — va bu to'g'ri: test xatti-harakat o'zgarganini ushladi. Bu o'zgarish kanonga kirmadi va sinalmagan.

8. Hujumchi nigohi

Alloy konteyneriga /var/run/docker.sock ulangan, :ro (faqat o'qish) bilan. Bu himoya emas. :ro faqat soket faylini o'chirish yoki almashtirishni taqiqlaydi. Soket orqali Docker API'ga yuborilgan buyruqlar esa to'liq ishlaydi: yangi konteyner yaratish, host diskini ulash.

Ya'ni hujumchi Alloy konteynerini egallasa — u butun serverni egallaydi. Kanon Compose faylida buni izoh bilan ochiq yozgan: "docker.sock = host root'iga teng huquq". Docker hujjati ham ogohlantiradi: Docker demonini faqat ishonchli foydalanuvchilar boshqarsin, chunki u host papkalarini konteynerga cheklovsiz ula oladi (tekshirildi, 2026-11).

Xavfni kamaytirish variantlari (kanonda sinalmagan, 2026-11):

  • Soket proksisi — Docker API'dan faqat o'qish so'rovlarini o'tkazadigan oraliq konteyner. Alloy unga ulanadi, soketga emas.
  • Fayldan o'qish — Docker json-file drayveri loglarni hostdagi fayllarga yozadi. Alloy shu papkani faqat o'qish uchun oladi. Kamchiligi: konteyner nomi va Compose yorliqlarini alohida aniqlash kerak.
  • Imkoniyatni kamaytirish — Alloy image'ini doimiy yangilash, uning portini tashqariga ochmaslik.

Ikkinchi xavf — loglarning mazmuni. Loki'ga tushgan har narsa endi boshqa tizimda yashaydi, Grafana orqali o'qiladi. Shuning uchun redact ro'yxati (Pino chuqur) va Grafana paroli muhim. Kanonda Grafana faqat 127.0.0.1 da.

9. Loyiha qadami

Loyihaga deploy/kuzatuv/ papkasining birinchi fayllari qo'shiladi:

Fayl Nima
deploy/kuzatuv/alloy.alloy Docker loglari → yorliqlar → Loki
deploy/kuzatuv/loki.yml bitta jarayon, fayl tizimi, 7 kun
deploy/kuzatuv/compose.kuzatuv.yaml hozircha loki va alloy xizmatlari

Kuzatuv Compose fayli ilova stack'ining ichki tarmog'iga tashqi tarmoq sifatida ulanadi (<loyiha>_ichki) — shunda Alloy, keyinroq Prometheus ham, xizmatlarni nomi bilan topadi.

Lokal sinab ko'ring:

  1. Ilova stack'ini ko'taring (Docker Compose).
  2. Kuzatuv stack'ini LOYIHA=<ilova compose loyihasi nomi> bilan ko'taring.
  3. Bir necha so'rov yuboring: 200, 401, 404.
  4. Grafana'da (keyingi darsda ulanadi) yoki Loki API'da {xizmat="api"} |= "404" so'rovini bajaring.
  5. sum by (xizmat, daraja) (count_over_time({xizmat=~".+"}[5m])) bilan qaysi xizmat qancha log yozayotganini ko'ring.

4xx darajasini info ga tushirishni xohlasangiz — log.ts va test/log.test.ts birga. Hali commit qilmang: kuzatuv stack'i Production xatolarini tekshirish darsida bitta commit bo'ladi.

10. Ko'p uchraydigan xatolar

10.1 Yuqori kardinallikli yorliq

sorovId, foydalanuvchi ID, URL — yorliq emas. Ular log ichida qoladi va | json bilan qidiriladi.

10.2 Retention yozildi, lekin hech narsa o'chmaydi

retention_period yetarli emas — compactor'da retention_enabled: true kerak. Disk sekin to'ladi va bir kuni server to'xtaydi.

10.3 warn — "muvaffaqiyatsiz so'rov"

Mijoz xatolari warn da bo'lsa, haqiqiy ogohlantirish shovqinda yo'qoladi. Daraja — bizning harakatimiz kerakmi, shuni bildiradi.

10.4 Ilova faylga yozadi

Konteyner ichida faylga yozilgan log Docker'ga ham, Alloy'ga ham ko'rinmaydi. stdout.

10.5 docker.sock :ro — "xavfsiz"

:ro API'ni cheklamaydi. Soketga kirgan — host'ga kirgan.

10.6 Matn filtrisiz keng so'rov

{xizmat=~".+"} 7 kunlik oraliqda — Loki hamma oqimni ochadi va sekinlashadi. Avval yorliq bilan toraytiring, keyin matn filtri.

11. Mashqlar

Mashqlar kurs/mashqlar/34/13-loglar/ da. 2-mashq Node 24.21.0 da, 3-mashq Git Bash'da tekshirilgan (biz ishga tushirdik).

1-mashq (oson): bo'shliqlarni to'ldiring

  • Loki indekslaydigan narsa — faqat lar
  • JSON maydonlarini so'rov paytida ochadigan LogQL bosqichi — |
  • res.status maydoni | json dan keyin qanday nomlanadi? —
  • Kanonda Loki loglarni necha soatdan keyin o'chiradi? —
  • Kanon yukida ikki api nusxasi jami nechta warn qator yozdi? —
Yechim
  • yorliq — matn indekslanmaydi, shuning uchun saqlash arzon.
  • json — ochilgan maydonlar faqat so'rov paytida.
  • res_status — ichma-ich maydonlar pastki chiziq bilan yassilanadi.
  • 168 — 7 kun, compactor o'chiradi.
  • 1094 — 547 + 547, 5 daqiqalik oynada; hammasi 4xx, asosan yukdagi 401 va 404.

2-mashq (o'rta): bitta so'rovning izi

sorovIzi(qatorlar, sorovId) funksiyasini yozing. qatorlar — Pino JSON satrlari massivi (ba'zilari JSON emas). Funksiya shu sorovId ga tegishli qatorlarni vaqt bo'yicha tartiblab, har biri uchun "HH:MM:SS.mmm daraja msg" ko'rinishidagi satrlar massivini qaytarsin. JSON bo'lmagan qatorlarni o'tkazib yuboring.

Ishora: JSON.parse xato bersa — try/catch (Xatolar bilan ishlash). Vaqtdan soatni olish — time.slice(11, 23): ISO satrda 11-belgidan 23-gacha HH:MM:SS.mmm. ISO satrlar matn sifatida ham to'g'ri tartiblanadi.

Yechim
js
function sorovIzi(qatorlar, sorovId) {
  const topildi = [];
  for (const q of qatorlar) {
    let j;
    try {
      j = JSON.parse(q);
    } catch {
      continue;
    }
    if (j.sorovId === sorovId) topildi.push(j);
  }
  topildi.sort((a, b) => (a.time < b.time ? -1 : 1));
  return topildi.map(
    (j) => `${j.time.slice(11, 23)} ${j.daraja} ${j.msg}`,
  );
}

const q = (daraja, soniya, sorovId, msg) =>
  JSON.stringify({
    daraja,
    time: `2026-11-08T05:24:${soniya}Z`,
    sorovId,
    msg,
  });
const qatorlar = [
  q("info", "27.010", "b2", "GET / 200"),
  q("warn", "26.999", "4fd7", "GET /v1/yoq 404"),
  "ilova ishga tushdi",
  q("info", "26.997", "4fd7", "marshrut topilmadi"),
];
console.log(sorovIzi(qatorlar, "4fd7"));
console.log(sorovIzi(qatorlar, "yoq"));

Konsolda:

text
[
  '05:24:26.997 info marshrut topilmadi',
  '05:24:26.999 warn GET /v1/yoq 404'
]
[]

Ikkinchi qator massivda birinchi turgan bo'lsa ham, vaqt bo'yicha tartiblash to'g'ri ketma-ketlikni tikladi. Loglar har xil manbadan har xil kechikish bilan keladi — shuning uchun agregatsiyada vaqt belgisi muhim, kelish tartibi emas. Bu funksiya — {…} |= "4fd7" so'rovining kichik modeli. Bitta qator JSON emas edi — u indamay o'tkazildi.

3-mashq (qiyin): daraja va status hisoboti

Bash skript yozing. U avval Pino formatidagi api.log faylini yaratsin (qatorlar qisqartirilgan: time, ip, ms siz, req.url va res.status — yassi url va status; bitta qator JSON emas). Keyin awk bilan chiqarsin: har error qatori uchun XATO: sorovId url; oxirida darajalar soni, warn ichida 401 va 404 soni, JSON bo'lmagan qatorlar soni.

Ishora: maydonni ajratish uchun match($0, regex) — topilsa RSTART va RLENGTH o'rnatadi, substr bilan kesib olasiz. Qiymatdagi qo'shtirnoqni sub bilan olib tashlang. Funksiya parametri ro'yxatidagi qo'shimcha nom — lokal o'zgaruvchi (CI/CD tushunchasi darsining 3-mashqidagi kabi). awk ichida apostrof ishlatmang.

Yechim
bash
cat > api.log <<'LOG'
{"daraja":"warn","sorovId":"a1","url":"/v1/teglar","status":401}
{"daraja":"info","sorovId":"a2","url":"/","status":200}
{"daraja":"warn","sorovId":"a3","url":"/v1/yoq","status":404}
{"daraja":"error","sorovId":"a4","url":"/v1/teglar","status":500}
{"daraja":"warn","sorovId":"a5","url":"/v1/teglar","status":401}
ilova ishga tushdi
LOG
awk '
function maydon(nom,  qism) {
  if (!match($0, "\"" nom "\":\"?[^\",}]*")) return ""
  qism = substr($0, RSTART, RLENGTH)
  sub("\"" nom "\":\"?", "", qism)
  return qism
}
{
  d = maydon("daraja")
  if (d == "") { buzuq++; next }
  daraja[d]++
  if (d == "warn") st[maydon("status")]++
  if (d == "error") print "XATO: " maydon("sorovId") " " maydon("url")
}
END {
  print "info=" daraja["info"] + 0 " warn=" daraja["warn"] + 0
  print "error=" daraja["error"] + 0
  print "warn ichida: 401=" st["401"] + 0 " 404=" st["404"] + 0
  print "JSON emas: " buzuq + 0
}
' api.log

Biz ishga tushirdik:

text
XATO: a4 /v1/teglar
info=1 warn=3
error=1
warn ichida: 401=2 404=1
JSON emas: 1

Uchta warn ning hammasi — 401 va 404. Ya'ni bu logda "e'tibor kerak" degan uchta qator bor, lekin haqiqiy muammo bitta — error. «Biz shunday xato qildik» bo'limidagi shovqinning kichik nusxasi. Regex bilan JSON'ni ajratish mo'rt usul: qiymat ichida vergul yoki qo'shtirnoq bo'lsa, buziladi. Serverda bu ish uchun jq bor (Loglar: journalctl), Loki'da esa | json.

12. Real ishda

  • Log tizimlari: Loki (arzon, yorliqqa asoslangan), Elasticsearch/OpenSearch (to'liq matnli qidiruv), boshqariladigan xizmatlar — Grafana Cloud Logs, Datadog, Better Stack va boshqalar. Narx odatda hajmga (GB) bog'liq — shovqinli log to'g'ridan pul yeydi.
  • Yig'uvchilar: Alloy, Vector, Fluent Bit, OpenTelemetry Collector. G'oya bir xil: manba → qayta ishlash → saqlash.
  • Kompaniyalarda log darajalari bo'yicha yozma qoida bo'ladi: qachon error, qachon warn. Yangi xodim birinchi haftada shuni o'qiydi.
  • Intervyu savollari: "Loki va Elasticsearch farqi?", "Log yorlig'iga nima qo'ymaslik kerak?", "Mikroservislarda bitta so'rovning loglarini qanday topasiz?", "Loglarda shaxsiy ma'lumotni qanday himoya qilasiz?"

Xulosa

  • docker logs konteyner o'chganda yo'qoladi va ko'p nusxada ishlamaydi — loglar bitta joyga yig'iladi.
  • Loki faqat yorliqlarni indekslaydi: yorliq — past kardinallikli (xizmat, daraja), qolgani log ichida.
  • Alloy: Docker'dan faqat shu loyiha konteynerlari → xizmat yorlig'i → JSON'dan daraja → Loki.
  • LogQL: {yorliqlar} |= "matn" | json | maydon="qiymat"; count_over_time bilan sanash — kanonda 117 ta 404 yo'qotishsiz topildi.
  • Loki retention: retention_period + compactor; docker.sock :ro — host root'iga teng xavf.
  • Kanon xatosi: 4xx — warn, 60 soniyalik yukni qamragan 5 daqiqalik oynada 1 094 qator shovqin; tavsiya — 4xx info, warn faqat haqiqiy ogohlantirishga.

Keyingi dars: Metrikalar: Prometheus va Grafana — /metrics ni yig'amiz, PromQL bilan so'raymiz va dashboard'ni fayldan quramiz.

Manbalar

34-qism. CI/CD, monitoring, bulut · 13-dars yakunlandi

Log agregatsiya: Loki, Grafana va Alloy — konteyner loglarini bitta joyda qidirish

20 daqvaqt
0belgi
Keyingi dars: Metrikalar: Prometheus va Grafana — scrape, PromQL va dashboard fayldan
Telegram'da
Darsda xato koʻrdingizmi?

Izohlar · 0