Различия

Показаны различия между двумя версиями страницы.

--- dpi:dpi_components:platform:mon_stat:stat_log [2020/09/21 07:10] – ↷ Страница перемещена из dpi:dpi_options:dpi_divert_spec:star:dpi:dpi_components:platform:mon_stat:stat_log в dpi:dpi_components:platform:mon_stat:stat_log lexx26
+++ dpi:dpi_components:platform:mon_stat:stat_log [2025/01/20 09:34] (текущий) – elena.krasnobryzh
@@ Строка 1: / Строка 1: @@
 ====== fastdpi_stat.log ======
+{{indexmenu_n>3}}
+Находится в папке: ''/var/log/dpi/fastdpi_stat.log''\\
+В данном логе хранится статистика по трафику, который обрабатывает СКАТ DPI
+<code bash>
+[STAT    ][2022/04/07-13:36:24:608426] Memory usage : 'Virtual'/'Resident' 177805156352/3238039552
+[STAT    ][2022/04/07-13:36:24:608441] CPU statistics :
+        cpu_total : 18.8%us  1.7%sy  0.0%ni 79.5%id  0.0%wa
+                cpu0 :  4.6%us  2.7%sy  0.0%ni 92.8%id  0.0%wa
+                cpu1 : 20.1%us  0.4%sy  0.0%ni 79.5%id  0.0%wa
+                cpu2 : 19.5%us  0.4%sy  0.0%ni 80.1%id  0.0%wa
+                cpu3 : 23.4%us  2.1%sy  0.0%ni 74.5%id  0.0%wa
+</code>
-Находится в папке: ///var/log/dpi/fastdpi_stat.log//\\
+На данном участке stat лога:\\
-В данном логе хранится статистика по трафику, который обрабатывает СКАТ DPI, что им блокируется, по загруженности памяти, процессора (файл **stat.log**).\\
+''[2022/04/07-13:36:24:608426]'' — дата и время съема информации
-{{ :dpi:dpi_components:platform:mon_stat:stat_log1.png?600 |}}\\
-              Рисунок 1
-Информация представляется в следующем порядке (см. рис. 1, рис. 2):
+'' 'Virtual'/'Resident' ''  — тип памяти.\\
-  * Используемая память:\\ **1** – дата и время съема информации, \\ **2** – тип памяти, \\ **3** – объем.
+''Virtual'' — виртуальный размер процесса. Показывает общее количество памяти, которое способна адресовать программа в данный момент времени\\
-  * Загрузка процессора: \\ **4** – общая загрузка, \\ **5** – загрузка по ядрам.
+''Resident'' — показывает, сколько физической памяти использует процесс.\\
-  * Статистика по интерфейсам СКАТ DPI:\\ **6** – полная статистика принятых пакетов/ байт, заблокированных пакетов на всех интерфейсах, \\ **7** - полная статистика принятых пакетов/ байт, заблокированных пакетов на интерфейсе dna0, здесь:
+После этого параметра идут конкретные значения
-    * Rcvd: [2372621 pkts][381635326 bytes][0 pkts dropped] – принятые пакеты/ байты
-    * Send: [4457954 pkts][4526709192 bytes] – переданные пакеты/ байты
-    * Esnd: [0 err_pkts][0.00 %] - ошибки, возникшие при отправке пакетов
-    * Drop: [0 pkts][0 bytes] – заблокировано пакетов/ байт
-    * Pthr: [0 pkts][0 bytes] - количество пакетов/ байт, проходящих без анализа и обработки
-    * Emit: [0 pkts][0 bytes] - пакеты, которые сформировал СКАТ
-    * Eemt: [0 err_pkts][0.00 %] - ошибки, возникшие при отправке пакетов, сформированных СКАТ\\
-**8** - фактическая статистика принятых пакетов/ байт, заблокированных пакетов на интерфейсе dna0, \\
-**9** – совокупная статистика, сколько захвачено, обработано, отправлено пакетов/ сек (см. рис. 2), в примере [Captured 1.47 pkt/sec][Processed 1.47 pkt/sec][Send 0.00 pkt/sec].\\ IPv4_thread_slave=#1 или 0 - статистика по потоку (0 или 1) - номер потока.\\
-{{ :dpi:dpi_components:platform:mon_stat:stat_log2.png?600 |}}\\
-           Рисунок 2
-  * Статистика по протоколам:
+''CPU statistics'' — статистика по загрузке процессора\\
-    * Статистика по IP:\\ **10** - текущее количество потоков (flow), где\\ IPv4_total : allocate=1708/3008000  - параметр задается в ///etc/dpi/fastdpi.conf://\\ mem_tracking_flow (в примере=3008000)\\ 3008000 – всего / 1708 – занято
+''cpu_total'' — общая загрузка процессора\\
-    * Счетчики по блокировкам:\\ url/lock=341/5 ( 0,0 )( 1,1,0,98879 )\\ ssl/lock=47/0 ( 21,457 )( 0,69,69,196647 )\\ chnprc=0\\ //ccheck/ip_check/lock//=2954/503/76\\ url/lock - проверено url/ заблокировано\\
+''cpu0'', ''cpu1'', ''cpu2'', ''cpu3'' — загрузка по конкретному ядру\\
-    * ( 0,0 ) :\\ первый 0 - кол-во url, которые не смогли распарсить\\ второй 0 - кол-во пакетов с частичными url ( url идет в нескольких пакетах )\\ ( 1,1,0,98879 ) :\\ 1 - используется парсеров\\ 1 - всего было использовано парсеров\\ 0 - сколько освобождено после использования\\ 98879 - сколько может быть создано\\
+''us'' — сколько всего на данный момент используется\\
-    * ssl/lock - аналогично url, только для cname\\ chnprc=0 - изменение парсера http ←→ htpps\\ //ccheck/ip_check/lock// - 2954/503/76 статистика проверки по IP/порт\\
+''sy'' — сколько на данный момент использует система\\
-    * 2954 - должны были выполнить проверку по IP \\ 503 - сколько раз реально выполнялась проверка\\ 76 - заблокировано пакетов
+''id'' — сколько на данный момент свободно\\
-  * Статистика по фаерволу – **11**.
+''wa'' — показывает процент операций, готовых быть выполненных процессором, но находящихся в состоянии ожидания от диска
-  * Статистика по netflow – **12**,
-С версии 9.4.1 расширена статистика по размерам пакетов, добавлены диапазоны Jumbo Frames\\
+**Информация по интерфейсам:**
-[STAT    ][2020/09/09-13:44:33:322801] Packet size (abs/delta, in %):
+<code bash>
+[STAT    ][2022/04/08-16:25:25:309501] Interface statistics :
+        Cluster #0 Absolute Stats Rcvd: [5000 pkts][527701 bytes][1+2=3 pkts dropped]
+        Cluster #0 : IF 01-00.0 (01:00.0):
+                Absolute Stats Rcvd: [4873 pkts][507823 bytes][0 pkts dropped]
+                               Send: [127 pkts][19878 bytes]
+                               Esnd: [0 err_pkts][0.00 %]
+                               Drop: [0 pkts][0 bytes]
+                               Pthr: [0 pkts][0 bytes]
+                               Emit: [0 pkts][0 bytes]
+                               Eemt: [0 err_pkts][0.00 %]
+                Actual   Stats Rcvd: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Send: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Esnd: [0 err_pkts][0.00 %]
+                               Drop: [0 bytes][0.00 %]
+                                     [0 pkts ][0.00 %]
+                               Pthr: [0 bytes][0.00 %]
+                                     [0 pkts ][0.00 %]
+                               Emit: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Eemt: [0 err_pkts][0.00 %]
+        Cluster #0 : IF 01-00.1 (01:00.1):
+                Absolute Stats Rcvd: [127 pkts][19878 bytes][0 pkts dropped]
+                               Send: [4873 pkts][507823 bytes]
+                               Esnd: [0 err_pkts][0.00 %]
+                               Drop: [0 pkts][0 bytes]
+                               Pthr: [0 pkts][0 bytes]
+                               Emit: [0 pkts][0 bytes]
+                               Eemt: [0 err_pkts][0.00 %]
+                Actual   Stats Rcvd: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Send: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Esnd: [0 err_pkts][0.00 %]
+                               Drop: [0 bytes][0.00 %]
+                                     [0 pkts ][0.00 %]
+                               Pthr: [0 bytes][0.00 %]
+                                     [0 pkts ][0.00 %]
+                               Emit: [0 bytes][0.00 Mbit/sec]
+                                     [0 pkts ][0.00 pkt/sec]
+                               Eemt: [0 err_pkts][0.00 %]
+          Cluster #0 : Aggregated Actual stats: [Captured 0.00 pkt/sec][Processed 0.00     pkt/sec][Send 0.00 pkt/sec]
+</code>
+''Absolute Stats Rcvd'' — суммарная статистика принятых пакетов/байт, заблокированных пакетов на всех интерфейсах, с момента последнего перезапуска процесса fastDPI\\
+[1+2=3 pkts dropped]\\
+— потери на порту (даже не прочитали, буфер переполнен)\\
+— не смог обработать СКАТ
+Далее идет информация по каждому конкретному интерфейсу
+''Cluster #0 : IF 01-00.0 (01:00.0)'':\\
+''Absolute Stats'' — полная статистика принятых пакетов/байт, заблокированных пакетов на интерфейсе ''01-00.0''
+  * ''Rcvd: [4873 pkts][507823 bytes][0 pkts dropped]'' — принятые пакеты/байты
+  * ''Send: [127 pkts][19878 bytes]'' — переданные пакеты/байты
+  * ''Esnd: [0 err_pkts][0.00 %]'' — ошибки, возникшие при отправке пакетов
+  * ''Drop: [0 pkts][0 bytes]'' — дропнуто пакетов/байт, в результате работы фильтрации/полисинга и т.п. ("хорошие" дропы)
+  * ''Pthr: [0 pkts][0 bytes]'' — количество пакетов/байт, проходящих без анализа и обработки
+  * ''Emit: [0 pkts][0 bytes]'' — пакеты, которые сформировал СКАТ
+  * ''Eemt: [0 err_pkts][0.00 %]'' — ошибки, возникшие при отправке пакетов, сформированных СКАТ
+''Actual   Stats'' —  фактическая статистика принятых пакетов/байт, заблокированных пакетов на интерфейсе ''01-00.0''\\
+''Aggregated Actual stats'' — совокупная статистика на кластер: сколько захвачено, обработано, отправлено пакетов/сек
+<code bash>
+[STAT    ][2022/04/08-16:25:25:309514] [HAL] DPDK device statistics:
+        dev 01-00.0 (01:00.0)
+             RX pkt/bytes abs (delta):            4873/390871          (0/0)
+             TX pkt/bytes abs (delta):             127/16830           (0/0)
+                Error pkts, abs/delta: rx_queue_full=0/0, bad_pkt=0/0, tx_fail=0/0, rx_nombuf=0/0
+        dev 01-00.1 (01:00.1)
+             RX pkt/bytes abs (delta):             127/16830           (0/0)
+             TX pkt/bytes abs (delta):            4873/390871          (0/0)
+                Error pkts, abs/delta: rx_queue_full=0/0, bad_pkt=0/0, tx_fail=0/0, rx_nombuf=0/0
+[STAT    ][2022/04/08-16:25:25:309514] [HAL] DPDK device statistics:
+        dev 01-00.0 (01:00.0)
+             RX pkt/bytes abs (delta):            4873/390871          (0/0)
+             TX pkt/bytes abs (delta):             127/16830           (0/0)
+                Error pkts, abs/delta: rx_queue_full=0/0, bad_pkt=0/0, tx_fail=0/0, rx_nombuf=0/0
+        dev 01-00.1 (01:00.1)
+             RX pkt/bytes abs (delta):             127/16830           (0/0)
+             TX pkt/bytes abs (delta):            4873/390871          (0/0)
+                Error pkts, abs/delta: rx_queue_full=0/0, bad_pkt=0/0, tx_fail=0/0, rx_nombuf=0/0
+[STAT    ][2022/04/08-16:25:25:309644]  [HAL][DPDK] Dispatcher statistics abs/delta:
+                         drop (worker queue full)           |  empty NIC RX |       RX packets
+        Cluster #0:               0/0           0.0%/  0.0% | 100.0%/100.0% |            5000/0
+</code>
+Выше приведена статистика по интерфейсам:\\
+''RX pkt/bytes abs (delta):            4873/390871          (0/0)'' — принято пакетов/байт\\
+''4873/390871'' — с момента старта\\
+''(0/0)'' — за последние 15 сек (с момента последнего вывода в stat лог)
+''TX pkt/bytes abs (delta):'' — отправлено пакетов/байт
+<code bash>Error pkts, abs/delta: rx_queue_full=0/0, bad_pkt=0/0, tx_fail=0/0, rx_nombuf=0/0</code>
+''rx_queue_full=0/0'' — переполнение очереди диспетчера\\
+''bad_pkt=0/0'' — плохие пакеты\\
+''tx_fail=0/0'' — ошибки при отправке\\
+''rx_nombuf=0/0'' — не хватило буфера на прием
+''drop (worker queue full)'' — нелегитимные дропы (переполнение обработчика)
+''empty NIC RX'' — процент холостых опросов rx-очередей карт — абсолютный процент (с начала работы СКАТ) и относительный (дельта с последнего вывода в stat-лог). 100% — значит, входных пакетов нет, диспетчер работает вхолостую
+<code bash>
+[STAT    ][2022/04/08-16:25:25:309647] [HAL][DPDK/SQRX] Mempool state:
+        cluster #0: avail_count=24448, in-use_count=8319
+</code>
+Использование пула памяти ''dpdk_mempool_size'':\\
+''avail_count'' — доступно для использования\\
+''in-use_count'' — используется на текущий момент
+На участке ниже представлена статистика по размерам пакетов, также добавлены диапазоны Jumbo Frames
+<code bash>
+[STAT    ][2022/04/08-16:25:25:309650] Packet size (abs/delta, in %):
                          <=64       <=128       <=256       <=512      <=1024      <=2048      <=4096      <=8192     >8192
-        subs->inet:   0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0
+        subs->inet:   0.5/0.0    98.7/0.0     0.6/0.0     0.2/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0
-        inet->subs:   0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0
+        inet->subs:  17.3/0.0    51.2/0.0    25.2/0.0     6.3/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0     0.0/0.0
+</code>
+Далее идет статистика по протоколам\\
+Статистика по IP:\\
+Тут указано количество потоков (flow) и информация по ним
+<code bash>
+[STAT    ][2022/04/08-16:25:25:309664] IPv4_Statistics 'flow nodes' :
+        IPv4_thread_slave=#0 : 0/0/505/0/0 ( 180/0/325 ) ( 0-0/0-0/0-0/0-0 )
+/0/66666/66666 ( 0/0 0/0 0/0/0 )
+        IPv4_thread_slave=#1 : 0/0/1796/0/0 ( 436/0/1360 ) ( 0-0/0-0/0-0/0-0 )
+/0/66666/66666 ( 0/0 0/0 0/0/0 )
+	IPv4_total : allocate=616/4896000 ( 0/0/2301/0/0/0 ) ( 616/0/1685 ) ( 0-0/0-0/0-0/0-0 )
+/0/133332/133332 ( 0/0 0/0 0/0/0 )
+        IPv4_actual: new=0 [0 flw/sec] close=0 [0 flw/sec] rei=0 [0 flw/sec]
+</code>
+''IPv4_total : allocate=616/4896000'' — показывает заполненность аллоцированной памяти для IPv4 flow\\
+''616'' — занято, ''4896000'' — всего. Этот параметр задается в файле ''/etc/dpi/fastdpi.conf'' (''[[dpi:dpi_components:platform:dpi_admin:mem_problems#mem_tracking_flow|mem_tracking_flow]]'')
+<code bash>IPv4_actual: new=0 [0 flw/sec] close=0 [0 flw/sec] rei=0 [0 flw/sec]</code>
+''new'' — количество новых flow\\
+''close'' — количество обработанных flow\\
+''rei'' — готово к переиспользованию
+<code bash>
+[STAT    ][2022/04/12-11:15:31:688997] IPv4_Statistics_error  :
+        IPv4_ste_flow   : 0/0/0
+        IPv4_ste_invlen : 0/0/0
+</code>
+''IPv4_ste_flow'' — ошибки обработки flow. Это критичный счетчик. Должен быть нулевым (тут все хорошо)\\
+''IPv4_ste_invlen'' — ошибки прочитанных длин из входного фрейма (когда фактическая длина расходится с указанной в заголовке). Т.е. причина в пакете
+''0/0/0'' — ip/tcp/udp
+Статистика по блокировкам:\\
+Эти параметры расписаны для каждого конкретного потока (''thread_slave''), а так же суммарное значение (''Total'')
+<code bash>
+[STAT    ][2022/04/12-11:15:31:688999] Detailed statistics on HTTP :
+        thread_slave=0 :
+                url/lock=28/0 ( 12,0,0 )( 1,1,0 )
+                ssl/lock=191/0 ( 0,54,0 )( 1,17,16 )
+                        cna/lock=4/0 ( 0,37 )
+                        sni/lock=187/0 ( 0,17 )
+                quic/lock=0/0 ( 1,0,0 )( 0,0,0 )
+                chnprc=0
+                ccheck/ip_check/lock=2203/579/0 0/0/0
+        thread_slave=1 :
+                url/lock=187/0 ( 1287,0,0 )( 1,1,0 )
+                ssl/lock=268/2 ( 0,313,0 )( 2,36,34 )
+                        cna/lock=1/0 ( 0,171 )
+                        sni/lock=267/2 ( 0,142 )
+                quic/lock=9/0 ( 0,0,0 )( 0,0,0 )
+                chnprc=0
+                ccheck/ip_check/lock=9404/747/0 0/0/0
+        Total :
+                url/lock=215/0 ( 1299,0,0 )( 2,2,0,98879 )
+                ssl/lock=459/2 ( 0,367,0 )( 3,53,50,392183 )
+                        cna/lock=5/0 ( 0,208 )
+                        sni/lock=454/2 ( 0,159 )
+                quic/lock=9/0 ( 1,0,0 )( 0,0,0,0 )
+                chnprc=0
+                ccheck/ip_check/lock=11607/1326/0 0/0/0
+</code>
+''url/lock'' — проверено URL / заблокировано (аналогично для ssl, cna, sni, quic)\\
+''chnprc=0'' — изменение парсера http ←→ https\\
+''ccheck/ip_check/lock=11607/1326/0'' — статистика проверки по IP/порт
+''11607'' — должны были выполнит проверку по IP\\
+''1326'' — сколько раз реально выполнялась проверка\\
+''0'' — заблокировано пакетов
+Ниже указана статистика по фаерволу и syn пакетам:
+<code bash>
+[STAT    ][2022/04/12-11:15:31:689052] FRWL statistics : 0/0/0
+[STAT    ][2022/04/12-11:15:31:689054] Statistics SYN :
+        total : syn=1, syn_ack=1 (0/0/0/0 0/0)
+        actual: syn=0 [0 syn/sec] syn_ack=0 [0 syn_ack/sec] [prcnt=0%] (0/0/0/0 0/0)
+[STAT    ][2022/04/12-11:15:31:689052] FRWL statistics : <wrap hi>0/0/0</wrap>
+[STAT    ][2022/04/12-11:15:31:689054] Statistics SYN :
+        total : syn=1, syn_ack=1 (0/0/0/0 0/0)
+        actual: syn=0 [0 syn/sec] syn_ack=0 [0 syn_ack/sec] [prcnt=0%] (0/0/0/0 0/0)
+</code>
+''total : syn=1'' — всего SYN пакетов\\
+''syn_ack'' — всего SYN-ACK пакетов\\
+''actual:'' — то же самое, только за последние 15 секунд (с момента последнего вывода в stat лог) + количество SYN/SYN-ACK в секунду

Аккаунт

Настройки

Различия