====== Использование DPI для оптимизация передачи больших объемов данных ====== {{indexmenu_n>6}} С ростом количества пользователей и с увеличением скорости в тарифных планах через некоторое время встает вопрос о значительном расширении систем хранения трафика. СКАТ позволяет уменьшить объем трафика, зеркалируемый на СХД, путем оптимизации и фильтрации больших объемов данных (тяжелого контента), например p2p (торрент), видео в форматах HD и Full HD, данные стриминговых сервисов и видеохостингов. Ориентировочный процент оптимизации трафика составляет **от 20% до 70%** в зависимости от структуры трафика и списка оптимизируемых для фильтрации [[dpi:dpi_options:protocols|сигнатур протоколов]]. Особенности покупки лицензии для оптимизация передачи больших объемов данных:\\ * Для проведения оптимизации трафика нужна лицензия — СКАТ BASE * Схема установки — [[dpi:dpi_brief:install_point_ssg:instruction_instal_mirror|зеркало]] * Пропускная способность лицензии СКАТ определяется суммарным зеркалируемым трафиком, правила описаны в разделе [[dpi:licensing]] Схема использования:\\ {{ :dpi:dpi_options:use_cases:big_data_optimizing.png?nolink&500 |}} =====Пример 1: Один интерфейс на вход и один на выход (01-00.0 → 01-00.1)===== Определить параметры интерфейсов в конфигурационном файле ''/etc/dpi/fastdpi.conf'': in_dev=01-00.0 out_dev=01-00.1 only_tcp=0 mem_preset=1 1. Создаем файл **protocols.txt** c описанием групп протоколов, которые нужно отбросить при передаче зеркала in шт в out порты: echo "bittorrent drop" > protocols.txt 2. Конвертируем его в формат dscp, который понимает fastDPI: cat protocols.txt|lst2dscp /etc/dpi/protocols.dscp 3. Применяем настройки: service fastdpi reload [[dpi:dpi_options:protocols|Полный список протоколов.]] **Проверка результатов фильтрации:** Выполнить tail -200 /var/log/dpi/fastdpi_stat.log В строках статистики найти процент и объем отфильтрованного трафика: IF 01-00.0 : ... Drop: [8054507798 bytes][68.92 %] [9406449 pkts ][67.16 %] ... =====Пример 2: Два входных интерфейса и один на выход (01-00.0 и 01-00.1 → 01-00.2)===== Определить параметры интерфейсов в конфигурационном файле ''/etc/dpi/fastdpi.conf'': in_dev=01-00:01-00.1 out_dev=01-00.2:01-00.2 only_tcp=0 mem_preset=1 1. Создаем файл **protocols.txt** c описанием групп протоколов, которые нужно отбросить при передаче зеркала in шт в out порты: oob-ws-https drop llsurfup-https drop compaq-https drop jpegmpeg drop wap-push-https drop appserv-https drop wbem-https drop wbem-exp-https drop sun-sr-https drop plysrv-https drop pcsync-https drop https-wmap drop armcenterhttps drop tungsten-https drop amt-soap-https drop commtact-https drop Bittorrent drop AVI drop Flash drop MPEG drop QuickTime drop smc-https drop oracleas-https drop sun-user-https drop synapse-nhttps drop tnt_premier drop okko drop kinopoisk drop wink drop start_tv drop smotrim_vgtrk_tv drop tricolor_tv drop beeline_tv drop match_tv drop ivi drop amediateka drop movix drop kino_1tv drop 1tv drop ntv_plus drop limehd_tv drop kion drop 24h_tv drop peers_tv drop smotreshkatv drop rutube drop youtube drop hls video drop VK_CDN_VIDEO drop QUIC_UNKNOWN_MARKED drop bigotv drop [[dpi:dpi_options:protocols|Полный список протоколов.]] 2. Конвертируем его в формат dscp, который понимает fastDPI: cat protocols.txt|lst2dscp /etc/dpi/protocols.dscp 3. Применяем настройки: service fastdpi reload **Проверить результаты фильтрации:** Выполнить tail -200 /var/log/dpi/fastdpi_stat.log В строках статистики найти процент и объем отфильтрованного трафика На 01-00.0: Drop: [29472283528 bytes ][69.20%] На 01-00.1: Drop: [31027588123 bytes ][68.27%]