"Разработка сервиса автоматического формирования сбытового заказа на основе неструктурированных запросов в дистрибуции HoReCa": различия между версиями

Материал из Public ATP Wiki
Перейти к навигации Перейти к поиску
Нет описания правки
Строка 2: Строка 2:
=== План выступления ===
=== План выступления ===


1) Проблема контроля качества массового конвейерного производства
*Описание производственного процесса
*Существующие методы контроля и их недостатки
2) Идея реализации автоматизированного контроля качества
* Концепция автоматизированной системы видеоаналитики
3) Архитектура системы
* Общая концепция пайплайна
* Получение и нормализация видеопотока
* Конвейер обработки кадров и формирование признаков
* Передача признаков и ML-инференс
* Хранение временных рядов и расчет метрик
* Визуализация данных и пользовательский интерфейс
4) Задача компьютерного зрения
* Задача и требования к моделям компьютерного зрения
* Сбор и разметка обучающего датасета
* Сравнительный анализ моделей инстанс-сегментации
* Сравнительный анализ моделей локализации ключевых точек
* Адаптация моделей к реал-тайм-инференсу
* Многообъектный трекинг и выбор алгоритма
5) Задача машинного обучения
* Постановка задачи и требования к ML-модели
* Сбор и подготовка обучающего датасета
* Формирование признакового пространства
* Методика валидации и метрики качества
6) Улучшение системы контроля качества
* Калибровка камеры
* Устойчивость системы к внешнему воздействию
7) Финальные результаты


8) Внедрение системы на сортировочную линию производства
1) Постановка задачи и границы применимости генеративных моделей
*Бизнес-процесс: произвольный запрос на входе, формализованный сбытовой заказ на выходе
*Гетерогенность потока: письмо, табличные вложения, PDF, сканы и фотографии
*Почему справочник номенклатуры не помещается в контекст модели
*Стоимость и задержка при обработке
*Языковая модель (LLM) — компонент конвейера, а не решение целиком


9) Итоги
2) Архитектура конвейера обработки
*Общая схема потока и границы ответственности сервисов
*Извлечение сущностей: разбор таблиц, конвертация PDF в растр, распознавание изображений
*Структурирование текста генеративной моделью и валидация её ответа
*Идентификация клиента: лексический и векторный поиск, взвешенный коэффициент Жаккара по реквизитам
*Сопоставление позиций: отбор кандидатов, переранжирование, принятие решения
*Количественная верификация: пересчёт единиц и контроль аномалий
*Офлайн-контур справочников и поисковых индексов
 
3) Комбинированные методы сопоставления
*Почему ни один метод в одиночку не даёт нужного покрытия
*Нормализация, единый токенизатор, доменный лексикон
*Лексическая ветвь: разреженные векторы
*Семантическая ветвь: bi-encoder и косинусная мера
*Слияние ветвей: ранговое и нормализованное объединение скоров
*Cross-encoder: почему более выразительная модель в одиночку ухудшила точность
*Бизнес-признаки и градиентный бустинг поверх текстовых сигналов
*Модель-арбитр: выбор из ранжированного списка, стратегии с порогом уверенности
*Эталонные данные
 
4) Организация локального вывода модели
*Triton для энкодерных моделей, vLLM для генеративной
*Настройка Triton
*Настройка vLLM
*Локальный и облачный вывод
*Векторная СУБД: фильтрация по ассортименту, переиндексация без простоя
 
5) Опыт промышленной эксплуатации
*Проблема эталона: почему успешные заказы нельзя брать за истину
*Разметка по комментариям экспертов
*Типовые ошибки
*Коррекция: доменные словари и эвристические фильтры
*Коррекция: дообучение энкодеров и ранкера на собранных негативах
 
6) Итоги


=== Спикеры ===  
=== Спикеры ===  
'''Кадиев Малик''', ведущий разработчик "Ист-Вест Технолоджис". Направление: классические методы ML, компьютерное зрение (CV).  
*'''<big>Епишков Владислав</big>''', ведущий специалист "Ист-Вест Технолоджис". Направление: классические методы ML, анализ естественного языка (NLP). Образование: НИУ МЭИ (Ядерная энергетика и теплофизика), НИУ МФТИ (Прикладная математика и информатика
Образование: НИУ МЭИ (Ядерная энергетика и теплофизика), НИЯУ МИФИ (Инженерное и компьютерное моделирование в атомной отрасли), НИУ ВШЭ (Искусственный интеллект)


'''Агдавлетова Айслу''', бэкенд разработчик: проектирование и разработка бэкенд-сервисов, разработка и поддержка инфраструктуры, интеграция ml-моделей в продуктовые решения
*<big>'''Епишков Иван'''</big>, Разработчик "Ист-Вест Технолоджис". Направление: развёртывание и поддержка ИИ инфраструктуры в компании и оптимизация инференса локальных моделей. Ассистент, каф.42 ГУАП, менторство студентов, преподавание ИТ дисциплин


=== Дата и время ===   
=== Дата и время ===   
12 октября (пн) в 20:00
16 ноября (пн) в 20:00


=== Формат ===  
=== Формат ===  
Онлайн-лекция (платформа Толк)
Онлайн-лекция (платформа Толк)
*https://atp-fivt.ktalk.ru/anrg59p5emke Ссылка на конференцию]
*https://atp-fivt.ktalk.ru/kwfpl3l0tc7b Ссылка на конференцию]

Версия от 09:26, 17 октября 2026

План выступления

1) Постановка задачи и границы применимости генеративных моделей

  • Бизнес-процесс: произвольный запрос на входе, формализованный сбытовой заказ на выходе
  • Гетерогенность потока: письмо, табличные вложения, PDF, сканы и фотографии
  • Почему справочник номенклатуры не помещается в контекст модели
  • Стоимость и задержка при обработке
  • Языковая модель (LLM) — компонент конвейера, а не решение целиком

2) Архитектура конвейера обработки

  • Общая схема потока и границы ответственности сервисов
  • Извлечение сущностей: разбор таблиц, конвертация PDF в растр, распознавание изображений
  • Структурирование текста генеративной моделью и валидация её ответа
  • Идентификация клиента: лексический и векторный поиск, взвешенный коэффициент Жаккара по реквизитам
  • Сопоставление позиций: отбор кандидатов, переранжирование, принятие решения
  • Количественная верификация: пересчёт единиц и контроль аномалий
  • Офлайн-контур справочников и поисковых индексов

3) Комбинированные методы сопоставления

  • Почему ни один метод в одиночку не даёт нужного покрытия
  • Нормализация, единый токенизатор, доменный лексикон
  • Лексическая ветвь: разреженные векторы
  • Семантическая ветвь: bi-encoder и косинусная мера
  • Слияние ветвей: ранговое и нормализованное объединение скоров
  • Cross-encoder: почему более выразительная модель в одиночку ухудшила точность
  • Бизнес-признаки и градиентный бустинг поверх текстовых сигналов
  • Модель-арбитр: выбор из ранжированного списка, стратегии с порогом уверенности
  • Эталонные данные

4) Организация локального вывода модели

  • Triton для энкодерных моделей, vLLM для генеративной
  • Настройка Triton
  • Настройка vLLM
  • Локальный и облачный вывод
  • Векторная СУБД: фильтрация по ассортименту, переиндексация без простоя

5) Опыт промышленной эксплуатации

  • Проблема эталона: почему успешные заказы нельзя брать за истину
  • Разметка по комментариям экспертов
  • Типовые ошибки
  • Коррекция: доменные словари и эвристические фильтры
  • Коррекция: дообучение энкодеров и ранкера на собранных негативах

6) Итоги

Спикеры

  • Епишков Владислав, ведущий специалист "Ист-Вест Технолоджис". Направление: классические методы ML, анализ естественного языка (NLP). Образование: НИУ МЭИ (Ядерная энергетика и теплофизика), НИУ МФТИ (Прикладная математика и информатика
  • Епишков Иван, Разработчик "Ист-Вест Технолоджис". Направление: развёртывание и поддержка ИИ инфраструктуры в компании и оптимизация инференса локальных моделей. Ассистент, каф.42 ГУАП, менторство студентов, преподавание ИТ дисциплин

Дата и время

16 ноября (пн) в 20:00

Формат

Онлайн-лекция (платформа Толк)