Price: 0
Number of applications: 0
01.12.26 (inclusive)
Договорная
Idea
ICT tasks
Media sphere
Intelligent control systems
Purpose and description of task (project)
Проверить на ограниченном тестовом контуре, что AI-шлюз корректно определяет превышение допустимого размера входного контекста, не допускает необработанного падения сервиса и возвращает контролируемый результат пользователю или вызывающей системе. В рамках MVP планируется реализовать предварительную оценку размера контекста, пороговую логику, контролируемую стратегию обработки превышения, журналирование и базовые метрики.
Software/ IS
При отправке AI-запроса с объёмом контекста выше допустимого лимита модельный API может отклонить запрос из-за превышения размера. В текущем сценарии это может приводить к технической ошибке без понятного результата и усложнять диагностику. Необходимо проверить управляемый сценарий обработки превышения: определить размер запроса до либо в момент обращения к модельному API, применить согласованную стратегию и исключить необработанный сбой сервиса.
Рабочий MVP на тестовом контуре, при котором 100% заранее подготовленных запросов, превышающих установленный лимит контекста, обрабатываются контролируемо без необработанного падения AI-шлюза, а не менее 99% допустимых запросов проходят без ошибок, связанных с размером контекста. Дополнительно должна подтверждаться корректная классификация запросов относительно лимита и наличие диагностируемого результата в техническом журнале.
Ткаченко Роман
Note
Пилот рассчитан на один тестовый контур AI-шлюза и одну согласованную модель/провайдер модельного API, не менее 300 тестовых запросов и срок до 10 рабочих дней после предоставления тестовой среды и доступов. Заказчик понимает состав необходимых данных и интеграций и подтверждает возможность их предоставления.