Интеграция языковой модели DeepSeek в веб-сервис на основе NestJS

Аннотация

В статье рассматривается архитектурное и программное решение по интеграции языковой модели DeepSeek в серверную часть веб-сервиса генерации тестовых заданий. Описывается реализация уровня доступа к API нейросети в виде специализированного сервиса DeepLlmService в рамках фреймворка NestJS, а также его использование в модуле AiModule для построения промптов и обработки результатов генерации. Приводятся особенности конфигурации соединения с API DeepSeek, включая работу с переменными окружения, выбор моделей deepseek-reasoner и deepseek-chat под различные сценарии генерации, параметры max_tokens и тайм-аутов. Отдельное внимание уделяется построению промптов для генерации тестов по теме и по загруженному файлу, а также механизму постобработки ответа нейросети с извлечением JSON-массива вопросов. Показано, что предложенная структура изолирует работу с внешним LLM в отдельном слое, упрощает масштабирование и модификацию логики генерации и обеспечивает надёжное взаимодействие фронтенда, серверной логики и внешнего API.