Open-Source-трибуна на HighLoad++

Spring AI GigaChat

Spring AI GigaChat

Spring AI GigaChat — библиотека для интеграции с LLM GigaChat с помощью фреймворка Spring AI на Java/Kotlin. Spring AI — один из самых популярных Open-Source-фреймворков на Java для интеграции AI в ваши сервисы и построения AI-агентов. Spring AI GigaChat поддерживает всё, что доступно в Spring AI (и не только!): • Вызов Chat-модели, в том числе блокирующий вызов, когда ответ от LLM приходит полностью, а также потоковая генерация токенов через Server Sent Events (SSE). • Вызов внешних функций, в том числе через Model Context Protocol (MCP). • Хранение истории чата in-memory или во внешнем хранилище. • Работа с файлами и изображениями — можно спросить, что изображено на фотографии. • Вызов Embedding модели — может использоваться для построения RAG-системы. • Наблюдаемость (метрики, трейсы, логи). И в лучших традициях Spring Boot, библиотеку легко интегрировать в ваше приложение — подключаете зависимость на Spring Boot Starter, добавляете Ваш api-key для GigaChat в файл конфигурации, 10 строк кода — готово!
Ссылка на проект