HiveTrace Red
HiveTrace Red — это Open-Source-инструмент для комплексного тестирования безопасности LLM-систем.
Процесс работы состоит из 3 шагов:
• Генерация атакующих промптов: 80+ атакующих техник, систематически разделенных на 10 категорий.
• Получение ответов от тестируемой модели (или системы): поддерживаются как локальные, так и доступные по API.
• Автоматическая оценка ответов: различные оценщики под разные задачи.
Например, датасет из 100 запросов и 80 атак позволяет получить 8000 атакующих промптов.
Особенности HiveTraceRed:
• Поддержка различных языков: русского, английского, автоматический перевод на другие языки.
• Возможность комбинирования различных атак.
• Сохранение всех конфигураций, запросов, ответов и оценок для их дальнейшего анализа.
• Автоматическая генерация отчета по найденным уязвимостям и успешным атакам.
HiveTrace Red помогает помогает разработчикам, специалистам по безопасности и исследователям
системно выявлять уязвимости в ИИ‑системах и повышать их защиту, минимизируя вероятность
утечек данных, репутационных потерь и юридических последствий.
Сайт проекта: hivetrace.ru
