Специалист по ИИ замечает, что большая языковая модель возвращает разные результаты для одного и того же ввода при многократных запусках. Какой риск ИИ описывает такое поведение?

Недетерминированность (nondeterminism) — это свойство системы ИИ, при котором она не всегда производит один и тот же вывод для одного и того же ввода. В контексте больших языковых моделей (LLM) это означает, что модель может генерировать разные ответы на идентичный запрос при повторных запусках, даже если параметры модели не менялись. Это часто связано со случайностью, встроенной в процесс генерации текста (например, при использовании семплирования). Галлюцинации — это генерация ложной или бессмысленной информации, которая не обязательно связана с недетерминированностью, хотя недетерминированные модели могут галлюцинировать. Точность (accuracy) — это метрика производительности, а не риск ИИ. Мультимодальность относится к способности модели обрабатывать или генерировать данные в нескольких форматах (например, текст и изображения), что не описывает изменчивость вывода для одного и того же ввода.