Галлюцинации искусственного интеллекта
Галлюцинация – это когда искусственный интеллект придумывает заведомо ложный ответ, не имеющий отношения к реальности.
Алмаз героя
Здесь я спросил ГигаЧат про алмаз героя – методику создания персонажей для художественной литературы. ГигаЧат же стал утверждать, что алмаз героя – это награда времен СССР.
Цитата Пелевина
Здесь пример, где я попросил ГигаЧат продолжить известную цитату из романа Пелевина.
В обоих примерах ИИ дал неправильный ответ вместо того, чтобы сказать "не знаю" или "знаю, но не скажу." Для последнего нужен гонор, а такового у ИИ пока нет.
Галлюцинации на 290 тысяч долларов
Консалтинговая компания Deloitte использовала ИИ при составлении отчета и без проверки отправила их заказчику (правительству недружественной страны). В отчете было много заведомо неправильной информации. Когда заказчик это выявил, подал в суд на Deloitte.
Google Gemini
Ранние версии большой языковой модели Google Gemini рекомендовали есть камни, а беременным женщинам – курить по 2-3 сигареты в день.
Предупреждения
- Гражданам и гражданкам Российской Федерации и дружественных государств камни (а также кирпичи, бетон и лампочки) есть нельзя.
- Во время беременности нельзя ни курить, ни употреблять алкоголь.
Материалы про галлюцинации
См. также психоз из-за ИИ. О других рисках информационных технологий можно прочитать здесь.