Искусственный интеллект Google снова привлек к себе внимание из-за распространения недостоверной информации. Пользователи обнаружили, что модель Gemini уверенно рассказывает о выдуманных боссах, локациях и игровых механиках новой игры The Duskbloods от FromSoftware, которая еще даже не вышла.
Всё началось с популярных на Reddit так называемых «Duskposts» — шутливых публикаций от игроков, которые якобы уже прошли игру. Gemini воспринимает такие сообщения как истинные и начинает выдавать несуществующие факты за реальность. Среди придуманных персонажей оказались такие как Bugout Billy, John Duskblood, Blood Mistress Elizabeth и Lycan Vrykolakas.
Проблема кроется в том, что Google активно использует данные Reddit для обучения своих моделей. Однако алгоритм не всегда способен отличить сатирические посты от достоверной информации, что приводит к «галлюцинациям», особенно в отношении проектов, окруженных множеством шуток со стороны фанатов.
Данная ситуация вновь подчеркивает, что ответы ИИ не стоит считать безошибочными. В случае с The Duskbloods достаточно было просто проверить, что игра ещё не вышла, чтобы понять — описанные боссы и механики существуют лишь в воображении пользователей Reddit и самого Gemini.