Проблемы с восприятием художественного вымысла алгоритмами Google

Функция AI Overviews, отвечающая за генерацию кратких сводок в поисковой выдаче Google, столкнулась с серьезными недоработками. Как сообщает ресурс Futurism, алгоритмы начали принимать контент из популярного интернет-проекта SCP Foundation за достоверную научную информацию. Проблема заключается в том, что ИИ не всегда распознает творческий характер публикаций, подавая их пользователям как реально существующие феномены.


Специфика проекта SCP и ошибки ИИ

Вселенная SCP Foundation представляет собой обширную базу данных коллективного творчества, где в стиле строгих протоколов описываются вымышленные паранормальные явления. Хотя проект изначально задумывался как художественный вымысел, поисковые алгоритмы Google при формировании ответов зачастую игнорируют этот контекст.

Было зафиксировано более двух десятков случаев, когда система представляла объекты из базы SCP как настоящие научные или биологические аномалии. В качестве примера приводится случай с «объектом SCP-426» — вымышленным тостером. ИИ не просто описал его, но и начал имитировать специфический стиль изложения «от первого лица», принятый в данном сообществе, не сделав оговорки о том, что это литературный прием.


Риски и реакция системы

Использование ИИ-сводок для подобных ответов создает угрозу дезинформации, особенно для аудитории, не знакомой с проектом SCP. Основные риски заключаются в следующем:

  • Отсутствие явного уведомления о художественном характере контента в выдаче.
  • Доминирующее положение AI Overviews в верхней части поиска, что придает ответам авторитетный статус.
  • Уверенный тон генеративных систем, который заставляет пользователей верить в правдоподобные, но ошибочные факты.

На текущий момент наблюдаются попытки частичной корректировки алгоритмов: в некоторых запросах система начала помечать объекты как «вымышленные аномалии». Тем не менее, эксперты отмечают, что подобные сбои в работе ИИ, включая искажение исторических данных или выдачу опасных рекомендаций, остаются актуальной проблемой для поисковых гигантов, стремящихся внедрить генеративные модели в повседневные инструменты.