Проблема обнаружилась после анализа как минимум 20 запросов, в которых система не смогла отличить творчество авторов SCP от документальной хроники. В одном из случаев нейросеть процитировала объект SCP-426, известный как «тостер, который заставляет говорить о себе от первого лица», полностью скопировав стилистику вымышленного отчета без пояснений. Аналогичные сбои зафиксированы при обработке данных об объектах SCP-922 и SCP-779.
ИИ Google начал принимать вымышленных монстров SCP за реальность
Поисковая нейросеть Google AI Overviews приняла фанатские отчеты интернет-вселенной SCP Foundation за достоверные научные данные. Алгоритм, созданный для кратких выжимок, начал выдавать описания вымышленных аномалий и паранормальных объектов за реальные факты, вводя пользователей в заблуждение своим уверенным тоном и отсутствием пометок о художественном характере контента.
Хотя в некоторых случаях ИИ начал помечать контент как «вымышленную аномалию», нестабильность алгоритма вызывает серьезные вопросы. Поскольку AI Overviews занимают привилегированное место в поисковой выдаче Google, неподготовленные пользователи, включая детей, рискуют принять псевдонаучный фольклор за описание реальных событий. Это лишь один из примеров системной уязвимости генеративных моделей, которые ранее уже попадались на искажении исторических фактов и выдаче опасных рекомендаций.
Комментарии (0)
Пока нет комментариев. Будьте первым!