Команда под руководством Суббарао Камбхампати пришла к выводу, что современные архитектуры трансформеров используют промежуточные токены исключительно как инструмент повышения вероятности правильного ответа. В ходе экспериментов с навигацией в лабиринтах модели сохраняли высокую точность даже при замене логических цепочек на бессмысленные наборы данных. Производительность страдала только при нарушении статистических шаблонов текста, что подтверждает: нейросети ориентируются на форму, а не на содержание.
Иллюзия логики: почему нейросети не умеют рассуждать
Исследователи из Университета штата Аризона доказали, что «цепочки рассуждений» в моделях вроде OpenAI o1 или DeepSeek R1 — лишь статистическая имитация, а не реальный мыслительный процесс. Ученые призывают индустрию перестать выдавать генерацию текста за когнитивную деятельность, чтобы избежать опасного доверия к алгоритмам в критических сферах.
Феномен «озарения» и длинные пояснения в простых задачах оказались артефактами обучающей выборки, а не признаком вычислительных усилий. Авторы работы предупреждают, что такая «театральность» ИИ формирует ложное доверие у пользователей. В медицине или инженерии, где проверка каждого шага системы затруднена, эта иллюзия интеллекта становится серьезным риском. Вместо развития антропоморфных диалогов разработчикам стоит сосредоточиться на архитектурах, где внешние алгоритмы верификации обеспечивают математически строгий контроль за результатами.
Комментарии (0)
Пока нет комментариев. Будьте первым!