Искусственный интеллект провалил поиск внеземной жизни

Для проверки надежности систем ИИ специалисты использовали платформу Avida, моделирующую цифровую эволюцию. Нейросеть тренировали на десятках тысяч виртуальных организмов, обучая различать наличие или отсутствие способности к самокопированию. На знакомых массивах данных алгоритм демонстрировал безупречную точность, однако стоило ученым внести в код всего 150 минимальных правок, как модель начинала выдавать ложные результаты с пугающей уверенностью.

По словам соавтора исследования Кристофа Адами, у искусственного интеллекта обнаружилась ахиллесова пята: способность видеть закономерности там, где их нет, и ошибочно их интерпретировать. Анкит Гупта подтвердил, что модель поддавалась на манипуляции независимо от типа внесенных изменений. Проблема кроется в неспособности нейросети адекватно реагировать на данные, выходящие за рамки обучающей выборки. Эти выводы ставят под вопрос использование ИИ как автономного инструмента в космических миссиях, медицинской диагностике или системах распознавания лиц, где цена ошибки слишком высока. Ученые настаивают, что человек должен оставаться финальным звеном в цепочке принятия решений, а выводы алгоритмов — подвергаться обязательной независимой проверке.