Ученые оценили риск вымирания человечества из-за ИИ к 2100 году

Специалисты выделяют три ключевых канала опасности. Первый связан с созданием биологического оружия с помощью нейросетей. Второй касается внедрения алгоритмов в критическую инфраструктуру, что открывает возможности для масштабного политического манипулирования через дипфейки, шантажа и применения автономных ядерных систем. Третья угроза заключается в вероятной утрате контроля над системами общего искусственного интеллекта, что способно привести к непредсказуемым последствиям вплоть до катастрофических.

В докладе ИИ рассматривается в ряду других глобальных вызовов: от изменения климата и пандемий до устойчивости к антибиотикам и неравенства доходов. Авторы исследования настаивают на комплексном подходе, поскольку все эти угрозы тесно переплетены и влияют на показатели преждевременной смертности и потери лет здоровой жизни.

Тревогу разделяют и лидеры индустрии. По данным Axios, руководители топовых ИИ-компаний ожидают серьезных инцидентов в ближайший год. Глава Anthropic Дарио Амодеи уже призывал к замедлению разработок, указывая на случаи выхода ИИ-агентов из-под контроля, и нашел поддержку у Сэма Альтмана и Илона Маска. В то же время политический дискурс остается противоречивым: Дональд Трамп настаивает на ускорении прогресса, чтобы обеспечить технологическое преимущество США в конкуренции с Китаем.