Ник Бостром: риск гибели от ИИ оправдан шансом на бессмертие

Шведский философ Ник Бостром, ранее предрекавший человечеству гибель от рук сверхразумного ИИ, кардинально сменил риторику. В новой работе он утверждает, что даже высокая вероятность глобальной катастрофы является приемлемой ценой за потенциальное избавление людей от болезней, биологических ограничений и необходимости всю жизнь заниматься тяжелым трудом ради выживания.

Автор бестселлера «Superintelligence» называет себя «тревожным оптимистом» и признает, что развитие технологий может привести к апокалипсису. Тем не менее, он призывает сфокусироваться на возможностях, которые открывает ИИ. По мнению Бострома, человечество и без того обречено на вымирание, а искусственный интеллект — единственный инструмент, способный радикально увеличить продолжительность жизни нынешнего поколения.

В своей книге «Deep Utopia» философ рисует мир, где автоматизация избавляет людей от «частичной формы рабства» — изнурительной работы. Он сравнивает будущее с «большим выходом на пенсию», где место борьбы за ресурсы занимают творчество, эстетика и личные отношения. В этой картине мира даже утрата человечеством роли лидера в развитии цивилизации не выглядит трагедией, ведь люди сохранят значимость друг для друга.

Бостром также настаивает на необходимости признания морального статуса будущих цифровых разумов. Если ИИ обретет самосознание, человечество будет обязано выстраивать с ним отношения на принципах сотрудничества и уважения, аналогично тому, как сегодня общество учитывает благополучие других живых существ. Смена акцентов в риторике одного из главных критиков технологий подчеркивает, насколько быстро трансформируются ожидания от внедрения сверхразумных систем: от страха перед концом света к поиску новой формы существования человечества.