OpenAI и Anthropic призвали Белый дом блокировать опасные нейросети

Дарио Амодеи, возглавляющий Anthropic, заявил, что американское правительство нуждается в механизмах принудительного запрета на выпуск моделей, несущих угрозу обществу или национальной безопасности. Предлагаемая схема предполагает обязательное независимое тестирование нейросетей перед их запуском. Особый акцент делается на привлечении экспертов-биологов для проверки способности ИИ помогать в синтезе токсинов или поиске опасных производственных путей.

Компании предлагают внедрить многоуровневую систему доступа: чем выше риски, связанные с моделью, тем строже должна быть проверка пользователей. Разработчики призывают лицензировать любую деятельность, связанную с ИИ двойного назначения, чтобы исключить доступ злоумышленников к знаниям, которые ранее требовали государственного уровня инфраструктуры. При этом авторы инициативы признают необходимость баланса, чтобы жесткие ограничения не затормозили легитимные исследования в медицине и науке.

Инициатива стала ответом на стремительное развитие технологий, включая недавний релиз модели Fable 5 от Anthropic. Параллельно администрация Дональда Трампа уже начала движение в этом направлении, подписав указ о проверке новых ИИ-систем на предмет угроз безопасности. В течение месяца профильные ведомства должны оценить риски и проработать структуру специального органа, который возьмет на себя контроль за кибербезопасностью в сфере искусственного интеллекта.