Реорганизация не означает отказ от контроля: компания сохраняет Preparedness Framework в качестве базового документа для оценки безопасности. Тем не менее, ликвидация узкоспециализированной команды меняет подход к внутренней экспертизе. Если раньше эксперты Preparedness фокусировались исключительно на экстремальных сценариях, то теперь эти функции интегрированы в общие процессы разработки.
OpenAI упразднила профильную команду по оценке рисков ИИ
В конце июля OpenAI распустила подразделение Preparedness, которое отвечало за выявление критических угроз в работе новейших нейросетей. Анализ сценариев, связанных с кибератаками, биологическими опасностями и потерей контроля над автономными системами, теперь передан другим внутренним группам разработчиков, что знаменует переход от централизованного надзора к распределенной ответственности внутри компании.
Параллельно в компании продолжает действовать Frontier Governance Framework. Эта система управления рисками охватывает широкий спектр угроз, включая химическое, биологическое, радиологическое и ядерное воздействие, а также манипулятивные стратегии ИИ. Руководство OpenAI аргументирует перемены тем, что безопасность модели сегодня зависит не только от первичного тестирования, но и от многоуровневой защиты — сетевых ограничений, изоляции среды выполнения и постоянного мониторинга за поведением ИИ-агентов в реальном времени.
Комментарии (0)
Пока нет комментариев. Будьте первым!