Новая модель доступа, получившая название embedded evaluation, наделяет привлеченных специалистов правами штатных сотрудников. Они смогут в режиме реального времени отслеживать циклы развертывания нейросетей, проверять соответствие протоколам безопасности и выявлять уязвимости, которые обычно скрыты от внешних наблюдателей. По сути, это первая попытка Anthropic выполнить публичное обещание допустить сторонних экспертов в святая святых своей лаборатории.
Anthropic и Accenture инвестируют в контроль безопасности ИИ
Две компании направят по миллиарду долларов в течение пяти лет на создание команды внутренних оценщиков искусственного интеллекта. Этот проект знаменует собой радикальную смену курса для ИИ-лабораторий, которые до сих пор предпочитали ограничиваться закрытыми процессами разработки и формальным внешним аудитом, оставляющим множество слепых зон в архитектуре моделей.
Аналитики и эксперты по надзору за ИИ уже обозначили ключевые критерии успеха этой инициативы. В ближайшем будущем внимание будет приковано к трем аспектам: границам допустимого доступа, прозрачности публичных отчетов и тому, насколько оперативно рекомендации аудиторов трансформируются в реальные изменения в коде и механизмах киберзащиты.
Комментарии (0)
Пока нет комментариев. Будьте первым!