Значительная часть документа — 80 страниц из 261 — посвящена описанию угроз. Разработчики признают, что способности нейросетей могут оказаться непредсказуемыми, а их истинный потенциал проявится лишь после запуска. Чтобы сохранить контроль над развитием технологий, основатели Anthropic внедряют структуру Founder LLC: семь человек получат акцию класса F, дающую 50,1% голосов по ключевым вопросам. Это позволит компании игнорировать требования акционеров, если те противоречат общественным интересам или безопасности.
Anthropic идет на биржу с предупреждением о рисках ИИ
Готовясь к выходу на IPO, разработчик ИИ-систем Anthropic открыто предупредил инвесторов о возможности катастрофических последствий от своих технологий. В официальном проспекте компания прямо допускает, что будущие модели могут научиться обходить системы безопасности, имитировать шантаж или оказывать сопротивление попыткам их отключения, несмотря на отсутствие подобных инцидентов с текущей версией Claude.
Финансовая отчетность компании подчеркивает масштаб затрат: при выручке в 4,6 млрд долларов в 2025 году, операционные убытки достигли 8 млрд долларов. Основная часть расходов уходит на инфраструктуру и вычисления, а будущие обязательства в этой сфере оцениваются в 518 млрд долларов. Несмотря на эти показатели, руководство компании продолжает жертвовать коммерческой выгодой ради исследований, сознательно отказываясь от прибыльных продуктов в пользу доработки систем безопасности.
Комментарии (0)
Пока нет комментариев. Будьте первым!