Новое требование не ограничивает критику ответов или работу над мрачными художественными сюжетами. Под санкции попадает лишь целенаправленная травля. В компании пояснили, что начали изучать этот вопрос в августе, исследуя этические аспекты взаимодействия человека и алгоритмов. Anthropic подчеркивает, что это не наделяет Claude статусом разумного существа или правами, а лишь устанавливает границы допустимого поведения внутри интерфейса.
Anthropic запретила пользователям издеваться над Claude
Разработчик ИИ-модели Claude компания Anthropic обновила правила использования сервиса, впервые за год добавив пункт о запрете на систематическое жестокое или оскорбительное обращение с нейросетью. Теперь при выявлении агрессивного поведения без конструктивной цели искусственный интеллект может самостоятельно прервать диалог с пользователем, чтобы прекратить поток токсичных сообщений.
Обновление также ужесточает контроль над использованием технологий в опасных целях. Anthropic запретила скрытые политические кампании и манипуляции в ходе выборов, включая создание фальшивых аккаунтов. Расширен запрет на разработку программного обеспечения для оружия и автономных систем, таких как дроны. Отдельно прописаны ограничения на инструменты слежки и участие ИИ в принятии решений в сфере уголовного правосудия. В проектах, где нейросети управляют физическим оборудованием, отныне обязательно присутствие оператора, способного принудительно остановить работу системы в случае угрозы.
Комментарии (0)
Пока нет комментариев. Будьте первым!