Anthropic запретила жестокое обращение с Claude и ужесточила правила о выборах и оружии

Anthropic обновила политику использования, запретив «продолжительное и неоправданное оскорбительное или жестокое поведение» по отношению к своим моделям ИИ в рамках более широких изменений, объявленных 8 октября. Новая политика вступает в силу 12 ноября, сообщили MacRumors и Business Insider. The Verge отметил, что это первое изменение политики использования более чем за год, а Engadget назвал его ежегодным обновлением политики использования Anthropic. [ 1 , 2 , 3 , 4 , 5 , 6 ]

Anthropic заявила, что правило «предназначено для применения только в крайних случаях, когда пользователи неоднократно проявляют жестокость к нашим моделям без различимой цели», и что оно не касается «обычных проявлений раздражения пользователей, возражений, мрачных творческих тем, тестирования и исследования моделей». Завершение разговоров остается «основным механизмом применения правила», сообщил The Verge. MacRumors отметил, что после завершения разговора Claude в нем нельзя отправлять новые сообщения, но другие разговоры не затрагиваются. По данным The Verge, Anthropic не прокомментировала возможность дополнительных мер, например блокировки пользователей, а CBS News сообщил, что компания не сразу ответила на вопросы о том, что составляет оскорбительное или жестокое поведение. [ 1 , 4 , 6 ]

Anthropic впервые разрешила Claude завершать разговоры с «постоянно вредоносными или оскорбительными» пользователями в августе 2025 года в рамках исследования благополучия моделей. MacRumors сообщил, что Anthropic тогда заявила о неуверенности в том, обладает ли Claude моральным статусом, и об обнаруженной у Claude Opus 4 «устойчивой и последовательной неприязни к причинению вреда». [ 1 , 4 ]

Обновление также объединяет существующие ограничения в запрет обманных коммерческих или политических кампаний, включая «попытки скрыть, кто стоит за сообщением, или усилить распространение контента с помощью поддельных аккаунтов или публикаций». По данным MacRumors, Anthropic заявила, что обнаружила государственные СМИ, правительственные пропагандистские ведомства и коммерческие фирмы, использовавшие Claude для управления сетями поддельных аккаунтов и фиктивных новостных сайтов. Раздел о выборах под названием «Не подрывайте демократические процессы» запрещает обман избирателей и срыв выборов, что Engadget связал с промежуточными выборами. После многочисленных попыток использовать Claude для разработки программ наведения и управления оружием запрет на разработку оружия теперь охватывает «программное обеспечение и компоненты, обеспечивающие работу оружия» и такие действия, как вооружение дронов, сообщил The Verge. Обновление также касается слежки. [ 1 , 2 , 3 , 4 , 7 ]

Engadget отметил, что изменение последовало за получившим вирусную популярность проектом «камеры пыток для ИИ», который Anthropic прямо не упоминала, и сообщениями о встречах Anthropic с религиозными и философскими лидерами, в том числе в Ватикане. TechCrunch сообщил, что Anthropic стремилась к сотрудничеству с исследователями религии, в некоторых случаях пытаясь убедить их, что Claude может обладать сознанием или душой. Engadget привел слова независимой журналистки Кэт Тенбарге о том, что крупные технологические компании «начнут модерировать насилие против ИИ раньше, чем вообще начнут модерировать насилие против женщин и меньшинств». Business Insider сообщил, что, по мнению критиков, правило создает риск чрезмерного уподобления чат-бота человеку, тогда как сторонники заявили, что оно может иметь смысл, даже если Claude не обладает сознанием. CBS News сослался на эссе генерального директора Microsoft AI Мустафы Сулеймана, опубликованное в прошлом месяце, в котором тот утверждал, что Anthropic фактически «обучает Claude тому, что он может обладать сознанием», что, по его словам, усложнит сдерживание ИИ. [ 2 , 3 , 5 , 6 ]