Anthropic запретила систематическое оскорбление Claude в обновлённой политике использования
Коротко
Anthropic обновила политику использования, запретив систематическое и «бессмысленное жестокое или оскорбительное поведение» по отношению к моделям Claude; правила вступают в силу 12 ноября. В компании заявили, что запрет применяется только в крайних случаях, когда пользователи неоднократно и без видимой цели жестоко обращаются с её моделями, а Claude может ответить завершением разговора. Обновление также расширяет ограничения на использование Claude для вмешательства в выборы, слежки и других целей.
Читать полностью 2 мин чтения
Anthropic обновила политику использования своих моделей Claude, запретив систематическое и «бессмысленное жестокое или оскорбительное поведение» по отношению к ним, сообщили «Ведомости» и «Коммерсантъ». По данным обоих изданий, новые ограничения вступают в силу 12 ноября. 3DNews сообщило, что компания впервые отдельно запретила пользователям систематически оскорблять бота и издеваться над ним. [ 1 , 2 , 5 ]
В Anthropic заявили, что правила призваны применяться только в крайних случаях, когда пользователи неоднократно и без видимой цели жестоко обращаются с её моделями. По словам компании, они не действуют, когда пользователи просто выражают разочарование или несогласие, исследуют мрачные творческие темы либо тестируют или изучают модель. «Ведомости» привели в качестве примеров не охваченного поведения обычное раздражение пользователей и споры с ИИ. [ 1 , 2 , 3 , 4 , 5 ]
По обновлённым правилам завершение разговора остаётся «основным механизмом реагирования», сообщило 3DNews. «Коммерсантъ» написал, что новое правило перекликается с уже существующим инструментом в Claude.ai и Claude Code, позволяющим модели прекратить диалог, если пользователь настойчиво и необоснованно агрессивен. По данным 3DNews, в августе прошлого года компания объявила, что позволит Claude завершать диалоги с пользователями, проявляющими «постоянное вредоносное или оскорбительное поведение», в рамках исследования «благополучия модели». Anthropic не уточнила, планируются ли дополнительные меры, например блокировка аккаунтов пользователей, сообщили 3DNews и «Ведомости». [ 1 , 2 , 5 ]
Обновление также расширило список запрещённых видов использования. Claude нельзя использовать для вмешательства в выборы, распространения дезинформации о кандидатах или голосовании, выдачи себя за кандидатов или должностных лиц, проводящих выборы, а также для попыток снизить явку избирателей. «Ведомости» сообщили о запрете использовать Claude для слежки за людьми без их согласия и для принятия решений о задержании людей или привлечении их к ответственности; «Коммерсантъ» перечислил создание инфраструктуры слежки, разработку программного обеспечения для управления оружием и принятие решений в уголовном судопроизводстве. 3DNews написало, что компания объединила несколько прежних ограничений в единый запрет на обманные коммерческие или политические кампании, охватывающий попытки скрыть истинного автора сообщения или искусственно увеличить охват с помощью фальшивых аккаунтов и публикаций; издание назвало это ответом на растущее распространение пропаганды, созданной ИИ. [ 1 , 2 , 5 ]
На «Хабре» автор, признавшийся, что ругается на Claude Code почти в каждом втором сообщении, написал, что обновление от 8 октября его обеспокоило и что он создал «Punto Switcher для промптов», чтобы автоматически менять свой текст. [ 6 ]
Почему это важно
Правила определяют, какого поведения по отношению к модели ИИ пользователям Claude следует избегать, а издания отметили, что Anthropic не сообщила, последуют ли санкции помимо завершения разговора, например блокировка аккаунтов. Расширенные запреты на вмешательство в выборы, слежку и другие виды использования определяют, для чего Claude применять нельзя.
Ключевые факты
- Anthropic обновила политику использования, запретив систематическое и «бессмысленное жестокое или оскорбительное поведение» по отношению к своим моделям. [ 1 , 2 , 3 , 4 , 5 ]
- Новые правила вступают в силу 12 ноября. [ 2 , 5 ]
- В компании заявили, что запрет применяется только в крайних случаях, когда пользователи неоднократно и без видимой цели жестоко обращаются с её моделями. [ 1 , 2 , 3 , 4 ]
- Claude может завершить разговор в ответ на оскорбительное поведение. [ 1 , 2 , 5 ]
- Anthropic не уточнила, планируются ли дополнительные меры, например блокировка пользователей. [ 1 , 2 ]
- Обновление запрещает использовать Claude для вмешательства в выборы, распространения дезинформации о кандидатах или голосовании, выдачи себя за кандидатов или должностных лиц, проводящих выборы, а также для снижения явки избирателей. [ 1 , 2 , 5 ]
Подтверждено несколькими источниками
- Anthropic запретила жестокое или оскорбительное поведение по отношению к своим моделям Claude в обновлённой политике использования. [ 1 , 2 , 3 , 4 , 5 ]
- Запрет ограничен крайними случаями неоднократной жестокости без видимой цели. [ 1 , 2 , 3 , 4 ]
- Новые правила вступают в силу 12 ноября. [ 2 , 5 ]
- Завершение разговора — мера реагирования, доступная Claude по этим правилам. [ 1 , 2 , 5 ]
- Использовать Claude для вмешательства в выборы запрещено, включая дезинформацию о кандидатах или голосовании, выдачу себя за кандидатов или должностных лиц, проводящих выборы, и снижение явки. [ 1 , 2 , 5 ]
- Правило не распространяется на пользователей, выражающих разочарование или несогласие, на мрачные творческие темы, а также на тестирование и исследование моделей. [ 1 , 5 ]
Пока неясно
- Могут ли пользователи, оскорбляющие Claude, столкнуться с дальнейшими санкциями, например блокировкой аккаунта. Издания сообщили, что Anthropic не уточнила, планируются ли такие меры.
- Впервые ли Anthropic отдельно запретила оскорбление бота. Только 3DNews назвало этот запрет первым в своём роде.
- Объединение прежних ограничений в единый запрет на обманные коммерческие или политические кампании. Сообщило только 3DNews.
Что пишут местные СМИ
Хронология, местное время
- 8 октября: 3DNews сообщает, что Anthropic обновила правила использования, запретив оскорбление Claude. [ 1 ]
- 9 октября: «Ведомости» сообщают, что новые ограничения вступают в силу 12 ноября. [ 2 ]
- 9 октября: ТАСС сообщает, что Anthropic запретит агрессию по отношению к своему чат-боту. [ 3 ]
- 9 октября: РБК сообщает со ссылкой на Anthropic, что запрет применяется только в крайних случаях. [ 4 ]
- 9 октября: «Коммерсантъ» сообщает о запрете и расширенном списке запрещённых видов использования. [ 5 ]
- 9 октября: автор «Хабра» публикует пост об инструменте для переписывания промптов в ответ на новые правила. [ 6 ]