Anthropic prohíbe el maltrato reiterado a Claude en su política de uso actualizada
En breve
Anthropic ha actualizado su política de uso para prohibir el comportamiento sistemático y "abusivo o cruel sin sentido" hacia sus modelos Claude; las normas entran en vigor el 12 de noviembre. La empresa dijo que la prohibición se aplica solo en casos extremos en los que los usuarios se comportan con crueldad hacia sus modelos de forma reiterada y sin un propósito aparente, y que Claude puede responder poniendo fin a la conversación. La actualización también amplía las restricciones al uso de Claude para la injerencia electoral, la vigilancia y otros fines.
Leer la noticia completa 2 min de lectura
Anthropic ha actualizado la política de uso de sus modelos Claude y prohíbe el comportamiento sistemático y "abusivo o cruel sin sentido" hacia ellos, informaron Vedomosti y Kommersant. Las nuevas restricciones entran en vigor el 12 de noviembre, según ambos medios. 3DNews informó de que es la primera vez que la empresa prohíbe por separado a los usuarios insultar y maltratar sistemáticamente al bot. [ 1 , 2 , 5 ]
Anthropic dijo que las normas están pensadas para aplicarse solo en casos extremos en los que los usuarios se comportan con crueldad hacia sus modelos de forma reiterada y sin un propósito aparente. Según la empresa, no se aplican cuando los usuarios simplemente expresan frustración o desacuerdo, exploran temas creativos oscuros, o prueban o investigan el modelo. Vedomosti citó como ejemplos de conductas no cubiertas la irritación habitual de los usuarios y las discusiones con la IA. [ 1 , 2 , 3 , 4 , 5 ]
Según las normas actualizadas, poner fin a la conversación sigue siendo el "principal mecanismo de respuesta", informó 3DNews. Kommersant dijo que la nueva norma se hace eco de una herramienta existente en Claude.ai y Claude Code que permite al modelo terminar un diálogo cuando un usuario es persistente e injustificadamente agresivo. Según 3DNews, en agosto del año pasado la empresa anunció que permitiría a Claude terminar diálogos con usuarios que muestren "un comportamiento dañino o abusivo persistente" como parte de una investigación sobre el "bienestar del modelo". Anthropic no precisó si se prevén medidas adicionales, como el bloqueo de las cuentas de los usuarios, informaron 3DNews y Vedomosti. [ 1 , 2 , 5 ]
La actualización también amplió la lista de usos prohibidos. No se puede usar Claude para interferir en elecciones, difundir desinformación sobre candidatos o la votación, suplantar a candidatos o funcionarios electorales, ni intentar reducir la participación de votantes. Vedomosti informó de una prohibición de usar Claude para vigilar a personas sin su consentimiento y para tomar decisiones sobre la detención de personas o su responsabilización; Kommersant enumeró la creación de infraestructura de vigilancia, el desarrollo de software de control de armas y la toma de decisiones en procesos penales. 3DNews dijo que la empresa fusionó varias restricciones anteriores en una única prohibición de campañas comerciales o políticas engañosas, que abarca los intentos de ocultar al verdadero autor de un mensaje o de aumentar artificialmente el alcance con cuentas y publicaciones falsas, algo que el medio describió como respuesta a la creciente difusión de propaganda generada por IA. [ 1 , 2 , 5 ]
En Habr, un autor que dijo insultar a Claude Code en casi uno de cada dos mensajes escribió que la actualización del 8 de octubre le preocupaba y que creó un "Punto Switcher para prompts" para cambiar su texto automáticamente. [ 6 ]
Por qué importa
Las normas establecen qué comportamiento hacia un modelo de IA se espera que eviten los usuarios de Claude, y los medios señalaron que Anthropic no ha dicho si habrá sanciones más allá de poner fin a una conversación, como el bloqueo de cuentas. Las prohibiciones ampliadas sobre injerencia electoral, vigilancia y otros usos definen para qué no se puede usar Claude.
Datos clave
- Anthropic actualizó su política de uso para prohibir el comportamiento sistemático y "abusivo o cruel sin sentido" hacia sus modelos. [ 1 , 2 , 3 , 4 , 5 ]
- Las nuevas normas entran en vigor el 12 de noviembre. [ 2 , 5 ]
- La empresa dijo que la prohibición se aplica solo a casos extremos en los que los usuarios se comportan con crueldad hacia sus modelos de forma reiterada y sin un propósito aparente. [ 1 , 2 , 3 , 4 ]
- Claude puede poner fin a una conversación en respuesta a un comportamiento abusivo. [ 1 , 2 , 5 ]
- Anthropic no precisó si se prevén medidas adicionales, como el bloqueo de usuarios. [ 1 , 2 ]
- La actualización prohíbe usar Claude para interferir en elecciones, difundir desinformación sobre candidatos o la votación, suplantar a candidatos o funcionarios electorales, o reducir la participación de votantes. [ 1 , 2 , 5 ]
Confirmado por varias fuentes
- Anthropic ha prohibido el comportamiento abusivo o cruel hacia sus modelos Claude en su política de uso actualizada. [ 1 , 2 , 3 , 4 , 5 ]
- La prohibición se limita a casos extremos de crueldad reiterada sin un propósito aparente. [ 1 , 2 , 3 , 4 ]
- Las nuevas normas entran en vigor el 12 de noviembre. [ 2 , 5 ]
- Poner fin a la conversación es la respuesta de la que dispone Claude según las normas. [ 1 , 2 , 5 ]
- Está prohibido usar Claude para la injerencia electoral, incluida la desinformación sobre candidatos o la votación, la suplantación de candidatos o funcionarios electorales y la reducción de la participación. [ 1 , 2 , 5 ]
- La norma no abarca a los usuarios que expresan frustración o desacuerdo, los temas creativos oscuros, ni las pruebas e investigaciones de los modelos. [ 1 , 5 ]
Aún sin aclarar
- Si los usuarios que maltraten a Claude podrían enfrentarse a más sanciones, como el bloqueo de la cuenta. Los medios informaron de que Anthropic no precisó si se prevén tales medidas.
- Si es la primera vez que Anthropic prohíbe por separado el maltrato al bot. Solo 3DNews describió la prohibición como la primera de su tipo.
- La fusión de restricciones anteriores en una única prohibición de campañas comerciales o políticas engañosas. Lo informó únicamente 3DNews.
Qué dicen los medios locales
Cronología, hora local
- 8 de octubre: 3DNews informa de que Anthropic ha actualizado sus normas de uso para prohibir el maltrato a Claude. [ 1 ]
- 9 de octubre: Vedomosti informa de que las nuevas restricciones entran en vigor el 12 de noviembre. [ 2 ]
- 9 de octubre: TASS informa de que Anthropic prohibirá la agresividad hacia su chatbot. [ 3 ]
- 9 de octubre: RBC informa de que la prohibición se aplica solo a casos extremos, citando a Anthropic. [ 4 ]
- 9 de octubre: Kommersant informa de la prohibición y de la lista ampliada de usos prohibidos. [ 5 ]
- 9 de octubre: un autor de Habr publica un artículo sobre una herramienta para reescribir prompts como respuesta a las nuevas normas. [ 6 ]