Anthropic actualizó su política de uso para prohibir el comportamiento abusivo o cruel sostenido e innecesario hacia sus modelos de Inteligencia Artificial. Las reglas entrarán en vigor el 12 de noviembre y también precisan las restricciones sobre campañas engañosas, interferencia electoral y otros usos de riesgo.
La política se aplica a quienes usan Claude en sus aplicaciones, a desarrolladores y empresas que acceden mediante su interfaz de programación, a clientes de proveedores de nube y a usuarios de productos que integran el modelo. La nueva regla forma parte de las obligaciones de uso de esos servicios.
El texto prohíbe el “comportamiento abusivo o cruel sostenido e innecesario hacia nuestros modelos”. Anthropic delimitó esa disposición a situaciones extremas y repetidas sin un propósito discernible. El mecanismo principal previsto para esos casos es terminar la conversación.
Anthropic limita la nueva regla a interacciones extremas
La empresa explicó que la restricción excluye la frustración habitual de los usuarios, las críticas o discrepancias, los temas creativos oscuros y las pruebas o investigaciones sobre modelos. Esas excepciones permiten distinguir una reacción ante una respuesta incorrecta de la conducta reiterada que busca cubrir la política.
Claude ya contaba con una función para cerrar determinadas conversaciones persistentemente abusivas. Anthropic publicó ese antecedente al presentar la capacidad en Claude Opus 4 y 4.1, dentro de su investigación sobre el debate de consciencia de IA y el posible estatus moral de los modelos.
En esa explicación, la compañía describió el cierre como un último recurso tras intentos fallidos de redirigir la interacción. Cuando se activa, el usuario deja de poder enviar mensajes en ese chat, mientras las otras conversaciones siguen disponibles. La actualización formaliza una prohibición de conducta ligada a una función que ya existía.
La documentación original también fijó resguardos para situaciones delicadas, como usuarios que expresan riesgo de dañarse o dañar a otras personas. En esos casos, el diseño prioriza mantener una respuesta de apoyo en lugar de terminar el intercambio. La función se evaluó para un conjunto reducido de conversaciones.
Las reglas electorales apuntan al engaño y permiten usos cívicos
La sección electoral prohíbe llamadas o mensajes automáticos masivos que oculten su origen artificial, la suplantación de candidatos o autoridades y la difusión de información falsa sobre elecciones. También incluye interferencias con sistemas de votación, escrutinio o certificación y acciones destinadas a reducir la participación mediante engaño o intimidación.
La versión anterior ya contenía restricciones sobre desinformación e interferencia y, además, prohibía personalizar mensajes de voto o campaña a partir de perfiles o datos individuales. Anthropic retiró esa prohibición general para habilitar actividades cívicas legítimas, entre ellas información para electores en otros idiomas y avisos para corregir problemas con papeletas.
La empresa mantuvo las restricciones sobre engaño y uso indebido de datos personales. Reunió las reglas sobre campañas engañosas en una sección que abarca operaciones políticas y comerciales, como redes de cuentas falsas o sitios que ocultan una procedencia común para aparentar respaldo independiente.
El régimen general contempla advertencias y límites, suspensión o término del acceso cuando Anthropic detecta posibles infracciones. Un bloqueo de una respuesta, por sí solo, no constituye una infracción de la política. Esa distinción es relevante para empresas que integran Claude y deben evaluar tanto sus propias instrucciones como los usos de sus clientes.
Anthropic no detalló una lista de insultos, garabatos o palabras que activen la nueva prohibición, ni fijó un número de mensajes. El criterio que explicó es una conducta extrema, repetida y sin un propósito discernible. La frustración habitual, las críticas, los temas creativos oscuros y las pruebas de modelos quedan expresamente fuera de ese alcance.
En su investigación previa sobre el cierre de chats, la empresa describió usuarios que insistían en pedir contenido sexual con menores o información para facilitar violencia a gran escala, incluso después de negativas y redirecciones del sistema. Esos ejemplos ilustran solicitudes dañinas reiteradas en el funcionamiento previo de Claude; la nueva cláusula sobre trato abusivo hacia los modelos se formula por separado.
