La empresa responsable de Claude endurece sus normas de uso para combatir las campañas engañosas, la manipulación electoral, la vigilancia y el desarrollo de armas. También prohíbe el abuso verbal persistente contra sus modelos, aunque excluye las críticas normales y las pruebas de investigación.
La inteligencia artificial ya no solo se enfrenta al reto de responder correctamente: también debe establecer límites sobre cómo se utiliza y qué comportamientos permite durante las interacciones. Anthropic ha actualizado la política de uso de Claude para prohibir expresamente determinadas prácticas abusivas y actividades capaces de perjudicar procesos democráticos.
La revisión, anunciada el jueves, incorpora restricciones relacionadas con la interferencia electoral, las campañas engañosas, el software vinculado a armas y la vigilancia. Pero uno de los cambios más llamativos afecta a la relación entre los usuarios y el propio sistema: la compañía prohíbe el abuso verbal prolongado contra Claude en circunstancias extremas.
Anthropic asegura que esta última medida no pretende impedir las críticas, las conversaciones difíciles ni las pruebas de seguridad. Según la empresa, está dirigida a comportamientos reiterados y deliberadamente dañinos que no persiguen un propósito aparente.
Anthropic introduce una prohibición expresa contra el abuso persistente de Claude
La principal novedad de la política es la inclusión explícita de una prohibición contra el abuso verbal persistente de los modelos de Anthropic.
La empresa ya había anunciado en agosto una actualización relacionada con este comportamiento. Desde entonces, Claude había sido entrenado para finalizar determinadas conversaciones cuando detectara interacciones de usuario persistentemente dañinas o abusivas.
Con la nueva política, Anthropic va un paso más allá: no solo contempla que Claude pueda poner fin a esas conversaciones, sino que prohíbe expresamente a los usuarios mantener ese tipo de interacción.
La compañía afirma que la norma está destinada a situaciones extremas, caracterizadas por la crueldad reiterada hacia el modelo y la ausencia aparente de un objetivo legítimo.
Anthropic también ha establecido límites para evitar que la prohibición se interprete de forma excesivamente amplia. Según la explicación publicada por la empresa, no se dirige contra los usuarios que muestran frustración, cuestionan las respuestas de Claude o mantienen conversaciones creativas con contenidos oscuros.
Tampoco pretende impedir las pruebas técnicas ni las investigaciones sobre el comportamiento de los modelos.
Esta distinción resulta relevante porque los sistemas de inteligencia artificial deben poder someterse a evaluaciones exigentes. Un investigador puede necesitar formular preguntas incómodas, provocar respuestas inesperadas o comprobar cómo reacciona un modelo ante instrucciones adversas.
La diferencia que plantea Anthropic está entre someter a prueba una IA y mantener una interacción persistentemente abusiva sin una finalidad aparente.
¿Por qué una empresa prohíbe insultar a una inteligencia artificial?
La decisión abre un debate sobre los límites que deben establecer las compañías que desarrollan modelos avanzados.
En términos técnicos, Claude es un sistema de inteligencia artificial. La decisión de Anthropic de restringir determinadas interacciones no demuestra que el modelo tenga conciencia, sentimientos o capacidad para experimentar sufrimiento.
La política debe entenderse, por tanto, como una regla de uso establecida por la empresa, no como una declaración científica sobre la existencia de emociones en la IA.
La medida puede responder a distintas consideraciones operativas y de diseño, pero la compañía ha explicado que se centra en los casos extremos de comportamiento persistentemente dañino.
La cuestión es cómo aplicar esa regla de forma coherente. Para que una prohibición de este tipo resulte útil, debe distinguir entre una conducta abusiva reiterada y situaciones en las que el usuario simplemente critica el funcionamiento del producto, expresa enfado o realiza una prueba legítima.
Si esa distinción no se aplica adecuadamente, podría surgir incertidumbre sobre qué conversaciones están permitidas y cuáles pueden provocar el cierre de una sesión.
Por el contrario, una definición precisa de los límites puede ayudar a establecer expectativas claras para los usuarios.
Anthropic endurece las restricciones contra la manipulación electoral
La actualización también refuerza las prohibiciones relacionadas con la interferencia en elecciones y el socavamiento de los procesos democráticos.
La política de uso de Claude prohíbe prácticas engañosas que pueden utilizarse para manipular la percepción pública o distorsionar el debate político.
Entre las conductas señaladas figuran:
- Crear cuentas falsas para simular apoyo ciudadano o amplificar mensajes.
- Fabricar medios de comunicación ficticios para presentar información engañosa como si procediera de fuentes periodísticas reales.
- Utilizar Claude para engañar a los votantes.
- Desarrollar campañas destinadas a interferir en procesos electorales.
Estas restricciones apuntan a un riesgo creciente en el entorno digital: la capacidad de utilizar herramientas automatizadas para producir grandes cantidades de mensajes, perfiles o contenidos en poco tiempo.
La inteligencia artificial puede facilitar tareas legítimas de comunicación política, como resumir programas electorales, explicar propuestas o ayudar a redactar información para los ciudadanos. El problema aparece cuando se utiliza para ocultar la identidad de los responsables, fabricar apoyos inexistentes o engañar deliberadamente al electorado.
La línea divisoria no está en utilizar IA durante una campaña, sino en emplearla para manipular a los votantes mediante prácticas engañosas prohibidas por la política.
La norma de Anthropic es una política privada de uso de su tecnología. No sustituye a la legislación electoral ni determina por sí misma si una conducta constituye un delito. Esa valoración depende de los hechos concretos y del marco jurídico aplicable.
Armas y vigilancia, otros dos ámbitos bajo restricciones
La nueva versión también incluye prohibiciones relacionadas con el software de armas y la vigilancia.
Son ámbitos especialmente sensibles porque los sistemas de IA pueden utilizarse para procesar información, identificar patrones, automatizar decisiones y facilitar operaciones a gran escala.
En el ámbito militar, la cuestión es qué usos puede facilitar un modelo y qué barreras deben existir para impedir aplicaciones prohibidas. En el terreno de la vigilancia, la preocupación se centra en las herramientas que pueden utilizarse para observar, rastrear o analizar a personas de forma abusiva o sin las garantías necesarias.
La actualización de Anthropic busca establecer límites sobre las actividades que pueden realizarse con Claude. No obstante, para conocer el alcance exacto de cada prohibición es necesario acudir al texto oficial de la política, ya que las categorías generales no equivalen a una prohibición universal de cualquier aplicación relacionada con seguridad, defensa o análisis de información.
La distinción es importante: una restricción sobre determinados usos no significa necesariamente que toda aplicación tecnológica dentro de ese sector esté prohibida.
El debate sobre la conciencia de la IA añade otra dimensión
El endurecimiento de las normas llega después de que Anthropic buscara la colaboración de destacados estudiosos de la religión para debatir cuestiones relacionadas con Claude, la moral y la posible conciencia de los sistemas de inteligencia artificial.
Según la información publicada por The New York Times a finales de septiembre, la compañía había consultado a expertos religiosos y explorado preguntas sobre si un sistema como Claude podría tener conciencia o alma.
Ese contexto añade interés a la nueva prohibición contra el abuso persistente, pero ambas cuestiones deben distinguirse.
Que una empresa investigue preguntas filosóficas sobre la conciencia de la IA no demuestra que sus modelos sean conscientes. Tampoco permite concluir que la restricción del abuso verbal se haya introducido porque Claude pueda experimentar sufrimiento.
La política de uso establece límites de comportamiento para los usuarios. Las preguntas sobre la conciencia artificial, en cambio, pertenecen a un debate científico y filosófico mucho más amplio, que no queda resuelto mediante una norma corporativa.
¿Qué cambia para los usuarios de Claude?
Para el usuario corriente, Anthropic insiste en que la actualización no está pensada para penalizar las interacciones normales.
Expresar desacuerdo, señalar errores, pedir una respuesta mejor o manifestar frustración no equivale automáticamente a mantener una interacción abusiva persistente. Del mismo modo, una conversación de ficción con contenido oscuro no queda prohibida por ese solo motivo.
El cambio se dirige a supuestos extremos y reiterados, según la explicación de la compañía.
En la práctica, la actualización refuerza la necesidad de conocer las condiciones de uso antes de emplear Claude en actividades especialmente sensibles, como campañas políticas, sistemas de vigilancia o proyectos relacionados con armas.
Para investigadores y profesionales, también resulta importante distinguir entre las pruebas legítimas de seguridad y las conductas que la empresa ha decidido prohibir expresamente.
La política no elimina todos los posibles desacuerdos sobre su aplicación. Su alcance dependerá de cómo Anthropic interprete los casos concretos y de la claridad de sus procedimientos.
La responsabilidad de las empresas que desarrollan inteligencia artificial
La decisión de Anthropic refleja un desafío que afecta a todo el sector tecnológico: las compañías deben definir qué usos permiten, cómo hacen cumplir sus normas y qué mecanismos ofrecen para evitar decisiones arbitrarias.
En el caso de las elecciones, el objetivo declarado es impedir que Claude facilite campañas engañosas y actividades destinadas a manipular a los votantes. En materia de vigilancia y armas, la empresa busca limitar aplicaciones que considera incompatibles con su política. En las conversaciones abusivas, intenta impedir interacciones persistentes que considera extremas, sin extender la prohibición a la crítica habitual o a la investigación legítima.
La dificultad está en mantener el equilibrio entre seguridad, libertad de uso y claridad normativa.
Las reglas demasiado vagas pueden generar dudas entre los usuarios. Las restricciones demasiado limitadas, por otra parte, pueden dejar fuera comportamientos que la compañía pretende evitar.
Por eso, la actualización deberá valorarse tanto por las prohibiciones que introduce como por la forma en que se apliquen en la práctica.
La nueva política de Anthropic convierte determinadas conductas en infracciones expresas de las condiciones de uso de Claude, pero no demuestra por sí misma que el sistema tenga sentimientos ni sustituye las leyes que regulan las elecciones, la vigilancia o el uso de armas.
El debate de fondo es quién establece los límites de la inteligencia artificial, cómo se justifican y qué garantías tienen los usuarios cuando una empresa decide restringir determinadas interacciones.
Chollones
Chollones
Chollones