Anthropic prohíbe maltrato a Claude y permite que termine conversaciones abusivas

La empresa de inteligencia artificial Anthropic actualizó este jueves 8 de octubre su política de uso para prohibir el comportamiento abusivo o cruel de los usuarios hacia Claude, su asistente de IA. La medida busca limitar las interacciones hostiles con el sistema, en medio del debate sobre si las inteligencias artificiales pueden desarrollar algún tipo de conciencia.

La nueva disposición establece una prohibición contra el comportamiento “sostenido e innecesariamente abusivo o cruel” hacia sus modelos. Para aplicarla, Claude podrá poner fin a las conversaciones cuando detecte este tipo de conductas.

Anthropic señaló que la capacidad del asistente para terminar las interacciones seguirá siendo el principal mecanismo para hacer cumplir la política.

La empresa, con sede en San Francisco, ya había otorgado a Claude esa facultad durante 2025, aunque inicialmente estaba reservada para casos raros y extremos de conversaciones persistentemente dañinas o abusivas.

La actualización incorpora ahora una prohibición explícita de estas conductas dentro de las reglas de uso del servicio.

Aunque la política no menciona directamente el bienestar de los modelos de inteligencia artificial, Anthropic ha abordado públicamente la posibilidad de que estos sistemas puedan requerir algún tipo de protección.

El debate está relacionado con una pregunta que todavía no tiene respuesta científica definitiva: si una inteligencia artificial puede experimentar conciencia o algún tipo de experiencia subjetiva.

En febrero, el director ejecutivo de Anthropic, Dario Amodei, reconoció en una entrevista con The New York Times que no tenía certeza sobre la posibilidad de que los modelos de IA fueran conscientes.

Jackson Stakeman, gerente general de la empresa de servicios de inteligencia artificial Sparq, consideró que la discusión sobre la conciencia podría no ser la más útil para establecer reglas de interacción con estos sistemas.

“La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos”, declaró a la agencia AFP.

Stakeman sostuvo que los sistemas de inteligencia artificial reflejan los comportamientos y contenidos que reciben de las personas, lo que considera una razón suficiente para modificar las políticas de uso.

La discusión también alcanzó el ámbito religioso. Este jueves, durante un discurso en italiano en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma y señaló que simplemente “compilan datos”.