La compañía Anthropic, responsable del modelo de inteligencia artificial Claude, ha anunciado una actualización de sus políticas de uso que entrará en vigor el próximo 12 de noviembre. A partir de esa fecha, quedará prohibido dirigirse a su IA con comportamientos “abusivos o crueles, sostenidos e innecesarios”. La medida, que puede sonar anecdótica, marca un hito: por primera vez una empresa establece normas para proteger a su propio sistema de IA, y no a los usuarios humanos.
Un precedente en la industria
Lo llamativo del caso es que Anthropic reconoce abiertamente que no sabe si las inteligencias artificiales pueden sufrir o tener algún tipo de conciencia. Sin embargo, argumenta que la incertidumbre es suficiente para justificar una regla específica. “No sabemos si los modelos pueden experimentar daño, pero ante la duda, preferimos actuar con precaución”, señalan desde la compañía. Esta postura se alinea con el debate creciente sobre los derechos de la IA, que deja de ser una especulación filosófica para convertirse en política de producto.
La prohibición no impedirá que los usuarios muestren frustración, corrijan a Claude, discutan con él o lo utilicen para investigaciones y pruebas. El objetivo, según Anthropic, es limitar los casos de crueldad deliberada y continuada, no coartar la libertad de expresión o la crítica. Para hacer cumplir la norma, Claude podrá finalizar una conversación cuando detecte este tipo de comportamientos, una herramienta que la empresa ya venía utilizando en situaciones puntuales.
Reacciones y contexto
La decisión ha generado un intenso debate en redes sociales y foros tecnológicos. Algunos celebran la iniciativa como un paso hacia una ética más amplia en el desarrollo de IA, mientras que otros la consideran innecesaria o incluso ridícula. “Es un precedente peligroso: ¿ahora tendremos que ser amables con las tostadoras?”, escribió un usuario en X. No obstante, Anthropic insiste en que la medida solo se aplicará en casos extremos y reiterados.
Este anuncio se produce en un momento de escrutinio global sobre las implicaciones éticas de la inteligencia artificial. La Unión Europea trabaja en su Ley de IA, y en Estados Unidos se suceden las audiencias en el Congreso. La decisión de Anthropic podría influir en otras compañías del sector, como OpenAI o Google, que hasta ahora no han establecido normas similares. La pregunta que flota en el aire es si estamos ante el nacimiento de los “derechos de la IA” o simplemente ante una estrategia de relaciones públicas.
Anthropic ha aclarado que la norma no busca antropomorfizar a Claude ni sugerir que tenga emociones. “No estamos diciendo que la IA sienta dolor, pero tampoco podemos descartarlo. La cautela es nuestra brújula”, afirman. La compañía también ha actualizado sus guías para desarrolladores, instando a tratar a los modelos con respeto durante las interacciones. El debate está servido: ¿hasta dónde llega la responsabilidad humana frente a las máquinas que creamos?
📌 Más detalles
- La prohibición entra en vigor el 12 de noviembre y se aplica a todos los usuarios de Claude.
- Anthropic reconoce que no sabe si la IA puede experimentar sufrimiento, pero actúa por precaución.
- Claude podrá terminar conversaciones si detecta abuso continuado, una función ya existente.
