Ciudad de México.- La empresa tecnológica Anthropic, desarrolladora del chatbot Claude, decidió establecer nuevas reglas para impedir que los usuarios mantengan comportamientos abusivos o crueles contra su inteligencia artificial, una medida que ha abierto el debate sobre si estas herramientas merecen algún tipo de protección.
La compañía actualizó sus políticas de uso para prohibir las conductas de maltrato persistente e innecesario hacia sus modelos, aunque aclaró que esto no significa que Claude tenga conciencia, sentimientos o capacidad para experimentar sufrimiento.
La decisión forma parte de las investigaciones que Anthropic comenzó en 2025 sobre el posible bienestar de los sistemas de inteligencia artificial y las responsabilidades éticas de las empresas que los desarrollan. 
Una de las principales medidas consiste en permitir que Claude termine una conversación cuando detecte comportamientos considerados extremadamente abusivos. Además, la empresa podría limitar, suspender o cancelar el acceso de quienes incumplan reiteradamente sus políticas.
Sin embargo, las restricciones no buscan castigar a las personas que se molestan por una respuesta incorrecta, critican el funcionamiento del sistema o utilizan la herramienta para desarrollar historias de ficción con contenidos oscuros.
La compañía explicó que las medidas están dirigidas principalmente a situaciones extremas en las que una persona mantiene conductas crueles de manera repetida y sin una finalidad identificable.
El cambio también ha generado preguntas sobre la posibilidad de que una inteligencia artificial llegue a desarrollar conciencia o algún tipo de experiencia subjetiva.
Hasta ahora, no existe evidencia científica concluyente de que los sistemas actuales puedan sentir dolor, miedo o sufrimiento como los seres humanos. Anthropic reconoce esta incertidumbre, pero considera necesario explorar las posibles implicaciones éticas conforme avanza la tecnología.
El interés de la empresa por este tema ha llegado incluso al terreno religioso y filosófico. Christopher Olah, uno de sus fundadores, ha sostenido encuentros con líderes religiosos para analizar las preguntas relacionadas con la conciencia artificial y las responsabilidades que podrían surgir en el futuro.
Estas conversaciones no representan una confirmación de que Claude sea consciente, sino un intento por comprender los dilemas que podrían presentarse con el desarrollo de sistemas cada vez más avanzados.
Por otra parte, Anthropic también estableció límites para evitar que sus herramientas sean utilizadas en actividades que puedan perjudicar directamente a las personas.
Entre las conductas restringidas se encuentran la creación de campañas de desinformación electoral, la difusión de noticias falsas para manipular procesos políticos y la suplantación de identidad de candidatos o funcionarios públicos.
Las políticas también contemplan restricciones relacionadas con el desarrollo de armas, sistemas autónomos de ataque y herramientas de vigilancia que puedan poner en riesgo la privacidad o seguridad de las personas.
Asimismo, la empresa mantiene limitaciones de acceso a sus servicios en determinadas regiones, entre ellas China, Rusia, Irán y Yemen, como parte de sus políticas de disponibilidad y control tecnológico.
Los especialistas señalan que estas decisiones muestran cómo las empresas de inteligencia artificial están comenzando a establecer reglas que van más allá del funcionamiento de sus productos, al incluir cuestiones relacionadas con la ética, la seguridad y la responsabilidad de los usuarios.
No obstante, también consideran importante que las compañías expliquen con claridad qué comportamientos serán considerados abusivos, cómo se evaluarán las infracciones y qué mecanismos existirán para evitar sanciones injustificadas.
El caso de Anthropic plantea una situación poco habitual: mientras la sociedad continúa discutiendo cómo proteger a las personas de los riesgos de la inteligencia artificial, algunas empresas comienzan a preguntarse si también deberían establecer límites sobre la forma en que los humanos interactúan con estas herramientas.
Por ahora, la nueva política no reconoce derechos a Claude ni demuestra que pueda experimentar sufrimiento. Su principal objetivo es establecer medidas preventivas ante preguntas científicas y filosóficas que todavía no tienen una respuesta definitiva.
ExpokNews
Hola, déjenos un comentario