La empresa de inteligencia artificial Anthropic reveló que detectó varios intentos de utilizar su modelo Claude en actividades relacionadas con investigaciones biológicas de doble uso y posibles amenazas vinculadas con armas biológicas. La compañía aclaró que no identificó casos en los que su sistema hubiera creado o permitido utilizar directamente un arma de este tipo.
Los casos fueron identificados dentro de un análisis de actividades registradas entre diciembre de 2025 y agosto de 2026. De acuerdo con Anthropic, algunas solicitudes buscaban información relacionada con la modificación de patógenos, toxinas y otros procesos sensibles que podrían tener aplicaciones científicas legítimas, pero también ser utilizados con fines dañinos.
La empresa señaló que versiones anteriores de Claude no tenían capacidades suficientes para apoyar de manera significativa investigaciones biológicas peligrosas. Sin embargo, reconoció que el avance de modelos más recientes obligó a reforzar sus mecanismos de seguridad.
Anthropic informó que bloqueó las actividades consideradas de riesgo, suspendió las cuentas y claves de acceso involucradas y actualizó sus filtros para detectar una gama más amplia de consultas vinculadas con investigaciones biológicas sensibles.
El reporte advierte que el riesgo no necesariamente consiste en que una inteligencia artificial pueda crear por sí sola un arma biológica, sino en que este tipo de sistemas reduzcan las barreras de conocimiento, tiempo o recursos para personas que busquen realizar actividades peligrosas.
La compañía también reportó intentos de extracción no autorizada de capacidades de sus modelos mediante técnicas conocidas como destilación. Anthropic señaló actividades relacionadas con empresas y laboratorios de inteligencia artificial de China, entre ellos DeepSeek, Xiaomi, Moonshot y Alibaba, y sostuvo que actores relacionados con esta última realizaron uno de los mayores intentos de este tipo detectados hasta ahora.
El caso abrió nuevamente el debate sobre la responsabilidad de las empresas tecnológicas frente al avance acelerado de la inteligencia artificial. El análisis plantea que las compañías deben realizar evaluaciones de riesgo antes de lanzar nuevos modelos, actualizar continuamente sus sistemas de protección, monitorear patrones de uso y transparentar los incidentes relevantes.
Anthropic insistió en que los hechos documentados no significan que Claude haya creado un arma biológica. La preocupación, señaló, está en que los modelos de inteligencia artificial continúan adquiriendo capacidades que podrían ser aprovechadas de manera indebida si los mecanismos de prevención no evolucionan al mismo ritmo.
ExpokNews
Hola, déjenos un comentario