Las empresas que desarrollan los sistemas de inteligencia artificial más avanzados del mundo podrían tener su punto más débil en algo mucho más sencillo: los programas de oficina que utilizan sus empleados. Así lo evidenció un reciente incidente de seguridad en Anthropic, creadora de Claude, que ha puesto bajo la lupa los riesgos de depender de aplicaciones desarrolladas por terceros.
El caso ha generado inquietud entre especialistas en ciberseguridad, debido a que no fue necesario vulnerar directamente los modelos de inteligencia artificial ni sus sistemas principales para conseguir acceso a información interna de la compañía.
La firma estadounidense Cathedral, especializada en seguridad informática, utilizó agentes de inteligencia artificial para detectar fallas en herramientas administrativas conectadas con Anthropic. Según sus investigadores, una vez que dirigieron las pruebas hacia esos programas, consiguieron acceder a sistemas internos en menos de 12 horas.
Entre la información que quedó al alcance de los investigadores se encontraban mensajes de trabajo, transcripciones de reuniones, datos sobre salarios, ofertas laborales y comunicaciones relacionadas con el desarrollo de modelos avanzados de inteligencia artificial.
Anthropic reconoció que se logró ingresar a un conjunto limitado de sistemas de ventas, recursos humanos y tecnología de la información, donde también había datos de contacto de algunos clientes y socios comerciales.
Sin embargo, la empresa aclaró que no fueron vulneradas las conversaciones de los usuarios con Claude, las respuestas generadas por el asistente, el código fuente ni los componentes fundamentales de sus modelos de inteligencia artificial.
El incidente ocurrió durante un programa de búsqueda de vulnerabilidades, mediante el cual Anthropic permite que investigadores externos identifiquen problemas de seguridad y los reporten para que puedan corregirse.
No obstante, las dos compañías mantienen diferencias sobre lo sucedido. Cathedral sostiene que sus agentes encontraron las vulnerabilidades en pocas horas, mientras que Anthropic asegura que los investigadores pasaron varios días intentando ingresar directamente a sus sistemas antes de concentrarse en aplicaciones externas.
La compañía también cuestionó que Cathedral no hubiera informado completamente sobre sus actividades, situación que, desde su perspectiva, incumplió las reglas establecidas para estas pruebas.
Tras detectar los accesos, Anthropic bloqueó las conexiones utilizadas por los investigadores y suspendió el funcionamiento de las herramientas afectadas mientras se realizaban las correcciones necesarias. También notificó el incidente a autoridades federales estadounidenses.
Uno de los aspectos que más preocupa a los especialistas es la velocidad con la que los agentes de inteligencia artificial pueden buscar vulnerabilidades, revisar información y ejecutar tareas que anteriormente requerían una participación humana mucho mayor.
Esto podría cambiar la manera en que se desarrollan los ataques informáticos, pues herramientas capaces de trabajar de forma continua permitirían identificar errores de seguridad en menos tiempo y a un costo reducido.
Heath Mullins, especialista de la empresa de ciberseguridad ExtraHop, advirtió que incluso las compañías tecnológicas más avanzadas pueden quedar expuestas mediante programas de terceros, especialmente cuando sus operaciones dependen de numerosos servicios conectados entre sí.
El problema no se limita a las empresas de inteligencia artificial. Bancos, hospitales, dependencias gubernamentales y negocios que utilizan plataformas externas para administrar información también pueden enfrentar riesgos similares si alguna de esas herramientas presenta vulnerabilidades.
Por ello, el caso de Anthropic ha vuelto a poner sobre la mesa la necesidad de revisar los permisos de acceso, supervisar las aplicaciones contratadas y fortalecer los sistemas de detección de actividades sospechosas.
Más allá del incidente, la principal advertencia es que desarrollar tecnología de inteligencia artificial avanzada no garantiza que toda la infraestructura de una empresa sea segura. En ocasiones, una aplicación administrativa aparentemente sencilla puede convertirse en la puerta de entrada a información confidencial.
Agencias
Hola, déjenos un comentario