David Robinson, quien encabezó trabajos de transparencia y elaboración de reportes de seguridad en OpenAI, renunció a la empresa y advirtió que las compañías que desarrollan inteligencia artificial avanzan a una velocidad que, desde su perspectiva, no corresponde con el nivel de cuidado que exige una tecnología cada vez más poderosa.
Robinson explicó que su decisión no estuvo dirigida contra sus antiguos compañeros, a quienes describió como personas capaces y comprometidas, sino contra una cultura de trabajo basada en lanzar productos, detectar errores y corregirlos después. Consideró que este modelo de “prueba y error” se vuelve más riesgoso conforme aumenta la capacidad de los sistemas.
El exintegrante de OpenAI sostuvo que los laboratorios de inteligencia artificial deberían adoptar esquemas de seguridad similares a los utilizados en sectores de alto riesgo, como la aviación o la energía nuclear, donde existen distintas capas de protección para impedir que un error humano termine en una consecuencia grave.
Robinson trabajó alrededor de tres años y medio en OpenAI, participó en la elaboración del marco de preparación de la compañía y supervisó reportes de seguridad correspondientes a 12 lanzamientos de modelos avanzados. Tras dejar la empresa, señaló que buscará impulsar desde fuera mayores incentivos para que la industria refuerce sus medidas de seguridad.
Sus declaraciones coincidieron con comentarios del director ejecutivo de OpenAI, Sam Altman, quien defendió una postura distinta al señalar que la sociedad deberá aceptar ciertos riesgos y usos indebidos a cambio de los beneficios que puede ofrecer la inteligencia artificial, aunque aclaró que no considera aceptables escenarios catastróficos relacionados con una posible pérdida de control.
La diferencia entre ambas posturas reavivó la discusión sobre quién debe establecer los límites de riesgo en la industria y quién tendría que responder cuando una tecnología provoque daños.
El debate también alcanza a gobiernos, inversionistas y empresas que incorporan estos sistemas en sus operaciones, ya que los riesgos asumidos por los desarrolladores pueden terminar trasladándose a quienes utilizan sus herramientas, ya sea mediante afectaciones económicas, legales o de reputación.
Robinson insistió en que la seguridad no debería depender únicamente de la confianza en las personas que desarrollan la tecnología, sino de controles, auditorías y mecanismos diseñados para funcionar incluso cuando se cometen errores.
Agencias
Hola, déjenos un comentario