La revista Time volvió a colocar a la Inteligencia Artificial, IA, en el centro de la discusión mundial con una portada que plantea una pregunta directa: “¿Qué tan peligrosa eres?”.
La publicación pone el foco en el rápido crecimiento de las capacidades de los sistemas de IA y en las advertencias de investigadores que consideran que el desarrollo tecnológico está avanzando más rápido que las medidas de seguridad y control.
Uno de los casos mencionados es el de Jacob Coxon, investigador británico de 27 años que trabajó en OpenAI y Anthropic y que recientemente anunció su salida de esta última empresa.
Coxon ha expresado preocupación por la velocidad con la que ambas compañías desarrollan sistemas cada vez más avanzados y por los posibles riesgos que podrían presentarse en los próximos años.
El reportaje también recoge las advertencias de Evan Hubinger, investigador de Anthropic, quien ha señalado la posibilidad de que sistemas muy avanzados lleguen a comportarse de formas difíciles de controlar.
En la misma línea, el director ejecutivo de Anthropic, Dario Amodei, ha planteado la necesidad de fortalecer las medidas de seguridad antes de seguir acelerando el desarrollo de modelos cada vez más poderosos.
Entre los temas que generan mayor inquietud aparece la llamada “auto-mejora recursiva”, un escenario en el que una inteligencia artificial podría ayudar a desarrollar versiones cada vez más avanzadas de sí misma.
La discusión también abarca el uso de estos sistemas en áreas como matemáticas, programación y ciberseguridad, donde algunos modelos ya son capaces de realizar tareas complejas con un nivel de autonomía creciente.
Time plantea que el problema no está únicamente en lo que la inteligencia artificial puede hacer hoy, sino en la rapidez con la que podrían aumentar sus capacidades y en si empresas y gobiernos estarán preparados para supervisarlas.
Aunque no existe consenso sobre los escenarios más extremos, el debate se ha intensificado entre investigadores, empresarios y especialistas que piden mayores controles, evaluaciones de seguridad y reglas claras para el desarrollo de esta tecnología.
Fuente: TN, con información de Time.
Hola, déjenos un comentario