Las principales empresas de inteligencia artificial de Estados Unidos acordaron adoptar controles voluntarios para supervisar la seguridad de sus propios sistemas, en medio de un creciente debate sobre quién debe vigilar el desarrollo de esta tecnología.
El acuerdo fue firmado durante una reunión en la Casa Blanca encabezada por el presidente Donald Trump, en la que participaron directivos de compañías como Meta, Anthropic, Nvidia, OpenAI, Google y SpaceX.
El documento establece una serie de controles que incluyen evaluaciones internas, auditorías realizadas por terceros y revisiones de los resultados por parte de los consejos de administración de cada empresa.
También contempla que las compañías se reúnan periódicamente para establecer estándares y compartir prácticas relacionadas con la seguridad de sus sistemas.
Sin embargo, el acuerdo es voluntario y no establece sanciones legales para aquellas empresas que incumplan con los compromisos. Trump lo describió como “moralmente vinculante” y consideró que las propias compañías tienen suficientes incentivos para vigilarse entre ellas.
La postura ha generado discusión incluso dentro de la industria tecnológica. Directivos y especialistas han advertido que la autorregulación podría ser insuficiente ante sistemas cada vez más avanzados.
Dario Amodei, director ejecutivo de Anthropic, ha defendido la participación de evaluadores externos y una regulación que abarque a todas las empresas que desarrollan modelos avanzados, incluso aquellas que no quieran incorporarse voluntariamente a este tipo de acuerdos.
Bill Gates también se ha pronunciado a favor de establecer legislación y mecanismos públicos de supervisión, al considerar que el control de una tecnología con posibles efectos de gran alcance no debería quedar únicamente en manos de las propias compañías.
Otro punto de discusión es el posible conflicto de interés. Las empresas buscan desarrollar sistemas cada vez más potentes y competitivos, pero al mismo tiempo serían responsables de decidir hasta dónde pueden llegar esos sistemas y qué riesgos consideran aceptables.
El acuerdo establece que algunas de las medidas voluntarias podrían convertirse posteriormente en leyes o regulaciones, aunque por ahora no existe una obligación federal equivalente.
La administración de Trump ha defendido una regulación menos restrictiva bajo el argumento de que Estados Unidos debe mantener su liderazgo tecnológico frente a otros países, particularmente China. En junio, el gobierno ya había establecido un esquema voluntario para que empresas compartieran con autoridades determinados modelos avanzados antes de lanzarlos públicamente.
Así, el nuevo pacto representa un primer intento por establecer controles comunes entre los principales desarrolladores de inteligencia artificial, pero mantiene abierta una pregunta central: si las compañías que crean esta tecnología también deben ser las encargadas de decidir cuáles son sus límites.
ExpokNews
Hola, déjenos un comentario