Más de doscientas personalidades, entre ellas Premios Nobel, expertos en inteligencia artificial (IA) y científicos de renombre, hicieron un llamado a la creación de una institución internacional que establezca límites y supervise los riesgos asociados a esta tecnología, en vísperas de las reuniones de alto nivel de la Asamblea General de la ONU.
La iniciativa, respaldada por más de setenta organizaciones, propone un acuerdo internacional vinculante que defina las “líneas rojas” que la IA nunca debe cruzar.
El anuncio fue hecho por la Nobel de la Paz Maria Ressa y reforzado por Charbel Segerie, director ejecutivo del Centro Francés para la Seguridad de la IA:
“Instamos a los gobiernos de todo el mundo a alcanzar un acuerdo internacional crucial sobre los límites que la IA nunca debe cruzar. El objetivo no es reaccionar después de un incidente grave, sino prevenir riesgos a gran escala, potencialmente irreversibles”.
Preocupación por la “superinteligencia”
Los expertos advirtieron que gigantes tecnológicos como Google, Meta y OpenAI invierten recursos millonarios para desarrollar la llamada superinteligencia o IA general (AGI), sistemas que podrían superar las capacidades cognitivas humanas en la próxima década.
Stuart Russell, profesor de la Universidad de Berkeley y referente en el campo, alertó que la IA está diseñada para imitar y perseguir objetivos humanos, lo que la hace “intrínsecamente insegura”.
“Existe una probabilidad significativa de una catástrofe del tamaño de Chernóbil, ya que esta tecnología podría ser utilizada para sabotear sistemas financieros, de comunicación o redes eléctricas. La otra posibilidad es mucho peor: que la humanidad pierda el control de forma irreversible”.
Russell incluso citó a un alto directivo de la industria que le confesó que “un evento de la escala de Chernóbil sería el mejor escenario posible” y a un investigador de OpenAI que estimó en 60% la probabilidad de extinción humana debido a la IA.
Hacia una regulación global
Para Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, aunque ya existen avances como el código de prácticas de la Unión Europea, aún falta un marco mundial:
“Ahora es necesario hacer estas regulaciones globales y aplicables. Probablemente se requiera crear una nueva institución internacional que defina límites globales para la IA, supervise su cumplimiento e intervenga cuando se crucen esas líneas rojas”, mencionó.
Lee también: Exesposa de B King, artista colombiano encontrado sin vida en México, denuncia amenazas de muerte en su contra
La propuesta se enmarca en la conmemoración del 80º aniversario de la ONU, y busca que los gobiernos coloquen la seguridad de la inteligencia artificial en el centro de la agenda internacional.
