El avance acelerado de la inteligencia artificial (IA) requiere nuevos mecanismos de cooperación internacional que permitan mantener los sistemas bajo supervisión humana, advirtió este miércoles Sam Altman, director ejecutivo de OpenAI, ante el Consejo de Seguridad de la ONU.
Durante una sesión de alto nivel convocada por la presidencia francesa del organismo, Altman planteó la necesidad de que los gobiernos y las empresas tecnológicas trabajen en estándares nacionales y globales complementarios para enfrentar los riesgos asociados con los modelos más avanzados.
El directivo sostuvo que el desarrollo de esta tecnología coloca al sector en una encrucijada y pidió evitar asumir riesgos tecnológicos excesivos únicamente por el potencial de los beneficios que puede generar.
“La IA tiene el potencial de impulsar una nueva era similar al ‘Renacimiento’”, señaló Altman, al considerar que la tecnología puede convertirse en una herramienta para fortalecer las capacidades de las personas.
Sin embargo, alertó que también existe el riesgo de repetir algunas fracturas asociadas con la Revolución Industrial si los sistemas terminan sustituyendo la agencia humana o escapan a la supervisión.
Uno de los principales riesgos señalados por el director ejecutivo de OpenAI está relacionado con los modelos capaces de programarse y mejorarse de manera recursiva.
De acuerdo con su planteamiento, un desarrollo acelerado podría llevar a un punto en el que los seres humanos no comprendan completamente su funcionamiento ni puedan seguir sus decisiones.
Ante este escenario, Altman consideró necesario establecer marcos técnicos rigurosos que permitan medir las capacidades de los modelos, evaluar amenazas, comprobar que las salvaguardas funcionen y establecer canales internacionales seguros para compartir vulnerabilidades críticas.
El directivo también llamó a alcanzar acuerdos multilaterales entre países, incluso aquellos que mantienen diferencias.
“A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”, afirmó.
Como parte de su propuesta, Altman expuso los tres principios que, según dijo, orientan a OpenAI: mantener a las personas “en el centro de la toma de decisiones” para garantizar el control humano sobre los modelos; dirigir el progreso científico y económico “por y para las personas” para fortalecer su capacidad de acción, y empoderar a cada individuo.
“Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, subrayó.
La sesión fue presidida por el ministro francés de Exteriores, Jean-Noël Barrot, y también contempla la participación por videoconferencia de Dario Amodei, de Anthropic, y Clément Delangue, de Hugging Face.
Lee también: Trump propone cambiar el nombre de la inteligencia artificial y lanza encuesta en Truth Social
El encuentro aborda por primera vez ante el Consejo de Seguridad las amenazas relacionadas con ciberataques autónomos y la posibilidad de que los seres humanos pierdan el control sobre los modelos de IA más avanzados.
Con información de EFE
🔵 PIDE CEO DE OPENAI PONER LÍMITES A LA INTELIGENCIA ARTIFICIAL ANTE LA ONU
— Luis Alberto Medina (@elalbertomedina) September 23, 2026
En su intervención, Sam Altman advirtió sobre la amenaza que representa esta tecnología para la humanidad, por lo que llamó a establecer control sobre ella.pic.twitter.com/cnv6nzquU1
