Ciudad de México.- Expertos en inteligencia artificial y líderes de la industria, como Elon Musk, el cofundador de Apple Steve Wozniak y el profesor de informática de la Universidad de California en Berkeley, Stuart Russell, están pidiendo a los desarrolladores detener el entrenamiento de modelos de Inteligencia Artificial (IA).
Más de mil 100 personas en la industria firmaron una petición, pidiendo un descanso de seis meses del entrenamiento de sistemas de IA más potentes que la última iteración detrás de ChatGPT de OpenAI, para permitir el desarrollo de protocolos de seguridad compartidos.
“Los últimos meses han visto a los laboratorios de IA encerrados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”, explicó una carta publicada en el sitio web del Instituto Futuro de la Vida.
Agregan que “los sistemas de inteligencia artificial potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
Este mensaje viene luego del lanzamiento de una serie de proyectos de IA en los últimos meses, que realizan tareas humanas de manera convincente como escribir correos electrónicos y crear arte.
OpenAI, respaldado por Microsoft Corp., lanzó este mes su GPT-4, actualización de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes.
Google y Microsoft de Alphabet Inc. se encuentran entre las empresas que utilizan inteligencia artificial para mejorar sus motores de búsqueda, mientras que Morgan Stanley ha estado utilizando GPT-4 para crear un chatbot para sus asesores de riqueza.
En la carta, se expone que los desarrolladores deberían trabajar con los legisladores para crear nuevos sistemas de gobierno de IA y órganos de supervisión, además de pedir a los gobiernos que intervengan en el desarrollo de sistemas de IA si los principales actores no aceptaban de manera inminente una pausa pública y verificable.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas poderosos y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijo.
OpenAI no respondió a las solicitudes de comentarios sobre la carta. No hubo signatarios de OpenAI. El Future of Life Institute es una organización sin fines de lucro que busca mitigar los riesgos asociados con tecnologías poderosas y cuenta con la Fundación Musk como su mayor contribuyente.
Con información de El Financiero.
