Nueva York, Estados Unidos.- Un grupo de científicos, especialistas en inteligencia artificial y premios Nobel hizo un llamado global para establecer límites claros en el desarrollo de la inteligencia artificial (IA), antes de las sesiones de alto nivel de la Asamblea General de la ONU que se celebra esta semana en Nueva York.
La propuesta, respaldada por más de 200 individuos y 70 organizaciones, plantea la necesidad urgente de crear una institución internacional que defina y vigile el cumplimiento de un acuerdo vinculante sobre las llamadas "líneas rojas" que la IA no debería cruzar.
El anuncio fue presentado por la Nobel de la Paz, Maria Ressa, en un evento conmemorativo por el 80º aniversario de la ONU. Durante una rueda de prensa virtual, Charbel Segerie, director del Centro Francés para la Seguridad de la IA, subrayó que la intención no es sancionar tras incidentes graves, sino prevenir riesgos a gran escala antes de que se materialicen. Según Segerie, se debe exigir a las empresas demostrar la seguridad de sus desarrollos, como se hace en sectores regulados como el farmacéutico o el nuclear.
Entre las preocupaciones de los expertos destaca el avance hacia una hipotética "superinteligencia" o inteligencia artificial general (AGI, por sus siglas en inglés), una tecnología que podría superar las capacidades cognitivas humanas. Aunque por ahora permanece en el terreno de la especulación, algunas voces señalan que podría materializarse en la próxima década.
Stuart Russell, profesor de la Universidad de Berkeley y director del Centro para la IA Compatible con Humanos, advirtió que los sistemas de IA están diseñados para emular el comportamiento humano, incluyendo metas como persuadir o dominar. En su opinión, esto los convierte en sistemas inherentemente inseguros, sobre todo considerando que actualmente no existe un plan claro para controlarlos, ni por parte de los desarrolladores ni de los gobiernos.
Russell alertó que un mal manejo de esta tecnología podría provocar un desastre comparable al accidente nuclear de Chernóbil, y no descartó escenarios más extremos donde la humanidad pierda el control por completo sobre su destino.
Por su parte, Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, destacó que si bien existen avances, como el código de prácticas promovido por la Unión Europea, es necesario trasladar esas medidas al ámbito global y dotarlas de aplicación efectiva.
La iniciativa insiste en la necesidad de crear un nuevo organismo internacional que no solo defina los límites éticos y técnicos de la IA, sino que tenga capacidad para intervenir ante posibles violaciones que comprometan la seguridad mundial.
Procura mantenerte al tanto de todas las noticias hoy en Puebla, México y el mundo ¡Explora más en nuestro portal ahora mismo!
Foto: IA
djs
