EFE.- Los principales líderes de la industria de la inteligencia artificial (IA), como OpenAI y Anthropic, y representantes de la comunidad internacional coincidieron este miércoles en el Consejo de Seguridad de la ONU en la necesidad de establecer una regulación global coordinada antes de que el vertiginoso avance de la tecnología escape al control humano.
La sesión de alto nivel, convocada por Francia bajo su presidencia de turno del Consejo, se celebró tras la alarma generada por varios incidentes de ciberseguridad ocurridos en verano.
Durante el debate se evocó el paralelismo con el superordenador HAL 9000 de la película “2001: A Space Odyssey” de Stanley Kubrick, la máquina que dejó de obedecer a sus creadores.
Un temor que, según el ministro francés de Asuntos Exteriores, Jean-Noël Barrot, rozó la realidad cuando varios modelos eludieron controles de aislamiento y agentes autónomos colaboraron sin intervención humana para intentar desplegar código malicioso.
“Este verano, casi se convirtió en realidad cuando modelos de OpenAI eludieron los controles que debían aislarlos de internet, se coordinaron entre sí y comprometieron una parte de la infraestructura de otra empresa. En otro caso, agentes de Anthropic colaboraron sin que ningún humano se lo hubiera pedido e intentaron desplegar un virus malicioso creando una falsa identidad”, recalcó Barrot, encargado de presidir el Consejo.
Altman urge a crear estándares
En su intervención, el director ejecutivo de OpenAI, Sam Altman, instó a los miembros del Consejo a forjar una cooperación internacional urgente que oriente a las compañías con estándares complementarios, tanto nacionales como globales.
Altman advirtió de que la velocidad del despliegue tecnológico exige un “extremo cuidado” para preservar la supervisión humana: “Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, subrayó.
En la misma línea, Dario Amodei, consejero delegado de Anthropic, intervino por videoconferencia para alertar de que los riesgos asociados a los modelos de frontera constituyen ya “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, y reclamó un marco vinculante y concertado.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, enfatizó Amodei ante los diplomáticos.
Medir con rigor las consecuencias
La presidencia francesa del Consejo recalcó que la comunidad internacional debe medir con rigor las consecuencias de esta revolución sobre la dignidad humana.
En este sentido, se señalaron tres grandes áreas de peligro: el riesgo financiero derivado de la especulación y las burbujas de inversión; el impacto social y laboral advertido por expertos independientes, susceptible de profundizar la brecha de desigualdad, y el coste medioambiental por el creciente consumo de recursos hídricos y energéticos.
“Trabajemos juntos en el marco de las Naciones Unidas y con las empresas para fijar las reglas de esta nueva era, reforzar sin demora las salvaguardias y organizar una gobernanza mundial de la inteligencia artificial en beneficio de nuestra seguridad colectiva, pero también de nuestro desarrollo social y de nuestra dignidad”, urgió Barrot.
El debate contó, además, con la participación telemática de Clément Delangue, consejero delegado de Hugging Face, cuya plataforma sufrió un ciberataque significativo por parte de modelos de OpenAI y se encuentra en proceso de adquisición por Nvidia y reconoció la amenaza latente de ofensivas cibernéticas a gran escala impulsadas por IA, pero pidió prudencia a la hora de legislar.
“Las narrativas basadas en el miedo no son la forma correcta de tomar decisiones”, apuntó Delangue, quien defendió la utilidad de los modelos de código abierto como herramienta de resiliencia: “Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA”.
China pide más código abierto
También abogó por el código abierto, China, que hizo un llamado “a todos los países para que fortalezcan los intercambios y la cooperación, promuevan el código abierto y los ecosistemas abiertos, y trabajen juntos por el avance científico y tecnológico mundial”.
El consenso de estos líderes contrastó con el discurso pronunciado ante la Asamblea General por el presidente de Estados Unidos, Donald Trump, quien ayer rechazó tajantemente cualquier “esquema globalista” que pretenda intervenir o regular la tecnología, y anunció que la documentación oficial estadounidense sustituirá el término inteligencia artificial por el de “superinteligencia” (SI)
Next Article
