En la primera jornada de la AI Seoul Summit 2024, líderes gubernamentales y ejecutivos de la industria tecnológica acordaron una serie de medidas y principios para guiar el desarrollo de la inteligencia artificial (IA) a nivel mundial. Se comprometieron a abordar las oportunidades y desafíos con propuestas enfocadas en la innovación, la inclusión y la seguridad.
Los participantes presentaron la Declaración de Seúl, un marco de gobernanza voluntario que fue asumido por representantes de Australia, Canadá, la Unión Europea, Francia, Alemania, Italia, Japón, Corea del Sur, Singapur, Reino Unido y Estados Unidos.
Los firmantes se comprometieron a fomentar la cooperación internacional entre gobiernos, empresas, academia y sociedad civil en materia de IA. Promueven la creación de normas interoperables basadas en riesgos y centradas en la protección de la humanidad, a través de organismos internacionales como la Organización de las Naciones Unidas (ONU), la Organización para la Cooperación y el Desarrollo Económicos, el G7 y el G20.
Gina Raimondo, secretaria de Comercio de EE UU, afirma que están colaborando con otras naciones, como Reino Unido, Japón y Canadá, para hacer frente a los riesgos que plantea la inteligencia artificial.
Rishi Sunak, primer ministro británico, dijo que “debemos garantizar la seguridad de la IA para proteger el bienestar y la democracia de nuestra sociedad”. Celebró la firma de un nuevo compromiso optativo entre 16 empresas tecnológicas, que calificó como “una primicia mundial” que garantiza que los principales desarrolladores de sistemas de IA ejecutan planes de desarrollo transparentes y responsables.
Organizaciones como Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, OpenAI, Samsung Electronics y xAi participan en el convenio. Se comprometen “a no desarrollar ni implementar ningún modelo o sistema si no se pueden aplicar mitigaciones para mantener los riesgos por debajo de los umbrales”. Serán responsables de identificar, evaluar y gestionar las amenazas de su algoritmos y comunicarlas a los “actores externos” y autoridades de gobierno.
Los tratados conseguidos en la AI Seoul Summit 2024 han sido calificadas como prometedores por algunos analistas. Otros afirman que es necesario pasar de las propuestas a las acciones con mayor velocidad. Michelle Donelan, secretaria de Tecnología de Reino Unido, puntualizó que “a medida que se acelera el ritmo del desarrollo de la IA, debemos igualar esa velocidad para asegurar que la sociedad en su conjunto se vuelva resiliente a los peligros que plantea esta tecnología”.
“Estamos viendo avances tecnológicos que amenazan muchas vidas, desde la desinformación hasta la vigilancia masiva y la perspectiva de armas letales autónomas. No podemos caminar sonámbulos hacia un futuro distópico en el que el poder de la IA esté controlado por unas pocas personas o, peor aún, por algoritmos que van más allá de la comprensión humana”, sentenció António Guterres, secretario general de la ONU.
Están en duda las medidas para contener los riesgos de la IA
Reino Unido y Corea del Sur son los anfitriones de la AI Seoul Summit 2024 que se celebra entre el 21 y 22 de mayo. La reunión pretende dar seguimiento a las conversaciones y pactos de la primera Cumbre Internacional sobre Seguridad de la IA acontecida en Inglaterra en noviembre. Aquella cita culminó con la firma de la llamada Declaración de Bletchley Park. Más de 28 países signatarios alertaron que la velocidad e incertidumbre con la que se está desarrollando y adoptando la IA pueden causar “daños graves, incluso catastróficos”.
Un grupo de 25 expertos en la materia han advertido que estos esfuerzos de gobernanza “resultan críticamente insuficientes”. En una carta publicada en la revista Science, sostienen que aunque pactos como la Declaración de Bletchley Park representan un paso importante en la búsqueda de un marco regulatorio global, estos “van a la zaga del progreso tecnológico”.