El Consejo de la Unión Europea acaba de aprobar de manera definitiva la primera ley a nivel mundial que modera el desarrollo, producción y uso de sistemas basados en inteligencia artificial (IA). Las autoridades del bloque afirman que la normativa “puede establecer un estándar global para la regulación de esta tecnología”. La legislación fue autorizada por el Parlamento Europeo en marzo. Tras la decisión del Consejo, se publicará en el Diario Oficial de la región. Los requisitos y condiciones de la reforma se aplicarán dos años después “con algunas excepciones para disposiciones específicas”.
“La nueva ley tiene como objetivo fomentar el desarrollo y la adopción de sistemas de IA seguros y confiables en todo el mercado de la Unión Europea por parte de actores públicos y privados. Al mismo tiempo, pretende garantizar el respeto de los derechos fundamentales de los ciudadanos y estimular la inversión y la innovación alrededor de esta herramienta”, afirma el Consejo.
Las empresas más grandes de Europa firmaron una carta abierta para expresar su descontento alrededor de la Ley IA, aprobada este mes por la Unión Europea.
¿Qué dice la Ley de AI?
El marco legal clasifica los diferentes tipos de inteligencia artificial en función del “potencial que tienen para causar daño a la sociedad”. Contempla las categorías: riesgo limitado, alto riesgo y riesgo inaceptable. En la primera se consideran recursos como los bots de asistencia o las soluciones de análisis que deberán cumplir “obligaciones de transparencia muy leves”. La segunda está destinada a productos biométricos, de reconocimiento facial o utilizados con fines educativos y dentro del mercado laboral. Los desarrolladores de estas aplicaciones deberán registrar sus sistemas en un censo y cumplir con obligaciones de gestión de amenazas y calidad más estrictas para poder operar en el mercado europeo. El tercer nivel enlista programas usados para la manipulación cognitivo-conductual y la puntuación social. Estos quedarán totalmente prohibidos en Europa.
“La ley también prohíbe el uso de IA para vigilancia policial predictiva basada en perfiles y sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, orientación sexual o religión”, señalan las autoridades. La reforma incluye un apartado para los modelos de IA de propósito general (GPAI) como GPT-4 o PaLM 2. La mayoría de estos tendrán que cumplir con disposiciones de transparencia limitadas. Aquellos a los que se les atribuyan “capacidades de alto impacto” y que planteen un “riesgo sistémico” enfrentarán una regulación más estricta. En esta última clasificación entrarán los GPAI entrenados con una potencia computacional superior a 10^25 operaciones de punto flotante por segundo (FLOPS).
Las grandes compañías tecnológicas que no cumplan las normas serán multadas con hasta el 7% de su facturación global. Las startups, pequeñas y medianas empresas estarán sujetas a multas administrativas proporcionales al tamaño de su negocio.
¿Cómo se hará cumplir el nuevo marco regulatorio?
La correcta aplicación de la ley será garantizada mediante una nueva estructura de gobernanza. La arquitectura estará encabezada por la Oficina de IA, un organismo que se integrará a la Comisión Europea y tendrá la responsabilidad de hacer cumplir las normas comunes en todo el territorio. Su labor estará apoyada por la Junta de IA compuesta por representantes de los Estados miembros del bloque, un panel de científicos expertos independientes y un foro consultivo que permitirá a las empresas y otras partes interesadas compartir asesoría técnica para la correcta implementación de la reforma.
Los analistas sugieren que la aprobación de la Ley de IA en Europa puede dictar nuevos parámetros de competencia en el mercado emergente a nivel mundial. La regulación abre una ventana para que los emprendimientos europeos de inteligencia artificial tengan más oportunidades de competir con las grandes corporaciones estadounidenses que dominan la industria.
Ana Peña, directora de comunicación para las Américas en Intel, reflexiona sobre los retos y oportunidades que representa una IA responsable, incluyente y segura.
Mathieu Michel, secretario de Estado belga de digitalización, asegura que “esta ley histórica aborda un desafío tecnológico global que también crea oportunidades para nuestras sociedades y economías. Con la reforma de IA, Europa enfatiza la importancia de la confianza, la transparencia y la responsabilidad cuando se trata de nuevas tecnologías y garantiza que esta tecnología en rápida evolución pueda florecer e impulsar la innovación europea”.
La Unión Europea no es la única que busca regular el uso y desarrollo de sistemas basados en IA. Las autoridades de Estados Unidos han presentado algunas propuestas al respecto, aunque la mayoría de los avances se han dejado en manos de las grandes empresas del sector. Desde agosto pasado, China cuenta con un marco legislativo para el uso de la IA generativa, aunque carece de una normativa más extensa que considere el desarrollo y avance de la tecnología. En México existen 31 iniciativas presentadas ante el Senado de la República para regular la inteligencia artificial, pero solo dos plantean reformas constitucionales para moderarla.