Primeros pasos en la regulación mundial de la IA
(17 marzo 2024) El miércoles fue un día clave para la regulación de la Inteligencia Artificial (IA) a nivel global. El Parlamento Europeo aprobó la tan esperada Ley de IA (AIA por sus siglas en inglés) que busca proteger los derechos fundamentales, la democracia y el Estado de derecho en la Unión Europea.
De ser ratificada por los Estados miembros de la UE en las próximas semanas, la AIA se convertirá en la primera legislación integral sobre IA en el mundo. Un hito muy relevante considerando que, según Statista, el mercado de la IA alcanzará los $227.460 millones este 2024. Lo más trascendente es que la AIA no sólo regirá en Europa, sino que también será aplicable a empresas extranjeras que provean e implementen IA en la UE. Esto podría convertirla en un modelo a replicar globalmente, estandarizando la regulación de la IA a nivel mundial.
La AIA categoriza los sistemas de IA en cuatro niveles – riesgo mínimo/nulo, riesgo limitado, alto riesgo y riesgo inaceptable – con obligaciones y sanciones más estrictas a medida que aumenta el nivel de riesgo.
Los sistemas de alto riesgo, utilizados en sectores críticos como banca, seguros y salud, deberán cumplir con nuevas obligaciones legales como evaluaciones de impacto en derechos fundamentales, sistemas de gestión de riesgos y calidad, registro público y otros requisitos de transparencia. Las empresas que utilicen IA de ‘riesgo inaceptable’ como el reconocimiento facial en tiempo real enfrentarán la prohibición de esos sistemas y multas de hasta €35 millones o el 7% de sus ingresos anuales globales. Incluso las infracciones menores, como no realizar evaluaciones de riesgo adecuadas, podrían resultar en multas de €15 millones o el 3% de los ingresos anuales globales.
Sin duda, la sociedad enfrenta grandes desafíos éticos con el advenimiento de la IA. Se deben tomar resguardos para proteger los derechos humanos, la privacidad y la democracia. No obstante, estos resguardos deben ponderarse cuidadosamente para no limitar el enorme potencial que una IA bien diseñada y regulada puede tener para resolver problemas apremiantes de la humanidad y el planeta, como el cambio climático, las enfermedades y la pobreza. En la reciente Misión Tecnológica de País Digital en Europa, nos reunimos con la Dirección General de Redes de Comunicación, Contenido y Tecnología (DG Connect) de la Comisión Europea. Compartimos nuestros Objetivos de Desarrollo Digital (ODD) y propusimos una agenda colaborativa de largo plazo entre Chile y la UE. Analizamos el desarrollo de la IA, sus aspectos técnicos, éticos y los desafíos que enfrentamos.