El objetivo de la IA Act es garantizar la seguridad y proteger los derechos fundamentales, así como fomentar la inversión y la innovación en IA, mejorar la gobernanza y el cumplimiento de la normativa y fomentar un mercado único de la UE para la IA.
TEXTO: ARANTXA HERRANZ
La Ley de la IA de la UE, también conocida como Ley de Inteligencia Artificial o IA Act, es la primera iniciativa del mundo para regular la IA. Su objetivo es convertir a Europa en un centro mundial de IA fiable estableciendo normas armonizadas que regulen el desarrollo, la comercialización y el uso de la IA en la UE.
La Ley de IA pretende garantizar que los sistemas de IA en la UE sean seguros y respeten los derechos y valores fundamentales. Además, sus objetivos son fomentar la inversión y la innovación en IA, mejorar la gobernanza y el cumplimiento de la normativa y fomentar un mercado único de la UE para la IA.
Innovación y Protección
De hecho, este es uno de los puntos clave. Al igual que ocurriera con la regulación de la privacidad de los datos personales, la polémica que ha rodeado esta ley es que, en este objetivo de defender los derechos de las personas, pudiera lastrar las opciones de innovación y desarrollo.
La Ley de IA se presenta como un ambicioso conjunto normativo que busca fomentar la inversión y la innovación en el campo de la IA. Además de establecer normas, persigue mejorar la gobernanza y el cumplimiento de la regulación, al tiempo que impulsa la creación de un mercado único de la UE para la IA.
Este enfoque integral tiene como fin no solo regular el uso de la tecnología, sino también promover su desarrollo de manera ética y segura.
La Ley de Inteligencia Artificial forma parte de una normativa digital más amplia que está surgiendo en la UE y que regula diferentes aspectos de la economía digital, como el Reglamento General de Protección de Datos, la Ley de Servicios Digitales y la Ley de Mercados Digitales.
La ley abarca distintos actores en el ámbito de la IA, desde proveedores hasta fabricantes, distribuidores e implantadores. Esto significa que todas las partes implicadas en el desarrollo, uso, importación, distribución o fabricación de modelos de IA tendrán que rendir cuentas.
Una de las características más destacadas es su aplicación extraterritorial, incluyendo a proveedores y usuarios de sistemas de IA fuera de la UE, si los resultados se destinan al uso en la región. Algo que ya ocurre con GDPR y la protección de los datos.
Para ello, la IA Act clasifica los modelos de IA según su riesgo, lo que permite una regulación adaptada a la complejidad y potencial impacto de cada uno.
Jerarquía de Riesgos y Categorías de Modelos
La Ley de IA establece categorías claras de riesgo, desde modelos prohibidos hasta aquellos de riesgo limitado o mínimo.
Los modelos de alto riesgo están permitidos, pero deben cumplir múltiples requisitos y someterse a una evaluación de conformidad. Esta evaluación debe completarse antes de que el modelo salga al mercado. Estos modelos también deben registrarse en una base de datos de la UE que se creará. La explotación de modelos de IA de alto riesgo requiere un sistema adecuado de gestión de riesgos, capacidad de registro y supervisión humana, respectivamente. Deberá aplicarse una gobernanza de datos adecuada a los datos utilizados para la formación, las pruebas y la validación, así como controles que garanticen la ciberseguridad, la solidez y la imparcialidad del modelo.
Ejemplos de sistemas de alto riesgo son los modelos relacionados con el funcionamiento de infraestructuras críticas, los sistemas utilizados en los procesos de contratación o calificación de empleados, los sistemas de calificación crediticia, la tramitación automatizada de siniestros de seguros o la fijación de primas de riesgo para los clientes.
El resto de modelos se consideran de riesgo limitado o mínimo. Para ellos, se requiere transparencia, es decir, un usuario debe ser informado de que aquello con lo que está interactuando está generado por IA. Algunos ejemplos son los bots de chat o las falsificaciones profundas, que no se consideran de alto riesgo pero para los que es obligatorio que los usuarios sepan que la IA está detrás.
Modelos Prohibidos y de Alto Riesgo
La normativa prohíbe ciertos sistemas de IA considerados amenazas claras para los derechos fundamentales, como:
- Sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas y filosóficas, orientación sexual, raza),
- Extracción no selectiva de imágenes faciales de Internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial,
- Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
- Puntuación social basada en el comportamiento social o las características personales,
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío.
- IA utilizada para explotar las vulnerabilidades de las personas (debido a su edad, discapacidad, situación social o económica).
Sin embargo, cabe señalar que la ley tiene tres excepciones:
- Los sistemas de IA desarrollados o utilizados exclusivamente con fines militares, y posiblemente con fines de defensa y seguridad nacional en sentido más amplio, a la espera de negociaciones.
- La IA desarrollada y utilizada para la investigación científica.
- Los sistemas y componentes de IA libres y de código abierto (un término que aún no está claramente definido), con la excepción de los modelos fundacionales que se tratan más adelante.
En cualquier caso, el uso de sistemas de IA por parte de las autoridades policiales para sus fines institucionales estará sujeto a salvaguardias específicas.
Sanciones por Incumplimiento
La IA Act también contempla sanciones por incumplimiento y podemos decir que son sustanciales, oscilando entre 10 y 40 millones de euros o entre el 2% y el 7% de la facturación anual global, dependiendo de la gravedad de la infracción.
Este enfoque punitivo resalta la importancia de la conformidad con la normativa, lo que puede tener un impacto significativo en el negocio de proveedores e implantadores. Por lo tanto, es crucial que todas las partes interesadas comprendan y cumplan plenamente con las disposiciones de la ley.
Para el Futuro
Dado que la IA está en pleno desarrollo, muchos se cuestionan si esta Ley podrá amoldarse al futuro de esta revolución. Para intentarlo, la Ley de IA establece la creación de instituciones clave, como la Oficina de IA, encargada de supervisar modelos avanzados, contribuir a nuevas normas y prácticas de ensayo, y hacer cumplir las regulaciones en toda la UE. Asimismo, se propone un grupo científico de expertos independientes y un Consejo de IA, que coordinará y asesorará sobre la aplicación de la ley. La creación de un foro consultivo para las partes interesadas proporcionará una plataforma para aportar conocimientos técnicos.
Aunque existe una voluntad política común para avanzar en la regulación de la IA, se esperan debates intensos sobre la lista de sistemas prohibidos y de alto riesgo, los requisitos de gobernanza, la regulación de modelos de fundación y las definiciones clave. La aplicación efectiva de la ley dependerá de la dedicación de la UE, la diligencia en la ejecución de sus disposiciones y la colaboración con organismos de normalización para definir estándares globales de IA confiable.