El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, establece un marco jurídico uniforme para la inteligencia artificial (IA) en la Unión Europea. Este reglamento tiene como objetivos principales promover el desarrollo y uso de sistemas de IA que sean seguros, confiables y acordes con los valores fundamentales de la UE, al tiempo que se asegura la protección de los derechos fundamentales, la salud y la seguridad de los ciudadanos. Además, busca evitar la fragmentación del mercado interno a través de normas armonizadas que regulen la comercialización y uso de estos sistemas en toda la Unión.
El Reglamento Europeo de Inteligencia Artificial
Aspectos a tener en cuenta:
Ámbito de aplicación
El reglamento se aplica a todas las personas físicas o jurídicas, públicas o privadas, que desarrollen, introduzcan en el mercado, pongan en servicio o utilicen sistemas de IA en la Unión Europea. Además, su aplicación se extiende a los proveedores y responsables del despliegue de sistemas de IA establecidos en terceros países si los resultados de salida generados por dichos sistemas están destinados a ser utilizados en la Unión (artículo 2).
Quedan excluidos del ámbito de aplicación aquellos sistemas de IA que se utilicen exclusivamente con fines militares, de defensa o de seguridad nacional. Asimismo, los sistemas desarrollados y puestos en servicio únicamente para fines de investigación y desarrollo científico no se ven afectados por las obligaciones del reglamento, siempre y cuando no se introduzcan en el mercado (artículo 3).
Impacto en empresas
El reglamento introduce un enfoque basado en el riesgo, estableciendo diferentes niveles de obligaciones dependiendo del tipo de sistema de IA y su potencial impacto en la sociedad.
- Clasificación de Sistemas de IA:
- Sistemas de IA de Alto Riesgo: Estos son sistemas cuya utilización puede afectar significativamente la salud, la seguridad o los derechos fundamentales de las personas. Incluyen aplicaciones en sectores como la salud, el transporte, la justicia y la administración pública. Los sistemas de alto riesgo están sujetos a requisitos estrictos de conformidad antes de su comercialización. Esto incluye la obligación de realizar evaluaciones de riesgos, asegurar la calidad de los datos utilizados para entrenar los algoritmos y mantener registros detallados del funcionamiento del sistema (artículos 6-24).
- Sistemas de IA de Bajo Riesgo: Aunque no están exentos de regulación, estos sistemas tienen menos obligaciones. Se requiere que sus proveedores y desarrolladores implementen medidas de transparencia y seguridad, como informar a los usuarios cuando están interactuando con un sistema de IA (artículo 52).
- Sistemas de IA Prohibidos: Algunos sistemas de IA están prohibidos en la UE debido a los riesgos inaceptables que plantean para los derechos fundamentales. Esto incluye, por ejemplo, sistemas diseñados para manipular el comportamiento humano de manera subliminal, o aquellos que permiten la puntuación social por parte de autoridades públicas, lo que podría llevar a discriminación y exclusión social (artículo 5).
- Obligaciones para Proveedores y Desarrolladores:
- Evaluación de Conformidad y Certificación: Los proveedores de sistemas de IA de alto riesgo deben realizar evaluaciones de conformidad antes de la comercialización de sus productos. Estas evaluaciones deben ser llevadas a cabo por organismos notificados que verificarán que el sistema cumple con los requisitos establecidos en el reglamento. Además, se debe mantener actualizada la documentación técnica que respalda el cumplimiento de estas obligaciones, lo que incluye detalles sobre el diseño, desarrollo y pruebas realizadas (artículos 18-20).
- Gestión de Riesgos: Los proveedores deben implementar un sistema de gestión de riesgos que abarque todo el ciclo de vida del sistema de IA, desde su concepción hasta su retirada del mercado. Este sistema debe identificar y mitigar los riesgos potenciales asociados con el uso del sistema, garantizando que se cumplan los estándares de seguridad y se minimicen los impactos negativos en la sociedad (artículo 9).
- Transparencia y Explicabilidad: Uno de los requisitos clave para los sistemas de IA, especialmente aquellos de alto riesgo, es la transparencia. Los proveedores deben garantizar que los usuarios puedan comprender cómo funciona el sistema y cómo se toman las decisiones automatizadas. Esto es esencial en contextos donde las decisiones pueden afectar significativamente a los derechos de los individuos, como en el ámbito del empleo o la justicia (artículo 13).
- Supervisión y Monitorización: Una vez que el sistema de IA ha sido puesto en servicio, los proveedores deben continuar monitoreando su desempeño y reportar cualquier incidente grave a las autoridades competentes. Esta obligación incluye la recolección y análisis de datos sobre el rendimiento del sistema y la implementación de medidas correctivas si es necesario (artículo 23).
- Registro de Sistemas de Alto Riesgo: Los sistemas de IA considerados de alto riesgo deben ser registrados en una base de datos central gestionada por la Comisión Europea. Este registro permitirá una supervisión más efectiva y facilitará la coordinación entre las autoridades nacionales y europeas (artículo 60).
Impacto en usuarios
El reglamento no solo regula a las empresas, sino que también ofrece una protección significativa a los usuarios frente a los posibles riesgos de la IA.
- Protección de Derechos Fundamentales:
- Prohibición de Sistemas de Manipulación y Puntuación Social: Se prohíben explícitamente los sistemas de IA que puedan ser utilizados para manipular el comportamiento humano de manera subliminal, o aquellos que permiten la creación de perfiles sociales que puedan conducir a discriminación o trato injusto (artículo 5). Esta prohibición tiene como objetivo prevenir prácticas que puedan erosionar la autonomía individual y fomentar la igualdad y no discriminación.
- Derecho a la Explicación: Los usuarios tienen el derecho de ser informados cuando interactúan con un sistema de IA, y de recibir explicaciones claras sobre cómo y por qué se ha tomado una determinada decisión automatizada. Esto es especialmente relevante en situaciones donde las decisiones automatizadas pueden tener un impacto significativo en los derechos y libertades de los individuos, como en el caso de solicitudes de crédito, contratación de seguros, o decisiones de contratación (artículo 52).
- Acceso a Recursos y Compensaciones: En caso de que un usuario sea perjudicado por el uso indebido de un sistema de IA, el reglamento establece que tienen derecho a buscar compensación. Esto incluye la posibilidad de presentar reclamaciones por daños y perjuicios derivados de decisiones automatizadas que sean incorrectas, discriminatorias o que vulneren otros derechos fundamentales (artículo 71).
- Obligaciones de Transparencia:
- Interacción con Sistemas de IA: Los usuarios deben ser claramente informados cuando están interactuando con un sistema de IA. Esto incluye no solo a los consumidores, sino también a los empleados que puedan estar sujetos a la supervisión o decisiones tomadas por sistemas automatizados en su lugar de trabajo (artículo 52).
- Protección de Datos: Aunque el Reglamento de Inteligencia Artificial se enfoca principalmente en la seguridad y el uso ético de la IA, también complementa la normativa existente en materia de protección de datos, como el Reglamento General de Protección de Datos (RGPD). En este sentido, cualquier tratamiento de datos personales realizado por sistemas de IA debe cumplir con los requisitos establecidos por el RGPD, garantizando la privacidad y la seguridad de los datos personales (artículo 10).
Impacto en la sociedad
El Reglamento (UE) 2024/1689 también tiene implicaciones más amplias para la sociedad en su conjunto. Al establecer un marco normativo sólido y coherente, la UE busca no solo proteger a sus ciudadanos, sino también promover la innovación y el liderazgo en el ámbito de la inteligencia artificial a nivel global.
- Fomento de la Innovación: El reglamento incluye disposiciones que apoyan la innovación en la IA, especialmente para pequeñas y medianas empresas (PYMES) y startups. Se han introducido medidas para facilitar la creación de «sandboxes regulatorios», que son entornos controlados donde las empresas pueden probar nuevas tecnologías y aplicaciones de IA bajo la supervisión de las autoridades competentes sin estar sujetas inmediatamente a todos los requisitos normativos. Esto permite a las empresas innovar y experimentar de manera segura y controlada, reduciendo los riesgos y costos asociados con el cumplimiento normativo (artículo 53).
- Alfabetización en Materia de IA: Consciente de la necesidad de generar confianza en la tecnología de IA, el reglamento también promueve la alfabetización en materia de IA entre los ciudadanos y los actores clave en la sociedad. Esto incluye iniciativas para mejorar la comprensión pública sobre cómo funciona la IA, los riesgos asociados y cómo se pueden mitigar. La Comisión Europea y los Estados miembros están llamados a cooperar con las partes interesadas para desarrollar y promover herramientas educativas y campañas de sensibilización (artículo 57).
Fechas de entrada en vigor y aplicación
El reglamento fue publicado el 12 de julio de 2024 en el Diario Oficial de la Unión Europea, y conforme a lo establecido en el mismo, entrará en vigor 20 días después de su publicación, es decir, el 1 de agosto de 2024 (artículo 99). A partir de esta fecha, el reglamento es vinculante y aplicable en todos los Estados miembros, lo que significa que no requiere de transposición a las legislaciones nacionales.
No obstante, el reglamento prevé un período de adaptación antes de su plena aplicación. De acuerdo con el artículo 100, las disposiciones más relevantes, especialmente aquellas relacionadas con la comercialización, puesta en servicio y uso de sistemas de IA considerados de alto riesgo, entrarán en vigor el 1 de enero de 2025. Este periodo transitorio está diseñado para que las empresas y administraciones públicas puedan ajustar sus procesos y sistemas a las nuevas exigencias normativas.
Conclusión
El Reglamento (UE) 2024/1689 establece un marco normativo integral y equilibrado para la inteligencia artificial en la Unión Europea, combinando la promoción de la innovación con la protección de los derechos fundamentales. Las empresas que desarrollen y comercialicen sistemas de IA deberán adaptarse a nuevas obligaciones rigurosas, asegurando la transparencia, seguridad y ética en sus operaciones. Para los usuarios, el reglamento ofrece nuevas garantías y protecciones, asegurando que la IA se utilice de manera que respete la dignidad, privacidad y derechos de todas las personas. Con su enfoque basado en el riesgo y su atención a la promoción de la innovación, el reglamento posiciona a la UE como un líder global en la regulación de la inteligencia artificial.