Reglamento de inteligencia artificial

1. INTRODUCCIÓN

La Inteligencia Artificial es una tecnología transformadora que presenta altas capacidades de impacto en la economía y la sociedad. Aun así, también puede suponer riesgos sobre el respeto de los derechos fundamentales de la ciudadanía.

Por ello, la Comisión Europea ha aprobado un Reglamento en materia de Inteligencia Artificial con el objetivo de asegurar el respeto de los derechos fundamentales de la ciudadanía y generar confianza en el desarrollo y la utilización de la Inteligencia Artificial de manera integral en la economía y la sociedad.

El Reglamento busca proveer a la Unión Europea de una marco normativo con el fin de promover una Inteligencia Artificial fiable, ética y robusta.

2. OBJETIVOS

Los objetivos que se persiguen son:

• Mejorar el funcionamiento del mercado interior y promover la adopción de una Inteligencia Artificial (IA) centrada en el ser humano y fiable.
• Garantizar al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales, en particular la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de Inteligencia Artificial («sistemas de IA») en la Unión.
• Brindar apoyo a la innovación.
• Adopción de una Inteligencia Artificial centrada en el ser humano y fiable

3. ÁMBITO DE APLICACIÓN

Según el artículo 2 del mismo, se precisa que su ámbito de aplicación se extiende a :

• Proveedores de sistemas de IA que se pongan en servicio o comercialicen dentro de la UE o cuya salida sea en la UE, independientemente de su origen.
• A usuarios de los mismos, considerando usuarios a quienes explotan estos sistemas, y no a los afectados
• Sistemas de IA divulgados con arreglo a licencias libres y de código abierto, a menos que se introduzcan en el mercado o se pongan en servicio como sistemas de IA de alto riesgo o que entren en el ámbito de aplicación del artículo 5 o del artículo 50.

4. DEFINICIÓN DE LA INTELIGENCIA ARTIFICIAL

El Reglamento define el Sistema de Inteligencia Artificial como aquel que opera con elementos de autonomía y que, basándose en datos y entradas obtenidos de humanos o máquinas, infiere cómo alcanzar unos objetivos propuestos, usando para ello técnicas basadas en el aprendizaje-máquina o en lógica y conocimiento, y genera como salida contenidos, predicciones, recomendaciones o decisiones que influyen en el entorno con el que el sistema interactúa.

5. JERARQUÍA DE RIESGOS

El Reglamento determina una jerarquía de riesgos (estableciendo cuatro niveles) en función del uso de la IA, y sobre las categorías detectadas establece una serie de obligaciones.

Así tenemos la siguiente clasificación:

• Sistemas de IA con riesgo mínimo o nulo. Estos sistemas al no presentar riesgos se considera que no tendrán obligaciones derivadas del Reglamento (otro aspecto son otras obligaciones legales recogidas en otras normativas)
• Sistemas de IA con riesgo limitado. Estos sistemas están sujetos a obligaciones de transparencia.
• Sistemas de IA con alto riesgo. El Reglamento contempla una serie de sistemas de Inteligencia Artificial que deben ser considerados de alto riesgo, y en consecuencia se establecen una serie de obligaciones / requisitos estrictos que deben cumplir estos sistemas (entre otras, la implantación, documentación y mantenimiento de un sistema de gestión de riesgos, prácticas de gobernanza y gestión de datos adecuadas, elaboración de documentación técnica, conservación de registro de eventos, obligaciones de transparencia y comunicación, vigilancia humana del sistema, diseñados y desarrollados con un nivel adecuado de precisión, solidez y cieberseguridad,…)
• Sistemas de IA con riesgo inaceptable, y en consecuencia, prohibidos.

6. ENTIDADES DE SUPERVISIÓN

El Reglamento establece que existirán al menos, en cada Estado Miembro:

• Una autoridad nacional notificante
• Autoridad de supervisión de mercado (autoridades nacionales competentes para los propósitos del Reglamento)

A nivel Europeo, se establecerá un Comité Europeo de Inteligencia Artificial, donde participará un representante de cada Estado miembro

Además de ello, se establecerán las siguientes autoridades en los siguientes ámbitos:

7. SANCIONES

El artículo 99 del Reglamento propone un marco normativo sobre sanciones. Los Estados Miembros, al realizar la transcripción de la norma europea deberán detallar y especificar las sanciones que se impondrán en cada Estado Miembro. En principio, el marco normativo que otorga los límites de las sanciones al hecho punible son las siguientes:

1. El no respeto de la prohibición de las prácticas de IA estará sujeto a multas de:
   1. Particular: Hasta35 000 000 EUR.
   2. Empresa: Hasta el 7 % de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior.
2. El incumplimiento por parte de un sistema de IA de cualquiera de las obligaciones o requisitos que figuren en el Reglamento en relación con los operadores o los organismos notificados, estará sujeto a multas de:
   1. Particular: Hasta 15 000 000 EUR.
   2. Empresa hasta el 3 % de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior.
3. La presentación de informacióninexacta, incompleta o engañosa a organismos notificados o a las autoridades nacionales competentes en respuesta a una solicitud estará sujeta a multas de:
   1. Particular: hasta 7 500 000 EUR
   2. Empresa: de hasta el 1 % del volumen de negocios mundial total correspondiente al ejercicio financiero anterior.

Si te encuentras con preguntas o requieres asesoría legal en este campo, no dudes en contactar con nuestros abogados especializados en Inteligencia Artificial.

Nuestro equipo de expertos en Derecho, especializado en esta materia, está preparado para abordar los desafíos que la Inteligencia Artificial presenta desde el punto de vista legal.

Tu tranquilidad y seguridad son nuestra prioridad, así que no dudes en ponerte en contacto con nosotros para obtener la orientación que necesites.

Imagen por rawpixel.com en Freepik