En la implantación de las nuevas tecnologías en nuestro día a día surgen numerosos problemas y de diversa complejidad. Además, para regular el buen funcionamiento de los mecanismos que van surgiendo, es importante la legislación que resulta de su aplicación. Ante la explosión de herramientas y de softwares que tienen como principales visos la inteligencia artificial, la Unión Europea ha delimitado las líneas para garantizar el cumplimiento de los derechos fundamentales de los ciudadanos con la finalidad de minimizar los riesgos que se pudieran generar.
El pasado 12 de julio se publicó en el Diario Oficial de la Unión Europea el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, el Reglamento Europeo de Inteligencia Artificial (en adelante “Reglamento IA”), por el que se han determinado normas armonizadas con la finalidad de limitar los riesgos y garantizar la protección de los derechos fundamentales de las nuevas tecnologías.
El Reglamento IA entró en vigor el pasado 1 de agosto de 2024, siendo aplicable de manera progresiva. El pazo genérico de aplicación es el 2 de agosto de 2026, no obstante, se han determinado ciertos plazos específicos:
- El 2 de febrero de 2025 para que resulten de aplicación las prácticas prohibidas.
- El 2 de agosto de 2025 para que resulten de aplicación ciertas normas de gobernanza.
- El 2 de agosto de 2027 para las disposiciones sobre los sistemas de alto riesgo de seguridad de los productos.
Es importante delimitar el alcance objetivo de la nueva normativa aplicable a la inteligencia artificial. Se define como sistema de inteligencia artificial, aquella herramienta que:
- Está basada en una máquina diseñada para funcionar con distintos niveles de autonomía,
- y que puede mostrar capacidad de adaptación tras el despliegue,
- y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones,
- y que pueden influir en entornos físicos o virtuales;
Aquellos sistemas de software con capacidades inferiores a las especificadas anteriormente están excluidos del ámbito de aplicación.
Las partes implicadas a las que aplica el Reglamento IA, son las siguientes:
- Proveedores, independientemente de donde estén establecidos, siempre y cuando: introduzcan en el mercado o pongan en servicio sistemas de IA, o introduzcan en el mercado modelos de IA de uso general en la Unión Europea.
- A los responsables del despliegue establecidos en la UE. Se entiende por responsables del despliegue a quienes utilicen un sistema de IA para fines profesionales.
- Proveedores y responsables del despliegue fuera de la UE cuando los resultados de salida se utilicen en la UE.
- Importadores y distribuidores de sistemas de IA.
- Fabricantes de productos que introduzcan en el mercado o pongan en servicio un sistema de IA junto con su producto y bajo su nombre o marca.
Para valorar los riesgos que la utilización de los sistemas de IA, la UE ha delimitado varios grados de riesgos. En este sentido, hay riesgos considerados inaceptables, determinando prácticas totalmente prohibidas; también hay riesgos considerados de grado alto, que son aquellos sistemas de IA que planteen un riesgo significativo de dañar la salud, seguridad o derechos fundamentales; existen riesgos limitados, que se fundamentan en aquellos sistemas de IA en los que exista un riesgo de manipulación (y se imponen requisitos de información y transparencia); por último se delimitan como riesgo mínimo aquellos sistemas de IA en los que se puedan utilizar conforme la normativa vigente de aplicación.
En los momentos en los que normativa de reciente implantación puede resultar aplicable a nuevas tecnologías que se están utilizando o, se prevén utilizar, es preciso una planificación para evitar la interposición de sanciones por desconocimiento. Las sanciones que se han previsto varían en función de la graduación de la misma así como del incumplimiento del que se trate, no obstante, puede oscilar desde los 35 millones de euros o el 7% del volumen de negocio (la cuantía que sea superior); hasta los 7,5 millones de euros o el 1% del volumen de negocio (la cuantía que sea superior). Se han determinado unas ventajas para las pymes en la graduación de la sanción que resulte aplicable, siendo la multa por el menor de los importes y porcentajes en función del tipo de sanción en la que incurran.
Lo que pretende la nueva normativa que resulta de aplicación es que todos los Los sistemas de IA deben estar centrados en el ser humano, ser responsables, transparentes, explicables y proteger la privacidad.
Para poder valorar y minimizar los riesgos en su compañía, recomendamos a nuestros clientes a que planifiquen la eventual aplicación de esta nueva normativa que resulta de aplicación para cumplir los requisitos para realizar su aplicación y, con la adecuada planificación, minimicen los posibles riesgos en los que puedan incurrir, debido a que las obligaciones impuestas en el Reglamento de IA, han llegado para quedarse.
En GESEM, disponemos de un amplio número de profesionales en el área de servicios jurídicos a los que consultar este tipo de cuestiones.
Artículo escrito por: Pablo Quiles Marín, abogado en el área jurídica de GESEM.
