RODRIGO CASTILLO JIMENEZ ABOGADO

Inteligencia Artificial y Unión Europea: Propuestas de regulación

Desde hace varias décadas, la digitalización e implementación de la tecnología en todos los ámbitos sociales ha sido uno de los principales asuntos que ha tenido que abordar el mundo del derecho, desde todos sus ámbitos. Se trata de un proceso continuo que pretende estar a la par del desarrollo tecnológico, pese a las dificultades que esto plantea.

Inteligencia Artificial y Unión Europea

A este respecto, una de las puntas de lanza en los últimos años ha sido, sin duda, la Inteligencia Artificial (IA) y su regulación jurídica. Y no es para menos, pues el proceso de revolución digital en el que estamos inmersos, con sistemas de software de IA y computadoras inteligentes que pueden pensar de forma autónoma, que replican y desarrollan procedimientos implícitos del pensamiento y razonamiento humano, no solo presenta innegables utilidades, sino también potenciales riesgos por errores y fallos para los destinatarios finales de sus servicios y el mercado en general.

Resulta pues, necesario que exista un marco regulatorio adecuado que permita garantizar a los consumidores no solo su seguridad, sino también atribuir responsabilidades en los supuestos en que provocan daños. Una regulación ciertamente compleja pero que, además, debe estar armonizada entre los diferentes países para que resulte realmente eficaz.

En este sentido, y frente al activismo de China que en los últimos años ha venido firmando acuerdos de cooperación con cincuenta y dos países aprobando normas relativas a las tecnologías de IA relacionadas con la vigilancia gubernamental, sistemas de puntuación ciudadana y estrategias de censura que no se encuentran en consonancia con las libertades individuales y los derechos humanos, la Unión Europea (UE) decidió asumir su liderazgo. La idea no es otra que la de lograr en el marco de la llamada «cuarta revolución industrial» un acuerdo mundial sobre normas comunes, para que el uso de la IA sea responsable, respetuoso con los derechos fundamentales y pueda utilizarse en beneficio de la sociedad.

Teniendo en cuenta que Estados Unidos se ha limitado a aprobar leyes sectoriales en el ámbito digital, la Unión Europea tiene la oportunidad de situarse, una vez más, como referente normativo a nivel mundial, tal y como ya consiguió en el ámbito de la protección de datos aprobando el Reglamento (UE) 2016/679 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.

Informe del Parlamento Europeo

El pasado 22 de marzo, el Parlamento Europeo aprobó el informe final sobre la Inteligencia Artificial en la era digital (conocido como AIDA).

Entre las consideraciones legislativas que nos ofrece el informe final, me parecen destacables varios aspectos. En primer lugar, y en la línea del Libro Blanco elaborado por la Comisión Europea en el año 2020, concluye que la legislación sobre Inteligencia Artificial deberá ser especialmente transparente y flexible, basándose en una escala de «riesgos». De esta forma, pretende que la proyectada regulación europea, dejando espacio al desarrollo normativo nacional, se limite tan solo a las cuestiones estrictamente necesarias; concretamente las relacionadas con aquellos sistemas de IA que presenten un alto riesgo, a los que considera conveniente imponer un sistema de responsabilidad objetiva. En cualquier caso, esta «flexibilidad» no podrá en ningún caso suponer un riesgo para la defensa de los Derechos Fundamentales, que deberán prevalecer sobre la legislación en esta materia, pues su eventual vulneración está considerada un «riesgo inaceptable».

inteligencia artificialEl informe trata, además, diferentes aspectos estrechamente vinculados con la regulación de la IA. Principalmente, la protección de datos y el Derecho de la Competencia, ámbitos en los que una correcta y eficaz regulación resultan indispensables para la concreción de sus objetivos. Recordando también el extenso trabajo realizado por el Parlamento Europeo en el marco de la Inteligencia Artificial, cabe destacar las resoluciones relativas a cuestiones como la ética, los derechos de propiedad intelectual o aplicada al ámbito penal.

Finalmente, realiza una valoración sobre la situación actual en el marco europeo de la regulación en esta materia, recogiendo algunas de las interesantes propuestas y recomendaciones contenidas, principalmente en las resoluciones del Parlamento Europeo de 2017 y 2020, a pesar de que estas iniciativas no se están tramitando en la actualidad.

Propuesta legislativa de la Unión Europea en materia de Inteligencia Artificial

La más reciente iniciativa adoptada por la Unión Europea es la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial)  presentada el 21 de abril de 2021 y que el Parlamento trabaja en la actualidad. En ésta, se contempla la expresa prohibición de aquellos sistemas de IA considerados como una amenaza para la salud, la seguridad, los medios de vida y los derechos fundamentales de las personas, que califica con el nivel de «riesgo inaceptable».

Tras las anteriores resoluciones de los años 2017 y 2020, el Parlamento entendió que los objetivos señalados y las propuestas adoptadas suponían una regulación demasiado estricta y detallada, siendo conveniente dejar un cierto margen de desarrollo a los diferentes ordenamientos nacionales. Así pues, la actual, es una Propuesta «de mínimos», elaborada en términos equilibrados y proporcionados pero suficientes. Se pretende así garantizar que los sistemas de IA introducidos y usados en el mercado de la Unión Europea sean seguros y respeten la legislación vigente en materia de DDFF y valores de la Unión, ofreciendo la seguridad jurídica necesaria para facilitar la inversión e innovación en IA y, con ello, el desarrollo de un mercado único en el que se haga uso de la tecnología de un modo seguro y fiable.

Por esta razón, la propuesta de la Comisión presentada el 21 de abril de 2021 viene a centrarse en un sistema de responsabilidad civil de los sistemas de IA que califica de «alto riesgo» -que relaciona en su anexo III-. Así lo hace por considerar que son éstos los que precisan de una regulación más estricta, por la gravedad del daño potencial o la probabilidad de que el riesgo se materialice. Frente a éstos, entiende la Comisión, se encuentran los sistemas de «bajo riesgo» que, en la mayoría de los casos, será suficiente con que los proveedores de sistemas de IA garanticen la transparencia para los usuarios finales. Junto a los estrictos requisitos para quienes desarrollen sistemas basados en IA, se prevé que el control del cumplimiento de los mismos corresponderá a la autoridad pública designada al efecto por cada Estado miembro.

Resulta interesante mencionar algunas otras propuestas contenidas en las anteriores iniciativas de 2017 y 2020 que, aunque no acaben finalmente incorporadas al texto definitivo del Reglamento que previsiblemente se aprobará en los próximos meses, muy posiblemente tendrán reflejo en las diferentes normas de desarrollo en el ámbito nacional. Cuestiones como el «seguro obligatorio» que deberán suscribir tanto los usuarios como las entidades que exploten sistemas de IA, ya sean públicas o privadas. Resulta especialmente interesante, en tanto nos encontramos antes sistemas de aprendizaje autónomo, por lo que no siempre el fabricante o productor del sistema podrá garantizar el correcto funcionamiento del sistema a medio o largo plazo, siendo necesario ofrecer una adecuada cobertura frente a los daños que puedan provocar al destinatario final.

Una vez comentados los aspectos que he considerado más destacables de la futura reglamentación europea, queda por resolver si en España los retos jurídicos que plantean los sistemas de IA obligarán a modificar el actual marco normativo y, más concretamente lo previsto en la Ley General para la Defensa de los Consumidores y Usuarios (LGDCU) en sus artículos 135 y ss. Sobre este tema volveré más adelante en un futuro artículo del Blog.

5/5 - (44 votos)
Posts