¿Qué es una Inteligencia Artificial de alto riesgo para la Unión Europea?

Tras el complicado trabajo desarrollado por los funcionarios de la UE que condujo a la publicación el 19 de febrero del Libro Blanco sobre Inteligencia Artificial, tenemos que comentar que aún queda mucho trabajo y esfuerzo de por medio si se quiere adoptar finalmente una estrategia y una marco normativo para la Inteligencia Artificial en la Unión Europea.

El 14 de junio es el próximo hito relevante para este proceso, cuando finalice el período de comentarios de la consulta abierta para este Libro Blanco. Recordemos que la Comisión del Mercado Interno y la Comisión de Libertades Civiles del Parlamento Europeo aprobó el pasado jueves un mandato de negociación para abordar la primera legislación sobre inteligencia artificial. Los eurodiputados pretenden que se garantice que, dentro de la Unión Europea, los sistemas de IA estén supervisados por personas y que serán «seguros, transparentes, rastreables, inclusivos y respetuosos con el medioambiente«.

El extenso borrador, llamado Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence, plantea varias cuestiones tras su análisis. Cualquier sistema de IA que pueda ser empleado a través de empresas dentro de la jurisdicción de la Unión Europea, por lo que afectaría a los sistemas norteamericanos si se emplean dentro de la Unión de forma directa o a través de terceros.

Los riesgos existen, hay que regular el campo de la Inteligencia Artificial

En la Unión Europea no hay todavía una posición común, aunque los 27 socios están de acuerdo en que hay que establecer una normativa al respecto de igual modo que en su momento se decidió crear un sistema de protección de datos. Los riesgos potenciales de su desarrollo a una velocidad supersónica si se considera que el fenómeno de la inteligencia artificial tiene apenas diez años de existencia.

En el artículo 2 del borrador anteriormente comentado, se indica que el reglamento aplica a:

1. Los proveedores que comercialicen o pongan en servicio sistemas de inteligencia artificial en la Unión Europea, con independencia de que dichos proveedores estén establecidos en la Unión o un país fuera de la misma.
2. Los que desplieguen sistemas de inteligencia artificial que tengan su lugar de establecimiento o que estén situados dentro de la Unión.
3. Los proveedores que implanten sistemas de inteligencia artificial que tengan su lugar de establecimiento o estén situados en un país fuera de la región, cuando, o bien se aplique el derecho de un estado miembro en virtud del derecho internacional público, o bien el producto producido por el sistema esté destinado a ser utilizado en la Unión Europea.

Se consideran que una inteligencia artificial es de alto riesgo cuando genera un impacto adverso en la seguridad de las personas o en sus derechos fundamentales. Es quizás uno de los puntos más delicados e interpretables del borrador, el hecho de clasificar una inteligencia artificial como de «alto riesgo» debido a su poca claridad. Tal vez intencionadamente para adaptarse a las posibles nuevas tecnologías que pudieren desarrollarse en el futuro.

¿Quién nos puede asegurar que en el futuro nuestro interlocutor sea un robot y no un humano? ¿Y con qué intenciones? 

Los cambios adoptados tras los borradores no oficiales del Libro Blanco son alentadores, que junto con el proceso de consulta asegura un enfoque aún más adecuado para el objetivo previsto de una IA confiable en Europa. Pero aún hay muchas lagunas y dudas hacia dónde debería caminar este campo, que promete revolucionar muchos aspectos de nuestra vida cotidiana a todos los niveles. ¿Estará Europa preparado para ello? Aquí sí que tengo serias dudas, porque los europeos hemos sido algo conservadores en la adopción de nuevas tecnologías, frente a otros países que tienen una apuesta más clara y que están dispuestos a asumir muchos más riesgos. Ser una potencia mundial implica ser líder en Inteligencia Artificial.

Y es que la ficción de Blade Runner es la realidad de hoy, en plena era de la digitalización.

Imagen de portada | geralt