La ley de la UE es la primera regulación internacional de Inteligencia Artificial del mundo y en ella se clasifican 4 niveles de riesgo.
¿Es posible poner límites a la inteligencia artificial? Hoy por hoy resulta imposible dar una respuesta a largo plazo aunque sí se están dando pasos en esa dirección. La Unión Europea, tras más de 35 horas de negociación cerró un acuerdo para fijar las primeras reglas con las que frenar los riesgos de esta tecnología.
Se trata de la primera regulación internacional de Inteligencia Artificial del mundo y en ella se clasifican los niveles de riesgo y las restricciones que deben acompañar en función de la escala.
La Comisión Europea fija dos objetivos claros para esta norma: por un lado garantizar que la inteligencia artificial que se use en territorio europeo sea segura y respete los derechos de los ciudadanos y el segundo estimular la inversión y la innovación en este ámbito. Su entrada en vigor está prevista a partir de 2026.
La propia Comisión Europea publica los detalles de esta normativa y basándonos en dicha información vamos a explicar cuáles son los niveles de riesgo que se han especificado.
Riesgo mínimo
Indica la Comisión Europea que «la inmensa mayoría de los sistemas de inteligencia artificial utilizados actualmente o que probablemente se van a utilizar en la UE pertenece a esta categoría». Para estos sistemas la legislación existente es válida y de forma voluntaria los proveedores de los mismos pueden optar por aplicar los requisitos de una inteligencia artificial digna de confianza y adherirse a códigos de conducta facultativos.
Riesgo específico para la transparencia
En estos casos lo que se exige son una serie de obligaciones y el ejemplo que se expo es que en situaciones en los que existe un riesgo de manipulación los usuarios tienen que saber que están interactuando con una máquina.
Alto riesgo
En este saco se meten aquellos sistemas de inteligencia artificial que tienen un impacto potencial negativo en la seguridad de las personas o en sus derechos fundamentales.
Riesgo inadmisible
Solo unos usos muy concretos de la inteligencia artificial se engloban en este apartado y por regla general se oponen a los valores de la UE porque vulneran los derechos fundamentales. Estos quedan prohibidos. A continuación detallamos los que se incluyen:
Puntuación social con fines públicos y privados
Aprovechamiento de los puntos vulnerables de las personas, uso de técnicas subliminales
Identificación biométrica remota, en tiempo real, en lugares de acceso público por parte de las fuerzas y cuerpos de seguridad, con excepciones limitadas
Categorización biométrica de las personas físicas basada en datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, u orientación sexual; seguirá siendo posible filtrar conjuntos de datos basados en datos biométricos en el ámbito policial
Actuación policial predictiva individual
Reconocimiento de emociones en el lugar de trabajo y en las instituciones educativas, a menos que sea por razones médicas o de seguridad (por ejemplo, control del grado de cansancio de un piloto)
Extracción no selectiva de internet o circuito cerrado de televisión para imágenes faciales con el fin de crear o ampliar bases de datos
La legislación también prevé sanciones para los incumplidores que irán desde los 35 millones de euros o el 7% del volumen de negocio global hasta los 7,5 millones, en función del tamaño de la compañía.
Mención aparte merece la identificación biométrica remota porque hay una serie de excepciones de este método con fines policiales. En concreto las actividades que tienen que ver con los siguientes 16 delitos:
Un fallo de seguridad en auriculares de primeras marcas permite escuchar conversaciones privadas
Explotación sexual de menores y material de abuso sexual de menores
Trata de seres humanos
Terrorismo
Tráfico ilícito de armas municiones y explosivos
Asesinato
Tráfico ilícito de estupefacientes y sustancias psicotrópicas
Agresión con lesiones graves
Tráfico ilícito de materiales radiactivos o sustancias nucleares
Tráfico ilícito de órganos y tejidos humanos
Agresión con lesiones graves
Secuestro, detención ilegal y toma de rehenes
Violación
Secuestro de aeronaves y buques
Delitos incluidos en la jurisdicción de la Corte Penal Internacional
Delitos contra el medio ambiente
Robo organizado o a mano armada
Sabotaje, participación en una organización delictiva implicada en uno o varios de los delitos enumerados anteriormente.
