La semana pasada la Comisión
Europea hizo público su Libro
Blanco sobre inteligencia artificial, centrado en presentar las líneas
básicas de la eventual evolución del marco normativo de la Unión para adaptarlo
a los desafíos y riesgos inherentes a la expansión de herramientas de
inteligencia artificial. Habida cuenta de que tales herramientas se basan en el
uso masivos de datos -personales y no personales-) que nutren algoritmos, la
publicación del Libro Blanco va unida a una Comunicación de
la Comisión sobre la estrategia europea en materia de datos. El Libro Blanco y
el Informe sobre
implicaciones en materia de seguridad y responsabilidad que lo acompaña
constituyen documentos de gran interés para apreciar los principales sectores
del ordenamiento relevantes en relación con la regulación de la inteligencia
artificial, en un contexto en el que la Unión pretende desarrollar una marco
normativo de referencia a nivel internacional que proporcione confianza y
asegure la tutela de los valores que inspiran el ordenamiento de la Unión.
El
Libro Blanco parte de que un conjunto de normas muy relevantes del ordenamiento
comunitario en vigor resultan típicamente de aplicación en relación con el
desarrollo de herramientas de inteligencia artificial, como es el caso de la
normativa reguladora de ciertos derechos fundamentales, especialmente a la
protección de datos personales y a la no discriminación, la legislación sobre protección
de los consumidores, los instrumentos sobre seguridad de productos y servicios,
la legislación de la Unión en materia de responsabilidad por productos, así
como la normativa sectorial en ámbitos como la salud o el transporte. Asimismo,
es importante tener en cuenta que la estrategia digital de la UE –como refleja
la otra Comunicación en
la materia presentada el mismo día - se basa en el criterio de que para evitar
discriminaciones las actividades en línea no se encuentran en principio al
margen del sometimiento a las normas que se aplican al entorno “offline”, lo
que tiene especial trascendencia en relación con ciertos sectores que no son
objeto del Libro Blanco pero sí se proyectan sobre la utilización de
herramientas de inteligencia artificial, como sucede con la legislación sobre
prácticas restrictivas de la competencia o propiedad industrial e intelectual
(COM(2020) 67 final, p. 8).
En consecuencia, el desarrollo
del marco normativo relativo a la inteligencia artificial debe partir de la
necesidad de limitar la intervención a los supuestos en los que estas nuevas
tecnologías suscitan riesgos no resueltos de manera adecuada por el acervo
actualmente existente. Con respecto a los riesgos para derechos fundamentales,
destacan los derivados de la opacidad y automatización de estas tecnologías,
que dificultan el control del respeto a (o la identificación de las
vulneraciones de) tales derechos en la toma de decisiones basadas en el empleo
de mecanismos de inteligencia artificial. Se trata de una preocupación que
también se proyecta sobre la tutela y aplicación efectiva de la legislación en
materia de protección de consumidores.
Por otra parte, el Libro Blanco
pone de relieve cómo el empleo de herramientas de inteligencia artificial
incorporadas en productos o servicios va unido a la aparición de nuevos riesgos
–o al incremento de los ya existentes- en relación con su seguridad (vinculados
a las carencias de la tecnología empleada, de los datos con base en los que la
herramienta adopta decisiones…), que en ocasiones pueden justificar la revisión
del marco normativo actualmente existente. Por ejemplo, para introducir
modificaciones destinadas a precisar y eventualmente extender el ámbito de
aplicación de la normativa sobre seguridad de productos, de modo que se
eliminen incertidumbres acerca de su aplicación a ciertos servicios prestados
con herramientas de inteligencia artificial o que se tenga en cuenta que el
recurso a tales herramientas hace posible que el funcionamiento y
características de productos o servicios que las incorporan puedan modificarse
con el paso del tiempo. Asimismo, la complejidad inherente a la incorporación
de ese tipo de herramientas en productos y servicios puede introducir elementos
de incertidumbre en lo relativo a la distribución de responsabilidad entre los
diversos operadores implicados.
La reafirmación de que con
respecto a la inteligencia artificial resulta aplicable el acervo comunitario
relevante y la eventual adaptación de algunas de esas normas para hacer frente
a los riesgos reseñados, pretende complementarse según el Libro Blanco con la
adopción de un nuevo marco normativo con respecto a ciertas aplicaciones de la
inteligencia artificial susceptibles de ser identificadas como de alto riesgo,
por ser empleadas en sectores en los que se generan importantes riesgos (a
título enunciativo se menciona la salud, el transporte y la energía) y por ser
precisamente utilizadas de manera en que cabe esperar que se generen
significativos. En consecuencia, el ámbito de aplicación del nuevo marco
normativo específico para la inteligencia artificial –que resultará
determinante del alcance de la nueva normativa- se limitaría a las aplicaciones
consideradas de alto riesgo, entre las que también se contempla incluir las
relativas a identificación biométrica remota, así como las utilizadas en
procesos de selección de personal y en otras situaciones que puedan afectar a los
derechos de los trabajadores e incluso a los derechos de los consumidores.
Ese nuevo marco normativo en
relación con las aplicaciones de inteligencia artificial identificadas como de
alto riesgo se plasmará básicamente en la imposición de ciertos requisitos
normativos a los operadores relevantes en relación con tales herramientas.
Entre otras, se contempla la eventual imposición de obligaciones en relación
con los datos sobre los que se desarrolla y opera la herramienta, de modo que
se asegure su conformidad con los valores y el Derecho de la UE (por ejemplo,
para evitar que su aplicación lleve a resultados discriminatorios prohibidos);
la conservación de registros relativos al desarrollo de los algoritmos, en
particular para facilitar el control de su legalidad y la eventual exigencia de
responsabilidad, así como otras obligaciones de transparencia; requisitos
relativos al correcto funcionamiento de la herramienta para evitar daños;
supervisión por personas cuyo alcance se prevé que varíe en función del uso y
de los efectos de las herramientas; así como requisitos específicos en relación
con la identificación biométrica remota, como el reconocimiento facial, habida
cuenta de los especiales riesgos para ciertos derechos fundamentales, lo que se
corresponde con la importancia de la legislación sobre protección de datos
personales ya aplicable en este ámbito.
El
Libro Blanco destaca la importancia de asegurar que el marco normativo en
materia de inteligencia artificial asegure la tutela y el respeto de los
valores en los que se inspira el ordenamiento de la Unión, al tiempo que pone
de relieve los peculiares riesgos que el empleo de herramientas de inteligencia
artificial, especialmente como consecuencia del difícil control de los
algoritmos empleados, plantea de cara a asegurar el respeto efectivo del marco
normativo por los operadores. En todo caso, la UE aspira a ser una referencia a
nivel internacional en relación con el establecimiento de una regulación
avanzada y respetuosa con sus valores, como ha sucedido en otros ámbitos en los
que ejerce un cierto “liderazgo normativo”, como es el caso de la protección de
datos personales. “Liderazgo normativo” que contrasta con la ausencia de
liderazgo económico o empresarial.
Ciertamente, en un mundo global
resulta claro que esos valores de la UE en ocasiones divergen de manera
significativa de los que prevalecen en otras regiones del mundo, incluso
aquellas con las que los valores compartidos son muy significativos. Basta
pensar en las diferencias entre la UE y EEUU en aspectos de gran trascendencia
a estos efectos como la consideración como derecho fundamental del derecho a la
protección de datos personales o las implicaciones de la diferente ponderación
entre el derecho a la libertad de expresión y otros derechos fundamentales a la
hora de establecer el régimen de responsabilidad de plataformas en línea cuyo
funcionamiento se basa cada vez más en herramientas de inteligencia artificial.
La experiencia de los últimos
lustros y la ausencia de liderazgo (de empresas) de la UE en ciertos sectores
de la economía digital, como el propio Libro Blanco reconoce en lo que respecta
a las plataformas en línea (COM(2020) 65 final, p. 2), pone de relieve que en
el entorno global de Internet, en el que los modelos de negocio se pueden
expandir a ciertos nuevos mercados –como el de la UE- con facilidad resulta
esencial asegurar que los operadores locales no resultan negativamente
afectados por una defectuosa o tardía aplicación del marco normativo europeo a
operadores que desarrollan sus modelo de negocio en mercados sin esas
limitaciones y lo extienden a la Unión Europea.
En este sentido, el Libro Blanco
destaca que es imprescindible que el marco normativo de la Unión en materia de
inteligencia artificial resulte de aplicación a todos los operadores que
proporcionen este tipo de productos o servicios en la Unión Europea, lo que se
corresponde también con el criterio sobre el ámbito de aplicación territorial
de la legislación sobre protección de datos personales conforme al artículo 3
del Reglamento (UE) general sobre protección de datos personales. Más allá de
esa constatación, el Libro Blanco prevé específicamente controles para asegurar
el cumplimiento de la normativa por las autoridades nacionales o europeas competentes,
que incluyen eventualmente la aplicación de los mecanismos para verificar la
conformidad como los ya existentes en relación con la introducción en el
mercado interior de diversas categorías de productos. Con respecto a la
prestación de servicios en línea que incorpora herramientas de inteligencia
artificial –por ejemplo, ciertas plataformas digitales- no se detalla un
régimen aplicable con previsiones específicas. Ahora bien, en relación
especialmente con el suministro de servicios en línea basados en el empleo de
herramientas de inteligencia artificial será importante que la Unión establezca
mecanismos que aseguren el respeto efectivo desde un principio de su marco
normativo también por los operadores procedentes de terceros Estados en un
contexto que plantea especiales riesgos de que pueda no ser así.
