Skip to main content

Excelencia y confianza en la inteligencia artificial

Una inteligencia artificial (IA) fiable puede aportar muchos beneficios: desde una mejor atención sanitaria, un transporte más seguro y limpio, y una fabricación más eficiente hasta una energía más barata y sostenible.

La UE y la IA

Por eso la Comisión Europea ha propuesto un conjunto de acciones para impulsar la excelencia en IA, así como normas para garantizar que la tecnología sea fiable.

El Reglamento sobre un planteamiento europeo en materia de inteligencia artificial y la actualización del Plan Coordinado sobre la IA garantizarán la seguridad y los derechos fundamentales de las personas y las empresas, reforzando al mismo tiempo la inversión y la innovación en todos los países de la UE.

Generar confianza mediante el primer marco jurídico sobre la IA

La Comisión propone nuevas normas para garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, éticos e imparciales y estén bajo control humano. Por lo tanto, se clasifican en función del riesgo: 

Inaceptable

Se prohibirá todo lo que se considere una amenaza clara para los ciudadanos de la UE: desde la clasificación social por parte de los gobiernos a los juguetes que utilicen un asistente de voz que incentive comportamientos peligrosos en los niños.

Riesgo alto

Riesgo reducido

Los sistemas de IA como los robots conversacionales están sujetos a unas obligaciones mínimas de transparencia, para que quienes interactúen con los contenidos tomen decisiones con conocimiento de causa. El usuario puede entonces decidir si quiere continuar o dejar de utilizar la aplicación.

Riesgo mínimo

Libre utilización de aplicaciones tales como videojuegos basados en la IA o filtros de correo no deseado. La gran mayoría de los sistemas de IA pertenece a esta categoría, en la que las nuevas normas no serán de aplicación porque solo representan un riesgo mínimo para los derechos o la seguridad de los ciudadanos, o ningún riesgo en absoluto.

Nuevas normas para los proveedores de sistemas de IA de riesgo alto

Etapa 1

Se desarrolla un sistema de IA de riesgo alto

Etapa 2

Debe someterse a la evaluación de la conformidad y cumplir los requisitos de la IA. En el caso de algunos sistemas, interviene un organismo notificado.

Etapa 3

Registro de los sistemas de IA autónomos en una base de datos de la UE.

Etapa 4

Debe firmarse una declaración de conformidad y el sistema de IA tiene que llevar el marcado CE. El sistema puede introducirse en el mercado.

Si se producen cambios sustanciales en el ciclo de vida del sistema de IA, debe volverse a la etapa 2.

Una vez que el sistema de IA está en el mercado, las autoridades son responsables de la vigilancia del mercado, los usuarios se ocupan de la supervisión y el seguimiento humanos y los proveedores disponen de un sistema de seguimiento poscomercialización. Los proveedores y los usuarios también notificarán incidentes graves y fallos de funcionamiento.

Promover la excelencia en IA

En 2018, la Comisión y los Estados miembros de la UE dieron el primer paso, aunando sus fuerzas a través del Plan Coordinado sobre la IA, que ayudó a sentar las bases de las estrategias nacionales y la evolución de las políticas.

La actualización de 2021 del Plan Coordinado sobre la IA lleva la estrategia a la práctica y está en consonancia con las dos prioridades parejas de la Comisión, la digital y la ecológica, así como con la respuesta de Europa a la pandemia por coronavirus. 

Al fomentar la excelencia de la IA desde el laboratorio hasta el mercado, el Plan Coordinado propone una visión de futuro en la que se aceleran las inversiones en IA, se actúa sobre las estrategias de IA para su aplicación oportuna y se armonizan las políticas de este ámbito a escala de la UE.

En el contexto de estos esfuerzos, la Comisión tiene previsto establecer:

  • Una asociación público-privada sobre inteligencia artificial, datos y robótica para definir y aplicar una agenda estratégica común de investigación, innovación y despliegue para Europa, y para invertir en ella.
  • Nuevas redes de centros de excelencia en IA para fomentar el intercambio de información y conocimientos especializados, desarrollar la colaboración con la industria y fomentar la diversidad y la inclusión.
  • Instalaciones de ensayo y experimentación para experimentar y probar la tecnología más avanzada en entornos reales.
  • Centros de innovación digital, ventanillas únicas para facilitar el acceso a los conocimientos técnicos y la experimentación, de modo que las empresas puedan «probar antes de invertir».
  • Una plataforma de IA a la carta que servirá de arsenal central europeo de recursos de IA (por ejemplo, conocimientos especializados, algoritmos, marcos de software o herramientas de desarrollo), necesario para la industria y el sector público.

Proyectos financiados por la UE en el ámbito de la IA

 

La UE ha financiado ya diversos proyectos de IA que ofrecen soluciones en todos los ámbitos de la sociedad, desde la agricultura hasta la asistencia sanitaria, la fabricación o el transporte.

Tres ámbitos en los que el uso de la tecnología de IA ha sido especialmente beneficioso son la salud, el medio ambiente y la lucha contra la desinformación.

Neurorrehabilitación que ayuda a la recuperación de los pacientes de cuidados intensivos por COVID-19

El proyecto CDAC contribuyó al desarrollo y la validación clínica de tecnologías innovadoras que ya se han utilizado para la rehabilitación de más de 3 000 pacientes que habían sufrido accidentes cerebrovasculares en toda Europa.

Más proyectos financiados por la UE en el ámbito de la salud

Sensores inteligentes para ayudar a alimentar a una población mundial en crecimiento

El proyecto ANTARES está desarrollando tecnologías de sensores inteligentes y macrodatos que podrían ayudar a los agricultores a producir más alimentos de manera sostenible para la sociedad, los ingresos agrícolas y el medio ambiente.

Más proyectos financiados por la UE en este ámbito

Herramientas en línea para verificar y desmontar informaciones falsas

WeVerify ofrece sistemas de verificación, como plugins que pueden ayudar a verificadores de datos, periodistas, defensores de los derechos humanos y ciudadanos a desmentir y verificar vídeos e imágenes en línea.

Más proyectos financiados por la UE para combatir la desinformación

Beneficios de la inteligencia artificial

La UE tiene potencial para convertirse en el líder mundial en inteligencia artificial segura. Al desarrollar un marco reglamentario sólido basado en los derechos humanos y los valores fundamentales, la UE puede desarrollar un sistema de IA que beneficie a las personas, las empresas y los gobiernos.

Ciudadanos

Mejor asistencia sanitaria, transporte más seguro y limpio, y mejores servicios públicos.

Empresas

Productos y servicios innovadores, por ejemplo, en los ámbitos de la energía, la seguridad y la asistencia sanitaria, así como una mayor productividad y unos procesos de fabricación más eficientes.

Gobiernos

Servicios más baratos y sostenibles, por ejemplo, de transporte, energía y gestión de residuos.

La IA y la UE en cifras

1 000 millones de euros

La Comisión planea invertir 1 000 millones de euros al año en IA, procedentes de sus programas Europa Digital y Horizonte Europa.

20 000 millones de euros

El objetivo es atraer más de 20 000 millones de euros de inversión total en IA al año en la UE durante esta década. El Mecanismo de Recuperación y Resiliencia contribuirá a acelerar las inversiones e ir más allá de este objetivo.

> 25 %

de todos los robots de servicios industriales y personales se producen en Europa.

Documentos

 

21 ABRIL 2021
Communication on Fostering a European approach to Artificial Intelligence
English
(HTML)
Descargar

 

21 ABRIL 2021
Proposal for a Regulation laying down harmonised rules on artificial intelligence
English
(HTML)
Descargar

 

21 ABRIL 2021
Coordinated Plan on Artificial Intelligence - 2021 Review
English
(HTML)
Descargar

 

21 ABRIL 2021
Proposal for a Regulation on machinery products
English
(4.77 KB - JSON)
Descargar

 

19 FEBRERO 2020
Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza
español
(624.09 KB - PDF)
Descargar

 

19 FEBRERO 2020
Factsheet: Excellence and Trust in Artificial Intelligence
English
(5.95 KB - HTML)
Descargar

 

19 FEBRERO 2020
Informe sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica
español
(239.92 KB - HTML)
Descargar