Ir al contenido principal

Excelencia y confianza en la inteligencia artificial

Una inteligencia artificial (IA) fiable puede aportar muchos beneficios: desde una mejor atención sanitaria, un transporte más seguro y limpio, y una fabricación más eficiente hasta una energía más barata y sostenible.

Una inteligencia artificial (IA) fiable

Beneficios de la inteligencia artificial

Beneficios de la IA

La UE tiene potencial para convertirse en el líder mundial en IA segura. Al desarrollar un marco reglamentario sólido basado en los derechos humanos y los valores fundamentales, la UE puede desarrollar un sistema de IA que beneficie a las personas, las empresas y los gobiernos.

European citizens
Ciudadanos

Mejor asistencia sanitaria, transporte más seguro y limpio, y mejores servicios públicos.

Person looking at a computer
Empresas

Productos y servicios innovadores, por ejemplo en los ámbitos de la energía, la seguridad y la asistencia sanitaria; Mayor productividad y unos procesos de fabricación más eficientes.

The world
Administraciones Públicas

Servicios más baratos y sostenibles, por ejemplo de transporte, energía y gestión de residuos.

La UE y la IA

  • Propuesta por la Comisión en abril de 2021 y aprobada por el Parlamento Europeo y el Consejo en diciembre de 2023, la Ley de inteligencia artificial abordará los posibles riesgos para la salud, la seguridad y los derechos fundamentales de los ciudadanos, apoyando al mismo tiempo el desarrollo de una IA innovadora y responsable en la UE. 
  • Junto con la Ley de inteligencia artificial, la actualización del Plan Coordinado sobre la IA garantiza la seguridad y los derechos fundamentales de las personas y las empresas, reforzando al mismo tiempo la inversión y la innovación en todos los países de la UE.
  • La Comisión también ha puesto en marcha un paquete de innovación en materia de inteligencia artificial para ayudar a las empresas emergentes y pymes europeas a que desarrollen una IA fiable que respete los valores y normas de la UE. 

Generar confianza mediante el primer marco jurídico sobre la IA

La Ley de IA de la UE es el primer marco jurídico global de la historia en materia de inteligencia artificial en todo el mundo. Garantizará que los sistemas de IA utilizados en la UE sean seguros, transparentes, éticos e imparciales, y que estén bajo control humano. Por lo tanto, se clasifican en función del riesgo: 

Riesgo inaceptable:

Se prohibirá todo lo que se considere una amenaza clara para los ciudadanos de la UE: desde la clasificación social por parte de los gobiernos a los juguetes que utilicen un asistente de voz que incentive comportamientos peligrosos en los niños.

Riesgo alto

  • Las infraestructuras críticas (por ejemplo, el transporte) que puedan poner en peligro la vida y la salud de los ciudadanos.
  • La educación y formación profesionales que puedan determinar el acceso a la educación y la trayectoria profesional de una persona (por ejemplo, la calificación de exámenes).
  • Los componentes de seguridad de los productos (por ejemplo, la aplicación de la IA en la cirugía asistida por robots).
  • El empleo, la gestión de los trabajadores y el acceso al autoempleo (por ejemplo, el software para la clasificación de los currículos en los procesos de selección de personal).
  • Los servicios públicos y privados esenciales (por ejemplo, las calificaciones crediticias que denieguen a los ciudadanos la oportunidad de obtener un préstamo).
  • Los asuntos relacionados con la aplicación del Derecho que puedan interferir en los derechos humanos fundamentales (por ejemplo, la evaluación de la fiabilidad de las pruebas).
  • La gestión de la migración, el asilo y el control fronterizo (por ejemplo, el examen automatizado de las solicitudes de visado).
  • La administración de justicia y los procesos democráticos (por ejemplo, soluciones de IA para buscar sentencias judiciales).

Los sistemas de IA de riesgo alto serán evaluados cuidadosamente antes de su introducción en el mercado y a lo largo de su ciclo de vida.

Riesgo reducido

Los sistemas de IA como los robots conversacionales están sujetos a unas obligaciones mínimas de transparencia, para que quienes interactúen con los contenidos tomen decisiones con conocimiento de causa. El usuario puede entonces decidir si quiere continuar o dejar de utilizar la aplicación.

Riesgo mínimo

Libre utilización de aplicaciones tales como videojuegos basados en la IA o filtros de correo no deseado. La gran mayoría de los sistemas de IA que se utilizan actualmente en la UE entra dentro de esta categoría, en la que las nuevas normas no serán de aplicación porque solo representan un riesgo mínimo para los derechos o la seguridad de los ciudadanos, o ningún riesgo en absoluto.

Normas para los proveedores de sistemas de IA de riesgo alto

alt=""
Etapa 1

Se desarrolla un sistema de IA de riesgo alto

alt=""
Etapa 2

Debe someterse a la evaluación de la conformidad y cumplir los requisitos de la IA. En el caso de algunos sistemas, interviene un organismo notificado.

alt=""
Etapa 3

Registro de los sistemas de IA autónomos en una base de datos de la UE.

alt=""
Etapa 4

Debe firmarse una declaración de conformidad y el sistema de IA tiene que llevar el marcado CE. El sistema puede introducirse en el mercado.

Si se producen cambios sustanciales en el ciclo de vida del sistema de IA, debe volverse a la etapa 2.

Una vez que el sistema de IA está en el mercado, las autoridades son responsables de la vigilancia del mercado, los implementadores se ocupan de la supervisión y el seguimiento humanos, mientras que los proveedores disponen de un sistema de seguimiento poscomercialización. Los proveedores y los implementadores también notificarán incidentes graves y fallos de funcionamiento.

Promover la excelencia en IA

En 2018, la Comisión y los Estados miembros de la UE dieron el primer paso, aunando sus fuerzas a través del Plan Coordinado sobre la IA, que ayudó a sentar las bases de las estrategias nacionales y la evolución de las políticas.

La actualización de 2021 del Plan Coordinado sobre la IA ha llevado la estrategia a la práctica y está en consonancia con las dos prioridades parejas de la Comisión, la digital y la ecológica, así como con la respuesta de Europa a la pandemia por coronavirus. 

Al fomentar la excelencia de la IA desde el laboratorio hasta el mercado, el Plan Coordinado ha propuesto una visión de futuro en la que se aceleran las inversiones en IA, se actúa sobre las estrategias de IA para su aplicación oportuna y se armonizan las políticas de este ámbito a escala de la UE.

En el contexto de estos esfuerzos, la Comisión tiene previsto establecer:

  • Una asociación público-privada sobre inteligencia artificial, datos y robótica para definir y aplicar una agenda estratégica común de investigación, innovación y despliegue para Europa, y para invertir en dicha estrategia.
  • Nuevas redes de centros de excelencia en IA para fomentar el intercambio de información y conocimientos especializados, desarrollar la colaboración con la industria y fomentar la diversidad y la inclusión.
  • Instalaciones de ensayo y experimentación para experimentar y probar la tecnología más avanzada en entornos reales.
  • Centros de innovación digital, ventanillas únicas para facilitar el acceso a los conocimientos técnicos y la experimentación, de modo que las empresas puedan «probar antes de invertir».
  • Una plataforma de IA a la carta que servirá de arsenal central europeo de recursos de IA (por ejemplo, conocimientos especializados, algoritmos, marcos de software o herramientas de desarrollo), necesario para la industria y el sector público.

Proyectos financiados por la UE en el ámbito de la IA

La UE ha financiado ya diversos proyectos de IA que ofrecen soluciones en todos los ámbitos de la sociedad, desde la agricultura hasta la asistencia sanitaria, la fabricación o el transporte.

Tres ámbitos en los que el uso de la tecnología de IA ha sido especialmente beneficioso son la salud, el medio ambiente y la lucha contra la desinformación.

Medical scan machine
Neurorrehabilitación que ayuda a la recuperación de los pacientes de cuidados intensivos por COVID-19

El proyecto CDAC contribuyó al desarrollo y la validación clínica de tecnologías innovadoras que ya se han utilizado para la rehabilitación de más de 3 000 pacientes que habían sufrido accidentes cerebrovasculares en toda Europa.

Más proyectos financiados por la UE en el ámbito de la salud

A mobile phone taking pictures of a field
Sensores inteligentes para ayudar a alimentar a una población mundial en crecimiento

El proyecto ANTARES está desarrollando tecnologías de sensores inteligentes y macrodatos que podrían ayudar a los agricultores a producir más alimentos de manera sostenible para la sociedad, los ingresos agrícolas y el medio ambiente.

Más proyectos financiados por la UE en este ámbito

A woman wearing a mask
Herramientas en línea para comprobar y desacreditar hechos

WeVerify ofrece sistemas de verificación, como plugins que pueden ayudar a verificadores de datos, periodistas, defensores de los derechos humanos y ciudadanos a desmentir y verificar vídeos e imágenes en línea.

Más proyectos financiados por la UE para combatir la desinformación

La IA y la UE en cifras

landing2.png
1 000 millones EUR

La Comisión planea invertir 1 000 millones de euros al año en IA, procedentes de sus programas Europa Digital y Horizonte Europa.

landing3.png
20 000 millones de euros

El objetivo es atraer más de 20 000 millones de euros de inversión total en IA al año en la UE durante esta década. El Mecanismo de Recuperación y Resiliencia contribuirá a acelerar las inversiones e ir más allá de este objetivo.

landing1.png
> 25 %

de todos los robots de servicios industriales y personales se producen en Europa.

Documentos

21 DE ABRIL DE 2021
Communication on Fostering a European approach to Artificial Intelligence

21 DE ABRIL DE 2021
Proposal for a Regulation laying down harmonised rules on artificial intelligence

21 DE ABRIL DE 2021
Coordinated Plan on Artificial Intelligence - 2021 Review

21 DE ABRIL DE 2021
Proposal for a Regulation on machinery products

19 DE FEBRERO DE 2020
Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza

19 DE FEBRERO DE 2020
Factsheet: Excellence and Trust in Artificial Intelligence

19 DE FEBRERO DE 2020
Informe sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica