Excelencia y confianza en la inteligencia artificial

Beneficios de la IA

La UE tiene potencial para convertirse en el líder mundial en IA segura. Al desarrollar un marco reglamentario sólido basado en los derechos humanos y los valores fundamentales, la UE puede desarrollar un sistema de IA que beneficie a las personas, las empresas y los gobiernos.

La UE y la IA

• Propuesta por la Comisión en abril de 2021 y aprobada por el Parlamento Europeo y el Consejo en diciembre de 2023, la Ley de inteligencia artificial abordará los posibles riesgos para la salud, la seguridad y los derechos fundamentales de los ciudadanos, apoyando al mismo tiempo el desarrollo de una IA innovadora y responsable en la UE. 
• Junto con la Ley de inteligencia artificial, la actualización del Plan Coordinado sobre la IA garantiza la seguridad y los derechos fundamentales de las personas y las empresas, reforzando al mismo tiempo la inversión y la innovación en todos los países de la UE.
• La Comisión también ha puesto en marcha un paquete de innovación en materia de inteligencia artificial para ayudar a las empresas emergentes y pymes europeas a que desarrollen una IA fiable que respete los valores y normas de la UE. 

La Ley de IA de la UE es el primer marco jurídico global de la historia en materia de inteligencia artificial en todo el mundo. Garantizará que los sistemas de IA utilizados en la UE sean seguros, transparentes, éticos e imparciales, y que estén bajo control humano. Por lo tanto, se clasifican en función del riesgo: 

Riesgo inaceptable:

Se prohibirá todo lo que se considere una amenaza clara para los ciudadanos de la UE: desde la clasificación social por parte de los gobiernos a los juguetes que utilicen un asistente de voz que incentive comportamientos peligrosos en los niños.

Riesgo alto

• Las infraestructuras críticas (por ejemplo, el transporte) que puedan poner en peligro la vida y la salud de los ciudadanos.
• La educación y formación profesionales que puedan determinar el acceso a la educación y la trayectoria profesional de una persona (por ejemplo, la calificación de exámenes).
• Los componentes de seguridad de los productos (por ejemplo, la aplicación de la IA en la cirugía asistida por robots).
• El empleo, la gestión de los trabajadores y el acceso al autoempleo (por ejemplo, el software para la clasificación de los currículos en los procesos de selección de personal).
• Los servicios públicos y privados esenciales (por ejemplo, las calificaciones crediticias que denieguen a los ciudadanos la oportunidad de obtener un préstamo).
• Los asuntos relacionados con la aplicación del Derecho que puedan interferir en los derechos humanos fundamentales (por ejemplo, la evaluación de la fiabilidad de las pruebas).
• La gestión de la migración, el asilo y el control fronterizo (por ejemplo, el examen automatizado de las solicitudes de visado).
• La administración de justicia y los procesos democráticos (por ejemplo, soluciones de IA para buscar sentencias judiciales).

Los sistemas de IA de riesgo alto serán evaluados cuidadosamente antes de su introducción en el mercado y a lo largo de su ciclo de vida.

Riesgo reducido

Los sistemas de IA como los robots conversacionales están sujetos a unas obligaciones mínimas de transparencia, para que quienes interactúen con los contenidos tomen decisiones con conocimiento de causa. El usuario puede entonces decidir si quiere continuar o dejar de utilizar la aplicación.

Riesgo mínimo

Libre utilización de aplicaciones tales como videojuegos basados en la IA o filtros de correo no deseado. La gran mayoría de los sistemas de IA que se utilizan actualmente en la UE entra dentro de esta categoría, en la que las nuevas normas no serán de aplicación porque solo representan un riesgo mínimo para los derechos o la seguridad de los ciudadanos, o ningún riesgo en absoluto.

Normas para los proveedores de sistemas de IA de riesgo alto

Si se producen cambios sustanciales en el ciclo de vida del sistema de IA, debe volverse a la etapa 2.

Una vez que el sistema de IA está en el mercado, las autoridades son responsables de la vigilancia del mercado, los implementadores se ocupan de la supervisión y el seguimiento humanos, mientras que los proveedores disponen de un sistema de seguimiento poscomercialización. Los proveedores y los implementadores también notificarán incidentes graves y fallos de funcionamiento.

En 2018, la Comisión y los Estados miembros de la UE dieron el primer paso, aunando sus fuerzas a través del Plan Coordinado sobre la IA, que ayudó a sentar las bases de las estrategias nacionales y la evolución de las políticas.

La actualización de 2021 del Plan Coordinado sobre la IA ha llevado la estrategia a la práctica y está en consonancia con las dos prioridades parejas de la Comisión, la digital y la ecológica, así como con la respuesta de Europa a la pandemia por coronavirus. 

Al fomentar la excelencia de la IA desde el laboratorio hasta el mercado, el Plan Coordinado ha propuesto una visión de futuro en la que se aceleran las inversiones en IA, se actúa sobre las estrategias de IA para su aplicación oportuna y se armonizan las políticas de este ámbito a escala de la UE.

En el contexto de estos esfuerzos, la Comisión tiene previsto establecer:

• Una asociación público-privada sobre inteligencia artificial, datos y robótica para definir y aplicar una agenda estratégica común de investigación, innovación y despliegue para Europa, y para invertir en dicha estrategia.
• Nuevas redes de centros de excelencia en IA para fomentar el intercambio de información y conocimientos especializados, desarrollar la colaboración con la industria y fomentar la diversidad y la inclusión.
• Instalaciones de ensayo y experimentación para experimentar y probar la tecnología más avanzada en entornos reales.
• Centros de innovación digital, ventanillas únicas para facilitar el acceso a los conocimientos técnicos y la experimentación, de modo que las empresas puedan «probar antes de invertir».
• Una plataforma de IA a la carta que servirá de arsenal central europeo de recursos de IA (por ejemplo, conocimientos especializados, algoritmos, marcos de software o herramientas de desarrollo), necesario para la industria y el sector público.

La UE ha financiado ya diversos proyectos de IA que ofrecen soluciones en todos los ámbitos de la sociedad, desde la agricultura hasta la asistencia sanitaria, la fabricación o el transporte.

Tres ámbitos en los que el uso de la tecnología de IA ha sido especialmente beneficioso son la salud, el medio ambiente y la lucha contra la desinformación.

La IA y la UE en cifras