Ny EU-plan för att hantera riskerna och möjligheterna med avancerad AI för cybersäkerhet

EU-kommissionen lägger fram en plan för hantering av riskerna och möjligheterna med avancerad AI för cybersäkerhet.

AI kan användas för att förbättra säkerheten, men också missbrukas för att hitta sårbarheter, automatisera attacker och kraftigt utöka och snabba upp cyberincidenterna. Genom den nya planen samlas medlemsländerna, industrin och organisationer på EU-nivå för att stärka cybersäkerheten i vårt digitala landskap och skydda oss mot de sårbarheter som avancerad AI medför. 

Viktiga initiativ

• Utvärdering av AI-modeller: Enligt förordningen om artificiell intelligens ska avancerade AI-modeller utvärderas och riskerna med dem bedömas innan de släpps ut på EU-marknaden. Kommissionen kommer att bidra till en EU-utvärderingskapacitet för att stärka tredjepartsbedömningen av AI-kapacitet och AI-risker globalt och stödja AI-byråns regleringsfunktion.
• Tillgång till avancerade AI-modeller: Europa behöver tydliga och transparenta villkor för tillgången till de mest avancerade AI-systemen. Kommissionen kommer att samarbeta med EU:s cybersäkerhetsbyrå för att få fram en europeisk plan för strukturerad tillgång till avancerad AI-kapacitet för cybersäkerhet, till stöd för offentliga och privata organisationer.
• Testning av AI för cybersäkerhet EU:s cybersäkerhetsbyrå och kommissionens gemensamma forskningscentrum kommer att skapa en säker plattform för att testa AI för cybersäkerhet, bland annat genom användning av simulerade miljöer. Detta kommer att ge operatörer inom kritiska sektorer kunskap om säker AI-användning.
• Stärkt cybersäkerhet i EU och åtgärdande av sårbarheter: EU måste skydda sin kritiska infrastruktur. Enligt EU:s cybersäkerhetsregler ska organisationer intensifiera sitt cyberhygienarbete och sin riskhantering och tillämpa principer för inbyggd säkerhet. De bör också börja använda tillgänglig AI-kapacitet för att snabbare åtgärda sårbarheter och för att förebygga och reagera på cyberattacker. EU:s cybersäkerhetsbyrå kommer att bistå dem i denna omställning, med vägledning, rekommendationer, bästa praxis och en kampanj för att säkra kritisk programvara med öppen källkod.
• Utbyggnad av europeisk AI-kapacitet på cyberområdet: EU måste fortsätta att investera i egen avancerad AI-kapacitet. Därför finns infrastrukturen för AI-fabriker och framtida gigafabriker och den europeiska kapitalkapaciteten som aviserades i paketet om tekniksuveränitet. Kommissionen kommer också att lansera EU:s stora utmaning om AI för cybersäkerhet, som för samman företag, forskare och organisationer för att utveckla AI-lösningar för cybersäkerhet och främja tillväxten på EU-marknaden.

Den nya planen ska stärka EU:s cybersäkerhetsregler. Den bygger på befintliga EU-regler, bland annat förordningen om artificiell intelligens, cyberresiliensförordningen, nätverks- och informationssäkerhetsdirektivet och cybersolidaritetsförordningen.

Läs mer

Pressmeddelande

Faktablad

Handlingsplanen för cybersäkerhet och artificiell intelligens

Artificiell intelligens