Akkoord over Europese wetgeving Artificiële Intelligentie

Wereldprimeur

Na een marathonsessie van 36 uur onderhandelen, hebben Europese beleidsmakers vandaag een politiek akkoord bereikt over de ‘Artificial Intelligence Act’.

Daarmee is de weg grotendeels geëffend naar de definitieve goedkeuring van de wet door de 27 EU-lidstaten en het voltallige Europees Parlement.

Weldra kan de Europese Unie zich officieel op de borst kloppen dat ze als eerste ter wereld een uitgebreid wettelijk kader heeft voor deze baanbrekende technologie.

Moeilijke onderhandelingen

Voor de zomer had het Europees Parlement de wet over artificiële intelligentie goedgekeurd.

Lees ook: Europees parlement keurt wet artificiële intelligentie goed

Bij het begin van de onderhandelingen tussen het Europees Parlement en de vertegenwoordigers van de lidstaten, stonden er nog maar liefst 21 belangrijke punten ter discussie.

De moeilijkste knopen om door te hakken waren de volgende:

Verboden AI-praktijken

De AI Act zal het gebruik van artificiële intelligentie voor bepaalde doeleinden verbieden, omdat ze een te groot risico vormen voor fundamentele rechten. Zo komt er een verbod op het categoriseren van mensen op basis van ‘biometrische kenmerken’, zoals naar ras, seksuele geaardheid of religie.

AI die mensen manipuleert, of die gebruikt wordt voor het herkennen van emoties op de werkvloer, wordt eveneens verboden. Ook het ongericht ‘schrapen’ van gezichtsfoto’s op het internet zal niet meer toegelaten zijn. 

Ten slotte betrof één van de grootste onenigheden het gebruik van AI voor ‘real-time’ gezichtsherkenning in de openbare ruimte. Dit wordt nu ook grotendeels verboden, tenzij wanneer veiligheidsdiensten hierop beroep doen om (zeer) ernstige misdaden te voorkomen of de daders ervan op te sporen.

Hoog-risicotoepassingen

De AI Act legt vervolgens regels op op vlak van transparantie, veiligheid, kwaliteit en meer voor AI-toepassingen die een significant risico inhouden.

Dat is het geval voor AI-toepassingen in gevoelige domeinen zoals het onderwijs, op de werkvloer, voor het beheer van kritieke infrastructuren, enz.

De wettekst zal daarbij een soort van filtersysteem invoeren, met de bedoeling om in die domeinen enkel de AI-systemen te capteren die een effectieve bedreiging vormen.

‘General Purpose AI’ & ‘Foundation Models’

Het oorspronkelijke wetsvoorstel van 2021 voorzag geen specifieke regels voor geavanceerde AI-modellen zoals GPT-4, die in heel wat domeinen voor allerlei verschillende doeleinden kunnen ingezet worden.

Het politiek akkoord bepaalt nu dat de ontwikkelaars van dergelijke ‘foundation models’ verplichtingen zullen moeten naleven op vlak van transparantie en informatiedeling.

De ontwikkelaars van de krachtigste van die modellen, die een zogenaamd ‘systemisch risico’ inhouden, zullen zich aan bijkomende verplichtingen rond risico-evaluatie, risicobeheer en cyberveiligheid moeten houden.

Handhaving van de AI Act

De handhaving van de AI Act vindt grotendeels plaats op nationaal niveau, met toezichthoudende overheden in elke lidstaat. Vertegenwoordigers van de lidstaten zullen periodiek samenkomen op EU-niveau in het ‘EU AI Board’, om bepaalde zaken rond implementatie en toepassing van de AI Act af te stemmen.

Het toezicht en de controle op de ‘foundation models’ en hun krachtigste varianten, zal daarentegen bij een nog op te richten ‘AI Office’ liggen. Dat is een entiteit die in de schoot van de Europese Commissie wordt gelegd, en die naast toezicht op de regels rond ‘foundation models’ ook taken krijgt in verband met de coördinatie van de AI Act en de link zal leggen naar andere AI-initiatieven in de rest van de wereld.

Innovatie

De wetgeving voorziet ook in heel wat maatregelen die innovatie moeten bevorderen. Zo zal de AI Act in elke lidstaat ‘Regulatory Sandboxes’ in het leven roepen, waar bedrijven samen met toezichthouders hun AI-systemen kunnen uittesten en zien of en hoe ze de wet kunnen naleven.

Meer over de Regulatory Sandbox lees je in onze reflectiepaper 'AI Regulatory Sandbox in Vlaanderen'

Ook komen er regels om AI-systemen uit te testen in ‘werkelijke omstandigheden’.

Ten slotte voorziet de wet in brede vrijstellingen en uitzonderingen voor AI systemen die gebruikt worden voor wetenschappelijke doeleinden, voor onderzoek en ontwikkeling, of wanneer ze gratis en ‘open source’ worden aangeboden.

Volgende stappen

In de komende weken zal er nog veel werk zijn om het politieke akkoord om te zetten naar een volledige, gedetailleerde wettekst. Pas dan zal de definitieve AI Act voor formele goedkeuring worden voorgelegd aan de regeringen van de 27 lidstaten van de EU én aan het voltallige Europese Parlement.

Dan volgt een transitieperiode, met een volledige toepassing van de wettekst in de loop van 2026.

Bekijk hier de persconferentie