Europa begrenst wat mogelijk is met kunstmatige intelligentie (AI).
De AI Act komt er na lange discussies.
Karsten Lemmens – De Standaard
Europa wil dat AI geen bedreiging kan zijn voor de mensenrechten, de democratie, de wet en het klimaat.
Tegelijk wil het er ook een wereldleider in worden.
Dat is in een notendop waar de AI Act naar streeft. Na lange en moeizame onderhandelingen kwam daarover gisteren een akkoord uit de bus tussen het Europees Parlement en de Raad van de EU.
De AI Act legt kunstmatige intelligentie grenzen op. Zo wordt het gebruik ingeperkt van biometrische systemen, waarmee mensen kunnen worden ingedeeld op basis van kenmerken als politieke voorkeur, seksuele geaardheid of filosofische overtuiging.
Er mogen geen grote databases voor gezichtsherkenning worden aangelegd.
Op het werk of op school mag er geen automatische registratie van emoties worden gedaan.
Ook mogen AI-systemen het gedrag van mensen niet manipuleren of hun kwetsbaarheden (zoals leeftijd of financiële situatie) uitbuiten.
Uitzonderingen worden gemaakt voor veiligheidsdiensten. Zij mogen welbiometrische identificatiesystemen gebruiken.
Maar dat mag enkel in strikt afgebakende gevallen, bijvoorbeeld om slachtoffers te traceren van ontvoeringen of seksueel misbruik, het voorkomen van een terroristische dreiging, of het opsporen van verdachten van enkele specifieke misdaden, zoals terrorisme, moord of verkrachting.
Daar moet op voorhand juridische goedkeuring voor worden verleend. De lijst van redenen is ook strikt afgelijnd, en de acties moeten beperkt worden in de tijd.
Verkiezingen beïnvloeden
Voor AI-systemen die als hoogrisico worden bestempeld – die bijvoorbeeld gebruikt worden in de financiële sector, of die mogelijk verkiezingen kunnen beïnvloeden – zijn er specifieke beperkingen overeengekomen.
Algemene AI-systemen moeten technische documentatie voorzien, copyrightregels respecteren en duidelijk maken op welke data ze werden getraind.
Systemen met ‘hoge impact’ krijgen nog strengere regels. Ze moeten onder meer ernstige incidenten melden aan de Europese Commissie.
Wie in de fout gaat, kan zich aan strenge boetes verwachten gaande van 35 miljoen euro of 7 procent van de wereldwijde omzet tot 7,5 miljoen euro of 1,5 procent van de omzet, afhankelijk van de aard van de inbreuk en de grootte van het bedrijf.
Met de AI Act is de Europese Unie de eerste wereldmacht die het gebruik van AI reguleert.
Het was een felbevochten akkoord, met lange marathononderhandelingen deze week.
‘Europa heeft zichzelf gepositioneerd als een pionier, die het belang erkent van haar rol om wereldwijde standaarden vast te leggen’, zei Europees Commissaris Thierry Breton op een persconferentie achteraf.
‘Dit is, denk ik, een historische dag.’
‘Deze wetgeving zal de Europese belofte waarmaken, en ervoor zorgen dat rechten en vrijheden centraal staan in de ontwikkeling van deze baanbrekende technologie’, stelde de Italiaanse co-rapporteur Brando Benifei (S&D).
Zijn Roemeense collega Dragos Tudorache (Renew) zegt dat de regels ‘onze burgers en democratieën beschermen tegen misbruik van deze technologieën door overheden’.
De komende tijd zullen de details van het akkoord nog worden uitgewerkt.
Dan moet het ter goedkeuring naar de plenaire zitting van het Europees Parlement. Daarna moet ook de Raad zijn fiat geven.
Verwacht wordt dat de wetgeving in 2026 in werking kan treden.
Lees andere berichten in deze categorie
Bron: De Standaard