Home › Juridische artikelen › E-Commerce
In dit artikel
- Risicogebaseerde benadering
- Regels voor hoogrisico AI-systemen
- De praktijk voor risicovolle AI-toepassingen
- Transparantievereisten
- Toezicht en handhaving
- Innovatiebevordering
- AI-wet en ethiek
- Gevolgen voor bedrijven
- AI Act en de toekomst
Conclusie
Artikelen in E-Commerce
De AI-wet van de EU, formeel bekend als de Artificial Intelligence Act (AI Act), is een uitgebreide wetgevingsvoorstel van de Europese Commissie dat gericht is op het reguleren van kunstmatige intelligentie (AI) in de Europese Unie. Dit is een van de eerste pogingen wereldwijd om een uniform wettelijk kader op te stellen voor het gebruik en de ontwikkeling van AI. Het doel van de wet is om zowel innovatie te bevorderen als risico’s voor burgers te minimaliseren.
Hier zijn de belangrijkste kenmerken van de AI Act:
1. Risicogebaseerde benadering
De AI-wet volgt een risicogebaseerde benadering, waarbij AI-systemen worden ingedeeld op basis van het niveau van risico dat ze met zich meebrengen. Er zijn vier risiconiveaus gedefinieerd:
Verboden AI-systemen (Unacceptable Risk): Dit zijn AI-systemen die als onaanvaardbaar risicovol worden beschouwd en dus verboden zijn. Voorbeelden zijn AI-toepassingen die gedragsmanipulatie kunnen veroorzaken, zoals subliminale technieken die kwetsbare groepen, zoals kinderen, beïnvloeden, of sociale scoring door overheden naar Chinees model.
Hoogrisico AI-systemen (High Risk): Dit betreft AI-systemen die worden ingezet in gevoelige domeinen zoals de gezondheidszorg, rechtshandhaving, kritieke infrastructuur (bijv. energie, transport), onderwijs en arbeidsmarkt. Deze systemen moeten aan strenge eisen voldoen, waaronder transparantie, toezicht door mensen, robuustheid en naleving van databeveiligingsregels.
Beperkt risico (Limited Risk): Dit niveau betreft AI-systemen die een laag risico vormen voor gebruikers, maar wel bepaalde transparantie-eisen moeten hanteren. Bijvoorbeeld chatbots die duidelijk moeten maken dat ze AI-systemen zijn wanneer ze met mensen communiceren.
Minimaal risico (Minimal Risk): AI-systemen die nauwelijks risico vormen, zoals AI-gebaseerde videogames of spamfilters, vallen onder deze categorie en kunnen zonder aanvullende beperkingen worden gebruikt.
2. Regels voor hoogrisico AI-systemen
Voor AI-systemen die als hoogrisico worden beschouwd, stelt de wet strikte regels vast. Deze systemen moeten voldoen aan specifieke eisen om te zorgen dat ze veilig, transparant en controleerbaar zijn:
- Beoordeling van de veiligheid: AI-systemen moeten worden beoordeeld op veiligheid voordat ze op de markt komen. Dit lijkt op het proces voor het verkrijgen van CE-markeringen in de EU.
- Documentatie en traceerbaarheid: Ontwikkelaars moeten gedetailleerde documentatie bijhouden over hoe het AI-systeem werkt, zodat het begrijpelijk en controleerbaar is.
- Menselijk toezicht: AI-systemen mogen niet volledig autonoom opereren in situaties van hoog risico; menselijk toezicht is vereist.
- Datakwaliteit: De datasets die worden gebruikt om AI-systemen te trainen, moeten van hoge kwaliteit zijn en mogen niet discriminerend zijn.
3. De praktijk voor risicovolle AI-toepassingen?
4. Transparantievereisten
De AI Act legt specifieke transparantieverplichtingen op voor AI-systemen, vooral als ze rechtstreeks interageren met mensen. Voorbeelden hiervan zijn:
- AI-systemen zoals chatbots moeten gebruikers laten weten dat ze met een AI te maken hebben.
- AI-gebaseerde deepfakes moeten expliciet als zodanig worden geëtiketteerd, tenzij ze worden gebruikt voor legitieme wetshandhavingsdoeleinden.
5. Toezicht en handhaving
Er zullen nationale toezichthoudende instanties worden opgericht in de EU-lidstaten, ondersteund door een EU-breed AI-comité. Deze instanties zullen verantwoordelijk zijn voor het handhaven van de AI-wet, en bedrijven die zich niet aan de regels houden, kunnen aanzienlijke boetes krijgen. Boetes kunnen oplopen tot 6% van de wereldwijde jaaromzet van een bedrijf, afhankelijk van de ernst van de overtreding.
6. Innovatiebevordering
De AI Act erkent het belang van innovatie en bevat bepalingen om AI-ontwikkeling te ondersteunen, zoals:
- Sandboxes: Er komen zogeheten “regulatory sandboxes”, waarin bedrijven AI-toepassingen in een gecontroleerde omgeving kunnen testen zonder dat ze meteen aan alle regels moeten voldoen. Dit helpt bedrijven om sneller te innoveren zonder de regels te overtreden.
7. AI-wet en ethiek
Een belangrijk aspect van de AI-wet is het waarborgen van ethische principes. De wet richt zich op het voorkomen van discriminatie en het beschermen van fundamentele rechten, zoals privacy en de menselijke waardigheid. Deze ethische overwegingen komen sterk naar voren in de regels voor datakwaliteit en het menselijk toezicht op hoogrisico AI-systemen.
8. Gevolgen voor bedrijven
De wet zal grote gevolgen hebben voor bedrijven die AI-systemen ontwikkelen en gebruiken. Voor hoogrisico AI-toepassingen zullen ze moeten zorgen voor naleving van strikte eisen op het gebied van veiligheid, transparantie en gegevensbeheer. Kleine en middelgrote ondernemingen (kmo’s) krijgen enige verlichting door minder strenge administratieve vereisten, maar zij moeten nog steeds de kernprincipes van de AI-wet volgen.
9. AI Act en de toekomst
De AI-wet zal waarschijnlijk een blauwdruk worden voor hoe AI wereldwijd wordt gereguleerd, vergelijkbaar met de manier waarop de GDPR (Algemene Verordening Gegevensbescherming) een wereldwijde standaard heeft gezet voor privacyregelgeving. Het kader is gericht op het vinden van een balans tussen innovatie en veiligheid, waarbij de rechten van burgers worden beschermd zonder dat dit de ontwikkeling van nieuwe technologieën verstikt.
Conclusie
De AI-wet van de EU is een baanbrekende poging om AI-systemen op een verantwoorde en transparante manier te reguleren, met een focus op risicobeheersing en ethische normen. De wet bevordert innovatie door middel van reguleringssandboxes, terwijl het streng optreedt tegen hoogrisico AI-gebruik en schendingen van fundamentele rechten. Het zal grote gevolgen hebben voor zowel bedrijven als consumenten in Europa en wereldwijd.
De **AI-wet** van de EU, ook wel bekend als de **AI Act**, is een voorgestelde verordening die de eerste uitgebreide wetgeving is die kunstmatige intelligentie (AI) reguleert in Europa. De Europese Commissie introduceerde dit wetsvoorstel in april 2021, met als doel een veilig, ethisch en betrouwbaar kader te creëren voor het gebruik van AI binnen de EU. Het wetsvoorstel staat symbool voor de proactieve benadering van de EU met betrekking tot het reguleren van nieuwe technologieën, met name AI.
### Kernpunten van de AI-wet:
1. **Risicogebaseerde benadering**
De AI-wet introduceert een risicogebaseerde aanpak, waarbij AI-systemen worden ingedeeld in vier risiconiveaus:
– **Onaanvaardbaar risico**: AI-toepassingen die een bedreiging vormen voor fundamentele rechten en veiligheid worden volledig verboden. Voorbeelden hiervan zijn AI-systemen die gebruikt worden voor subliminale beïnvloeding of systemen die burgers beoordelen op basis van hun gedrag (zoals sociaal kredietscoresysteem).
– **Hoog risico**: AI-systemen die een significant effect kunnen hebben op de rechten en veiligheid van individuen, zoals toepassingen in gezondheidszorg, rechtshandhaving, en onderwijs. Deze systemen moeten voldoen aan strikte eisen op het gebied van transparantie, veiligheid, en verantwoordelijkheid. Voorbeelden zijn gezichtsherkenningstechnologie voor politiediensten en AI-systemen die sollicitaties beoordelen.
– **Beperkt risico**: AI-toepassingen met beperkte risico’s vereisen enige transparantie. Gebruikers moeten bijvoorbeeld geïnformeerd worden wanneer ze met een AI-systeem omgaan (zoals chatbots of deepfake-content).
– **Minimaal risico**: Dit omvat AI-toepassingen die weinig tot geen risico’s met zich meebrengen, zoals spamfilters of AI-ondersteunde videogames. Deze systemen worden nauwelijks gereguleerd onder de wet.
2. **Verbod op specifieke AI-praktijken**
De AI-wet verbiedt enkele specifieke praktijken die als zeer schadelijk worden beschouwd. Voorbeelden hiervan zijn:
– AI-systemen die subliminale technieken gebruiken om mensen te manipuleren.
– Het gebruik van AI door overheden voor “social scoring” (zoals in sommige delen van China wordt toegepast).
– Het op grote schaal gebruikmaken van biometrische surveillance in openbare ruimtes (zoals gezichtsherkenning).
3. **Regulering van AI in rechtshandhaving en biometrie**
Er worden strikte regels ingevoerd voor het gebruik van biometrische identificatie, zoals gezichtsherkenning, door politie en andere rechtshandhavingsinstanties. Publieke gezichtsherkenningstechnologieën zouden alleen in zeer beperkte situaties toegestaan zijn (bijvoorbeeld om terrorisme te bestrijden), en met sterke waarborgen voor grondrechten.
4. **Conformiteitseisen voor hoog-risico AI-systemen**
Voor AI-systemen die als “hoog risico” worden geclassificeerd, zijn er strikte eisen voor conformiteit. Dit omvat:
– Robuuste risicobeoordelingen en documentatie.
– Transparantie over hoe AI-beslissingen worden genomen.
– Beheer van gegevens om discriminatie te voorkomen.
– Monitoring van de prestaties en veiligheid van het AI-systeem gedurende de levenscyclus.
5. **Markttoezicht en handhaving**
De AI-wet stelt dat elke lidstaat een of meerdere toezichthoudende autoriteiten moet aanwijzen om toezicht te houden op de naleving van de regels. Op EU-niveau zal een Europese **Raad voor Kunstmatige Intelligentie** worden opgericht om de handhaving en coördinatie tussen lidstaten te ondersteunen.
6. **Boetes**
Bedrijven die zich niet houden aan de AI-wet kunnen zware boetes krijgen. De boetes kunnen oplopen tot **€30 miljoen**, of 6% van de wereldwijde jaaromzet, afhankelijk van welke van de twee het hoogst is.
### Belangrijke doelstellingen van de AI-wet:
– **Bescherming van fundamentele rechten**: De AI-wetgeving is ontworpen om de bescherming van fundamentele mensenrechten te waarborgen, zoals privacy, non-discriminatie en vrijheid van meningsuiting.
– **Stimulering van innovatie**: Hoewel de wet strenge regels invoert, is het doel ook om een duidelijke en voorspelbare juridische omgeving te creëren die innovatie stimuleert. Door richtlijnen te geven over wat wel en niet is toegestaan, kunnen bedrijven beter navigeren in het gebruik van AI.
– **Harmonisatie van regelgeving binnen de EU**: De AI-wet zorgt voor een gemeenschappelijk regelgevingskader voor alle EU-lidstaten, wat voorkomt dat verschillende landen tegenstrijdige wetten ontwikkelen.
### Impact op bedrijven en technologieontwikkelaars
De AI-wet heeft een aanzienlijke impact op bedrijven en organisaties die AI ontwikkelen, implementeren of gebruiken. Ze zullen verantwoordelijk zijn voor het naleven van de wettelijke vereisten en moeten mogelijk hun AI-systemen aanpassen om aan de regels te voldoen, vooral als hun toepassingen in de categorie “hoog risico” vallen. Dit kan extra kosten en verantwoordelijkheden met zich meebrengen, zoals het doen van nalevingsaudits en het transparant maken van hun AI-systemen.
### Stand van zaken
De AI-wet is nog steeds in ontwikkeling en moet door de Raad van de Europese Unie en het Europees Parlement worden goedgekeurd voordat deze definitief wordt. Naar verwachting zal de wet de komende jaren verder worden uitgewerkt en geïmplementeerd.
### Conclusie
De EU AI Act is een baanbrekend voorstel dat als een van de eerste wereldwijde pogingen wordt gezien om AI-systemen te reguleren. Het heeft tot doel een balans te vinden tussen het stimuleren van innovatie in AI-technologieën en het waarborgen van de bescherming van fundamentele rechten en veiligheid binnen de EU.
