Marktmannen wiki Wet- & Regelgeving

AI Act

Laatst bijgewerkt

TL;DR: De EU AI Act is een risicogebaseerde verordening voor het ontwikkelen, aanbieden en gebruiken van AI-systemen binnen de EU — met verplichtingen die zwaarder worden naarmate het risico van een toepassing groter is, een concreet stappenplan om dat risico te bepalen, en boetes tot €35 miljoen of 7% van de wereldwijde omzet. De verplichtingen gaan gefaseerd in; na de AI Omnibus (in werking 27-07-2026) gelden de hoog-risico-eisen pas vanaf december 2027 (Bijlage III) en augustus 2028 (Bijlage I).

De AI Act geldt naast (niet in plaats van) de AVG: de AI Act regelt de veiligheid en betrouwbaarheid van AI-systemen, de AVG blijft van toepassing zodra er persoonsgegevens worden verwerkt. Voor een organisatie die AI inzet — bijvoorbeeld in marketing, werving of klantcontact — betekent dit vaak dat beide kaders tegelijk gelden.

Voor wie geldt de wet

De reikwijdte is breed: aanbieders (ontwikkelaars/leveranciers), distributeurs en importeurs, gebruiksverantwoordelijken/deployers (bedrijven, overheden, instellingen die het systeem inzetten), en GPAI-aanbieders (generatieve/algemene AI-modellen). Ook organisaties die AI integreren in producten (medische hulpmiddelen, voertuigen, machines) vallen eronder. De verplichting werkt door in de hele keten: een organisatie moet kunnen aantonen dat haar toeleveranciers compliant zijn.

Let op: een gebruiksverantwoordelijke kan zelf aanbieder worden als hij een systeem van een derde partij substantieel aanpast voor een hoog-risico toepassing of onder eigen merknaam op de markt brengt — bijvoorbeeld een HR-afdeling die ChatGPT met een uitgebreide set eigen prompts en data ombouwt tot een cv-screeningtool.

Rollen in de keten

  • Aanbieder (provider): ontwikkelt het AI-systeem of brengt het onder eigen naam op de markt; draagt de conformiteitsbeoordeling en verbindt zijn naam aan de CE-markering (met bijbehorende aansprakelijkheid).
  • Gebruiksverantwoordelijke (deployer): zet het systeem daadwerkelijk in binnen de eigen processen — dit is de rol die de meeste bedrijven die AI-tools gebruiken (zoals Claude, ChatGPT) hebben; houdt operationeel toezicht en monitort incidenten.
  • Importeurs en distributeurs: brengen AI-systemen op de Europese markt of distribueren ze.

Vooral aanbieders van hoog-risico AI moeten via conformiteitsbeoordelingen en documentatie aantonen dat hun systeem aan de eisen voldoet.

Het risicomodel

Hoe groter het risico voor mens en samenleving, hoe strenger de regels. De AI Act kent hiervoor een vast stappenplan — geen open risico-inschatting per geval.

Verboden AI-praktijken (art. 5)

Verbod zonder ruimte voor belangenafweging of toestemming van de betrokkene; alleen real-time biometrische identificatie kent wettelijk afgebakende uitzonderingen. De verboden 1-8 gelden sinds februari 2025; verbod 9 (ingevoegd door de AI Omnibus, art. 5 lid 1 punten b bis en b ter) geldt vanaf 02-12-2026:

  • Manipulatieve/misleidende technieken of misbruik van kwetsbaarheden (leeftijd, handicap, sociale/economische omstandigheid) die iemands gedrag wezenlijk verstoren én aanzienlijke schade berokkenen.
  • Social scoring: personen evalueren of classificeren op basis van sociaal gedrag met een nadelige behandeling tot gevolg, buiten de oorspronkelijke context of onevenredig aan het gedrag.
  • Databanken voor gezichtsherkenning aanleggen via ongerichte scraping van internet- of CCTV-beelden.
  • Risicobeoordeling van strafbare feiten uitsluitend op basis van profilering of persoonlijkheidskenmerken (wel toegestaan ter ondersteuning van een reeds op objectieve feiten gebaseerd menselijk oordeel).
  • Emotieherkenning op de werkplek of in het onderwijs (uitzondering: medische of veiligheidsredenen).
  • Biometrische categorisering om ras, politieke opvattingen, vakbondslidmaatschap, religie of seksuele gerichtheid af te leiden.
  • Real-time biometrische identificatie op afstand in openbare ruimten t.b.v. rechtshandhaving, tenzij strikt noodzakelijk voor het gericht zoeken naar slachtoffers of vermiste personen, het voorkomen van een acute dreiging voor levens of een terroristische aanslag, of het opsporen van verdachten van ernstige strafbare feiten (art. 5 lid 1 punt h).
  • Verbod 9: nudification en CSAM (vanaf 02-12-2026): AI-systemen die zonder uitdrukkelijke toestemming realistische intieme of seksueel expliciete beelden, video of audio van een identificeerbaar persoon genereren of manipuleren, of seksueel misbruikmateriaal van kinderen. Voor aanbieders geldt het verbod als dat het beoogde doel is, of als het systeem dit redelijkerwijs voorzienbaar oplevert zonder adequate waarborgen (art. 5 lid 1 bis).

Uitzonderingen gelden voor wetenschappelijk onderzoek (tot het systeem buiten R&D wordt ingezet) en voor puur persoonlijk, niet-professioneel gebruik.

Hoog-risico AI (art. 6)

Twee onafhankelijke routes; beide beoordelen via een vast stappenplan, niet via een eigen inschatting:

  • Type 1 — gereguleerde producten (Bijlage I): het systeem is (een veiligheidscomponent van) een product dat al onder sectorale EU-productwetgeving valt — speelgoed, pleziervaartuigen, kabelbanen, medische hulpmiddelen, radioapparatuur, gasverbrandingstoestellen — én er is een conformiteitsbeoordeling door een derde partij vereist. Sinds de AI Omnibus telt die voorwaarde niet als de derde-partijbeoordeling alleen om andere risico's dan gezondheid en veiligheid draait (zoals het radiospectrum), en is een AI-systeem dat uitsluitend gebruikersgemak, prestatie- of efficiëntieverbetering of kwaliteitscontrole buiten de veiligheid dient, geen veiligheidscomponent (art. 6 lid 1 bis-quater). Voor de sectoren in Bijlage I, afdeling B — burgerluchtvaart, voertuigen, landbouw-/bosbouwvoertuigen, spoorwegsystemen, drones en sinds de Omnibus ook machines (Machineverordening 2023/1230) — geldt een beperkt regime via de eigen sectorwetgeving (art. 2 lid 2).
  • Type 2 — specifiek doel in Bijlage III: kritieke infrastructuur (verkeer, water, gas, elektriciteit), onderwijs (toegang, leerresultaten, examenfraude-detectie), essentiële diensten (overheidsuitkeringen, kredietwaardigheid, verzekeringen, noodoproepen/triage), biometrie (identificatie op afstand, categorisering, emotieherkenning), arbeid (werving, contractbeslissingen, taaktoewijzing, prestatiemonitoring).

Voor Type 2 geldt een algemene uitzondering ("geen significant risico") als het systeem uitsluitend: (1) een beperkte procedurele taak uitvoert, (2) een eerder menselijk resultaat verbetert, (3) afwijkingen van beslispatronen signaleert zonder het menselijk oordeel te vervangen, of (4) een voorbereidende taak uitvoert. Deze uitzondering vervalt zodra het systeem aan profilering doet — een recruitment-AI die cv's sorteert op relevantie is daardoor al snel hoog risico, ook al "beslist" het zelf niets.

Transparantieverplichtingen (art. 50)

Gelden ongeacht of een systeem ook hoog risico is, vanaf 02-08-2026. Voor systemen die al vóór die datum op de markt waren, loopt de overgang voor de markeringsplicht (art. 50(2)) tot 02-12-2026. Overtreding valt onder de boetecategorie tot €15 miljoen of 3%.

  • Chatbots en andere systemen voor directe interactie moeten zich kenbaar maken als AI.
  • Synthetische content (tekst, beeld, audio, video) moet machineleesbaar gemarkeerd zijn — vaak onzichtbaar (bv. Content Credentials), die platforms als LinkedIn oppikken voor een label.
  • Deepfakes (content die een echte situatie nabootst) moeten expliciet zichtbaar gelabeld zijn, bijvoorbeeld als watermerk.
  • Bij kennelijk artistiek, creatief, satirisch of fictief werk is de deepfake-plicht beperkt tot een passende vermelding die het werk niet hindert (geen volledige vrijstelling).
  • AI-tekst die wordt gepubliceerd om het publiek te informeren over zaken van algemeen belang moet als AI-gegenereerd worden vermeld, tenzij de tekst menselijke toetsing of redactionele controle heeft gehad en iemand redactionele verantwoordelijkheid draagt (art. 50 lid 4).
  • De Commissie stimuleert praktijkcodes voor het markeren en labelen; schieten die tekort, dan kan ze gemeenschappelijke regels vastleggen (art. 50 lid 7, zoals gewijzigd door de Omnibus).

General-Purpose AI (GPAI, art. 53/55)

GPAI-modellen (ChatGPT, Claude e.d.) kunnen niet vooraf getoetst worden aan een beoogd doel — daarom een apart, lichter regime: aanbieders moeten transparant zijn over trainingsdata, modaliteiten en beperkingen (art. 53), vastgelegd in technische documentatie waarmee afnemers hun eigen systeem compliant kunnen ontwikkelen. Bij systeemrisico (trainingscompute boven 10^25 FLOP, een drempel die de Commissie kan aanpassen, of aanwijzing door de Europese Commissie) gelden zwaardere eisen (art. 55). De GPAI-regels gelden sinds 02-08-2025; de handhaving begint op 02-08-2026. Transparantie raakt hier ook auteursrecht en de AVG: of grootschalig scrapen van trainingsdata toegestaan is, is juridisch nog onduidelijk.

Verplichtingen op hoofdlijnen

Voor hoog-risico AI (van toepassing vanaf 02-12-2027 voor Bijlage III en 02-08-2028 voor Bijlage I), samengevat per thema — (A) = verplichting voor de aanbieder, (G) = voor de gebruiksverantwoordelijke:

  • Menselijk toezicht: effectief toezicht inbouwen (A); toezichthoudend personeel trainen en bevoegd maken (G); recht op uitleg van getroffen personen faciliteren (G).
  • Gegevensbeheer & privacy: datakwaliteit en governance (A); representatieve input data (G); afstemming met de AVG (A & G).
  • Risicobeheer: risicoanalyse (A); beheersmaatregelen nemen en gebruiksinstructies volgen (A & G); monitoring na marktintroductie (A).
  • Nauwkeurigheid, testen, validatie: passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging (A); testen vóór implementatie (A).
  • Incidentbeheer: plan voor melden en behandelen van serieuze incidenten (A & G); corrigerende maatregelen (A).
  • Transparantie & documentatie: transparant ontwerp (A); gebruiksinstructies opstellen en volgen (A & G); technische documentatie opstellen en bijhouden (A); logs automatisch laten genereren en bewaren (A, art. 19) en de logs onder eigen controle minimaal 6 maanden bewaren (G, art. 26 lid 6); Type 2 hoog-risico systemen registreren in de EU-database (A); werknemersvertegenwoordigers informeren bij inzet op de werkvloer (G).
  • Conformiteit & markering: conformiteitsbeoordeling doorlopen, EU-conformiteitsverklaring opstellen, CE-markering aanbrengen (A).
  • Beheersystemen: intern kwaliteitsbeheersysteem (A); afspraken met derde-partijleveranciers over informatie en toegang (A).

Los van het risiconiveau geldt sinds 02-02-2025 de plicht tot AI-geletterdheid (art. 4). Sinds de AI Omnibus is die afgezwakt: organisaties nemen maatregelen die AI-geletterdheid ondersteunen, maar hoeven geen bepaald niveau te waarborgen. Een certificaat is niet nodig en art. 4 staat niet in de boetelijst van art. 99. De trainingsplicht voor toezichthoudend personeel bij gebruiksverantwoordelijken van hoog-risico AI blijft bestaan.

AI Act & AVG

Waar de AI Act de robuustheid van het systeem zelf reguleert, bewaakt de AVG de rechtmatigheid van de dataverwerking erachter — een AI-systeem moet aan beide wetten tegelijk voldoen.

  • DPIA vs. FRIA: bij verhoogd privacyrisico eist de AVG een Data Protection Impact Assessment (DPIA) — verplicht voor iedere verwerkingsverantwoordelijke waar relevant. De AI Act introduceert daarnaast de Fundamental Rights Impact Assessment (FRIA), maar beperkter: vooral voor gebruiksverantwoordelijken in de publieke sector en enkele specifieke private taken. Een gewoon bedrijf dat AI voor personeelsbeoordeling inzet, doet dus wel een DPIA maar geen FRIA. Beide mogen in één document (bv. de Rijksoverheid-sjablonen IAMA of AIIA).
  • Geautomatiseerde besluitvorming: de AI Act geeft een recht van uitleg bij hoog-risico beslissingen; de AVG gaat verder en verbiedt volledig geautomatiseerde besluitvorming over mensen zonder uitdrukkelijke toestemming of wettelijke grondslag. De gangbare oplossing — een mens in de lus (human-in-the-loop) — werkt alleen als die persoon ook echt de middelen en bevoegdheid heeft om de AI te overrulen; anders wordt het toezicht een formaliteit (automation bias). Een human-on-the-loop-opzet, waarbij een mens pas ingrijpt bij grenswaarden of afwijkende gevallen, is in de praktijk vaak realistischer én nog steeds voldoende voor de AI Act-eis van menselijk toezicht.

Handhaving en boetes (Nederland)

Elke lidstaat krijgt minstens één toezichthouder. Nederland kiest een hybride model met 10 markttoezichthouders (o.a. NVWA, IGJ, AFM, RDI), die toezicht houden op de partijen die zij al reguleren. De Autoriteit Persoonsgegevens krijgt daarin een sleutelrol: toezichthouder voor de verboden praktijken, de transparantieverplichtingen en een groot deel van hoog-risico AI, én vangnet waar geen andere toezichthouder is. AP en RDI coördineren. De Uitvoeringswet hiervoor is sinds 20-04-2026 in consultatie; de latere stand is niet geverifieerd. Voor GPAI houdt de Europese Commissie zelf toezicht, via het nieuwe AI Office — aanvullend op bestaande bevoegdheden onder de Digital Services Act en Digital Markets Act. De AI Omnibus centraliseert daarnaast het toezicht op systemen die op GPAI-modellen zijn gebouwd.

Toezichthouders mogen toegang eisen tot documentatie, broncode en modelparameters, bindende aanwijzingen geven, gebruik laten staken en boetes opleggen:

  • tot €35 miljoen of 7% van de wereldwijde omzet bij verboden AI-praktijken (art. 5);
  • tot €15 miljoen of 3% van de omzet bij overtreding van overige verplichtingen (o.a. art. 16, 26 en 50, en sinds de Omnibus ook art. 25 leden 2 en 4);
  • tot €7,5 miljoen of 1% van de omzet bij onjuiste, onvolledige of misleidende informatie aan aangemelde instanties en nationale autoriteiten;
  • telkens geldt het hoogste van beide bedragen; voor mkb en startups juist het laagste (art. 99 lid 6), en sinds de Omnibus ook voor kleine midcaps bij de boetes uit leden 4 en 5 (art. 99 lid 6 bis).

Praktijkvragen

  • Valt elk algoritme onder de AI Act? Nee. Alleen systemen die zelf beslisregels afleiden uit data ("inferentievermogen"). Een vaste, vooraf geprogrammeerde als-dan-logica is geen AI in de zin van de wet.
  • Moet een bestaand AI-systeem alsnog voldoen? Ja, maar later dan eerst gepland. Na de AI Omnibus (in werking 27-07-2026) gelden de hoog-risico-eisen voor Bijlage III vanaf 02-12-2027 en voor Bijlage I vanaf 02-08-2028. Een hoog-risicosysteem dat vóór die toepassingsdatum van hoofdstuk III op de markt of in gebruik was, hoeft volgens de overgangsregel (art. 111 lid 2, zoals gewijzigd door de Omnibus) pas te voldoen als het daarna aanzienlijk in ontwerp wordt gewijzigd. Hoog-risico AI voor gebruik door overheidsinstanties moet uiterlijk 02-08-2030 voldoen. De bronnen hanteren als vuistregel dat een nieuwe productversie (2.0, 3.0) substantieel is en een verbetering (2.3, 3.1) niet; dat staat niet in de wettekst. Voor verboden praktijken geldt geen overgangsrecht: verboden 1-8 gelden sinds februari 2025, verbod 9 vanaf 02-12-2026.
  • Moet AI-gegenereerde tekst of beeld altijd zichtbaar gelabeld worden? Nee. Verplicht is een (vaak onzichtbare, machineleesbare) markering; alleen deepfakes moeten expliciet zichtbaar gelabeld zijn. De labelplicht voor tekst vervalt bij content die niet het publiek informeert (fictie, e-mail) of die menselijke eindredactie heeft ondergaan.
  • Valt open-source AI erbuiten? In beginsel vrijgesteld van de AI Act, maar niet van het verbod op art. 5-praktijken, en de vrijstelling vervalt zodra het model voor een hoog-risico toepassing wordt ingezet.
  • Betekent AI Act-compliance ook AVG-compliance? Nee, ze bestaan naast elkaar — en ook andere wetgeving (Cyber Resilience Act, Digital Services Act) blijft gewoon gelden.

Open vragen

  • Wanneer wordt de NL-Uitvoeringswet (in consultatie sinds 20-04-2026) vastgesteld, en welke toezichthouder is dan concreet verantwoordelijk voor een organisatie als Marktmannen (marketing/SaaS-context)?
  • Wat betekent dit concreet voor een marketingorganisatie die generatieve AI (Claude, ChatGPT) inzet voor content en klantcontact: welke rol (deployer) en welke transparantieplicht (AI-labeling van content) is van toepassing?
  • Hoe streng wordt de FRIA-drempel in de praktijk uitgelegd voor MKB-gebruiksverantwoordelijken die net buiten de expliciet genoemde publieke/private taken vallen?

Verwante concepten

Bronnen

#privacy

Backlinks