Het AI Office

10 oktober 2024

Wat is het en hoe werkt het

In dit overzicht bieden we een samenvatting van de belangrijkste elementen van het AI Office die relevant zijn voor degenen die geïnteresseerd zijn in AI-governance. We hebben de verantwoordelijkheden van het AI Office belicht, zijn rol binnen de Europese Commissie, zijn relatie met de AI Board, zijn nationale toezichthouders, het wetenschappelijke panel van onafhankelijke experts, en zijn functie als de EU-stem in mondiale AI-samenwerking. Voor meer details kunt u de meest recente AI-wettekst raadplegen, waarin het AI Office is opgericht, en het Commissiebesluit dat het formeel als juridische entiteit heeft gevestigd.

Centrale coördinerende en toezichthoudende mechanisme

Wat zal het AI Office doen om de implementatie van de EU AI-wet te coördineren en monitoren?

Het AI Office zal toezicht houden op de implementatie van regels door GPAI-modelontwikkelaars, waarbij hen wordt vereist corrigerende maatregelen te nemen wanneer ze niet-conform zijn.
Waar dezelfde aanbieder zowel het GPAI-model als -systeem (gebruikersgericht applicatie) ontwikkelt, zal het AI Office ook toezicht houden op de naleving van het GPAI-systeem.
Wanneer een GPAI-systeem direct wordt gebruikt door implementeerders in een hoog-risico context (Bijlage II of III), en er wordt vermoed dat het niet-conform is, zal het AI Office samenwerken met markttoezichtautoriteiten om de naleving te beoordelen en de AI Board te informeren.
Het AI Office zal de uniforme toepassing van de AI-wet in de lidstaten faciliteren.
Het Office zal gecoördineerde handhaving van verboden en hoog-risico AI ondersteunen door de communicatie tussen sectorale organen en nationale autoriteiten te stroomlijnen, en centrale databases te creëren, vooral wanneer een GPAI-model of -systeem is geïntegreerd in een hoog-risico AI-systeem.
Het zal zorgen voor toezichthoudende coördinatie voor AI-systemen die vallen onder de AI-wet evenals de Digital Services Act (DSA) en Digital Markets Act (DMA).
Het zal de creatie van een governancesysteem coördineren, inclusief het voorbereiden van de oprichting van adviesorganen op EU-niveau en het monitoren van de oprichting van relevante nationale autoriteiten.
Ten slotte zal het Office fungeren als het Secretariaat voor de AI Board en zijn subgroepen, waarbij het administratieve ondersteuning biedt aan het adviescollege en wetenschappelijk panel van onafhankelijke experts, inclusief het organiseren van vergaderingen en het voorbereiden van relevante documenten.

AI Board: Wat is de AI Board, en wat is zijn rol in relatie tot het AI Office?

Samengesteld uit één vertegenwoordiger per lidstaat, met de EDPS en AI Office die deelnemen aan vergaderingen als niet-stemgerechtigde waarnemers, moet de Board consistentie en coördinatie van implementatie tussen nationale bevoegde autoriteiten waarborgen.
Het AI Office zal het Secretariaat voor de Board verzorgen, vergaderingen bijeenroepen op verzoek van de Voorzitter, en de agenda voorbereiden.
De AI Board zal het AI Office assisteren bij het ondersteunen van nationale bevoegde autoriteiten bij de oprichting en ontwikkeling van regelgevende zandbakken en het faciliteren van samenwerking en informatie-uitwisseling tussen regelgevende zandbakken.

Gezamenlijke onderzoeken

Hoe zal het AI Office een rol spelen in 'gezamenlijke onderzoeken'?

Het AI Office zal coördinatie-ondersteuning bieden voor gezamenlijke onderzoeken uitgevoerd door een of meer markttoezichtautoriteiten om niet-naleving te identificeren, waar hoog-risico AI-systemen een ernstig risico blijken te vormen in verschillende lidstaten.

Handhaving

Het AI Office zal de rol van de Commissie als leidende AI-wet handhaver ondersteunen door het voorbereiden van:

Besluiten (rechtshandelingen die alleen van toepassing zijn op specifieke ontvangers, hetzij algemeen of individueel);
Uitvoeringshandelingen om gedetailleerde regels te verschaffen voor de toepassing van de AI-wet;
Gedelegeerde handelingen om niet-essentiële elementen van de AI-wet aan te vullen of te wijzigen;
Begeleiding en richtlijnen om praktische AI-wet implementatie te ondersteunen, zoals gestandaardiseerde protocollen en beste praktijken, in overleg met relevante Commissiediensten, en EU-instellingen, -organen en -agentschappen;
Standaardisatieverzoeken: de evaluatie van bestaande normen en de voorbereiding van gemeenschappelijke specificaties om AI-wet implementatie te ondersteunen.

Gedragscodes

Hoe zal het AI Office gedragscodes voor AI in de EU implementeren?

Tegen Q2 2025 moeten het AI Office en de AI Board de ontwikkeling van gedragscodes faciliteren om GPAI-verplichtingen en watermerkingstechnieken voor het labelen van inhoud als kunstmatig gegenereerd te dekken, rekening houdend met internationale benaderingen. Codes moeten specifieke, meetbare doelstellingen hebben, inclusief key performance indicators (KPI's), rekening houdend met de verschillen in omvang en capaciteit van verschillende aanbieders.
Het AI Office moet de implementatie en effectiviteit van codes monitoren en evalueren, wat rapporten van de GPAI-aanbieders omvat, terwijl aanpassingen in het licht van opkomende standaarden worden overwogen. Dit omvat het opzetten van fora voor GPAI-model en -systeem aanbieders om beste praktijken uit te wisselen. Het kan overleg met relevante nationale bevoegde autoriteiten, het maatschappelijk middenveld, de industrie, de academische wereld, downstream aanbieders en onafhankelijke experts omvatten, die regelmatig moeten worden geraadpleegd.
Alle GPAI-modelaanbieders kunnen naleving van hun verplichtingen aantonen als ze zich vrijwillig houden aan de gedragscodes totdat Europese geharmoniseerde normen worden gepubliceerd, waarvan naleving ook zal leiden tot een vermoeden van conformiteit.
Het AI Office zal een forum creëren voor samenwerking met de open-source gemeenschap om beste praktijken voor de veilige ontwikkeling en gebruik van open-source AI-modellen en -systemen te identificeren en te ontwikkelen.
De Commissie kan algemene EU-geldigheid geven aan een gedragscode via uitvoeringshandelingen. Als een gedragscode niet kan worden afgerond wanneer regels wettelijk van toepassing zijn, of het AI Office oordeelt dat deze ontoereikend is, kan de Commissie gemeenschappelijke regels voor implementatie verschaffen via uitvoeringshandelingen.

Modelevaluaties: Capaciteiten en risico's

Om de capaciteiten en risico's van AI-modellen te beoordelen, zal het AI Office:

Tools, methodologieën en benchmarks ontwikkelen voor capaciteitsevaluaties voor GPAI-modellen, met name de zeer capabele modellen met de grootste impact die mogelijke systemische risico's presenteren.
Opkomende onvoorziene risico's van GPAI-modellen monitoren, inclusief het reageren op gekwalificeerde waarschuwingen van het wetenschappelijk panel van onafhankelijke experts. Systemische GPAI-modelaanbieders zijn ook verplicht om ernstige incidenten en corrigerende maatregelen te melden aan het AI Office.
Mogelijke inbreuken en systemische risico's van upstream GPAI-modellen en -systemen onderzoeken, inclusief het verzamelen van klachten van downstream aanbieders en implementeerders, evenals gekwalificeerde waarschuwingen van het wetenschappelijk panel van onafhankelijke experts.
GPAI-modelaanbieders vereisen, waar nodig, om technische documentatie te verstrekken over trainings- en testprocessen en evaluatieresultaten, evenals alle andere aanvullende informatie die nodig is om naleving te beoordelen of voor het wetenschappelijk panel van onafhankelijke experts om hun werk uit te voeren.
Gestructureerde dialogen initiëren met de GPAI-modelaanbieder, waar nuttig, om meer informatie te verzamelen over de interne tests van het model, waarborgen voor het voorkomen van systemische risico's, en andere procedures en maatregelen die de aanbieder heeft genomen om dergelijke risico's te beperken.
Modelevaluaties uitvoeren, na raadpleging van de AI Board, via API's of andere middelen, zoals de broncode, waar documentatie en informatie onvoldoende zijn om naleving te beoordelen.
Waar deze modelevaluaties een ernstige en onderbouwde zorg over systemisch risico hebben geïdentificeerd, kan het AI Office de aanbieder verplichten om mitigerende maatregelen te implementeren, die bindend kunnen worden gemaakt via een Commissiebesluit. Als dergelijke mitigerende maatregelen het risico niet kunnen aanpakken, kan het AI Office het GPAI-model beperken, terugroepen of uit de markt halen.

Gegevensbeheer

Het AI Office zal ook een sjabloon ontwikkelen voor GPAI-aanbieders om te gebruiken bij het publiceren van een voldoende gedetailleerde samenvatting over de inhoud die is gebruikt voor het trainen van het GPAI-model, die breed omvattend moet zijn in zijn reikwijdte, in plaats van technisch gedetailleerd, om partijen met legitieme belangen te faciliteren bij het uitoefenen van hun rechten. De samenvattingen van de trainingsgegevensinhoud kunnen de belangrijkste datacollecties of -sets vermelden die zijn gebruikt, zoals grote private of publieke databases of data-archieven, terwijl ze een verhalende uitleg geven over andere gebruikte gegevensbronnen.

Wetenschappelijk panel van onafhankelijke experts

De Commissie zal experts selecteren die expertise, onafhankelijkheid van AI-ontwikkelaars, en het vermogen om hun taken zorgvuldig, nauwkeurig en objectief uit te voeren, demonstreren.

Het panel zal het AI Office adviseren en ondersteunen bij:

Implementatie en handhaving van GPAI-modellen en -systemen.
Ontwikkeling van tools, methodologieën en benchmarks voor het evalueren van GPAI-capaciteiten.
Classificatie van verschillende GPAI-modellen en -systemen, inclusief systemische GPAI-modellen.
Ontwikkeling van tools en sjablonen.
Het panel kan een gekwalificeerde waarschuwing geven aan het AI Office waar het vermoedt dat een GPAI-model een concreet identificeerbaar risico vormt op EU-niveau, of voldoet aan de drempel voor het classificeren van GPAI-modellen als systemisch riskant. Op basis daarvan kan het AI Office, na de AI Board te hebben geïnformeerd, een GPAI-model aanwijzen als systemisch riskant en daarom onderworpen aan meer verplichtingen.

Samenwerking

Met betrekking tot samenwerking zal het AI Office ook:

Samenwerken met relevante EU-instellingen, -organen en -agentschappen, inclusief de European High Performance Computing Joint Undertaking (EuroHPC JU), en investeringen aanmoedigen in de ontwikkeling van GPAI om ingezet te worden in nuttige toepassingen;

Namens de Commissie in contact treden met autoriteiten van lidstaten;
Samenwerken met relevante DG's en Commissiediensten, met name het European Centre for Algorithmic Transparency voor GPAI-modelevaluatie, en het bewustzijn van opkomende risico's binnen de Commissie vergroten;
De convergentie van beste praktijken in openbare aanbestedingsprocedures voor AI-systemen evalueren en bevorderen;
Bijdragen aan internationale samenwerking op het gebied van AI-governance, pleiten voor verantwoorde AI, en de EU-benadering promoten.

Sandboxes / Zandbakken

Het Office zal technische ondersteuning, advies en tools bijdragen voor de oprichting en werking van AI-regelgevende zandbakken, waarbij het zo nodig coördineert met nationale autoriteiten om samenwerking tussen lidstaten aan te moedigen. Twee jaar na inwerkingtreding moeten lidstaten ten minste één AI-regelgevende zandbak oprichten, hetzij onafhankelijk of door zich aan te sluiten bij zandbak(ken) van andere lidstaten.

Dit moet innovatie bevorderen, vooral voor het MKB, door AI-training, -testen en -validatie te faciliteren, voordat het systeem op de markt wordt geplaatst of in gebruik wordt genomen onder toezicht van toezichthouders. Dergelijk toezicht is bedoeld om juridische duidelijkheid te verschaffen, regelgevende expertise en beleidsleren te verbeteren, en markttoegang mogelijk te maken. Het AI Office wordt door nationale autoriteiten op de hoogte gesteld van elke opschorting in zandbaktesten vanwege significante risico's. Nationale autoriteiten dienen openbaar beschikbare jaarverslagen in bij het AI Office en de AI Board waarin de voortgang van zandbakken, incidenten en aanbevelingen worden gedetailleerd.

Ondersteuning van het MKB

Wat zal het AI Office doen om het MKB in de EU te ondersteunen?

Het AI Office zal een enkel informatieplatform ontwikkelen en onderhouden dat gemakkelijk te gebruiken informatie over deze Verordening verschaft voor alle EU-operators.
Het AI Office zal passende communicatiecampagnes organiseren om het bewustzijn over de vereisten van de Verordening te vergroten.

Evaluatie

Hoe zullen de rollen en verantwoordelijkheden van het AI Office worden geëvalueerd en bijgewerkt?

2 jaar na inwerkingtreding (juni 2026) zal de Commissie beoordelen of het AI Office voldoende bevoegdheden en competenties heeft gekregen om zijn taken te vervullen, en of die moeten worden opgewaardeerd met verhoogde middelen.