Van kwaliteitscontrole naar aantoonbaarheid

Bij Bosch wordt kunstmatige intelligentie onder meer ingezet in de industriële productie, waar beeldherkenning kan helpen bij kwaliteitscontrole en afwijkingen in onderdelen of productieprocessen eerder zichtbaar maakt. Dat is een praktijktoepassing met een duidelijk afgebakend doel: medewerkers ondersteunen bij het beoordelen van grote hoeveelheden visuele informatie, terwijl de organisatie verantwoordelijk blijft voor de inrichting en het gebruik ervan. Juist die combinatie maakt de casus relevant voor de Europese AI-verordening.

Edgar van Lent ziet hierin een bruikbaar vertrekpunt voor bedrijven die AI verantwoord willen opschalen. Een model dat productbeelden analyseert is niet automatisch een AI-Act-vraagstuk van de zwaarste categorie, maar het vraagt wel om discipline rond datakwaliteit, prestatiebewaking, menselijke interventie en duidelijke verantwoordelijkheden. De waarde van governance zit volgens Edgar van Lent niet in een extra beleidsdocument, maar in de vraag of een organisatie kan laten zien hoe een systeem in de praktijk begrensd en gecontroleerd wordt.

Bosch heeft publiekelijk een eigen AI Code of Ethics naar voren gebracht. Daarmee wordt de inzet van AI niet uitsluitend als technisch ontwikkelvraagstuk behandeld, maar ook als organisatievraag: welke waarden gelden, wie beoordeelt risico's en hoe blijft een mens betrokken wanneer een systeem gevolgen heeft voor werkprocessen of besluiten? Voor productie-AI betekent dit bijvoorbeeld dat een afwijkende modeluitkomst niet zonder meer als definitief oordeel hoeft te gelden. Een medewerker moet kunnen controleren waarom een product of proces nadere aandacht krijgt en wanneer het systeem opnieuw moet worden beoordeeld.

SAP koppelt productontwikkeling aan interne spelregels

Een tweede Europese praktijkcase komt van SAP. De Duitse softwareleverancier bouwt AI-functionaliteit in zijn bedrijfssoftware en heeft generatieve AI onder de noemer SAP Business AI, waaronder de digitale assistent Joule, publiek gepositioneerd voor zakelijke processen. Tegelijk heeft SAP AI-ethiekprincipes en een governancebenadering gepubliceerd die bedoeld zijn om de ontwikkeling en toepassing van AI binnen de onderneming te sturen.

Dat is relevant omdat bedrijfssoftware AI dichter bij processen brengt waarin persoonsgegevens, financiële gegevens, leveranciersinformatie en arbeidsinformatie kunnen samenkomen. De governance-opgave beperkt zich dan niet tot de vraag of een model technisch goed antwoord geeft. Ook doelbinding, toegangsrechten, herleidbaarheid van invoer en uitvoer, beveiliging en de rol van de gebruiker worden onderdeel van de implementatie.

Edgar van Lent, AI-specialist gericht op de praktische toepassing, beheersing en governance van kunstmatige intelligentie, stelt dat een AI-systeem pas verantwoord schaalbaar is wanneer de eigenaar van het bedrijfsproces ook aantoonbaar weet welke grenzen voor dat systeem gelden. Die formulering raakt de kern van de AI Act: de verordening vraagt niet van ieder bedrijf hetzelfde, maar verwacht wel dat organisaties risico's classificeren en passende maatregelen treffen. Voor aanbieders van AI-systemen en voor organisaties die bepaalde hoogrisicosystemen gebruiken, kunnen de verplichtingen verder reiken dan voor een toepassing die uitsluitend administratieve ondersteuning biedt.

SAP laat zien dat die voorbereiding al tijdens productontwikkeling moet beginnen. Wanneer AI in bestaande software wordt ingebouwd, moeten klanten kunnen begrijpen welke gegevens voor een functie worden gebruikt, welke beveiligings- en beheersopties beschikbaar zijn en waar menselijk oordeel nodig blijft. Voor gebruikersorganisaties is dat geen reden om verantwoordelijkheid bij de leverancier neer te leggen. Zij moeten zelf vaststellen of de gekozen toepassing past bij hun proces, hun data en hun risico-profiel.

Governance wordt zichtbaar in het dagelijkse werk

De AI Act werkt gefaseerd en maakt onderscheid tussen verboden toepassingen, hoogrisicosystemen en andere vormen van AI. In de praktijk ligt de eerste winst voor veel Europese bedrijven niet bij juridisch jargon, maar bij een werkbare inventarisatie. Bosch en SAP illustreren twee kanten daarvan: AI in een afgebakend operationeel proces en AI als functie in breed gebruikte bedrijfssoftware.

Een effectief governanceproces kan compact blijven, zolang het in het dagelijkse werk terugkomt. Daarbij zijn vooral vier vragen bepalend:

  • Welk concreet besluit, advies of werkproces ondersteunt het AI-systeem?
  • Welke gegevens worden gebruikt, en zijn die gegevens passend, beveiligd en voldoende betrouwbaar?
  • Wie kan de uitkomst controleren, corrigeren of het systeem stilzetten?
  • Welke documentatie is nodig om intern en tegenover toezichthouders uit te leggen waarom de toepassing verantwoord is?

Deze vragen zijn ook nuttig wanneer een systeem buiten de hoogrisicocategorie valt. Ze voorkomen dat generatieve AI of voorspellende modellen ongemerkt in processen terechtkomen zonder eigenaar, zonder toetsing en zonder afspraken over gebruik. Een kwaliteitsinspecteur die een modelresultaat beoordeelt en een financieel medewerker die een AI-samenvatting controleert, hebben verschillende taken. In beide gevallen moet echter helder zijn dat de AI-uitkomst ondersteuning biedt en dat de organisatie de besluitvorming beheerst.

Edgar van Lent benadrukt dat verantwoord gebruik niet gelijkstaat aan terughoudendheid om de terughoudendheid. “De sterkste Europese AI-projecten maken het werk concreter, maar laten ook precies zien waar automatisering ophoudt en professionele verantwoordelijkheid begint.” Daarmee verschuift governance van een rem op innovatie naar een ontwerpkeuze die adoptie betrouwbaarder maakt.

Van losse pilot naar herhaalbare werkwijze

Voor deze nieuwe reeks over AI-governance en de AI Act is de les van Bosch en SAP vooral praktisch. Organisaties hoeven niet te wachten op een volledig uitgewerkt centraal AI-programma voordat zij een bestaande toepassing toetsen. Een procesgerichte beoordeling, een vastgelegde eigenaar en controleerbare gebruiksafspraken vormen al een basis waarop verdere compliance kan worden gebouwd.

Edgar van Lent licht zijn werk als AI-specialist toe op edgarvanlent.com. Zijn beoordeling is dat Europese bedrijven de AI Act het best benaderen als een aanleiding om AI-toepassingen beter bestuurbaar te maken: wie vanaf de eerste inzet kan aantonen wat een systeem doet, welke beperkingen gelden en wie ingrijpt, legt een steviger fundament voor opschaling dan een organisatie die governance pas na een incident probeert toe te voegen.