De paradox van het weggesneden vangnet

Wie verwacht dat een productierel met een AI-agent leidt tot méér voorzichtigheid, komt bedrogen uit. Uit nieuw onderzoek van VentureBeat Pulse — gepubliceerd door VentureBeat — blijkt dat 85 procent van de bedrijven die al door een AI-fout zijn getroffen, versneld naar minder menselijk toezicht beweegt, niet naar meer. Tegelijkertijd steeg het aandeel bedrijven dat geautomatiseerde evaluatie vertrouwt van vijf naar dertien procent in één maand, en daalde de zorg over slechte afstemming tussen testomgevingen en de echte wereld met tien procentpunten.

Edgar van Lent, AI-specialist gericht op de inzet van AI in het Europese bedrijfsleven, stelt dat de combinatie van dalend menselijk toezicht en stijgende vertrouwen in geautomatiseerde evaluatie een systeemrisico vormt dat Europese bedrijven onderschatten: niet omdat AI vaker faalt, maar omdat de kans om die fout vroegtijdig te zien kleiner wordt. De logica achter de trend is begrijpelijk — als een agent eenmaal door evaluatie is gegaan en toch faalt, lijkt menselijk ingrijpen achteraf overbodig. Maar die redenering draait oorzaak en gevolg om. Een agent die zijn testcriteria haalt en daarna in productie ontspoort, is juist het bewijs dat de testopzet tekortschiet, niet dat de mens overbodig is.

Voor Europese bedrijven is deze paradox extra schrijnend. De AI Act verplicht aanbieders én gebruikers van hoog-risicosystemen tot aantoonbaar menselijk toezicht. Wie de controlerende functies wegbezuinigt op het moment dat het vertrouwen in automatische evaluatie stijgt, bouwt een compliance-risico in dat pas zichtbaar wordt als het te laat is. Toezicht is geen bureaucratische drempel; het is de randvoorwaarde die de regelgever heeft benoemd omdat de sector hem zelf onvoldoende had ingebouwd.

Infrastructuur als stille kostenfactor

Terwijl het toezichtsdebat voortduurt, verschuift een ander vraagstuk geruisloos naar de voorgrond: de kosten van het draaien van AI-agenten op schaal. Bedrijven die één groot model inzetten voor elke query — eenvoudig of complex — betalen structureel te veel voor werk dat een goedkoper model even goed had kunnen leveren. Snowflake adresseert dat met de dynamische modelrouting in Cortex AI Gateway, zo bericht VentureBeat. Door "auto" te selecteren in plaats van een vast model, wijst het systeem elke taak automatisch toe aan het model met de beste prijs-kwaliteitverhouding voor die specifieke vraag. Snowflake stelt dat de tokenkostprijs bij sommige workloads tot een factor drie omlaag kan.

Dit klinkt als een technisch detail, maar het raakt de businesscase van vrijwel elk AI-project. De meeste kostencalculaties die Europese AI-teams maken, gaan uit van één model per toepassing. Zodra het gebruik groeit, wordt die aanname prijzig. Modelrouting — of het nu via Snowflake, een eigen orchestratielaag of een alternatieve aanbieder wordt geregeld — zou standaard onderdeel moeten zijn van elke schaalstrategie, niet een feature die achteraf wordt toegevoegd.

Open infrastructuur als alternatief spoor

Een derde beweging is minder zichtbaar maar verdient aandacht. Block, het technologiebedrijf achter Square en Cash App, brengt zijn interne AI-werkomgeving Berd als open source beschikbaar, zo meldt VentureBeat. Berd is een lokaal geïnstalleerde desktopapplicatie die meerdere AI-modellen en tools in één omgeving samenbrengt, met conversatiegeschiedenis die lokaal wordt opgeslagen. De Apache 2.0-licentie staat commercieel gebruik, aanpassing en herdistributie toe.

Wat Berd onderscheidt van clouddiensten, is de lokale dataopslag. Voor Europese bedrijven die werken met privacygevoelige informatie — patiëntgegevens, financiële dossiers, vertrouwelijke contracten — biedt een lokaal draaiende tool een andere risicoafweging dan een cloudplatform. Het betekent niet automatisch dat Berd de juiste keuze is; de vraag is of het onderhoud, de beveiliging en de integratie met bestaande systemen haalbaar zijn zonder de ondersteuning die een commerciële aanbieder biedt. Maar dat Europese bedrijven deze afweging überhaupt kunnen maken, is winst. Open-source infrastructuur vergroot de keuzevrijheid op een markt die vooralsnog door een handvol grote platforms wordt gedomineerd.

Edgar van Lent licht zijn werk en analyses verder toe op edgarvanlent.com.

Wat Europese bedrijven de komende weken in de gaten moeten houden

De drie bewegingen die Edgar van Lent hier bespreekt, zijn niet los van elkaar te zien. Minder menselijk toezicht verhoogt de druk op betrouwbare infrastructuur. Modelrouting verlaagt kosten maar verplaatst complexiteit naar de orchestratielaag. Open-source werkruimten bieden autonomie maar vragen intern beheer.

Concreet verdienen drie punten aandacht de komende weken. Ten eerste: staat in de AI-evaluatieprocessen van uw organisatie expliciet beschreven welke menselijke controles behouden blijven, en is dat vastgelegd in termen die ook in een AI Act-audit standhouden? Ten tweede: zijn de tokenkosten in uw AI-budgetten gebaseerd op een vaste modelkeuze, en zo ja — rechtvaardigt een routinganalyse een herziening van die aanname? Ten derde: volgt uw team de consolidatie in de markt voor AI-ontwikkelomgevingen, nu aanbieders als Cursor met Origin een volledig eigen platform opbouwen — inclusief code-hosting, zoals VentureBeat berichtte na de GitHub-storing van maandag? Wie zijn infrastructuurkeuzes nu maakt, bepaalt mede welke afhankelijkheden hij over twee jaar heeft.