De AI-goeroe van het Vaticaan heeft het nog nooit geprobeerd
Kardinaal Michael Czerny, de man van het Vaticaan op het gebied van AI, geeft toe dat hij geen tijd heeft gevonden om de technologie te gebruiken die hij druk aan het reguleren is. Het is een perfecte metafoor voor de kloof tussen beleid en praktijk.
Kardinaal Michael Czerny, die de commissie voor kunstmatige intelligentie van het Vaticaan leidt, gaf onlangs toe dat hij de tools die hij helpt te reguleren nog nooit daadwerkelijk heeft gebruikt. Hij noemde tijdgebrek als reden en verkiest in plaats daarvan academische briefings en filosofische kaders. Het is een surrealistische bekentenis voor iemand die het morele kompas van de wereldwijde AI-ontwikkeling vormgeeft.
Voor ons die in Vlaanderen producten bouwen, is dit een pijnlijke herinnering dat de luidste stemmen in de kamer vaak het minst bekend zijn met de daadwerkelijke techniek. Wanneer toezichthouders—of het nu in het Vaticaan of bij de Europese Commissie is—praten over 'mensgerichte AI' of 'existentiële risico's', opereren ze vaak in een vacuüm van theorie. Ze kennen de frictie niet van het laten stoppen van hallucinaties in een RAG-pipeline, of de realiteit van het beheren van API-kosten terwijl je probeert een feature uit te rollen die een mkb-klant daadwerkelijk helpt om meer voorraad te verkopen.
Deze kloof is van belang omdat ze de toon zet voor toekomstige compliance. Wanneer beleidsmakers de technologie niet gebruiken, hebben ze de neiging om te zwaar in te zetten op abstracte 'vangrails' die geen rekening houden met hoe we daadwerkelijk bouwen. Ze zien AI als een monolithische entiteit in plaats van een verzameling tools, bibliotheken en afwegingen. Het resultaat is vaak wetgeving die een eenvoudige intentie-classificator op dezelfde manier behandelt als een fundamenteel model, wat onnodige overhead creëert voor kleine studio's zoals de onze.
Wacht niet tot de bureaucraten je ontwikkelingsproces begrijpen voordat je begint met het documenteren van je eigen veiligheidspraktijken. Je hoeft geen theoloog te zijn om de impact van je product te begrijpen, maar je moet het wel kunnen uitleggen aan iemand die niet kan programmeren.
Eén ding om dit kwartaal te doen: Audit je huidige AI-functies en documenteer hun 'logische keten' in begrijpelijke taal—niet voor de gebruiker, maar voor een hypothetische auditor. Als je in drie zinnen niet kunt uitleggen hoe je model tot een beslissing komt, heb je niet alleen een technisch probleem, maar ook een aansprakelijkheidsprobleem.