Responsible AI & Automation
AI is een middel, geen doel. Op deze pagina leggen wij uit wanneer wij AI inzetten in workflows, welke grenzen wij daarbij hanteren en hoe verantwoordelijkheid is verdeeld tussen Manuless en de opdrachtgever.
Ons uitgangspunt
AI wordt in een Manuless-workflow alleen ingezet als het een aantoonbare functie heeft die een mens redelijkerwijs niet net zo snel of consistent kan uitvoeren. Denk aan het samenvatten van een langere tekst, het extraheren van gestructureerde informatie uit een vrij-tekstveld, of het categoriseren van binnenkomende berichten.
AI om de AI bestaat niet in onze workflows. Als regelgebaseerde logica volstaat, gebruiken wij geen AI-node. Als een eenvoudige zoekopdracht in een database voldoende is, roepen wij geen taalmodel aan. De keuze voor AI is altijd te rechtvaardigen vanuit de functionele behoefte van de klant.
AI-toepassingen in door Manuless opgeleverde workflows worden getoetst aan de uitgangspunten van de EU AI Act. Wij claimen geen officiële certificering. Wij beschrijven hoe wij de wet als ontwerpkader toepassen.
Wanneer AI wel en niet
De EU AI Act verbiedt een aantal toepassingen van AI expliciet. Manuless bouwt geen workflows die daarmee in strijd zijn, ongeacht wat een opdrachtgever vraagt. Daarnaast hanteren wij eigen grenzen die verder gaan dan de wettelijke minimumvereisten.
- Samenvatten van inkomende berichten of formulieren
- Extraheren van gestructureerde data uit ongestructureerde tekst
- Categoriseren en prioriteren van taken of leads
- Genereren van conceptteksten ter beoordeling door een mens
- Ondersteuning bij het voorbereiden van menselijke beslissingen
- Signalering van afwijkingen of aandachtspunten in een proces
- Systemen die personen scoren of rangschikken op basis van sociaal gedrag of persoonlijke kenmerken
- Realtime biometrische identificatie in openbare ruimten
- Geautomatiseerde beslissingen met juridisch bindende gevolgen zonder menselijke tussenkomst
- Profilering op basis van ras, religie, politieke voorkeur, seksuele oriëntatie of vergelijkbare kenmerken
- Systemen die subliminale technieken gebruiken om gedrag te beïnvloeden
- AI-gestuurde AML- of Wwft-meldingen zonder menselijke review
Menselijke controle
Bij elke workflow die een AI-actie bevat, wordt beoordeeld of de uitkomst van die actie direct tot een vervolgstap leidt, of dat er eerst een mens naar moet kijken. Die beoordeling staat in het procesontwerp en is niet onderhandelbaar bij beslissingen met gevolgen voor klanten, medewerkers of derden.
In de praktijk betekent dit dat AI-uitvoer in de meeste workflows wordt behandeld als een concept of signaal, niet als een definitieve uitkomst. De mens die het proces beheert, behoudt altijd het laatste woord voordat iets wordt verzonden, opgeslagen of doorgezet naar een externe partij.
- Conceptmails gegenereerd door AI worden ter goedkeuring aangeboden, niet automatisch verzonden
- Categorisering door AI wordt weergegeven als suggestie, niet als vastgesteld feit
- Signalen die kunnen wijzen op ongebruikelijke situaties (bijv. in Wwft-context) worden altijd doorgestuurd naar een menselijke reviewer
- Scores of ranglijsten die door AI worden gegenereerd, worden gelabeld als indicatief
Dataminimalisatie bij AI-verwerking
Externe AI-diensten (zoals Claude van Anthropic, of modellen van OpenAI of Google) ontvangen uitsluitend de gegevens die functioneel noodzakelijk zijn voor de specifieke taak. Volledige persoonsgegevens (naam, adres, BSN, financiële gegevens) worden niet doorgegeven tenzij dat strikt vereist is voor de taak én de opdrachtgever daar expliciet voor gekozen heeft.
In de praktijk betekent dit:
- Een samenvattingstaak ontvangt de tekst van een bericht, niet de volledige klantkaart
- Een categoriseringstaak ontvangt het onderwerp of de berichttekst, niet het e-mailadres of telefoonnummer van de afzender
- Gevoelige of bijzondere persoonsgegevens worden zo vroeg mogelijk in de workflow uit de datastroom verwijderd of gepseudonimiseerd
Welke AI-dienst in een workflow wordt gebruikt, is altijd terug te vinden in het procesontwerp. De opdrachtgever bepaalt uiteindelijk welke provider wordt ingezet. Manuless adviseert, maar legt niets op.
Subverwerkers: Wanneer een workflow AI-diensten van derden aanroept, zijn die partijen subverwerker in de zin van de AVG. Dit wordt per project besproken en vastgelegd in de opdrachtovereenkomst.
Verdeling van verantwoordelijkheid
De EU AI Act maakt onderscheid tussen de aanbieder van een AI-systeem (provider) en de partij die het inzet in de eigen organisatie (deployer). Voor Manuless-workflows is deze verdeling als volgt:
| Situatie | Rol Manuless | Rol opdrachtgever |
|---|---|---|
| Gebruik van Claude, GPT of vergelijkbaar model via API in een workflow | Integrator: Manuless bouwt de koppeling en bepaalt welke data de AI ontvangt | Deployer: de opdrachtgever zet het systeem in binnen de eigen organisatie |
| Na oplevering: de workflow draait in de omgeving van de opdrachtgever | Geen actieve rol meer. Manuless heeft geen toegang tot het draaiende systeem. | Volledig verantwoordelijk voor het gebruik, de inrichting en de naleving van toepasselijke wet- en regelgeving |
| Aanpassingen door de opdrachtgever na oplevering | Geen verantwoordelijkheid voor gewijzigde configuraties | Draagt volledige verantwoordelijkheid voor wijzigingen en de gevolgen daarvan |
Manuless ontwerpt met aandacht voor de principes van de EU AI Act, maar kan niet garanderen dat een workflow in alle toekomstige situaties en met alle toekomstige gebruiksinstructies van de opdrachtgever compliant blijft. Die verantwoordelijkheid ligt bij de opdrachtgever als deployer.
Transparantie over AI-gebruik
In elk procesontwerp staat beschreven of en waar AI wordt ingezet, welk model of welke dienst wordt gebruikt en wat de AI-actie precies doet. De opdrachtgever weet altijd wat er in de workflow zit. Er worden geen AI-stappen verborgen in technische details die de klant niet kan lezen.
De handleiding die bij elke oplevering wordt meegeleverd, bevat een toelichting op eventuele AI-acties: wat ze doen, welke data ze ontvangen en hoe de opdrachtgever die stap kan aanpassen of uitzetten als dat nodig is.
Heeft u vragen over AI-gebruik in een specifiek proces, of wilt u een workflow laten beoordelen op de AI-uitgangspunten die Manuless hanteert? Plan een intakegesprek. Dan bespreken wij uw situatie concreet.