In het kort
Een AI-agent is een taalmodel dat zelf tools mag gebruiken: gegevens opzoeken, berekeningen starten, documenten lezen. Dat maakt hem veel nuttiger dan een chatbot. Maar een agent die ook zelf mag boeken, versturen of verwijderen, kan in een paar seconden veel schade doen. Daarom leggen wij vast: AI stelt voor, de mens beslist.
Hoe u de grens trekt
- Lezen mag. Binnen de rechten van de gebruiker mag de agent gegevens in de boekhouding opzoeken, documenten doorzoeken en eerdere beslissingen terugvinden.
- Rekenen en voorstellen mag. Scenario's doorrekenen, varianten vergelijken, een concept opstellen.
- Uitvoeren niet. Boeken, betalen, versturen naar een klant of een definitieve wijziging doorvoeren is een menselijke handeling. Die actie bestaat simpelweg niet als tool voor de AI.
- Eerst bewijs, dan conclusie. De agent zoekt eerst wat er al bekend is en bespreekt het, voordat hij iets vastlegt.
Een stap verder: minder rechten voor kleinere modellen
Draait de agent op een lokaal model, dan kunt u de rechten nog verder beperken, bijvoorbeeld tot alleen lezen, totdat u zeker weet dat het model betrouwbaar genoeg is. Zo bouwt u vertrouwen stap voor stap op.
Bewaar wat de AI deed
Leg vast welke tools de agent aanriep, met welke gegevens, en wat hij voorstelde. Leest de AI gegevens uit een gescand document, bewaar dan ook wie of wat elk getal heeft gelezen. Dan is elke uitkomst na te gaan.
Waar let u op
- Formuleer de regels in het systeem zelf, niet alleen in de instructies aan het model. Een model kan instructies negeren; een tool die niet bestaat, kan het niet gebruiken.
- Laat de AI twijfel melden in plaats van gokken, zeker bij bedragen.
- Begin klein: eerst lezen, dan voorstellen, en pas uitvoeren als er een mens tussen zit. Zo voorkomt u ook dat een AI-pilot blijft steken.
Wilt u advies over AI-agents en hun grenzen? Vraag een gratis adviesgesprek aan.
Bijgewerkt op