Naar de inhoud

AI stelt voor, de mens beslist: grenzen voor AI-agents

Een AI-agent kan zelf gegevens opzoeken, rekenen en voorstellen doen. Door scherp vast te leggen wat hij wel en niet mag, krijgt u het gemak van AI zonder de controle te verliezen.

In het kort

Een AI-agent is een taalmodel dat zelf tools mag gebruiken: gegevens opzoeken, berekeningen starten, documenten lezen. Dat maakt hem veel nuttiger dan een chatbot. Maar een agent die ook zelf mag boeken, versturen of verwijderen, kan in een paar seconden veel schade doen. Daarom leggen wij vast: AI stelt voor, de mens beslist.

Hoe u de grens trekt

  • Lezen mag. Binnen de rechten van de gebruiker mag de agent gegevens in de boekhouding opzoeken, documenten doorzoeken en eerdere beslissingen terugvinden.
  • Rekenen en voorstellen mag. Scenario's doorrekenen, varianten vergelijken, een concept opstellen.
  • Uitvoeren niet. Boeken, betalen, versturen naar een klant of een definitieve wijziging doorvoeren is een menselijke handeling. Die actie bestaat simpelweg niet als tool voor de AI.
  • Eerst bewijs, dan conclusie. De agent zoekt eerst wat er al bekend is en bespreekt het, voordat hij iets vastlegt.

Een stap verder: minder rechten voor kleinere modellen

Draait de agent op een lokaal model, dan kunt u de rechten nog verder beperken, bijvoorbeeld tot alleen lezen, totdat u zeker weet dat het model betrouwbaar genoeg is. Zo bouwt u vertrouwen stap voor stap op.

Bewaar wat de AI deed

Leg vast welke tools de agent aanriep, met welke gegevens, en wat hij voorstelde. Leest de AI gegevens uit een gescand document, bewaar dan ook wie of wat elk getal heeft gelezen. Dan is elke uitkomst na te gaan.

Waar let u op

  • Formuleer de regels in het systeem zelf, niet alleen in de instructies aan het model. Een model kan instructies negeren; een tool die niet bestaat, kan het niet gebruiken.
  • Laat de AI twijfel melden in plaats van gokken, zeker bij bedragen.
  • Begin klein: eerst lezen, dan voorstellen, en pas uitvoeren als er een mens tussen zit. Zo voorkomt u ook dat een AI-pilot blijft steken.

Wilt u advies over AI-agents en hun grenzen? Vraag een gratis adviesgesprek aan.

Bijgewerkt op

Verder lezen

Alle artikelen over AI
AI

Persoonsgegevens in de AI-cloud: wie kijkt er mee?

Een gesprek met een AI-dienst in de cloud is niet vanzelf privé. Een zaak in Canada laat zien wat een aanbieder kan zien en delen. Wat betekent dat voor de AVG, en voor de regels in Zwitserland en daarbuiten?