Een bestand kan op uw laptop blijven staan terwijl tekst eruit naar een externe dienst gaat. Beoordeel daarom de volledige handeling: welke informatie wordt gelezen, meegestuurd, verwerkt en bewaard?

Een fiscalist vraagt een AI-assistent welke informatie nog ontbreekt in een dossier over een lening tussen een directeur en een vennootschap. De PDF staat in een lokale map. Even later staan de vragen op het scherm. Maar welke dossiergegevens heeft het model daarvoor ontvangen?

We volgen die route met een volledig fictief dossier. Het doel is om één handeling te kunnen uitleggen voordat u haar met echte cliëntgegevens uitvoert.

Het dossier begint op de laptop

In ons voorbeeld leest een lokale functie een fictief document en haalt er tekst uit. Dat de oorspronkelijke PDF niet wordt geüpload, zegt nog niet waar die tekst terechtkomt. Een lokale bestandslezer en een extern taalmodel kunnen onderdeel van dezelfde toepassing zijn.

Alle personen, stukken en omstandigheden in deze proef zijn verzonnen. De opdracht is om ontbrekende informatie voor een vervolggesprek te signaleren, niet om een definitief fiscaal oordeel te geven.

De lokale functie zet de PDF om in tekst. Een toepassing kan daarbij ook tabellen of documenteigenschappen verwerken. Welke onderdelen worden meegenomen, hangt af van die functie. Controleer daarom de feitelijke uitvoer: staat alleen de geselecteerde pagina erin of ook tekst van andere pagina's? Dat bepaalt hoeveel informatie de volgende stap kan ontvangen.

De eerste grens is dus die tussen het bronbestand en de afgeleide tekst. Zelfs als het bestand zijn map niet verlaat, kan een kopie van de inhoud klaarstaan om te worden verstuurd. Vraag de leverancier om beide afzonderlijk aan te wijzen.

De vraag bevat meer dan wat u zelf typt

De toepassing kan passages aan uw vraag toevoegen zodat het model genoeg context heeft. In zakelijke Microsoft Copilot beschrijft Microsoft bijvoorbeeld hoe een prompt wordt gecombineerd met gegevens waar de gebruiker toegang toe heeft. Microsoft: data, privacy and security for Copilot.

In onze fictieve toepassing selecteert de medewerker één passage uit de leningsovereenkomst. De uiteindelijke modelvraag kan daarnaast een instructie van de toepassing, eerdere berichten en de geselecteerde dossierpassage bevatten. Wat u in het invoerveld ziet, hoeft daardoor niet gelijk te zijn aan het volledige verzoek dat een model ontvangt.

Dat is een reden om bij een proef het samengestelde verzoek te bekijken. Gebruik daarvoor geen echt cliëntdossier en schrijf ook niet zomaar alle verzoeken met echte gegevens naar een nieuw testlogboek. Laat de leverancier met de fictieve proef laten zien welke soorten context worden toegevoegd. Zo onderzoekt u de route zonder zelf een extra verzameling gevoelige informatie te maken.

Voorbeeldroute van een fictief dossier: lokale extractie, selectie van passages, externe modelverwerking en een antwoord terug naar de gebruiker
Een mogelijke architectuur. De feitelijke route hangt af van uw toepassing en instellingen.

Lokaal verwerken moet u per onderdeel vaststellen

Een lokaal leesprogramma kan het bestand op de laptop verwerken. Een externe modelaanroep kan daarna de geselecteerde tekst verzenden. Welke van beide gebeurt, moet u per onderdeel controleren; het woord lokaal op een productpagina vult die route niet voor u in.

Stel dat de assistent na het lezen van de PDF een extern model gebruikt om de vragen te formuleren. Dan moet het verzoek met die inhoud naar de omgeving waar dat model draait. Het oorspronkelijke document kan lokaal blijven terwijl de geselecteerde gegevens wel over de netwerkgrens gaan. Dat is geen bewijs dat de toepassing onbruikbaar is. Het is wel de overdracht die uw beoordeling moet omvatten.

Een toepassing kan ook een model op het eigen apparaat gebruiken. Controleer dan nog steeds de andere functies. Een lokale modelstap zegt bijvoorbeeld niets over een aparte webzoekactie of synchronisatie van de gesprekshistorie. U beoordeelt een combinatie van handelingen, niet alleen de plek waar één berekening plaatsvindt.

Gebruik de documentatie van de concrete dienst en configuratie. Een toezegging over een zakelijke omgeving geldt niet vanzelf voor een persoonlijk account, een andere modelkeuze of een extra koppeling. Leg bij uw proef vast welke versie en instellingen u hebt onderzocht. Anders is later onduidelijk waarop uw conclusie berustte.

Niet trainen is iets anders dan niet bewaren

Microsoft zegt dat prompts, antwoorden en via Microsoft Graph geraadpleegde gegevens niet worden gebruikt om de onderliggende taalmodellen van zakelijke Copilot te trainen. Het document beschrijft óók opslag van prompts en antwoorden als interactiegeschiedenis. Dat zijn verschillende gegevensdoelen, met verschillende instellingen. Microsoft: opgeslagen interacties.

Dat voorbeeld gaat over die zakelijke Microsoft-dienst. Het is geen uitspraak over iedere AI-assistent. Het maakt wel duidelijk waarom u drie vragen afzonderlijk wilt stellen: wordt de informatie voor dit verzoek verwerkt, blijft ergens een kopie bewaard en mag de inhoud later worden hergebruikt voor training? Een antwoord op de derde vraag vervangt de eerste twee niet.

Vraag bij bewaren ook naar het soort registratie. Een technisch log kan alleen een tijdstip en foutcode bevatten, maar een toepassing kan ook inhoud van verzoeken vastleggen. Dat moet uit de inrichting blijken. Vraag wat er wordt opgeslagen, wie erbij kan en welke verwijderprocedure geldt. Gebruik geen algemene bewaartermijn van internet als antwoord voor uw eigen dienst.

Het antwoord is niet de enige mogelijke kopie: controleer ook chatgeschiedenis, technische logs, documenten en back-ups
Dit zijn controlepunten, geen bewering dat iedere toepassing al deze kopieën maakt.

Het antwoord maakt de route nog niet af

Een samenvatting kan gegevens uit het dossier bevatten. Als u die in een nieuw document bewaart, is dat document een nieuwe plek om rekening mee te houden. Ook de controle door een collega vraagt om passende toegang.

In het fictieve voorbeeld noemt het antwoord de betrokken personen en de afspraken uit de lening. De medewerker plakt de vragen in een gespreksnotitie. De notitie hoort dan bij de gegevensroute, ook al is de modelaanroep al klaar. Hetzelfde geldt voor een kopie die via e-mail bij een collega terechtkomt.

Volg de inhoud tot aan de plek waar uw kantoor het resultaat gaat gebruiken. Verwijder in de fictieve proef de chat en controleer afzonderlijk of de opgeslagen gespreksnotitie nog bestaat. Leg per onderdeel vast wat verwijderen daar betekent. Zo voorkomt u dat de werking van één knop wordt uitgelegd als een uitspraak over alle kopieën.

Een overtuigend antwoord verdient bovendien een inhoudelijke controle. De CNIL wijst erop dat generatieve systemen onjuiste maar geloofwaardig ogende resultaten kunnen produceren. Kijk in dit voorbeeld dus ook of de voorgestelde vragen werkelijk uit de fictieve stukken volgen. Een inzichtelijke gegevensroute maakt de gegenereerde inhoud niet automatisch juist.

Laat de leverancier één fictieve handeling reconstrueren

De CNIL adviseert om bij het invoeren van generatieve AI met een concreet gebruiksdoel te beginnen en de toegestane toepassingen vast te leggen. CNIL: generatieve AI invoeren.

Voer uw proef uit met gegevens die u zelf hebt verzonnen. Vraag vervolgens welke inhoud de lokale omgeving heeft verlaten en waar die na de handeling nog aanwezig is. Als dat niet kan worden vastgesteld, is de route nog niet voldoende uitgelegd.

Laat uw behandelaar en de technische beheerder dezelfde proef samen volgen. De behandelaar weet welke passages voor de opdracht nodig zijn; de beheerder kan de technische grens aanwijzen. Vraag om een korte beschrijving waarin het bronbestand, de toegevoegde context, de modelomgeving, de registraties en het uiteindelijke werkdocument terugkomen. Een uitkomst kan bijvoorbeeld luiden: de PDF is lokaal gelezen, de gekozen passage is naar modelomgeving A verstuurd, het antwoord is in werkdocument B opgeslagen en de inhoud van het technische log is nog onbekend. Dat is een illustratie van het verslag, geen ingevuld antwoord voor uw toepassing. Laat het onbekende onderdeel eerst uitleggen voordat u deze route voor echte cliëntinformatie beoordeelt.

Maak de uitkomst vervolgens bruikbaar voor het dagelijkse werk. Leg vast welke gegevens in de onderzochte route mogen worden gebruikt en bij welke instelling of extra koppeling de medewerker opnieuw moet laten toetsen. De CNIL beveelt ook het afbakenen van toegestane en verboden toepassingen en het opleiden van gebruikers aan. Die afspraken helpen pas als de medewerker zijn eigen handeling erin herkent.

De bredere vraag wie over zulke keuzes mag beslissen behandelen we in datasoevereiniteit voor fiscalisten. Hier is de eindproef concreter: kunt u voor deze ene handeling aanwijzen wat er met de gegevens gebeurt?

Bronnen

Coverfoto: Wesley Tingey op Unsplash.

AI in de fiscale praktijkGegevensstromenCliëntgegevens