Afstudeeronderzoek: Shadow AI
Vang shadow AI op de lijn. Advocatenkantoren werken met zeer vertrouwelijke dossiers, contracten en correspondentie. Tegelijk gebruiken medewerkers steeds vaker generatieve AI via een persoonlijk account om sneller te schrijven of samen te vatten. Dat gebruik valt buiten de gangbare data-loss-prevention en kleinere kantoren hebben geen securityteam dat erop let. Jij test of een lichte, netwerkgebaseerde detectie dat zicht kan teruggeven.
- Afstudeeronderzoek
- MSc
- 1 plek
- Amsterdam
Over Datagrove
Datagrove is een AI-native development agency aan de Herengracht in Amsterdam. We bouwen AI-systemen, platforms en apps voor bedrijven, en we spreken geregeld advocatenkantoren die AI willen gebruiken zonder dat vertrouwelijke dossiers het kantoor verlaten.
Enterprise-platforms voor AI-governance zijn voor die kantoren onbetaalbaar. Dit onderzoek test of een lichte, netwerkgebaseerde aanpak dezelfde blinde vlek kan dichten.
Wat je doet
De onderzoeksvraag: in hoeverre kan netwerkanalyse betrouwbaar detecteren dat medewerkers van een advocatenkantoor vertrouwelijke klantdata plakken in onbeheerde, consumenten-AI-tools, in een representatieve netwerkomgeving van een klein kantoor? De voorgestelde aanpak:
- Zet een gecontroleerde labomgeving op die het netwerk van een klein advocatenkantoor simuleert.
- Breng de verkeers- en inhoudspatronen in kaart die horen bij het plakken van tekst in consumenten-LLM-interfaces.
- Test de detectienauwkeurigheid tegen een set gesimuleerde scenario's.
- Evalueer de aanpak op nauwkeurigheid, false positives en praktische inzetbaarheid voor een kantoor zonder eigen securitymensen.
Wie we zoeken
Dit project staat op het UvA Thesis Matching Platform en is bedoeld voor masterstudenten van deze opleidingen:
- MSc Computational Science (joint degree).
- MSc Information Studies, track Data Science.
- MSc Security and Network Engineering.
- Je begrijpt netwerkverkeer en wilt een lab opzetten en meten, niet alleen literatuur lezen.
- Start zo snel mogelijk. 1 januari 2027 is ook prima, dan start het afstudeersemester van de meeste opleidingen.
Wat we bieden
Je doet onderzoek aan een probleem dat advocatenkantoren ons zelf voorleggen, met een testomgeving die daarop is ingericht. Onderzoek is voor ons geen bijzaak: we willen zelf blijven leren, en dit project is daar onderdeel van.
- Een labachtige testnetwerkomgeving, gebaseerd op gesprekken met advocatenkantoren over hun eisen aan datavertrouwelijkheid.
- Dagelijkse begeleiding door Sion Coolwijk, UvA-alumnus MSc Data Science, met praktijkervaring in het uitrollen van AI-systemen bij bedrijven.
- Vrijheid in de uitvoering, met de sturing van een dagelijkse begeleider. De onderzoeksvraag is een vertrekpunt, geen vast kader: blijkt gaandeweg een ander domein of een andere methode sterker, dan is er ruimte om de richting bij te stellen.
- Een werkplek aan de Herengracht in Amsterdam.
Solliciteer op deze functie
Laat je gegevens achter, schrijf kort je motivatie en voeg je cv toe. We lezen elke sollicitatie zelf en reageren snel.