De maatregel komt niet uit de lucht vallen. Cyberrisico’s en digitale dreigingen nemen snel toe, ook de UT ontkomt daar niet aan, zegt Henk Swaters, Chief Information Security Officer bij de dienst LISA. ‘We kregen onlangs meldingen van UT’ers die tijdens een meeting een AI-bot zagen verschijnen,’ zegt Swaters. ‘We hebben dat direct ingeperkt, maar het toont aan dat extra beveiliging nodig is. De aanwezigheid van zulke bots is gevaarlijk; ze kunnen deelnemen zonder dat je het doorhebt.’
Volgens de security officer schuilt het risico vooral in de toegang tot gevoelige informatie. ‘Zodra een AI-bot in een meeting doordringt, krijgt het mogelijk toegang tot bestanden op je computer, zowel documenten in de cloud als op je eigen computer,’ waarschuwt hij.
Gevaren van de AI-bot
De aanwezigheid van AI-bots nemen uiteenlopende dreigingen met zich mee. Maar wat doen deze bots precies als ze aan een vergadering deelnemen en waar komen ze vandaan? ‘We zien dat ze vooral van buiten Europa afkomstig zijn. Tijdens een meeting kun je ze herkennen aan bepaalde namen, zoals Notetaker, Fireflies, Otter.ai, Bot, VA of Assistant. Soms gebruiken ze zelfs een naam die lijkt op die van een echte deelnemer. Ook verschijnen ze zelfs in plaats van de echte deelnemer.’ Het advies is dan ook om verdachte accounts niet toe te laten. Wordt deze toch toegelaten, dan kan de AI-bot - net als ieder andere deelnemer - worden verwijderd.
Zodra de bot toegang krijgt tot een Teams-meeting zijn ze tot verrassend veel in staat, aldus Swaters. ‘Ze luisteren mee, nemen gesprekken op, zetten deze automatisch om in tekst en sturen de notulen vervolgens per e-mail naar alle deelnemers. Het probleem is dat die notulen ook bij externe ontvangers terecht kunnen komen.’
AI-modellen en analyses
Volgens hem is het gevaar niet geweken zodra een vergadering ten einde is. ‘Wie een mail met zulke notulen opent, geeft de tool onbedoeld toestemming om toegang te krijgen tot bestanden en documenten.’ De verzamelde data worden vervolgens gebruikt om AI-modellen te trainen en analyses uit te voeren. ‘Deze gegevens kunnen uiteindelijk in handen vallen van derden.’ Swaters benadrukt dat de UT beleid heeft waarin staat dat UT’ers alleen onder voorwaarden privé-applicaties mogen gebruiken voor UT-gebruik.
De lijst met risico’s wordt alleen maar langer. Sommige bots kunnen zich namelijk zelfs automatisch aanmelden voor toekomstige meetings. ‘Dat gebeurt bij Fireflies’, noemt Swaters als voorbeeld. ‘Wanneer je deze tool installeert is het een aanzienlijk risico voor opgeslagen bestanden. Als veel mensen zulke tools gebruiken, kan de UT uiteindelijk de regie verliezen over haar (onderzoeks)informatie.’
Gevaar voorbij?
De toegangsregels in Teams gelden vanaf 3 november voor alle nieuwe agenda-afspraken. Maar voor meetings die al ingepland staan, gelden ze nog niet. ‘Daarvoor moeten UT’ers de instellingen handmatig aanpassen. Alleen op deze manier heb je in eigen hand wie wel en niet mag deelnemen aan de vergadering.’
De nieuwe aanpassingen moeten de benoemde gevaren bestrijden. Maar zijn hiermee de riscio’s ook daadwerkelijk van de baan? ‘We wilden de instellingen eigenlijk nog strenger maken,’ zegt Swaters. ‘Toch hopen we dat deze aanpak voldoende is om het ook gebruiksvriendelijk te houden.’ Mocht dat niet het geval zijn, dan sluit hij verdere stappen niet uit. ‘Het is niet ondenkbaar dat de Teams-instellingen in de toekomst nog strenger worden.’
