Zwolle controleert nog niet of ambtenaren gevoelige informatie delen met ChatGPT

De gemeente Zwolle controleert nog niet structureel of ambtenaren gevoelige informatie invoeren in ChatGPT of vergelijkbare programma’s met kunstmatige intelligentie (KI). Het stadsbestuur zegt geen aanwijzingen te hebben dat dit op vergelijkbare schaal gebeurt als in Eindhoven, maar onderzoekt nog hoe daarop kan worden toegezien.

In Eindhoven bleek uit een steekproef dat medewerkers bestanden met persoonsgegevens van inwoners en collega’s hadden geüpload naar openbare KI-websites. De gemeente meldde het datalek bij de Autoriteit Persoonsgegevens en blokkeerde daarna onder meer ChatGPT. Medewerkers mogen daar alleen nog Copilot, het met ChatGPT vergelijkbare KI-programma van Microsoft, binnen de beveiligde gemeentelijke omgeving gebruiken.

De Partij voor de Dieren wilde weten of dit ook in Zwolle gebeurt en vroeg het stadsbestuur om eveneens steekproeven uit te voeren. Het stadsbestuur antwoordt dat koppelingen met externe diensten zoals Dropbox en Google Drive zijn geblokkeerd. Die kunnen daardoor niet zomaar worden verbonden met gemeentelijke systemen of gegevens. Uit de antwoorden blijkt niet of de website van ChatGPT binnen de beveiligde gemeentelijke werkomgeving is geblokkeerd.

Zwolle zegt geen aanwijzingen te hebben dat ambtenaren op vergelijkbare schaal als in Eindhoven gevoelige informatie invoeren in KI-programma’s. Een steekproef zoals Eindhoven die uitvoerde, kondigt het stadsbestuur echter niet aan. De gemeente onderzoekt eerst hoe het gebruik van vertrouwelijke gegevens in KI-programma’s kan worden gevolgd. Daarna wordt bekeken of extra controles nodig zijn.

Ambtenaren mogen KI-programma’s gebruiken, maar daarin geen bijzondere persoonsgegevens en andere vertrouwelijke of gevoelige informatie invoeren. Zij moeten de antwoorden wel controleren en blijven zelf verantwoordelijk voor het gebruik ervan.

Antwoorden van KI-programma’s mogen alleen ter ondersteuning worden gebruikt. De gemeente mag daarmee geen feiten over personen vaststellen, adviezen over hen opstellen of besluiten over hen nemen.