Hoe ver is de praktijk en welke privacyrisico’s zijn er?
Gezichten herkennen in digitale beelden werkt steeds beter – met name door inzet van artificial intelligence. Overheid, bedrijven en burgers kunnen deze nieuwe technologie op allerlei manieren gebruiken. De Universiteit van Tilburg deed onderzoek naar de stand van zaken, naar de privacyrisico’s en naar de mogelijkheden om privacy-inbreuken te voorkomen. Ik was lid van de begeleidingscommissie van dit onderzoek.
Experimentele fase
Op basis van een groot aantal informatiebronnen (literatuur, documenten, interviews, bezoeken aan bedrijven) concluderen de onderzoekers dat gezichtsherkenning in Nederland zich nog in de experimentele fase bevindt. Bedrijven zijn nog op zoek naar rendabele toepassingen. Toegangscontrole is eigenlijk het enige concrete voorbeeld waar de technologie al wordt gebruikt. Bedrijven zijn niet erg happig om hun nek uit te steken uit angst voor de privacyrisico’s die gezichtsherkenning met zich meebrengt. Veel ondernemers zeggen dat het onduidelijk is wat mag volgens de wet en wat niet. Inzet van gezichtsherkenning door de overheid is – helaas – niet onderzocht.
Privacy
De onderzoekers van Tilt beschrijven zeven risico’s van automatische gezichtsherkenning: dit zijn de eerste vier.
Ondoorzichtige informatieverzameling
Eenieders gezicht kan worden gebruikt voor het trainen van de AI-modellen zonder dat men daar toestemming voor heeft gegeven. Dat kan uiteraard gebeuren met alle foto’s en video’s die mensen zelf openbaar online publiceren, maar ook beeldmateriaal dat is verkregen in de publieke ruimte.
Autonomie onder druk
Gezichtsherkenning is vooral handig om handelingen uit te voeren en technologie aan het werk te zetten. Maar daarmee ontbreekt een actieve handeling: wil ik dit wel echt?
Fouten
Gezichtsherkenning werkt steeds beter, maar de technologie heeft nog altijd moeite met specifieke groepen: vrouwen, kinderen en mensen met een donkere huid. Die worden vaker onjuist herkend of juist niet.
Einde aan anonimiteit
Als deze technologie breed verspreid raakt en door bedrijven en burgers makkelijk kan worden ingezet, zal het steeds moeilijker worden om je anoniem door de publieke ruimte te begeven.
Wat kan de wetgever doen?
De onderzoekers geven de overheid een aantal opties om te overwegen: van een totaalverbod tot een gedoogbeleid. De technologie is nog niet op grote schaal in gebruik in Nederland, maar er worden wereldwijd toepassingen ontwikkeld die ook hier kunnen worden gebruikt. Dat levert reële risico’s voor de privacy op. Daarom vinden de onderzoekers dat de Nederlandse samenleving zich de fundamentele vraag dient te stellen “Wat vinden wij wenselijk als het gaat om gezichtsherkenningstechnologie in onze democratische rechtsstaat?” Het rapport helpt bij het vinden van een antwoord op die vraag.
PS. Ere wie ere toekomt: dit rapport is er dankzij de initiatiefnota Onderlinge privacy van VVD-kamerlid Sven Koopmans. Daarin stelt hij dat het tijd is voor regulering van technologie zoals gezichtsherkenning omdat we niet vrij en veilig kunnen leven als jouw gedrag zonder je medeweten en zonder je instemming kan worden opgenomen en gepubliceerd. Je kunt zijn nota hier lezen.