De slimme bril die iedereen herkent


Net nu de Europese Commissie gezichtsherkenning op openbare plaatsen wil verbieden, toont een Amerikaans bedrijf hoe gevaarlijk die technologie kan zijn.


Als er op het internet een foto van u staat met uw naam erbij, dan kan de software van het Amerikaanse bedrijf Clearview AI uw naam meteen terugvinden. U kunt dus op elk moment worden geïdentificeerd, bijvoorbeeld door een bewakingscamera. Of zelfs als een politieagent u aankijkt met een augmented-reality-bril op, want Clearview AI heeft zijn gezichtendatabase gekoppeld aan zulke slimme brillen – al zijn die niet in die vorm op de markt.

‘Het systeem werkt zoals een zoekmachine. Het gaat op zoek naar gelijkaardige gezichten in beelden op het internet’, zo wordt het uitgelegd in een video op de website van Clearview. In die video beweert het bedrijf dat zijn technologie met succes gebruikt is om daders te identificeren in een recente zaak van kindermisbruik. Er zouden al ‘honderden’ voortvluchtige misdadigers zijn geïdentificeerd, beweert het bedrijf, vaak doordat foto’s van een verdachte op Facebook of elders zijn teruggevonden.

Op de website van Clearview staat verder amper concrete informatie, maar volgens The New York Times heeft het bedrijf een database aangelegd met 3 miljard foto’s die het op het internet heeft gevonden, onder meer op Facebook en Youtube. Dat is veel groter dan de database van gezichten waartoe de Amerikaanse overheid toegang heeft. De software zou al worden gebruikt door meer dan 600 politiediensten in de VS, en zou ook zijn verkocht aan een aantal beveiligingsbedrijven. Toch had amper iemand ooit van Clearview gehoord, tot The New York Times er zaterdag een verhaal over bracht.


Illegaal

De manier waarop Clearview zijn database heeft samengesteld, kan absoluut niet door de beugel, zegt professor internetrecht Patrick Van Eecke (UA). ‘Juridisch gezien mag een bedrijf niet zomaar je persoonsgegevens gebruiken voor een ander doeleinde dan waarvoor je ze ter beschikking stelde.’ Een foto die je op Facebook zet, mag dus niet worden gebruikt om je via gezichtsherkenning te identificeren. Als in de database van Clearview ook mensen zitten die in Europa wonen, en dat valt haast niet te vermijden, dan is het bedrijf strafbaar onder de Europese GDPR-privacywetgeving. Of het in de VS legaal is, is niet helemaal duidelijk.

De oprichters van Clearview zijn de Australische softwareontwikkelaar Hoan Ton-That en Richard Schwartz, een voormalige medewerker van Rudy Giuliani, tegenwoordig de advocaat van Donald Trump. Een van de financiers is miljardair Peter Thiel, medeoprichter van Paypal, notoir Trump-fan en de man achter het mysterieuze bigdatabedrijf Palantir. Clearview zou goede banden hebben met Republikeinse kringen.

Hoe goed de technologie werkt, is moeilijk vast te stellen. De software zou in drie op de vier gevallen een foto kunnen terugvinden, maar het is onduidelijk hoe vaak het dan gaat om iemand anders met een gelijkaardig gezicht.


Geen verrassing

Volgens Van Eecke is het geen verrassing dat een bedrijf op deze manier gezichtsherkenning toepast. ‘Het stond in de sterren geschreven.’ De ontwikkeling van zulke technologie kun je amper tegenhouden, meent hij.

Maar het gebruik ervan misschien wel. Precies dat is de Europese Commissie aan het overwegen. Vorige week lekte een ontwerp uit van een document over de Europese aanpak van artificiële intelligentie. De opmerkelijkste passage daarin is het voorstel om het gebruik van gezichtsherkenning op openbare plaatsen te verbieden voor een periode van drie tot vijf jaar, terwijl de risico’s van de technologie worden bestudeerd.

Op zo’n verbod zouden wel uitzonderingen mogelijk zijn, met name voor onderzoek en ontwikkeling en voor veiligheidstoepassingen. Volgens het pers*bureau Reuters zoekt de Commissie nog feedback op deze ideeën, en zal Europees commissaris Margrethe Vestager volgende maand voorstellen publiceren.

Het Witte Huis stuurde enkele weken geleden het omgekeerde signaal uit: het team van president Trump wil vooral niet te veel regels die innovatie op het vlak van AI kunnen afremmen. Maar in San Francisco, dat vlak bij het technologiemekka Silicon Valley ligt, denkt men er anders over: daar is al een tijdelijk verbod van kracht op het gebruik van gezichtsherkenning door de politie.


DS, 21-01-2020 (Dominique Deckmyn)