Psykedeliska glasögon lurar ansikts-igenkänning

Ansiktsigenkänningssystem blir mer och mer vanligt, bland annat återfinns det i bildlagringstjänster som Google Photo. Men tekniken används även i mer ”allvarliga” sammanhang, till exempel av brottsbekämpande myndigheter som FBI. Problemet är bara att systemet är långt ifrån idiotsäkert. Nu har forskare vid Carnegie Mellon University visat att det går att lura det med ett par glasögon med färgglada bågar. 

Ansiktsigenkänningsmjukvara läser inte av ansikten på samma sätt som människor, istället använder sig programmen ofta av djupinlärning, det vill säga att den går igenom stora mängder data och söker efter mönster. Exempelvis identifierar programmet personer genom att läsa av avståndet mellan en persons pupiller eller lutningen på ögonbrynen. Men den artificiella intelligensen har ingen förståelse för vad som är ”ögon” eller ”näsborrar”, istället letar den efter mönster på pixelnivå. 

De färgglada och smått kaotiska mönstren på forskarnas glasögonram förvirrar systemet och gör det svårt att identifiera personen. Om man dessutom vet vad systemet letar efter så är det relativt enkelt att lura det till att se djur, människor och objekt i vad som egentligen bara är abstrakta mönster. På så sätt lyckades forskarna ”förblinda” ansiktsigenkänningen i varje försök. 

Men forskarna som utförde experimentet tog det ett steg längre. De lyckades komma fram till vad för slags mönster som representerar individer. De tog reda på vilka mönster som associeras med specifika ansikten och tryckte upp dem på glasögonen. Resultatet var varierande beroende på vem som bar glasögonen och vem forskarna försökte få systemtet att tro att ansiktet representerade. En vit manlig 41-årig forskare lyckades i 87,87 procent av fallen med att bli igenkänd som den kända vita kvinnliga skådespelerskan Milla Jovovich (från bland annat Luc Bessons film Det Femte Elementet). När en kvinnlig asiatisk forskare provade att få systemet att tro att hon var 79-åriga mörkhyade Colin Powell, USA:s före detta utrikesminister, så gick systemet bara på bluffen 16 procent av gångerna.  

Så vad betyder det här egentligen på det stora hela? Kanske att New York ska tänka ytterligare en gång innan de investerar miljarder dollar i att sätta upp övervakningskameror med ansiktsigenkänning vid alla broar och tunnlar. Det verkar vara en onödig investering i dagsläget när det bakomliggande systemet kan luras av ett par färgglada glasögon som kostar 22 cent.

Källa