Eden od razvijalcev programske opreme za prepoznavo obraza je tudi Amazon, ki svoj Rekognition že nekaj časa prodaja tudi ameriškim organom pregona. Ti sistema ne uporabljajo le v povezavi s stacionarnimi kamerami ampak tudi s prenosnimi, ki jih imajo policisti pripete na uniforme. Različne skupine, ki jih skrbi varovanje državljanskih pravic in tudi nekateri investitorji, ki so v projekt vloži svoja sredstva, se s tem ne strinjajo in pozivajo Amazon, naj s tovrstnim početjem preneha. In zakaj je prepoznava obrazov tako kritična? Sama po sebi pravzaprav ni, težava je v njeni zanesljivosti in »selektivnosti«. Za kaj gre?
Da bi dokazali, da je Rekognition neuporaben in v določenih primerih celo nevaren, so dokazali aktivisti Ameriške zveza za državljanske svoboščine (American Civil Liberties Union – ACLU), ki so fotografije vseh aktualnih članov ameriškega kongresa s pomočjo tega Amazonovega sistema primerjali s podatkovno bazo 25.000 kriminalcev. Rezultat – Rekognition je kar 28 članov identificiral napačno oziroma jih zamenjal za ljudi s kriminalno preteklostjo. In sedaj to povežimo recimo s kamerami, ki jih imajo mnogi ameriški policisti na sebi – sistem na cesti nekoga prepozna kot kriminalca, policist ga hoče aretirati in ga pri tem, kot se v ZDA zgodi zelo pogosto, ustreli. In kasneje se izkaže, da se je sistem zmotil…
Že to je dovolj, da bi morali organi pregona tovrstno tehnologijo prenehati uporabljati ali jo uporabljati le kot dopolnilo »klasičnim »metodam«. A to še ni vse – izkazalo se je, da je, poleg tega, da je nezanesljiv, sistem Rekognition tudi »rasističen«, saj se bistveno večkrat zmoti pri temnopoltih kot pri belopoltih obrazih. Kar 39 odstotkov napačnih prepoznav se je namreč nanašalo na ne-belopolte kongresnike, kljub temu, da jih je v kongresu le okoli 20 odstotkov.
Vir: ACLU
