Közel egy évet töltött börtönben ártatlanul az Egyesült Államokban egy afroamerikai férfi, miután a rendőrségi munkát segítő ShotSpotter program bűnösnek mondta ki egy gyilkossági ügyben. Szabadulása után Michael Williams bejelentette, pert indít Chicago városa ellen, amiért konkrét bizonyítékok nélkül, szimplán egy program döntése alapján rács mögé zárták, írja a CBSNews.
A mesterséges intelligencia alapú ShotSpotter programot azért fejlesztették ki, hogy a városban történt lövéseket távolról azonosítsa, és értesítse a hatóságokat. A kaliforniai cég állításai szerint a program 97 százalékos pontossággal dolgozik, és több esetben is sikerült a segítségével kézre keríteni veszélyes bűnözőket.
Az elmúlt években azonban több olyan vád is napvilágot látott, mely szerint a program elősegíti a rendőri munka során a faji diszkriminációt.
Ezt állítja a tévesen elítélt chicagói férfi is. Williams 2020 májusában egy autóban ült egy Safarian Herring nevű férfival, amikor állítása szerint egy melléjük húzódó autóból tüzet nyitottak rájuk. Utastársa meghalt, a nyomozók pedig az MI-alapú rendszer által rögzített adatok miatt Williamst kiáltották ki bűnösként. A tárgyalások során a férfi következetesen azt állította, nem ő követte el a gyilkosságot, azonban az igazságszolgáltatás a rendszer adatai által végül elítélte. Miután kiderült, hogy a rendszer tévedett, a férfit szabadon engedték.
Az eset hatására azonban az áldozat és az elítélt családja is megkérdőjelezte a technológia létjogosultságát.
A kialakult helyzetet tovább rontotta, hogy Chicago város vezetése titokban meghosszabbította a szoftvert készítő cég tavaly aláírt, 33 millió dolláros (közel 13 milliárd forintos) szerződését. Alejandro Ruizesparza, a Lucy Parsons Labs munkatársa bejelentette, a ShotSpotter nem közölt elég információt a hatóságokkal, valamint annak döntései súlyosabban érintik a faji kisebbségeket. Ezért a Lucy Parsons Labs, Williams és egy másik felperes csoportos keresetet nyújtott be a bíróságon. A szoftvert kibocsátó vállalat a konkrét ügyre nem reagált, közleményében csak a rendszer pozitív tulajdonságait részletezte.
