A koronavírus-járvány hatására gyors fejlődésnek indult a távorvoslás, melynek lényege, hogy nem kell bebaktatnunk a rendelőbe minden alkalommal, amikor valamiféle panaszunk van, hanem a szakorvosok online is képesek diagnosztizálni. Ezt legtöbbször videókapcsolaton keresztül végzik, ám sok esetben egy képet is elég beküldeni ahhoz, hogy kiderüljön, mi a bajunk. Hasonlóképpen járt el egy apa is az Egyesült Államokban, azonban később közbe szólt a modern technológia: a Google ugyanis fia ágyékáról készített képe miatt pedofilnak nézte a férfit - írja a New York Times.
A doktor a felvételeket felhasználva antibiotikumot írt fel a gyermek ágyékgyulladására, ám amikor a fotók a felhőben is megjelentek, a technológiai vállalat algoritmusa sértőnek találta a tartalmat. A Facebookhoz, a Twitterhez és a Reddithez hasonlóan a Google is a Microsoft PhotoDNS-ével pásztázza a feltöltött képeket, gyermekek szexuális zaklatásáról szóló tartalmak után kutatva.
A rendszer amint azonosította, mi van a fotón, letiltotta a férfi Google-fiókját, ugyanis a jelentés szerint a megjelölt kép sérti a cég szabályzatát, és egy potenciális törvénysértés bizonyítéka is lehet.
A Google emellett a telefonján lévő egyik videót is megjelölte, így a San Franciscó-i rendőrség eljárást indított a férfi ellen. A Markként emlegetett, ártatlanul meghurcolt férfit végül minden vád alól felmentették, fiókját azonban továbbra sem állította vissza a cég. Emellett névjegyeihez, fotóihoz és telefonszámához való hozzáférését is elveszítette, mivel a Google Fi mobilszolgáltatást használta.
Kapcsolódó
Bajt okozhat, ha a Facebook teljesen titkosítja az üzenetküldést
Az a jó, ha mindent lát a Facebook, vagy az, ha semmit?
Szakemberek régóta figyelmeztetnek arra, hogy az ilyen algoritmusok meglehetősen korlátozott képességekkel bírnak. Bár Christa Muldoon, a Google szóvivője szerint a moderátorokat orvosok képezték ki, azt elismerte, a tényleges szűrést végző szakemberek közül senkinek sincs orvosi diplomája, és nem is látta egyetlen szakképzetséggel rendelkező személy sem a felvételeket.
A vállalat ugyanakkor nincs könnyű helyzetben, mert mindeközben komoly nyomás nehezedik rájuk a szexuális zaklatással kapcsolatos tartalmak visszaszorítása miatt is.
Daniel Kahn Gillmor, az American Civil Liberties Union nevű jogvédő szervezet munkatársa szerint bár a technológiai vállalatok a felhasználók életével kapcsolatos hatalmas adatmennyiséghez férnek hozzá, mégsem ismerik őket, így nincs minden esetben joguk ítéletet hozni.
Kapcsolódó
17 éves lányt állítanak bíróság elé abortusz miatt, mert a Facebook kiadta a beszélgetéseit
A Meta állítása szerint nem tudta hogy abortusszal kapcsolatos a nyomozás.
A felhasználók adatainak áttekintésével kapcsolatos aggodalmak már tavaly is előkerült, amikor az Apple bejelentette, olyan gyermekvédelmi terv részeként pásztázná a felhasználók eszközein lévő képeket és videókat, mielőtt feltöltenék az iCloudba. A tervek szerint ezeket összehasonlították volna eltűnt és kizsákmányolt gyermekek központjának (NCMEC) adatbázisával, és ha egyezést talál, egy emberi moderátor zárolja a fiókat.
A tömeges felhasználói panaszok hatására végül az Apple elvetette ezt a tervét, de az iOS 15.2-es frissítésében elhelyezett egy opcionális gyermekvédelmi funkciót, teszi hozzá a Verge.
