Objašnjeno: Kako će Apple skenirati slike iskorištavanja djece na uređajima i zašto podiže obrve

Očekuje se da će u početku biti objavljeno u Sjedinjenim Državama, a značajke uključuju korištenje nove tehnologije za ograničavanje širenja CSAM-a na mreži, posebno putem Apple platforme.

U objavi na blogu, Apple je objasnio da će koristiti kriptografske aplikacije putem iOS-a i iPadOS-a kako bi uskladio poznate CSAM slike pohranjene na iCloud Photo.

Apple je to najavio ažuriranja softvera kasnije ove godine donijet će nove značajke koji će pomoći zaštiti djecu od grabežljivaca koji koriste komunikacijske alate da ih regrutiraju i iskorištavaju te ograničiti širenje materijala za seksualno zlostavljanje djece (CSAM).

Očekuje se da će u početku biti objavljeno u Sjedinjenim Državama, a značajke uključuju korištenje nove tehnologije za ograničavanje širenja CSAM-a na mreži, posebno putem Apple platforme.

Zatim će postojati zaštita na uređaju za djecu od slanja ili primanja osjetljivog sadržaja, s mehanizmima za upozorenje roditelja u slučaju da je korisnik mlađi od 13 godina. Apple će također intervenirati kada se Siri ili Search koriste za traženje tema povezanih s CSAM-om .

Koju tehnologiju Apple čini kako bi spriječio širenje CSAM-a na mreži?

U objavi na blogu, Apple je objasnio da će koristiti kriptografske aplikacije putem iOS-a i iPadOS-a kako bi uskladio poznate CSAM slike pohranjene na iCloud Photo. Tehnologija će uskladiti slike na korisnikovom iCloudu s poznatim slikama koje pružaju organizacije za sigurnost djece. A to se radi bez stvarnog viđenja slike i samo traženjem onoga što je poput podudaranja otiska prsta. U slučaju da podudarnosti prijeđu prag, Apple će te slučajeve prijaviti Nacionalnom centru za nestalu i iskorištenu djecu (NCMEC).

Apple je pojasnio da njegova tehnologija vodi računa o privatnosti korisnika, te se stoga baza podataka pretvara u nečitljiv skup hashova koji je sigurno pohranjen na uređajima korisnika. Dodao je da prije nego što se bilo koja slika prenese na iCloud, operativni sustav će je upariti s poznatim CSAM hashovima koristeći kriptografsku tehnologiju zvanu presjek privatnog skupa. Ova tehnologija također će odrediti utakmicu bez otkrivanja rezultata.

U ovom trenutku uređaj stvara kriptografski sigurnosni vaučer s rezultatom utakmice i dodatnim šifriranim podacima te ga sprema na iCloud sa slikom. Tehnologija dijeljenja tajne Threshold osigurava da Apple ne može protumačiti ove bonove osim ako račun iCloud Photos ne prijeđe prag poznatog CSAM sadržaja. Ovaj je prag, tvrdi blog, postavljen kako bi osigurao iznimno visoku razinu točnosti i osigurava manje od jedne prema trilijunu šanse godišnje za netočno označavanje određenog računa. Stoga je malo vjerojatno da će jedna slika pokrenuti upozorenje.

Ali ako je prag premašen, Apple može protumačiti sadržaj sigurnosnih vaučera i ručno pregledati svako izvješće za podudaranje, onemogućiti korisnički račun i poslati izvješće NCMEC-u. Apple je rekao da će korisnici moći podnijeti žalbu ako misle da su pogrešno označeni.

Kako funkcioniraju ostale značajke?

Appleova nova komunikacijska sigurnost za poruke zamaglit će osjetljivu sliku i upozoriti dijete na prirodu sadržaja. Ako je omogućeno iz pozadine, djetetu bi se također moglo reći da su njegovi roditelji upozoreni o poruci koju su pogledali. Isto će vrijediti i ako dijete odluči poslati osjetljivu poruku. Apple je rekao da će Messages koristiti strojno učenje na uređaju za analizu privitka slika i utvrđivanje je li fotografija seksualno eksplicitna i da Apple neće dobiti pristup porukama. Značajka će doći kao ažuriranje za račune postavljene kao obitelji u iCloudu za najnovije verzije operativnog sustava.
Također, s ažuriranjem, kada korisnik pokuša potražiti potencijalne CSAM teme, Siri i Search će objasniti zašto bi to moglo biti štetno i problematično. Korisnici će također dobiti upute o tome kako podnijeti prijavu o iskorištavanju djece ako to zatraže.

Zašto Apple to čini i koja je zabrinutost?

Velike su tehnološke tvrtke već godinama pod pritiskom da suzbiju korištenje svoje platforme za iskorištavanje djece. Mnoga su izvješća tijekom godina naglasila kako se nije učinilo dovoljno da se tehnologija zaustavi da CSAM sadržaj učini dostupnijim šire.

Međutim, Appleova objava naišla je na kritike s mnogima koji su naglašavali kako je to upravo vrsta tehnologije nadzora koju bi mnoge vlade željele imati i voljele je zloupotrijebiti. Činjenica da ovo dolazi od Applea, koji je dugo bio zagovornik privatnosti, mnoge je iznenadila.

Također, stručnjaci za kriptografiju poput Matthewa Greena sa Sveučilišta Johns Hopkins izrazili su bojazan da bi se sustav mogao koristiti za uokvirivanje nevinih ljudi koji im šalju slike namijenjene pokretanju podudaranja za CSAM. Istraživači su to uspjeli učiniti prilično lako, rekao je za NPR, dodajući da je moguće prevariti takve algoritme.

No, The New York Times citirao je Appleovog glavnog službenika za privatnost Erika Neuenschwandera koji je rekao da ove značajke neće značiti ništa drugačije za obične korisnike.

Ako pohranjujete zbirku CSAM materijala, da, ovo je loše za vas, rekao je za publikaciju.

bilten| Kliknite da biste dobili najbolja objašnjenja dana u svoju pristiglu poštu

Imaju li druge velike tehnološke tvrtke slične tehnologije?

Da. Zapravo, Apple je relativno kasno došao na scenu jer su Microsoft, Google i Facebook upozoravali agencije za provođenje zakona o CSAM slikama. Apple je zaostajao jer bi svaka takva tehnologija bila u suprotnosti s njegovom mnogo hvaljenom predanošću privatnosti korisnika. Kao rezultat toga, 2020. godine, kada je Facebook prijavio 20,3 milijuna kršenja CSAM-a NCMEC-u, Apple je mogao prijaviti samo 265 slučajeva, objavio je The New York Times.

Tek sada je uspio pronaći tehnološko mjesto za to bez utjecaja na redovite korisnike ili ih barem prestrašiti. Međutim, kao što je početna reakcija pokazala, to je još uvijek hodanje po konopcu.

Podijelite Sa Svojim Prijateljima: