Paaiškinta: kaip „Apple“ nuskaitys vaikų išnaudojimo vaizdus įrenginiuose ir kodėl ji kelia antakius

Iš pradžių tikimasi, kad jos bus pradėtos naudoti Jungtinėse Valstijose, o funkcijos apima naujų technologijų naudojimą, siekiant apriboti CSAM plitimą internete, ypač per Apple platformą.

Tinklaraščio įraše „Apple“ paaiškino, kad naudos kriptografijos programas per „iOS“ ir „iPadOS“, kad suderintų žinomus CSAM vaizdus, ​​saugomus „iCloud Photo“.

Apple tai paskelbė programinės įrangos atnaujinimai vėliau šiais metais suteiks naujų funkcijų padės apsaugoti vaikus nuo plėšrūnų, kurie naudojasi komunikacijos priemonėmis, kad juos verbuotų ir išnaudotų, ir apribos vaikų seksualinės prievartos medžiagos (CSAM) plitimą.

Iš pradžių tikimasi, kad jos bus pradėtos naudoti Jungtinėse Valstijose, o funkcijos apima naujų technologijų naudojimą, siekiant apriboti CSAM plitimą internete, ypač per Apple platformą.

Tada bus įdiegta vaikų apsauga įrenginyje nuo neskelbtino turinio siuntimo ar gavimo su mechanizmais, įspėjančiais tėvus, jei vartotojas yra jaunesnis nei 13 metų. „Apple“ taip pat įsikiš, kai „Siri“ arba „Search“ bus naudojama su CSAM susijusioms temoms ieškoti. .

Kokias technologijas daro „Apple“, kad užkirstų kelią CSAM plitimui internete?

Tinklaraščio įraše „Apple“ paaiškino, kad naudos kriptografijos programas per „iOS“ ir „iPadOS“, kad suderintų žinomus CSAM vaizdus, ​​saugomus „iCloud Photo“. Ši technologija suderins vartotojo iCloud esančius vaizdus su žinomais vaikų saugos organizacijų pateiktais vaizdais. Ir tai daroma iš tikrųjų nematant vaizdo ir tik ieškant to, kas yra kaip piršto atspaudo degtukas. Jei atitiktys peržengs slenkstį, „Apple“ praneš apie šiuos atvejus Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC).

„Apple“ paaiškino, kad jos technologija atsižvelgia į vartotojų privatumą, todėl duomenų bazė paverčiama neįskaitomu maišos rinkiniu, kuris saugiai saugomas vartotojų įrenginiuose. Ji pridūrė, kad prieš įkeliant bet kokį vaizdą į „iCloud“, operacinė sistema suderins jį su žinomomis CSAM maišomis, naudodama kriptografinę technologiją, vadinamą privačių rinkinių sankirta. Ši technologija taip pat nustatys rungtynes ​​neatskleisdama rezultato.

Šiuo metu įrenginys sukuria kriptografinį saugos kvitą su rungtynių rezultatu ir papildomais užšifruotais duomenimis ir išsaugo jį su vaizdu į iClouds. Slenksčio slapto bendrinimo technologija užtikrina, kad „Apple“ negalėtų interpretuoti šių kuponų, nebent „iCloud Photos“ paskyra neperžengtų žinomo CSAM turinio slenksčio. Tinklaraštis teigė, kad ši riba buvo nustatyta siekiant užtikrinti itin aukštą tikslumo lygį ir užtikrina mažiau nei vieną iš trilijono galimybę per metus neteisingai pažymėti tam tikrą paskyrą. Taigi vargu ar vienas vaizdas sukels įspėjimą.

Tačiau jei riba viršijama, „Apple“ gali interpretuoti saugos kvitų turinį ir rankiniu būdu peržiūrėti kiekvieną ataskaitą, ar jos atitinka, išjungti vartotojo paskyrą ir nusiųsti ataskaitą NCMEC. „Apple“ teigė, kad vartotojai galės pateikti apeliaciją, jei manys, kad buvo neteisingai pažymėti.

jack ma cathy zhang

Kaip veikia kitos funkcijos?

Naujoji „Apple“ komunikacijos sauga, skirta „Messages“, sulies jautrų vaizdą ir įspės vaiką apie turinio pobūdį. Jei įjungta iš užpakalinės programos, vaikui taip pat gali būti pranešta, kad jo tėvai buvo įspėti apie peržiūrėtą pranešimą. Tas pats bus taikoma, jei vaikas nuspręs išsiųsti jautrią žinutę. „Apple“ teigė, kad „Messages“ naudos įrenginyje įdiegtą mašininį mokymąsi, kad analizuotų vaizdų priedus ir nustatytų, ar nuotrauka yra seksualinio pobūdžio ir kad „Apple“ negaus prieigos prie pranešimų. Ši funkcija bus teikiama kaip paskyrų, sukurtų kaip šeimos „iCloud“ naujausioms operacinės sistemos versijoms, atnaujinimas.
Be to, su atnaujinimu, kai vartotojas bandys ieškoti galimų CSAM temų, „Siri“ ir „Search“ paaiškins, kodėl tai gali būti žalinga ir problemiška. Naudotojai taip pat gaus nurodymų, kaip pateikti pranešimą apie vaikų išnaudojimą, jei jie to paprašys.

Kodėl „Apple“ tai daro ir kokie keliami rūpesčiai?

Didžiosios technologijų įmonės jau daugelį metų patiria spaudimą susidoroti su jų platformų naudojimu vaikų išnaudojimui. Daugelyje ataskaitų bėgant metams buvo pabrėžta, kad nebuvo padaryta pakankamai, kad technologija neleistų CSAM turinio padaryti plačiau prieinamą.

ledo t alga

Tačiau „Apple“ pranešimas sulaukė kritikos, nes daugelis pabrėžė, kad tai yra būtent tokia stebėjimo technologija, kurią norėtų turėti daugelis vyriausybių ir kurią mėgsta piktnaudžiauti. Daugelį nustebino faktas, kad tai atnešė Apple, kuri ilgą laiką buvo privatumo gynėja.

Be to, kriptografijos ekspertai, tokie kaip Matthew Greenas iš Johnso Hopkinso universiteto, išreiškė nuogąstavimus, kad sistema gali būti panaudota įrėminti nekaltus žmones, siunčiančius jiems atvaizdus, ​​skirtus CSAM atitikčiai suaktyvinti. Tyrėjai tai padarė gana lengvai, sakė jis NPR ir pridūrė, kad tokius algoritmus galima apgauti.

Tačiau „The New York Times“ citavo „Apple“ vyriausiąjį privatumo pareigūną Eriką Neuenschwanderį, kuris teigė, kad šios funkcijos paprastiems vartotojams nereikš nieko kito.

Jei saugote CSAM medžiagos kolekciją, taip, tai jums blogai, sakė jis leidiniui.

Naujienlaiškis| Spustelėkite, kad gautuosiuose gautumėte geriausius dienos paaiškinimus

Ar kitos didelės technologijų įmonės turi panašių technologijų?

Taip. Tiesą sakant, „Apple“ yra gana vėlyvas, nes „Microsoft“, „Google“ ir „Facebook“ įspėjo teisėsaugos institucijas apie CSAM vaizdus. „Apple“ atsilieka, nes bet kokia tokia technologija būtų prieštaraujusi jos taip reklamuojamam įsipareigojimui užtikrinti vartotojų privatumą. Dėl to 2020 m., kai „Facebook“ pranešė NCMEC apie 20,3 mln. CSAM pažeidimų, „Apple“ galėjo pranešti tik apie 265 atvejus, pranešė „The New York Times“.

Tik dabar pavyko rasti technologinį saldumyną, kad tai padarytų nepaveikdamas įprastų vartotojų ar bent jau jų negąsdindamas. Tačiau, kaip parodė pradinė reakcija, tai vis dar yra ėjimas lynu.

Dalykitės Su Savo Draugais: