Yliopistotutkijat, jotka rakensivat CSAM-skannausjärjestelmän, kehottavat Applea olemaan käyttämättä vaarallista teknologiaa

Arvostetut yliopistotutkijat soittavat hälytyskelloja Applen skannaussuunnitelmien taustalla olevasta tekniikasta iPhone käyttäjien valokuvakirjastot CSAM:ia tai lasten seksuaalista hyväksikäyttöä koskevaa materiaalia varten ja kutsuvat tekniikkaa 'vaaralliseksi'.

Jonanath Mayer, Princetonin yliopiston tietojenkäsittelytieteen ja julkisten asioiden apulaisprofessori, sekä Anunay Kulshrestha, Princetonin yliopiston tietotekniikkapolitiikan keskuksen tutkija. kirjoitti op-ed varten Washington Post , kertovat kokemuksistaan ​​kuvantunnistustekniikan rakentamisesta.

Tutkijat aloittivat kaksi vuotta sitten projektin CSAM:n tunnistamiseksi päästä päähän -salatuissa verkkopalveluissa. Tutkijat huomauttavat, että heidän alansa huomioon ottaen he 'tietävät päästä päähän -salauksen arvon, joka suojaa tietoja kolmannen osapuolen pääsyltä'. He sanovat, että tämä huolenaihe kauhistuttaa heitä CSAM:n 'lisääntymisestä salatuilla alustoilla'.

missä on apple id -tilisivuni

Mayer ja Kulshrestha sanoivat haluavansa löytää keskitien tilanteeseen: rakentaa järjestelmä, jonka avulla verkkoympäristöt voisivat löytää CSAM:n ja suojata päästä päähän -salausta. Tutkijat huomauttavat, että alan asiantuntijat epäilivät tällaisen järjestelmän mahdollisuutta, mutta he onnistuivat rakentamaan sen ja huomasivat siinä merkittävän ongelman.

Pyrimme etsimään mahdollista keskitietä, jossa verkkopalvelut voisivat tunnistaa haitallisen sisällön säilyttäen muutoin päästä päähän -salauksen. Konsepti oli suoraviivainen: Jos joku jakaa materiaalia, joka vastasi tunnetun haitallisen sisällön tietokantaa, palvelu sai hälytyksen. Jos henkilö jakaisi viatonta sisältöä, palvelu ei oppisi mitään. Ihmiset eivät pystyneet lukemaan tietokantaa tai oppimaan vastaako sisältö, koska tiedot voivat paljastaa lainvalvontamenetelmiä ja auttaa rikollisia välttämään havaitsemisen.

Asiantuntevat tarkkailijat väittivät, että meidän kaltainen järjestelmämme oli kaukana toteuttamiskelpoisesta. Monien väärien käynnistysten jälkeen rakensimme toimivan prototyypin. Mutta kohtasimme räikeän ongelman.

Sen jälkeen kun Apple ilmoitti ominaisuudesta, yritystä on pommitettu huolien kanssa että CSAM:n havaitsemisen takana olevaa järjestelmää voitaisiin käyttää muunlaisten valokuvien havaitsemiseen sortohallitusten pyynnöstä. Apple on jyrkästi vastustanut tällaista mahdollisuutta ja sanonut, että se kieltäytyy kaikista sellaisista hallitusten esittämistä pyynnöistä.

Siitä huolimatta huoli CSAM:n havaitsemiseen käytettävän tekniikan tulevista vaikutuksista on laajalle levinnyt. Mayer ja Kulshrestha sanoivat, että heidän huolensa siitä, kuinka hallitukset voisivat käyttää järjestelmää muun sisällön kuin CSAM:n havaitsemiseen, saivat heidät 'häiritsemään'.

päivitys iphone 12 pro max

Ulkomainen hallitus voisi esimerkiksi pakottaa palvelun ihmisille, jotka jakavat epäsuotuisaa poliittista puhetta. Se ei ole hypoteettista: WeChat, suosittu kiinalainen viestintäsovellus, käyttää jo sisällön täsmäytysohjelmaa toisinajattelijoiden materiaalin tunnistamiseen. Intia sääti tänä vuonna säännöt, jotka voivat edellyttää hallituksen politiikkaa kriittisen sisällön esiselvitystä. Venäjä määräsi äskettäin sakot Googlelle, Facebookille ja Twitterille, koska ne eivät poistaneet demokratiaa edistävää protestimateriaalia.

Huomasimme muitakin puutteita. Sisällön täsmäytysprosessilla voi olla vääriä positiivisia tuloksia, ja pahantahtoiset käyttäjät voivat pelittää järjestelmän alistaakseen viattomat käyttäjät tarkastettavaksi.

Olimme niin järkyttyneitä, että otimme askeleen, jota emme olleet ennen nähneet tietojenkäsittelytieteen kirjallisuudessa: Varoitimme omasta järjestelmäsuunnittelustamme ja kehotimme jatkamaan tutkimusta vakavien haittojen lieventämiseksi....

Apple on jatkanut käyttäjien huolenaiheiden käsittelemistä suunnitelmistaan, lisäasiakirjojen julkaiseminen ja UKK-sivu . Apple uskoo edelleen, että sen CSAM-tunnistusjärjestelmä, joka tapahtuu käyttäjän laitteessa, on linjassa sen pitkäaikaisten tietosuoja-arvojen kanssa.