Miksi välitän iPhonen x ja kasvotunnuksen - toistaiseksi

Vihaan salasanoja. Ne ovat turmeltuneita, vaarallisia, pitkiä ja monimutkaisia ​​välttämättömyyden vuoksi, vaikea muistaa ja helppo unohtaa. Ja hakkerit voivat valita tapojaan varastaa heidät: avainlokkurit, tietojenkalasteluhuijaukset ja tietorikkomukset.

Mutta ne epäonnistuvat ennakoitavalla tavalla.

Valitettavasti samaa ei voida sanoa Applen edistyksellisestä Face ID -todennustekniikasta. Aiemmin tänä vuonna julkaistu lippulaiva iPhone X: n kanssa Face ID käyttää hienostunutta tekniikkaa puhelimessa olevan henkilön tunnistamiseen. 3D-kartan luomisen lisäksi Face ID käyttää koneoppimista mukautuakseen, kun sanot esimerkiksi kasvaa viiksiä, älä lasita tai liikkua erilaisissa valoasetuksissa.

Kaikkien Face ID: n kehittämiseen liittyvien ponnistelujen tarkoituksena on korjata aikaisempien kasvotunnistustekniikoiden puutteet, jotka usein voidaan pettää pysäytyskuvalla tai kasvojen tasaisella videolla. Ja ollakseni rehellinen, Apple on tehnyt hyvää työtä triviaalisten hakkereiden estämisessä. Yhtiö väittää, että todennäköisyys, että satunnainen henkilö voisi tarkastella iPhone X -laitetta ja avata se Face ID: llä, on noin 1 000 000: sta.

Mutta tämä monimutkaisuus on ottanut käyttöön omat haasteensa ja saanut Face ID: n käyttäytymään arvaamattomalla tavalla. Tutkittuaan hassuja tekniikoita, joita ihmiset ovat käyttäneet Face ID: n turvallisuuden rajojen testaamiseen, on edelleen vaikea määritellä yhteistä mallia epäonnistuneilla tavoilla.

Esimerkiksi Wiredin toimittajan David Piercen 1000 dollarin maski ei huijannut kasvotunnusta. Mutta Vietnamin tietoturvayrityksen Bkavin 150 dollarin puolinaamari ja kiinteät, painetut silmät avasivat iPhone X: n. Ja Face ID pystyi kertomaan eron identtisten kaksosien välillä, mutta salaperäisen mielestä äiti ja hänen 10-vuotias poikansa olivat sama henkilö. Kahdessa muussa kokeessa ikävuodesta toisistaan ​​poikuneet veljet pystyivät avaamaan saman iPhone X: n.

Fooling Face ID

Applen puolustuksessa osoitetut epäonnistumiset ovat kaikki reunatapauksia, ja suurin osa niistä on kyseenalaista. On syytä epäillä, miten Bkav huijasi kasvotunnusta, ja Apple on tehnyt selväksi, että jonkun muun kuin sinä lukituksen avaamisen kasvotunnuksen tilastollinen todennäköisyys muuttuu, kun kyseessä on kaksosesi tai sukulainen, joka näyttää paljon kuten sinä.

Mutta minua huolestuttaa se, että Face ID: n AI-algoritmeja voidaan pelata. Ei niin samankaltaiset veljet, jotka onnistuivat avaamaan saman iPhonen, selittivät myöhemmin, kuinka he pakottivat sen epäonnistumaan, ja kirjoittivat sitten pääsykoodin manuaalisesti useita kertoja. Vaikka Apple on tarkkaan huomannut, kuinka sen tekniikka toimii, näyttää siltä, ​​että kaksi veljeä pystyivät kouluttamaan algoritmin ajattelemaan, että he olivat sama henkilö. Bkav on saattanut käyttää samanlaista tekniikkaa huijatakseen iPhonea ajattelemaan, että naamio oli variaatio omistajan kasvoista.

Face ID: n epäonnistumiset osoittavat koneoppimisalgoritmien haasteen. Toisin kuin perinteiset ohjelmistot, joille ihmiskehittäjät tarjoavat säännöt, koneoppimisohjelmat määrittelevät omat säännöt analysoimalla suuria tietoryhmiä ja keräämällä korrelaatioita ja yleisiä malleja. Kasvotunnisteelle AI syöttää karttoja ja kuvia kasvosi ja luo omat säännöt sinun tunnistamiseen.

Ongelmana on, että emme tiedä tarkalleen, mitkä nämä säännöt ovat. Tämä muuttaa algoritmit käytännössä mustiksi laatikoiksi, joiden käyttäytyminen ja päätökset hämmentävät usein käyttäjiä ja jopa heidän luojaitaan. Omituisesti toimiva AI-algoritmi ei ole paljon ongelma, kun se ehdottaa, mitä sinun pitäisi ostaa tai katsella seuraavaksi. Mutta kun se tekee arkaluontoisia päätöksiä, arvaamaton käyttäytyminen voi johtaa kriittisiin virheisiin.

Kun luotat tekniikkaan, jolla suojaat laitetta, jolla on pääsy moniin arkaluontoisiin tietoihin - sosiaalisen median tileihin, pankkisovelluksiin ja muuhun -, haluat tietää sen rajat ja miten se saattaa epäonnistua. Tältä osin Face ID on toistaiseksi osoittautunut vähemmän luotettavaksi. Kunnes Apple muuttuu avoimemmaksi Face ID: n toiminnasta, pysyn Touch ID: llä iPhone 6s: ssä.