Turvakello: huijarit käyvät tietokalastelussa syväfakeilla

En saa perheeltään paljon työtä koskevia kysymyksiä. He ovat ymmärrettävästi paljon kiinnostuneempia rottini ja koirani hijinkeistä. Mutta kun minulta kysytään turvallisuudesta, ihmiset haluavat aina tietää, miksi huonoja asioita tapahtuu. Tähän kysymykseen on paljon vastauksia, mutta palaan aina takaisin yksinkertaiseen: raha.

Ransomware? Helppo käteinen hyökkääjille. Phishing? Ei muuta kuin käteisellä. Spam? Kaikenlaisia ​​tapoja ansaita rahaa ihmisille napsauttamalla linkkejä. Tietojen rikkomukset? Ne tavarat käytetään petollisiin tarkoituksiin, ja loput myydään (käytettäväksi lisää petoksia). Kansakuntien hyökkäykset? Toki siellä on ideologiaa, mutta kun ajatellaan, että Yhdysvaltain pakotteet epäilemättä vaikuttivat Venäjän motivaatioon hyökkäyksessä vuoden 2016 vaaleihin, raha on yhtälössä. Ja se ei ole puhumattakaan kansallisvaltioiden hakkereista, jotka kuunvaloivat ylimääräistä rahaa.

Ei siinä luettelossa ole syväkertoimia, videoita, joita on peukaloitu ja jotka yleensä käyttävät AI-ohjattua tekniikkaa. Olemme nähneet kuuluisuuksien kasvot vaihtavan pornstaarien vartaloihin ja poliitikkojen kasvoja ja ääniä manipuloituna saadakseen heidät näyttämään sanovan asioita, joita he eivät itse sanoneet. Joskus ne tehdään edistämään villisti tulehduksellisia salaliittoja; salaperäisempiä ovat ajat, jolloin heitä manipuloidaan sanomaan asioita, jotka vihjaavilla katsojilla voi olla vaikeuksia erottaa totuudesta.

Deepfakeista on puhuttu viime kuukausina paljon pelkääessä, että niitä voitaisiin käyttää väärien tietojen kampanjoissa hämmentääkseen äänestäjiä. Sitä ei ole tapahtunut laajassa mittakaavassa (vielä), mutta pornografiset syväkertoimet ovat jo vahingoittaneet monia ihmisiä. Joten miksi me kutsumme tätä esiin nousevana uhkana? Todennäköisesti siksi, ettei ollut selvää tapaa ansaita rahaa heille. Se muuttui tällä viikolla, koska on ilmoitettu, että deepfakeja on käytetty fleece-yhtiöille satojen tuhansien dollarien edestä.

Uudet työkalut, sama vanha Con

Jälkikäteen minun olisi pitänyt nähdä sen tulossa. Sosiaalinen tekniikka - hieno tapa sanoa "huijaa ihmisiä" - on aika kunniallinen työkalu digitaalisen tietoturvan rikkomiseen tai yksinkertaisesti ansaitsemiseen. Syväviivojen lisääminen huijaukseen on täydellinen sovitus.

Wall Street Journal kertoi, että jotkut taitavat hyökkääjät rakensivat syvän fake-äänimallin, jolla he vakuuttivat toisen työntekijän, jonka he puhuivat yhtiön toimitusjohtajalle. Sitten työntekijä valtuutti noin 243 000 dollarin pankkisiirron. The Washington Post kirjoitti omassa raportissaan "Symantecin kyberturvallisuusyrityksen tutkijat kertoivat löytäneensä ainakin kolme tapausta, jossa johtajien ääniä jäljittelivät yrityksiä huijaamaan." Arvioitu nosto on mitattu miljoonina dollareina.

Oman editointini vuoksi istuin alas ja yritin jäljittää syväkertojen historiaa. Se on todellakin fake news -kauden konsepti, ja se alkoi loppuvuodesta 2017 Redditissä julkaistussa vara-artikkelissa kasvot vaihtuneesta pornografiasta. "Syväkertojen" ensimmäinen käyttö oli itse asiassa Gal Gadotin, Scarlett Johanssonin ja muiden kasvot, mutta ei vartaloa esittelevien pornografisten videoiden lähettäjän käyttäjänimi.

Vain muutamassa kuukaudessa huolenaihe syvävirheistä siirtyi politiikkaan. Videot näyttivät lempeiltä poliittisilta henkilöiltä, ​​ja tässä minä (ja suurin osa muusta turvallisuusyhteisöstä) takertuimme. Vuoden 2016 Yhdysvaltain vaalien aikana Venäjältä tulleiden väärien tietojen seurauksena ajatus lähes erottelemattomista väärennöksistä, jotka tulvat vuoden 2020 vaalisyklille, oli (ja on edelleen) hirvittävä. Se tarttuu myös otsikoihin ja on yksi niistä yleisen edun mukaisista hankkeista, joista turvallisuusyritykset todella pitävät.

Olisin pahoillani, jos en mainitsisi syvällisyyden rajoituksia. Ensinnäkin tarvitset äänileikkeitä henkilöstä, jota yrität matkia. Siksi kuuluisuudet ja poliitikot kansallisessa valonheittimessä ovat ilmeisiä kohteita syvällisyydelle. Tutkijat ovat kuitenkin jo osoittaneet, että vakuuttavan äänen syvyyden luomiseen tarvitaan vain noin minuutti ääntä. Kuuntelemalla julkisen sijoittajan puhelu, uutishaastattelu tai (Jumala auttaa sinua) TED-puhe olisi todennäköisesti enemmän kuin tarpeeksi.

Lisäksi ihmettelen, kuinka hyvin deepfake-mallinne täytyy jopa toimia, jotta se olisi tehokas. Esimerkiksi alhaisen tason työntekijällä ei ehkä ole aavistustakaan siitä, miltä toimitusjohtaja kuulostaa (tai jopa näyttää), mikä saa minut pohtimaan, riittääkö jokin kohtuullinen uskottava ja arvovaltainen ääni työn tekemiseen.

Miksi rahalla on merkitystä

Rikolliset ovat älykkäitä. He haluavat ansaita niin paljon rahaa kuin pystyy nopeasti, helposti ja vähiten riskillä. Kun joku keksii uuden tavan tehdä nuo asiat, muut seuraavat. Ransomware on loistava esimerkki. Salaus on ollut olemassa jo vuosikymmenien ajan, mutta kun rikolliset alkoivat aseistaa sitä helposti käteistä varten, se johti ransomware-räjähdykseen.

Deepfakes-tekniikan onnistunut käyttö välineenä, joka on erikoistunut kalastushyökkäykseen, on todiste uudesta konseptista. Ehkä se ei pannu ulos samalla tavalla kuin lunaohjelmisto - se vaatii silti huomattavia ponnistuksia, ja yksinkertaisemmat huijaukset toimivat. Mutta rikolliset ovat osoittaneet, että syväkertoimet voivat toimia tällä uudella tavalla, joten meidän on ainakin odotettava lisää rikoksellisia kokeiluja.

• Kuinka suojata Yhdysvaltain vaalit ennen kuin on liian myöhäistä Kuinka suojata Yhdysvaltain vaalit ennen kuin on liian myöhäistä
• Vaalien vaikutuskampanjat: liian halpa huijareille ohittaa vaalien vaikutuskampanjat: liian halpa huijareille siirtymiseen
• Venäjän Intel-agentuurit ovat myrkyllisiä kilpailu- ja sabotaasia

Toimittajien kohdistamisen sijasta huijarit voivat kohdistaa säännölliset henkilöt pienempiin voittoihin. Ei ole vaikea kuvitella huijaria, joka käyttää Facebookissa tai Instagramissa lähetettyjä videoita luodakseen syväfakeja äänimallien vakuuttamiseksi, että heidän perheenjäsenensä tarvitsevat paljon rahaa pankkisiirrolla. Tai ehkä kukoistava robokalliteollisuus saa syväfaksikerroksen lisäämään sekaannusta. Saatat kuulla ystävän äänen sen lisäksi, että näet tutun puhelinnumeron. Ei ole myöskään syytä, miksi näitä prosesseja ei voitu automatisoida tietyssä määrin, vaihtamalla äänimallit läpi ja suorittamalla ennalta sovitut skriptit.

Mikään näistä ei tarkoita alentaa vaaleissa mahdollisesti syntyneiden syvällisyyksien vaurioita tai näihin operaatioihin sidottua rahaa. Kun rikolliset ovat taitavampia syväfake-työkalujen kanssa ja nämä työkalut paranevat, on mahdollista, että vuokrauskohtaisten syvävetoisten markkinoiden voi syntyä. Aivan kuten pahat pojat voivat vuokrata aikaa bottiverkoissa huonoihin tarkoituksiin, saattaa ilmaantua rikollisyrityksiä, jotka ovat sitoutuneet luomaan syväsopimuksia sopimuksesta.

Onneksi rahallinen kannustin pahoille pojille luo yhden hyville pojille. Ransomware-ohjelmiston nousu johti entistä parempaan anti -ware-ohjelmaan, joka havaitsi haitallisen salauksen ja esti sitä ottamasta järjestelmiä. Syvähäiriöiden havaitsemiseksi ollaan jo tekemässä työtä, ja toivottavasti nämä ponnistelut latautuvat vain syvän väärentämisen saapumisesta. Se ei ole lohduttavaa jo huijatuille ihmisille, mutta se on hyvä uutinen meille kaikille.