Voiko jokin suojata meitä syvävirheiltä? | Ben Dickson

Vuoden 2017 lopulla emolevy raportoi AI-tekniikasta, joka voisi vaihtaa kasvoja videoissa. Tuolloin tekniikka - jota myöhemmin kutsuttiin syväfakeiksi - tuotti raakaa, rakeista tulosta ja sitä käytettiin enimmäkseen väärennettyjen pornovideoiden luomiseen, joissa oli kuuluisuuksia ja poliitikkoja.

Kaksi vuotta myöhemmin tekniikka on edennyt valtavasti, ja sitä on vaikeampi havaita paljain silmin. Väärennösten lisäksi väärennetyistä videoista on tullut kansallisen turvallisuuden huolenaihe, etenkin kun vuoden 2020 presidentinvaalit lähestyvät.

Syvyyksien syntymisen jälkeen useat organisaatiot ja yritykset ovat kehittäneet tekniikoita AI: n peukaloimien videoiden havaitsemiseksi. Mutta on pelko, että jonain päivänä deepfakes-tekniikkaa on mahdoton havaita.

Surreyn yliopiston tutkijat kehittivät ratkaisun, joka saattaa ratkaista ongelman: sen sijaan, että se havaitsisi väärät, se todistaa mikä on totta. Suunniteltu esitettäväksi tulevassa tietokonevisio- ja kuvioiden tunnistuskonferenssissa (CVPR), Archangel-niminen tekniikka käyttää AI: tä ja blockchainia luomaan ja rekisteröimään väärentämättömän digitaalisen sormenjäljen aitoihin videoihin. Sormenjälkeä voidaan käyttää vertailupisteenä verkossa jaettavien tai televisiossa levitettävien medioiden kelpoisuuden tarkistamiseen.

AI: n käyttö videoiden allekirjoittamiseen

Klassinen tapa todistaa binaarisen asiakirjan aitous on käyttää digitaalista allekirjoitusta. Kustantajat suorittavat asiakirjansa salausalgoritmin, kuten SHA256, MD5 tai Blowfish, avulla, joka tuottaa "hash" lyhyen tavujonon, joka edustaa tiedoston sisältöä ja josta tulee sen digitaalinen allekirjoitus. Saman tiedoston ajaminen hajautusalgoritmin kautta milloin tahansa tuottaa saman hash-tiedoston, jos sen sisältö ei ole muuttunut.

Hajautukset ovat yliherkkiä lähdetiedoston binaarisen rakenteen muutoksille. Kun muokkaat yksittäistä tavutettua tiedostoa ja suoritat sen uudelleen algoritmin läpi, se tuottaa aivan toisenlaisen tuloksen.

Mutta vaikka hashit toimivat hyvin tekstitiedostoissa ja sovelluksissa, ne esittävät haasteita videoille, joita voidaan tallentaa eri muodoissa, Surreyn yliopiston tietokoneen näkemysprofessorin ja Arkkienkelin projektijohtajan John Collomossen mukaan.

"Halusimme, että allekirjoitus olisi sama riippumatta koodekista, jota video pakata", Collomosse sanoo. "Jos otan videoni ja muunnan sen esimerkiksi MPEG-2: sta MPEG-4: ksi, niin tiedosto on täysin eripituinen, ja bitit ovat täysin muuttuneet, mikä tuottaa erilaisen hash. Tarvitsemme. oli sisältötietoinen hajautusalgoritmi."

Tämän ongelman ratkaisemiseksi Collomosse ja hänen kollegansa kehittivät syvän hermoverkon, joka on herkkä videon sisällölle. Syvät hermoverkot ovat tyyppiä AI-rakennetta, joka kehittää sen käyttäytymistä analysoimalla valtavia määriä esimerkkejä. Mielenkiintoista on, että hermostoverkot ovat myös syväkehityksen ytimessä oleva tekniikka.

Kun luot syväväriä, kehittäjä syöttää verkkoa kuvilla kohteen kasvot. Neuraaliverkko oppii kasvojen piirteet ja kykenee riittävän koulutuksen avulla etsimään ja vaihtamaan kasvoja muissa videoissa kohteen kasvoilla.

Arkkienkelin hermoverkko on koulutettu videoon, johon se sormenjäljet ​​otetaan. "Verkko tarkastelee pikemminkin videon sisältöä kuin sen alla olevia bittejä ja tavuja", Collomosse sanoo.

Harjoituksen jälkeen, kun ajat uutta videota verkon kautta, se vahvistaa sen, kun se sisältää saman sisällön kuin lähdevideo sen muodosta riippumatta, ja hylkää sen, kun se on erilainen video tai jos sitä on muokattu tai muokattu.

Collomossen mukaan tekniikka pystyy havaitsemaan sekä alueellisen että ajallisen peukaloinnin. Alueelliset peukaloinnit ovat muutoksia, jotka tehdään yksittäisiin kehyksiin, kuten kasvojen vaihtamismuokkaukset, jotka tehdään syväkertoimissa.

Mutta syväkertoimet eivät ole ainoa tapa, jolla videoita voidaan peukaloida. Vähemmän keskusteltuja, mutta yhtä vaarallisia ovat tahalliset muutokset, jotka tehdään kehysjärjestykseen sekä videon nopeuteen ja kestoon. Äskettäin laajasti levitetyssä, talon puhujan Nancy Pelosin pelaamassa videossa ei käytetty syvähäiriöitä, mutta se luotiin huolellisesti käyttämällä yksinkertaisia ​​editointitekniikoita, jotka tekivät hänestä hämmentyneen.

"Yksi havaittavissa olevista peukalointimuodoista on videon lyhyiden osien poistaminen. Nämä ovat ajallisia peukaloituksia. Ja voimme havaita jopa kolme sekuntia peukalointia. Joten jos video on useita tunteja pitkä ja poistat vain kolme sekunteina videosta, voimme havaita sen ", Collomosse sanoo ja lisää, että Arkkienkeli havaitsee myös alkuperäisen videon nopeuteen tehdyt muutokset, kuten Pelosin videossa tehtiin.

Sormenjäljen rekisteröiminen blockchainiin

Archangel-projektin toinen komponentti on lohkoketju, väärentämätön tietokanta, johon uutta tietoa voidaan tallentaa, mutta jota ei voida muuttaa - ihanteellinen videoarkistoille, jotka eivät tee muutoksia videoihin rekisteröinnin jälkeen.

Blockchain-tekniikka perustuu digitaalisiin valuuttoihin, kuten Bitcoin ja Ether. Se on useiden riippumattomien osapuolten ylläpitämä digitaalinen pääkirja. Osapuolten enemmistön on sovittava lohkoketjuun tehdyistä muutoksista, mikä tekee mahdottomaksi yhdenkään osapuolen olla yksipuolisesti väliintulossa pääkirjaan.

On teknisesti mahdollista hyökätä ja muuttaa lohkon ketjua, jos yli 50 prosenttia sen osallistujista tekee salaista yhteistyötä. Mutta käytännössä se on erittäin vaikeaa, varsinkin kun monenlaisia ​​riippumattomia osapuolia ylläpitää ryhmäketjua, joilla on erilaisia ​​tavoitteita ja etuja.

Arkkienkelin blockchain on hiukan erilainen kuin julkinen blockchain. Ensinnäkin, se ei tuota kryptovaluuttaa ja tallentaa vain tunnisteen, sisältötietoisen sormenjäljen ja todentajan hermoverkon binaaririvin jokaiselle arkistossa olevalle videolle (lohkoketjut eivät sovellu suurten tietomäärien tallentamiseen, minkä vuoksi itse video ja hermoverkko tallennetaan ketjun ulkopuolelle).

Se on myös luvanvarainen tai "yksityinen" lohkoketju. Tämä tarkoittaa, että toisin kuin Bitcoin-blockchain, jossa kaikki voivat tallentaa uusia tapahtumia, vain luvan saaneet osapuolet voivat tallentaa uusia tietueita Arkkienkelissä.

Arkkienkeliä käydään parhaillaan oikeudenkäynnissä Ison-Britannian, Viron, Norjan, Australian ja Yhdysvaltojen kansallisten hallitusten arkistojen verkossa: Uuden tiedon tallentamiseksi jokaisen osallistuvan maan on tehtävä lisäys. Mutta vaikka vain osallistuvien maiden kansallisilla arkistoilla on oikeus lisätä tietueita, kaikki muut ovat lukeneet pääsyn lohkoketjuun ja voivat käyttää sitä muiden videoiden validointiin arkistoa vastaan.

• AI ja koneoppiminen hyödyntävät, syvälliset, nyt vaikeampia havaita AI ja koneoppiminen, syviä, nyt vaikeampi havaita
• Deepfake-videot ovat täällä, emmekä ole valmiita Deepfake-videoita ovat täällä, emmekä ole valmiita
• Adoben uusi AI havaitsee Photoshopped-kasvot Adoben uusi AI havaitsee Photoshopped-kasvot

"Tämä on blockchain-sovellus yleisen edun hyväksi", Collomosse sanoo. "Mielestäni lohkoketjun ainoa järkevä käyttö on silloin, kun sinulla on riippumattomia organisaatioita, jotka eivät välttämättä luota toisiinsa, mutta heillä on tämä kiinnostus tämän yhteisen luottamuksen yhteiseen tavoitteeseen. Ja mitä me odotamme tekevän, turvaa kansalliset hallitusarkistot ympäri maailmaa, jotta voimme vakuuttaa heidän eheytensä tällä tekniikalla."

Koska väärennettyjen videoiden luominen on tulossa helpommaksi, nopeammaksi ja helpommin saatavana, jokaisen tarvitsee kaiken mahdollisen avunsa videoarkistojensa - etenkin hallitusten - eheyden varmistamiseksi.

"Mielestäni syväkertoimet ovat melkein kuin asekilpailua", Collomosse sanoo. "Koska ihmiset tuottavat yhä vakuuttavampia syväkuvia, ja joskus saattaa olla mahdotonta löytää niitä. Siksi paras mitä voit tehdä, on yrittää todistaa videon alkuperä."