Oppiminen Alexan virheistä

Amazon Echo -laite tallensi äskettäin käyttäjän yksityisen keskustelun ja lähetti sen yhdelle heidän yhteyshenkilöstään ilman heidän tietämistään ja suostumustaan. Tämä (jälleen) herättää huolta älykaiuttimien turvallisuudesta ja yksityisyydestä. Kuten myöhemmin tuli ilmeiseksi, Alexan omituinen käyttäytyminen ei kuitenkaan ollut osa pahasta vakoilua - pikemminkin se johtui sarjasta epäonnistuneita virheitä, jotka johtuvat älypuhelimen toiminnasta.

Amazonin tilin mukaan: "Kaiku heräsi taustakeskusteluun kuuluvan sanan" Alexa "kuulosta. Sitten seuraava keskustelu kuultiin "lähetä viesti" -pyynnönä. Silloin Alexa sanoi ääneen "kenelle?" Missä vaiheessa taustakeskustelu tulkittiin nimellä asiakkaan yhteystietoluettelossa. Alexa kysyi sitten ääneen, 'eikö?' Alexa tulkitsi sitten taustakeskustelua 'oikeana'. Niin epätodennäköistä kuin tämä tapahtumaketju on, arvioimme vaihtoehtoja, joiden avulla tapaus voidaan tehdä vielä vähemmän todennäköiseksi."

Skenaario on reunatapaus, sellainen tapaus, jota tapahtuu hyvin harvoin. Mutta se on myös mielenkiintoinen tutkimus kaikua ja muita ns. "Älykkäitä" laitteita käyttävän keinoälyn tekniikan rajoissa.

Liian paljon pilvien riippuvuutta

Äänikomentojen ymmärtämiseksi älykkäät kaiuttimet, kuten Echo ja Google Home, luottavat syvän oppimisen algoritmeihin, jotka vaativat laajaa laskentatehoa. Koska heillä ei ole laskentaresursseja suorittaa tehtävää paikallisesti, heidän on lähetettävä tiedot valmistajan pilvipalvelimille, joissa AI-algoritmit muuntavat puhetiedot tekstiksi ja käsittelevät komennot.

Älykkäät kaiuttimet eivät kuitenkaan voi lähettää kaikkea kuulemaansa pilvipalvelimilleen, koska se vaatisi valmistajaa tallentamaan palvelimilleen ylimääräisiä tietoja - joista suurin osa olisi hyödytöntä. Käyttäjien koteissa tapahtuvien yksityisten keskustelujen vahingossa tapahtuva tallentaminen ja tallentaminen aiheuttaisi myös yksityisyyden haasteen ja voisi saada valmistajat vaikeuksiin etenkin uusien tietosuojamääräysten kanssa, jotka asettavat ankarat rajoitukset tekniikkayritysten tietojen tallennukselle ja käytölle.

Siksi älykkäät kaiuttimet on suunniteltu laukaisemaan sen jälkeen, kun käyttäjä julkaisee herättävän sanan, kuten "Alexa" tai "Hei Google". Vasta kuultuaan herättävän sanan he alkavat lähettää mikrofonien äänituloa pilveen analysointia ja käsittelyä varten.

Vaikka tämä ominaisuus parantaa yksityisyyttä, se esittää omat haasteensa, kuten äskettäinen Alexa-tapaus korosti.

"Jos sana - tai jotain kuulostavan siltä - lähetetään keskustelun puolivälissä, Alexalla ei ole mitään aikaisemmasta tilanteesta", sanoo Conversocialin toimitusjohtaja Joshua March. "Siinä vaiheessa se kuuntelee erittäin kovasti kaikkia komentoja, jotka liittyvät asettamiisi taitoihin (kuten heidän viestisovelluksensa). Suurimmaksi osaksi yksityisyyttä parannetaan huomattavasti rajoittamalla asiayhteyttä, johon Alexa kiinnittää huomiota (kuten se ei nauhoita tai kuuntele mitään normaalista keskusteluistasi), vaikka tässä tapauksessa takaisinotettiin."

Edistyminen reunalaskennassa saattaa auttaa lievittämään tätä ongelmaa. Kun AI ja syvä oppiminen löytävät tiensä yhä useampiin laitteisiin ja sovelluksiin, jotkut laitevalmistajat ovat perustaneet prosessoreita, jotka ovat erikoistuneet suorittamaan AI-tehtäviä ilman, että luotettaisiin liikaa pilvipalveluihin. Edge AI -prosessorit voivat auttaa Echo-tapaisia ​​laitteita ymmärtämään ja käsittelemään paremmin keskusteluja vahingoittamatta käyttäjien yksityisyyttä lähettämällä kaikki tiedot pilveen.

Asiayhteys ja tarkoitus

Sen lisäksi, että vastaanottaa erillisiä ja pirstoutuneita ääniosia, Amazonin AI kamppailee ihmisen keskustelun vivahteiden ymmärtämisen kanssa.

"Vaikka syvässä oppimisessa on tapahtunut valtavia edistysaskeleita viime vuosina, jotta ohjelmistot pystyvät ymmärtämään puhetta ja kuvia paremmin kuin koskaan ennen, rajoituksilla on edelleen paljon", March sanoo. "Vaikka ääniassistentit voivat tunnistaa sanomasi, heillä ei välttämättä ole minkäänlaista todellista ymmärrystä sen takana olevasta merkityksestä tai tarkoituksesta. Maailma on monimutkainen paikka, mutta kukin AI-järjestelmä pystyy käsittelemään vain hyvin erityiset, kapeat käyttötapaukset ".

Esimerkiksi meillä ihmisillä on monia tapoja määrittää, onko lause osoitettu meitä kohti, kuten äänenvoimakkuus vai visuaalisten vihjeiden seuraaminen - sanoisinkin suuntaa, jota puhuja etsii.

Sitä vastoin Alexa olettaa vastaanottavansa kaikki lauseet, jotka sisältävät A-sanan. Siksi käyttäjät laukaisevat sen usein vahingossa.

Osa ongelmasta on se, että liioittelemme nykyisten AI-sovellusten kykyjä asettamalla ne usein ihmisarvon kanssa tai yläpuolelle ja luottamalla niihin liikaa. Siksi olemme yllättyneitä, kun he epäonnistuvat näyttävästi.

"Osa asiasta on se, että termiä" AI "on markkinoitu niin aggressiivisesti, että kuluttajat ovat antaneet ansaitsemattoman määrän uskoa tuotteisiin, joilla tämä termi on sidottu heihin", sanoo neurotieteilijä ja Starmindin perustaja Pascal Kaufmann. "Tämä tarina kuvaa sitä, että Alexalla on monia ominaisuuksia ja suhteellisen rajallinen käsitys siitä, kuinka ja milloin niitä tulisi soveltaa."

Syvän oppimisen algoritmit ovat alttiita epäonnistumaan, kun he kohtaavat asetukset, jotka poikkeavat koulutetuista tiedoista ja skenaarioista. "Yksi ihmisen tason AI: n määrittelevistä piirteistä on omavarainen pätevyys ja todellinen sisällön ymmärtäminen", Kaufmann sanoo. "Tämä on ratkaisevan tärkeä osa AI: n" älykkään "pitämistä ja elintärkeää sen kehitykselle. Itsetietoisten digitaalisten avustajien luominen, joka tuo mukanaan täydellisen ymmärryksen ihmisluonnosta, merkitsee heidän muutostaan ​​hauskasta uutuudesta todella hyödyllinen työkalu."

Mutta ihmistason AI: n, jota kutsutaan myös yleiseksi AI: ksi, luominen on helpompaa kuin tehtävä. Useiden vuosikymmenien ajan olemme ajatelleet, että se on aivan nurkan takana, vain kauhistuttava, koska teknologinen kehitys on osoittanut, kuinka monimutkainen ihmisen mieli on. Monien asiantuntijoiden mielestä yleisen AI: n jahdata on turhaa.

Samaan aikaan kapea AI (kuten nykyiset tekoälytekniikat on kuvattu) tarjoaa edelleen monia mahdollisuuksia ja voidaan korjata virheiden toistumisen välttämiseksi. Selvyyden vuoksi syväoppiminen ja koneoppiminen ovat vielä syntymässä, ja Amazonin kaltaiset yritykset päivittävät jatkuvasti AI-algoritmeja reagoidakseen reunatapauksiin aina, kun niitä tapahtuu.

Mitä meidän on tehtävä

"Tämä on nuori, nouseva ala. Luonnollisen kielen ymmärtäminen on etenkin lapsenkengissä, joten voimme tehdä täällä paljon", sanoo Atomic X: n tekninen johtaja Eric Moller.

Moller uskoo, että äänianalyysien AI-algoritmit voidaan virittää ymmärtämään paremmin intonaatio ja käänne. "Sana 'Alexa' käyttäminen laajemmassa lauseessa kuulostaa erilaiselta kuin kutsuminen tai komento. Alexan ei pitäisi herätä, koska sanoit nimen ohimennen", Moller sanoo. Riittävän koulutuksen avulla AI: n tulisi pystyä erottamaan mitkä äänet on suunnattu älykaiuttimeen.

Tekniikkayritykset voivat myös kouluttaa AI: nsa voidakseen erottaa, milloin se vastaanottaa taustamelua sen sijaan, että puhutaan suoraan. "Taustajuttelulla on ainutlaatuinen ääninen 'allekirjoitus', jonka ihmisillä on erittäin hyvä noutaa ja valikoivasti virittää. Ei ole mitään syytä, miksi emme voi kouluttaa AI-malleja tekemään samoja", Moller sanoo.

Varotoimenpiteenä AI-avustajien tulisi arvioida tekemiensä päätösten vaikutukset ja ottaa mukaan ihmisten päätökset tapauksissa, joissa he haluavat tehdä jotain, joka on mahdollisesti arkaluonteinen. Valmistajien olisi pakattava tekniikoihinsa lisää suojatoimenpiteitä estääkseen arkaluontoisten tietojen lähettämisen ilman käyttäjän nimenomaista ja selkeää suostumusta.

"Vaikka Amazon ilmoitti, että Alexa yritti vahvistaa tulkitsemansa toimenpiteet, joitain toimia on hoidettava tarkemmin ja pidettävä korkeammalla tasolla käyttäjän aikomuksen vahvistamisessa", Tonkeanin toimitusjohtaja Sagi Eliyahi sanoo. "Ihmisillä on samat puheentunnistuskysymykset, toisinaan harhaanjohtavia pyyntöjä. Toisin kuin Alexa, ihminen todennäköisesti vahvistaa kuitenkin ehdottomasti ymmärtävänsä epäselvän pyynnön ja mikä tärkeintä, mitata pyynnön todennäköisyys aiempiin pyyntöihin verrattuna."

Sillä välin…

Vaikka teknologiayritykset säätävät AI-sovelluksensa virheiden vähentämiseksi, käyttäjien on tehtävä lopullinen päätös siitä, kuinka paljon he haluavat altistua mahdollisille virheille, joita AI-käyttöiset laitteet voivat tehdä.

"Nämä tarinat osoittavat ristiriidan tietomäärän kanssa, jota ihmiset ovat valmiita jakamaan vastaan ​​uuden AI-tekniikan lupauksen", sanoo tietotekniikan asiantuntija ja useiden AI: tä ja ohjelmistoja käsittelevien kirjojen kirjoittaja Doug Rose. "Saatat kiusata Siria hitaudesta. Mutta paras tapa saavuttaa parempaa älykkyyttä on tunkeutumalla yksityisiin keskusteluihimme. Joten keskeinen kysymys seuraavan vuosikymmenen aikana on se, kuinka paljon me annamme näille AI-agentteille kurkistaa käyttäytymistämme. ?"

"Mikä perhe sijoittaisi ihmisapulaisen olohuoneeseen ja anna sen kuunnella kaikenlaista keskustelua koko ajan?" kertoo Starmindin neurotieteilijä Kaufmann. "Meidän pitäisi soveltaa ainakin samoja standardeja ns. AI-laitteisiin (ellei korkeampiin), joita sovelletaan myös älykkäisiin ihmisiin, kun kyse on yksityisyydestä, salaisuudesta tai luotettavuudesta."