Kun pilvi on uinut, sen reunalaskenta tapahtuu pelastamiseksi

Australian New South Walesin (NSW) osavaltion rannikkoa pitkin on droonikanta, mikä auttaa pitämään vedet turvallisina. Aiemmin tänä vuonna droonit auttoivat valtion Far Far Coast -henkilökunnan pelastajia pelastamaan kaksi nuorta nuorta nuorta nuorta nuorta.

Drooneja käyttävät keinotekoinen äly (AI) ja konenäköalgoritmit, jotka analysoivat jatkuvasti videosisällönsä ja tuovat esiin huomiota vaativat kohteet: esimerkiksi hait tai harhaavat uimareita. Tämä on samanlainen tekniikka, jonka avulla Google Photos voi lajitella kuvia, kodinturvakamera vieraiden havaitsemiseksi ja älykäs jääkaappi, joka varoittaa, kun pilaantuvuus on lähellä niiden voimassaoloaikaa.

Mutta vaikka nämä palvelut ja laitteet tarvitsevat jatkuvan yhteyden pilveen AI-toimintojen toteuttamiseksi, NSW-droonit voivat suorittaa kuvanhavaintotehtävänsä kiinteällä Internet-yhteydellä tai ilman, kiitos hermolaskentapiirien, joiden avulla ne voivat suorittaa syväoppimislaskelmat paikallisesti.

Nämä sirut ovat osa kasvavaa suuntausta reunalaskentainnovaatioihin, jotka antavat ohjelmistokäyttöisille laitteillemme mahdollisuuden suorittaa ainakin joitain kriittisiä toimintoja ilman jatkuvaa yhteyttä pilveen. Reunalaskennan nousu auttaa ratkaisemaan uudet ja vanhat ongelmat ja tasoittaa tietä seuraavan sukupolven älylaitteille.

Pilven rasittaminen

Kahden viimeksi kuluneen vuosikymmenen aikana pilvestä on tullut defacto-tapa sovellusten ylläpitämiselle, syystäkin.

"Asia, joka tekee pilvestä niin houkuttelevan, on, että se pyrkii purkamaan kaiken suorittamasi toiminnan aloittamisen kustannukset", sanoo Rob High, IBM Watsonin tekninen johtaja. "Pilvi antaa ihmisille mahdollisuuden… ratkaista todelliset ongelmat tänään ilman, että tarvitsee käydä läpi infrastruktuurin luomiskustannuksia."

Arkaluontoisen Internet-yhteyden ja lähes lukemattomien pilvisovellusten, palveluiden ja kehitysalustojen ansiosta sovellusten luomisen ja käyttöönoton esteet ovat vähentyneet huomattavasti. Pilvipalveluntarjoajien, kuten IBM, Google ja Amazon, valtavat resurssit ovat vauhdittaneet triviaalien yrityssovellusten lisäksi myös monimutkaisten ohjelmistojen kehittämistä, jotka vaativat valtavia määriä laskentaa ja tallennusta - AI- ja koneoppimisalgoritmit sekä streaming- ja AR (lisätyn todellisuuden) sovellukset.

Mutta nämä edistykset ovat myös luoneet haasteen: Suurin osa käyttämistämme sovelluksista ei voi toimia, elleivät ne ole yhteydessä pilveen. Tämä sisältää suurimman osan tietokoneilla ja puhelimilla toimivista sovelluksista sekä jääkaappien, termostaattien, ovilukkojen, valvontakameroiden, autojen, droonien, sääsensorien ja niin edelleen ohjelmistojen.

Asioiden Internet (IoT) syntyessä yhä useammat laitteet käyttävät ohjelmistoja ja tuottavat tietoja, ja suurin osa niistä vaatii linkin pilveen tietojen tallentamiseksi ja käsittelemiseksi. Tietojen lähettämiseen pilveen tarvitaan valtavasti energiaa ja kaistanleveyttä, ja tietojen tallentamiseen tarvittava tila haastaa jopa tehokkaimpien pilvipotilaiden resurssit.

"Näissä järjestelmissä keräämme paljon tietoa riippumatta siitä, onko kyseessä reuna, IoT-laite tai jokin muu paikka, josta voit melkein päättää olla välittämättä", High sanoo. Mutta jos jokaisen päätöksen on tapahduttava pilvessä, kaikki nämä tiedot on lähetettävä verkon kautta pilvipalvelimille, jotka on puhdistettava ja suodatettava.

Esimerkiksi High nimeää modernit lentokoneet, jotka sisältävät satoja antureita, jotka valvovat suihkumoottoria ja keräävät satoja gigatavuja tila- ja suoritustietoja kunkin lennon aikana. "Kuinka suuri osa tiedoista todella on tärkeä, jos haluat analysoida sitä aggregaatin perusteella? Todennäköisesti vain murto-osa siitä", High sanoo. "Miksi et vain päästä eroon siitä lähteessä, kun se ei ole tarpeen muulle tekemällesi?"

Sen tekeminen, mitä High ehdotti pilven ulkopuolella, oli aikaisemmin kaikkea muuta kuin mahdotonta, mutta edistyminen pienitehoisissa ja edullisissa System-on-Chip (SoC) -prosessoreissa on antanut reunalaitteille enemmän laskentatehoa ja antanut heille mahdollisuuden kantaa osa niiden laskentataakasta ekosysteemejä, kuten reaaliaikaisen analyysin suorittaminen tai tietojen suodattaminen.

"Reunaympäristössä on niin paljon tietoa, on järkevää tuoda osa pilvilaskentaominaisuuksista reunalaitteen laskentakapasiteettiin", High sanoo.

Yksityisyyden suoja

Reunalaskennan edut eivät ole rajoittuneet pilviresurssien vapauttamiseen.

Remi El-Ouazzane, uuden teknologian ryhmä ja Movidiusin (Intel) toimitusjohtaja, mainitsee kaupalliset turvakamerat toisena esimerkkinä siitä, milloin reunalaskennalla voi olla valtava ero. Näet nämä kamerat liikennevaloissa, lentokentillä ja rakennusten sisäänkäynnillä tallentaen ja suoratoistamalla korkealaatuista videota verkossa ympäri vuorokauden.

"Mitä vähemmän tietoja sinun on kuljetettava takaisin palvelimelle tai tietokeskukseen, sitä enemmän hankausta ja hienostumista voit tehdä paikallisesti, sitä paremmat omistajuuden kokonaiskustannukset ovat varastoinnin ja siirron kannalta", El-Ouazzane sanoo.

Tämä tarkoittaa sitä, että kameroille annetaan valta analysoida omia videosyötteitä, määrittää, mitkä videokuvat tai pituudet vaativat huomion, ja lähettää vain kyseiset tiedot palvelimelle.

Kun nämä kamerat asennetaan kotiisi, toimistoosi tai mihin tahansa yksityiseen sijaintiin, yhteys pilveen tulee myös potentiaaliseksi turvallisuusongelmaksi. Hakkerit ja tietoturvatutkijat ovat kyenneet vaarantamaan kodinkoneiden ja pilvipalvelimien välisen yhteyden salaamaan herkkiä videosyötteitä. Tietojen jäsentäminen paikallisesti eliminoi videoputken tarpeen kodin, yksityiselämäsi ja palveluntarjoajan välillä.

Intelin vuonna 2016 hankkima Movidius on yksi monista startup-yrityksistä, jotka tekevät tietokonepiireistä erikoistuneita AI-tehtäviin, kuten puheentunnistukseen ja tietokonevisioon. Yhtiö valmistaa visioprosessointiyksiköitä (VPU) - pienitehoisia prosessoreita, jotka käyttävät hermoverkkoja, jotka analysoivat ja "ymmärtävät" digitaalisten kuvien tilannetta ilman tarvetta lähettää niitä takaisin pilveen.

Movidius Myriad 2 on aina päällä oleva visioprosessori, joka on tarkoitettu virtarajoitettuihin ympäristöihin.

"Kun kamera ymmärtää sen semantiikan, mitä se tarkastelee, kyvystä asettaa sääntöjä siitä, mitä kamera voi tehdä tai mitä ei voida tehdä, on tulossa erittäin helpoksi tehtäväksi", El-Ouazzane sanoo. "Sinun ei tarvitse itse vangita olohuoneesi seuraavien 12 tunnin aikana vain tietääksesi, että tietyllä hetkellä koirasi ylitti maton sohvan edessä."

Muut yritykset tutkivat erikoistuneen AI-pohjaisen reunalaskennan käyttöä käyttäjien yksityisyyden suojaamiseksi. Esimerkiksi Apple iPhone X: n virtalähteenä on A11 Bionic -siru, joka pystyy suorittamaan AI-tehtäviä paikallisesti antaen sille mahdollisuuden suorittaa monimutkainen kasvojentunnistus lähettämättä käyttäjän kuvakaappausta pilveen.

Lisää AI-käsittelyä reunalla voi tasoittaa tietä hajautetulle tekoälylle, jossa käyttäjien on jaettava vähemmän tietoja suurten yritysten kanssa käyttääkseen AI-sovelluksia.

Lyhennys viiveellä

Toinen isojen pilvipalvelujen tarjoajien ongelma on, että niiden tietokeskukset sijaitsevat suurten kaupunkien ulkopuolella ja sijoittavat ne satojen ja tuhansien mailien päässä ihmisistä ja laitteista, jotka käyttävät sovelluksiaan.

Monissa tapauksissa pilviin ja pilviltä kulkevien tietojen aiheuttama latenssi voi antaa huonon suorituskyvyn tai vielä pahemmin tappavia tuloksia. Tämä voi olla drooni, joka yrittää välttää törmäykset tai laskeutumisen epätasaiselle alustalle, tai itse ajava auto, joka yrittää päättää, törmääkö se esteeseen vai jalankulkijaan.

Movidiuksen kevyt syvien neuroverkkojen ja tietokoneen näkemyksen toteutus tekee siruistaan ​​sopivia mobiililaitteille kuten droneille, joille virrankuluttavat laitteet, kuten GPU: t, eivät ole toteutettavissa. Droonit ovat erityisen mielenkiintoinen tutkimus, koska he tarvitsevat pienen viiveen pääsyn AI-laskentaan ja niiden on toimittava offline-tilassa.

Eleiden havaitseminen toisena alueena, jolla reunalaskenta auttaa parantamaan droonikokemusta. "Tavoitteena on tehdä droneista monien saatavilla, ja ele näyttää olevan hieno tapa ihmisille käyttää niitä. Viiveellä on merkitystä, kun eleet droonia suorittamaan jotain tehtävää", El-Ouazzane sanoo.

Aloittelijoille, kuten Skylift Global, joka tarjoaa raskaan kaluston drone-palveluita pelastustyöntekijöille ja ensiavustajille, alhaisen viiveen käyttö AI: n ja laskennallisten resurssien kanssa voi säästää rahaa ja ihmishenkiä. "Se vähentää huomattavasti tiedonsiirtokustannuksia, vähentää verkon viivettä, lisää tietoturvaa ja auttaa muuttamaan tiedon virtaamista reaaliaikaisiksi päätöiksi", sanoo Skyliftin toimitusjohtaja ja perustaja Amir Emadi.

Toimitusten toimittaminen ensimmäisille vastaajille vaatii toisen sekunnin päätökset. "Mitä enemmän aikaa kuluu, esimerkiksi metsäpalon torjunnassa, sitä kalliimmaksi tulee tilanteen korjaaminen. Kun droonimme pystyvät tekemään reaaliaikaisia ​​päätöksiä reunalla jopa menettäessään yhteydet, pystymme säästämään enemmän elämää, rahaa ja aikaa ", Emadi sanoo.

Muita lähes reaaliaikaista laskentaa tarvitsevia alueita ovat laajennetut ja virtuaalitodellisuussovellukset sekä itsenäiset ajoneuvot. "Nämä ovat kaikki kokemuspohjaisia ​​laskentaympäristöjä. Niitä tapahtuu ihmisten ympäri", sanoo Zachary Smith, New Yorkin yrityksen perustavan Packetin toimitusjohtaja Zachary Smith, joka keskittyy antamaan kehittäjille pääsy erittäin hajautettuun laitteistoon.

AR- tai VR-sovellus, joka ei voi pysyä käyttäjän liikkeiden mukana, aiheuttaa joko huimausta tai estää kokemuksesta muuttuvan syvälliseksi ja todelliseksi. Ja viive on vielä enemmän ongelma, kun itse ajavat autot, jotka luottavat voimakkaasti tietokoneen näkemykseen ja koneoppimisalgoritmeihin, tulevat valtavirtaan.

"30 millisekunnin viiveellä ei ole merkitystä verkkosivustosi lataamisessa, mutta autolla on todella merkitystä, kun se määrittää 60 mph: n nopeuden, tuleeko sen kääntyä vasemmalle tai oikealle välttääksesi törmäystä pikkutytöksi", Smith kertoo.

Reunan haasteisiin vastaaminen

Huolimatta tarpeesta tuoda tietokoneet lähemmäksi reunaa, erikoistuneen laitteiston asettaminen jokaiseen laitteeseen ei ehkä ole lopullinen vastaus, Smith myöntää. "Miksi et vain laita kaikkia tietokoneita autoon? Mielestäni sen on todella tekemistä sen kehityksen kanssa, kuinka nopeasti pystyt hallitsemaan sen elinkaarta", hän sanoo.

"Kun laitat laitteistoa maailmaan, se pysyy siellä yleensä viidestä kymmeneen vuotta", Smith sanoo, kun taas tekniikka, joka virittää näitä kokemukseen perustuvia käyttötapoja, kehittyy joka kuusi-12 kuukautta.

Jopa erittäin suuret yritykset, joilla on monimutkaiset toimitusketjut, kamppailevat usein laitteistonsa päivittämisen kanssa. Vuonna 2015 Fiat Chrysler joutui palauttamaan 1, 4 miljoonaa ajoneuvoa korjatakseen viisi vuotta aiemmin paljastuneen tietoturva-aukon. Ja jättiläinen siruvalmistaja Intel on edelleen etsimässä käsitelläkseen suunnitteluvirheen, joka altistaa satoja miljoonia laitteita hakkereille.

Movidiuksen El-Ouazzane tunnustaa nämä haasteet. "Tiedämme, että joudumme joka vuosi vaihtamaan tuotevalikoiman, koska tuotamme joka vuosi enemmän älykkyyttä ja pyydämme asiakkaitamme päivittämään", hän sanoo.

Jotta vältetään jatkuvat muistutukset ja jotta asiakkaat voivat käyttää pitkäaikaista reunalaitteistoaan, Movidius pakata prosessoreihinsa lisäresursseja ja kapasiteettia. "Tarvitsemme seuraavien vuosien kyvyn suorittaa päivityksiä näihin tuotteisiin", El-Ouazzane sanoo.

Smithin yritys Packet käyttää erilaista lähestymistapaa: Se luo mikrotietokeskuksia, jotka voidaan ottaa käyttöön kaupungeissa lähempänä käyttäjiä. Yhtiö voi sitten tarjota kehittäjille erittäin alhaisen viiveen laskennallisia resursseja - niin lähellä kuin pääset käyttäjiin asettamatta todellista laitteistoa reunaan.

"Uskomme, että tarvitaan infrastruktuurin toimitusmekanismi laitteiden asettamiseen, joihin kehittäjät voivat käyttää jokaista kaupunkia maailmassa", Smith sanoo. Yhtiö toimii jo 15 paikkakunnalla ja aikoo laajentua lopulta satoihin kaupunkeihin.

Mutta Packetin tavoitteet menevät pidemmälle kuin pienoiskuvien luominen hajauttamistiloista, joita ylläpitää Google ja Amazon. Kuten Smith selittää, erikoistuneen laitteiston käyttöönotto ja päivitys ei ole mahdollinen julkisessa pilvessä. Packet-liiketoimintamallissa valmistajat ja kehittäjät lähettävät erikoistuneita laitteistoja yrityksen reunaan sijaitseviin tietokeskuksiin, joissa he voivat päivittää ja päivittää sen nopeasti tarpeen vaatiessa, samalla kun varmistetaan, että niiden käyttäjät saavat supernopean pääsyn laskentaresursseihin.

Hatch, yksi Packetin asiakkaista, on spin-off Roviosta, matkapuhelinyhtiöstä, joka loi Angry Birdsin. Yhtiö käyttää Androidia reunalaskentapalvelimilla tarjotakseen matalan viiveen moninpelien suoratoistopalvelut käyttäjille, joilla on huippuluokan Android-laitteita.

"tarvitsee melko erikoistuneita ARM-palvelimia kaikilla näillä markkinoilla ympäri maailmaa", Smith sanoo. "He ovat räätälöineet palvelintarjontamme kokoonpanot, ja laitamme sen kahdeksalle globaalille markkinoille kaikkialla Euroopassa. Pian ne ovat 20 tai 25 markkinoita. Tuntuu Amazonilta heille, mutta he saavat käyttää räätälöityjä laitteita kaikilla markkinoilla Euroopassa.."

Teoriassa Hatch voisi tehdä saman julkisessa pilvessä, mutta kustannukset tekisivät siitä tehottoman liiketoiminnan. "Ero on 100 käyttäjän asettamista prosessoria kohti verrattuna 10000 käyttäjän käyttämiseen prosessoria kohti", Smith sanoo.

Smith uskoo, että tämä malli vetoaa kehittäjä sukupolvelle, joka ajaa seuraavia ohjelmistoinnovaatioita. "Keskitymme siihen, kuinka yhdistää ohjelmistojen sukupolvi, ihmiset, jotka kasvoivat pilvessä, erikoistuneilla laitteiden primitiivillä", Smith sanoo. "Puhumme käyttäjistä, jotka eivät voi edes avata MacBookiaan katsoakseen sisälle, ja se on henkilö, joka aikoo tehdä innovaatioita laitteisto- / ohjelmisto-pinoon."

Häviävätkö pilvet?

Kun reunalaitteet kykenevät suorittamaan monimutkaisia ​​laskennallisia tehtäviä, onko pilven tulevaisuus vaarassa?

"Minulle reunalaskenta on seuraava luonnollinen ja looginen pilvilaskennan eteneminen", sanoo IBM Watson's High.

Itse asiassa vuonna 2016 IBM julkaisi joukon työkaluja, joiden avulla kehittäjät jakoivat saumattomasti tehtäviä reunan ja pilven välillä, etenkin Internet-ekosysteemeissä, joissa reunalaitteet keräävät jo paljon tietoa välittömästä ympäristöstään. Ja loppuvuodesta 2016 Amazon Web Services, toinen suuri pilvien kehitysalusta, ilmoitti Greengrassista, palvelusta, jonka avulla Internet-kehittäjät voivat ajaa pilvisovellustensa osia reunalaitteillaan.

Mikään tämä ei tarkoita, että pilvi menee pois. "On vain monia asioita, jotka voidaan tehdä paremmin pilvessä, jopa silloin, kun paljon työtä tehdään vielä reunalla", High sanoo. Tähän sisältyy tehtäviä, kuten tietojen yhdistäminen monista eri lähteistä ja laaja-alaisen analyysin tekeminen valtavien tietojoukkojen avulla.

"Jos meidän on luotava malleja AI-algoritmeihin, joita käytämme näissä reunalaitteissa, näiden mallien luominen ja kouluttaminen on silti erittäin massiivinen laskentavaltainen ongelma, ja usein se vaatii laskentakapasiteettia, joka ylittää selvästi sen, mitä näillä reunalaitteilla on käytettävissä, " Korkea sanoo.

El-Ouzzane on samaa mieltä. "Mahdollisuus kouluttaa AI-malleja paikallisesti on erittäin rajallinen", hän sanoo. "Syvän oppimisen kannalta koulutuksella on vain yksi paikka istua, ja se on pilvessä. Siellä saat tarpeeksi laskentaresursseja ja tarpeeksi tallennustilaa, jotta pystyt käsittelemään suuria tietojoukkoja."

El-Ouazzane -laitteissa käytetään myös tapauksia, joissa reunalaitteille annetaan tehtävä- ja aikakriittisiä tehtäviä, kun taas pilvi huolehtii edistyneemmistä ohjeista, jotka eivät ole latenssista riippuvaisia. "Elämme jatkuvuuden maailmassa pilven ja reunan välillä."

"Reunalaskennan ja pilvilaskennan välillä on hyvin symbioottinen ja synergistinen suhde", High sanoo.