Kuinka gdpr vaikuttaa lentoteollisuuteen | Ben Dickson

Eräässä sellaisessa asekilpailussa tekniikkayritykset ovat keränneet suuria määriä käyttäjätietoja hioakseen heidän sovelluksiaan ja alustojaan tehostavan tekoälyn algoritmeja. Toistaiseksi he ovat useimmiten pystyneet välttämään vastuuvelvollisuutta, kun heidän käytänteensä ovat ajaneet heidät laillisesti ja eettisesti harmaalle alueelle.

Mutta se saattaa muuttua 25. toukokuuta, kun Euroopan unionin yleiset tietosuojamääräykset (GDPR) tulevat voimaan. GDPR asettaa ennennäkemättömiä rajoituksia käyttäjätietojen keräämiselle ja käsittelemiselle EU: n alueella ja määrää ankarat rangaistukset yrityksille, jotka eivät noudata niitä.

Tämä saattaa kuulostaa huonoilta uutisilta yrityksille, jotka käyttävät AI-algoritmeja, joille on hyötynyt turhasta tiedonkeruusäännöstöstä (ja palveluasiakirjojen pitkistä, tylsistä ja epäselvistä ehdoista). Jotkut pelkäävät, että tiukemmat säännöt estävät innovointia ja keinoälyn käyttöönottoa monissa sovelluksissa ja aloilla. Toiset uskovat, että uusi direktiivi luo perustan, jossa AI-sovellukset tulevat luotettavammiksi ja luotettavammiksi.

AI-teollisuudessa on tapahtumassa suuri muutos GDPR-aikakaudella.

Tietojen omistus ja yksityisyys

"GDPR on iso juttu AI: lle, koska se edellyttää, että ajatellaan toisin kuin miten keräämme ja käytämme tietoja", sanoo Tim Estes, Digital Reasoning -yrityksen perustaja ja presidentti. "Teknologiayritykset ovat jo kauan vaatineet, että voidaksesi saada arvoa tuotteistaan ​​ja palveluistaan, sinun on luopunut tiedoista."

Aikaisemmin yritysten oli vaadittava käyttäjiltä vain epämääräistä suostumusta kaikenlaisten tietojen keräämiseen. "AI on auttanut pitämään big-data hype'n elossa - tarjoamalla vielä yhden syyn, miksi yritysten tulisi kerätä ja kaivoa kaikki saatavilla olevat tiedot", Estes sanoo. "Monet yritykset ovat alkaneet toteuttaa AI: n analysoidakseen tietojaan vain siksi, että heidän mielestään pitäisi - ajattelematta vaikutuksia käyttäjän yksityisyyteen tai tiedon omistamiseen."

GDPR: n perusajatus on, että tiedot kuuluvat käyttäjille. GDPR: n nojalla yritysten on paljastettava kokoamansa tiedon laajuus sekä se, kuinka he käyttävät sitä ja kuinka ne suojaavat ja estävät luvattoman pääsyn. Uudet säännöt pakottavat AI-yrityksiä olemaan huolellisempia kerättämissä tiedoissa sen sijaan, että he harjoittavat tahtojen keräämistä, käsittelyä ja käyttäjätietojen jakamista.

Oikeus unohtaa

GDPR antaa käyttäjille vallan vaatia yritystä poistamaan kaikki tietonsa palvelimiltaan. Tämä ei sovi hyvin AI-yrityksille, jotka ovat kiinnostuneita pitämään mahdollisimman paljon käyttäjätietoja voidakseen suorittaa tehtäviä, kuten ennustaa suuntauksia ja käyttäjän käyttäytymistä.

"Päivän lopussa GDPR: ssä on kyse siitä, kuinka keräät ja hallitset tietoja eikä välttämättä siitä, kuinka paljon tietoja sinulla on", sanoo GrowthChannelin toimitusjohtaja Maryna Burushkina. "Suurin osa vaikeuksista, joita useimmat yritykset kohtaavat, ei liity opt-in-ohjelmien saamiseen, vaan enemmän tietojen hallintaan, tiedon ilmoittamiseen käyttäjille ja käyttäjille mahdollisuuden poistamiseen."

AI-yritysten on suoritettava ylimääräiset vaiheet tietojen nimettömäksi tekemiseksi, jos he haluavat silti päästä näihin oivalluksiin. Mutta muut haasteet kohtaavat yrityksiä, joilla on jo suuria käyttäjätietoja.

"GDPR: n nojalla, jos yritys haluaa poistaa tietyn henkilöllisyystodistuksen, heidän on varmistettava, että se poistetaan kaikkialta", sanoo Octopaiin toimitusjohtaja Amnon Drori. Tämä voi olla pelottava tehtävä suorittaa manuaalisesti, kun tietosi ovat hajallaan eri palvelimille ja tallennetaan erilaisiin jäsenneltyihin ja jäsentämättömiin muotoihin.

Esimerkiksi, kun poistetaan käyttäjän luottokorttinumero (varmasti arkaluonteinen tieto), yritysten on tutkittava jokainen raportti, tietokanta, tietokantaobjekti ja ETL, johon tiedot tallennetaan. "Joskus näemme samalle kohteelle erilaisia ​​metatietonimiä: esimerkiksi 'luottokortin numero', 'kopion numero', luoton c numero ', ' kortin numero ', ' luottokortin numero '…. luettelo jatkuu ja päällä ", Drori sanoo. Usein on mahdotonta tietää mistä etsiä, ja prosessi voi viedä viikkoja tai jopa kuukausia, ja kuten monet manuaaliset prosessit, se on alttiina inhimillisille virheille ja epätarkkuuksille, Drori sanoo.

GDPR nostaa myös ihmisten virheiden kustannuksia tietojen käsittelyssä. "Siksi niin monet yritykset etsivät nykyään automatisoitua ratkaisua metatietojensa hallitsemiseksi tarkasti", Drori sanoo. Ehkä ironista kyllä, AI itsessään voi olla ratkaisu tässä suhteessa. AI-pohjaiset metatietojen hallintatyökalut voivat skannata kaikki organisaation tietolähteet ja yhdistää suhteet eri työkalujen ja tietolähteiden välillä.

Oikeus selitykseen

Yksi GDPR: n merkittävimmistä osista AI: n suhteen on tullut nimellä "oikeus selitykseen". Direktiivissä todetaan, että yritysten on ilmoitettava käyttäjille "automatisoidun päätöksenteon olemassaolosta" ja annettava heille "merkityksellisiä tietoja siihen liittyvästä logiikasta sekä tällaisen käsittelyn merkityksestä ja arvioiduista seurauksista rekisteröidylle".

Tämä tarkoittaa pohjimmiltaan sitä, että käyttäjien on tiedettävä, milloin he ovat suoraan tai epäsuorasti AI-algoritmien alaisia, ja heidän pitäisi voida haastaa näiden algoritmien tekemät päätökset ja pyytää todisteita päätelmän johtamisesta. Tämä on yksi suurimmista haasteista, joita AI-teollisuus kohtaa.

Syvät hermoverkot, nykyaikaisten AI-algoritmien pääteknologia, ovat monimutkaisia ​​ohjelmistorakenteita, jotka luovat omat toiminnallisuussäännöt analysoimalla suuria tietoryhmiä ja etsimällä korrelaatioita ja malleja. Kun hermoverkot kasvavat monimutkaisemmiksi, niiden käyttäytyminen on yhä vaikeampaa hajottua. Usein edes insinöörit eivät osaa selittää niiden AI-algoritmien tekemien päätösten syitä.

"Musta laatikko" -ongelma, AI-algoritmien selittämättömyys on vaikeuttanut niiden toteuttamista oikeussalin päätöksissä, lainvalvonnassa, laina- ja luottohakemuksissa, rekrytoinnissa, terveydenhuollossa ja muissa kriittisissä aloissa. Mutta ilman oikeudellista vaikutusvaltaa, AI-yrityksillä ei ollut juurikaan kannustimia tehdä AI-algoritmeistaan ​​avoimempia, etenkin kun ne olivat tiiviisti sidoksissa liikesalaisuuksiin.

Nyt GDPR pitää AI-yrityksiä ottamaan huomioon algoritmiensa tekemät päätökset.

"Osana GDPR: ää organisaatioiden on kuvailtava prosessointimenetelmä selkeästi ihmisen kielellä ja pyydettäessä suostumusta tutkijalta", sanoo Radwaren turvallisuustutkija Pascal Geenens. "Syvän oppimisen edetessä ja tietojen tutkijat eivät pysty luonnehtimaan hermoverkon perustelujen takana olevaa determinististä luonnetta, tästä kuvauksesta saattaa tulla monimutkaisempi ja vaikea selittää."

Pohjimmiltaan GDPR: n tarkoituksena on tehdä tietojen käsittelystä vastuussa olevat ihmiset, Geenens sanoo. Joten jos käytät prosessoinnissa koneoppimisalgoritmeja, sinun on suunniteltava ne tavalla, joka auttaa sinua selittämään päätökset, jotka he tekevät puolestasi.

Muutama organisaatio yrittää kehittää tekniikoita AI: n avoimuuden lisäämiseksi. Näistä merkittävämpi on DARPAn selitettävä AI (XAI), tutkimusprojekti, jonka tavoitteena on tehdä AI-pohjaiset päätökset ymmärrettäviksi.

AI: n ulkoistaminen

GDPR vaikuttaa myös organisaatioihin, jotka asettavat tietonsa kolmansien osapuolten saataville. Näkyvä esimerkki tällaisesta yrityksestä on Facebook; sosiaalisen median jättiläinen ei onnistunut estämään tietojen kaivosyritystä keräämästä ja väärinkäyttämästä 87 miljoonan käyttäjän tietoja Cambridge Analytica -skandaalissaan. Mutta GDPR: llä on vaikutuksia myös yrityksiin, jotka ulkoistavat AI-toiminnallisuutensa ja asettavat tietonsa AI-toimittajien saataville.

"Vaikka monet olettavat, että AI-palveluntarjoajat ovat kuin muut palveluntarjoajat - yksinkertaisesti tarjoamalla tekniikkaansa vastineeksi rahallisesta korvauksesta - totuus on, että AI-palveluntarjoajat tekevät myös liikekumppanuuksia keinona rakentaa ja kehittää tekniikkaansa", sanoo päällikkö Estes. toimeenpaneva Digital Reasoning. Tämä tarkoittaa, että AI-palveluntarjoaja saattaa haluta pitää kiinni asiakkaan tiedoista omien algoritmiensa jatkokoulutusta varten ja käyttää niitä muilla alueilla.

Esimerkiksi AI-palveluntarjoaja, joka auttaa terveydenhuollon organisaatiota löytämään oiremallit ja parantamaan diagnooseja, saattaa kohdata tietojoukon, joka parantaa sen omistamia algoritmeja. AI-yritys voi sitten haluta hyödyntää tietoja parantaakseen algoritmejaan muun tyyppisissä potilaiden hoidossa ja kehittääkseen kykyään auttaa muita terveydenhuollon tarjoajia. GDPR: n mukaan tiedoista vastuussa oleva terveydenhuollon organisaatio on vastuussa AI: n tarjoajan epäeettisestä käytöstä. Avain, Estes uskoo, on, että yritykset etsivät AI-palveluntarjoajia, jotka uskovat algoritmien, ei datan omistamiseen.

"GDPR pakottaa yritykset kiinnittämään tarkempaa huomiota siihen, miten ja milloin heidän tietojaan käytetään, missä niitä säilytetään ja mitä sillä tapahtuu projektin valmistuttua", Estes sanoo. "Tämä tarkoittaa yhteistyötä AI-palveluntarjoajien kanssa, jotka auttavat määrittelemään tiedon omistuslinjat ja toteuttamaan strategioita, jotka suojaavat käyttäjätietoja, estämättä kuitenkaan tapoja, joilla se voi auttaa kehittämään AI-algoritmien menestystä."

Haittaako GDPR AI-innovaatiota?

Asiantuntijoidemme kanssa, joiden kanssa puhuimme, uskoimme, että vaikka uudet määräykset haastavat AI-yritysten nykyiset käytännöt ja tottumukset, se pakottaa heidät myös löytämään uusia tapoja innovoida ja ylläpitämään myös yksityisyyttä ja eettisiä normeja.

"Kun GDPR-asetus tulee voimaan, kaikki suuret ohjelmistoyritykset ryhtyvät tarvittaviin toimenpiteisiin noudattamisen varmistamisen lisäksi myös innovoidakseen ja ajatellessaan uusia mahdollisuuksia löytää markkinoille uusia mahdollisuuksia", GrowthChannel -yrityksen Burushkina sanoo.

"GDPR ei haittaa innovaatiota - vaan ohjaa ja motivoi sitä", sanoo Octopai's Drori. Samaan aikaan GDPR tuottaa myös uusia yrityksiä ja tekniikoita, jotka auttavat organisaatioita saavuttamaan ja ylläpitämään GDPR-vaatimustenmukaisuutta.

GDPR: n asettamat standardit saattavat tosiasiallisesti auttaa ylittämään kasvavan luottamuskuilun AI-pohjaisten palvelujen tarjoajien ja käyttäjien välillä. Estes uskoo, että GDPR tekee sekä AI-palveluntarjoajista että tekniikkaansa toteuttavista entistä vastuullisempia siitä, miten ja missä he käyttävät tietolähteitä ja ajavat heidät asettamaan käyttäjät ennen voittoja. "Päivän lopussa", hän sanoo, "AI-palveluntarjoajien on omistettava vain algoritmit - ei tietoja - niiden ominaisuuksien ja ratkaisujen innovoimiseksi."