Teknologia: kuinka korjata viat googlessa ja facebookissa

Ehkäpä yllättävin teema tämän vuoden tekniikassa oli kuinka järkyttyneitä monet puhujat ovat Facebookissa, Googlessa ja Twitterissä kritiikin keskittyessä heidän lähestymistapaansa yksityisyyteen ja etenkin siihen mahdolliseen rooliin, jota he esittivät Venäjän hakkeroinnin mahdollistamiseksi vuoden 2016 vaaleissa.

Laaja valikoima puhujia halusi näiden "Internet-jättiläisten" erityyppistä sääntelyä, eikä kukaan edellä mainituista yrityksistä ollut konferenssissa tarjoamaan vaihtoehtoista näkökulmaa. Tämä oli hyvin erilainen kuin viime vuoden konferenssissa, kun Facebookin toimitusjohtaja Mark Zuckerberg sanoi, että ajatus, että Facebookin vääriä uutiset vaikuttivat vaaleihin, oli "melko hullu idea".

Sittemmin, kuten Techonomyn perustaja Simone Ross totesi, olemme oppineet, että "tekniikan avulla on niin helppoa jakaa meidät kuin koota yhteen". Konferenssin perustaja David Kirkpatrick (yllä) asetti konferenssin äänen sanomalla, että "tekniikka on voimaa hyvälle, mutta vain jos hyvä on tavoitteesi", ja jatkoi, että hän uskoi suurten teknologiayritysten tarvitsevan "ennakoivaa" leikkaus "hallituksen kanssa, kutsutaanko sitä sääntelyksi vai ei.

Viranomainen verkottuneessa, keinotekoisesti älykkäässä maailmassa

Tunnettu sijoittaja Roger McNamee Elevation Partnersista, varhainen sijoittaja sekä Facebookissa että Googlessa, oli ehkä kielteisin kaikista puhujista. McNamee sanoi, että nämä yritykset "alkoivat pelastaa maailmaa", mutta tämä muuttui, kun mainonnasta tuli heidän liiketoimintamallinsa. Hän sanoi, että älypuhelin yhdistettynä henkilökohtaisiin tietoihin on mahdollistanut "luoda aivojen hakkeroinnin tason, jota ei koskaan ennen ole nähty mediassa".

McNamee kertoi uskovansa Zuckerbergin olevan vilpitön sanoessaan, ettei hän usko tällaiseen hakkerointiin mahdollista vuosi sitten, mutta sanoi, että Googlen ja Facebookin nykyistä roolia ei voida yliarvioida. Hän kommentoi: "Niiden on oltava vaikeaa olla nyt ja ymmärtää, että olet tuhonnut länsimaisen sivilisaation."

danah boyd, Data & Yhteiskunta; Roger McNamee, Elevation Partners; Marc Rotenberg, sähköinen tietosuojakeskus (EPIC); Stratford Sherman, Palvelut

Tämä keskustelu tuli esiin osana paneelia aiheesta "Viranomaiset verkottuneessa, keinotekoisesti älykkäässä maailmassa", johon osallistui myös danah boyd, yhteiskuntatieteilijä Data & Society- ja Microsoft Research -yrityksillä; Marc Rotenberg, sähköisen tietosuojakeskuksen (EPIC) puheenjohtaja; ja moderaattori Stratford Sherman of Companpli. Sherman sanoi, että vaikka Facebook ja Google aloittivat julkisen puheen foorumeina, he ovat "radikaalisti sääntelemättömiä". AI: n kanssa, joka voi perustavanlaatuisesti vaikuttaa ihmiskunnan horisonttiin, Sherman kertoi olevansa huolissaan jo havaitsemmemme teknologisen kehityksen tahattomista seurauksista.

Rotenberg kertoi, että vaikka hän on edelleen huolissaan perinteisistä tietosuojakysymyksistä seuraamisen ja profiloinnin suhteen, hän on huolissaan kilpailun puutteesta, innovaatioiden puutteesta ja demokraattisille instituutioille aiheuttamasta riskistä. Hän sanoi, että Internet-jättiläisillä on valtava voima, ja heidän hallussaan olevat tiedot luovat todellisen pääsyn esteen, joten merkityksellistä kilpailua ei ole. Rotenberg kertoi olleensa Washingtonissa Reaganin hallinnon jälkeen ja ensimmäistä kertaa "viime vuoden vaaleissa ei tuntenut olevansa tuttua".

Aikaisemmassa istunnossa boyd, joka kirjoitti kirjan nimeltä Se on monimutkainen , puhui Internetin manipuloinnin vaikeuksista.

Hän puhui lisääntyneestä manipulaatioprosessista viimeisen 20 vuoden aikana, joka alkoi lasten kanssa uistellen Oprahia ja eteneneen "rickrolliksi" ja muun muassa hakutulosten muuttamiseen nimellä "Santorum". Viime aikoina Gamergaten kanssa suuremmista hahmoista on tullut pelaajia, mukaan lukien valtion toimijat. Boyd sanoi, että Internet-yritykset luulevat, että AI voi suojella heitä, mutta tuloksia manipuloivat ryhmät kokeilevat jo luonnollista kielenkäsittelyä ja mikä tärkeintä, tietolähteiden väärinkäyttämiseen. Esimerkiksi huonojen tietojen syöttäminen järjestelmään on hänen mielestään uusi haavoittuvuus. Boyd sanoi kuitenkin, että ainoa vastaus on "rakentaa teknisiä vasta-aineita teollisuudellemme".

Tässä istunnossa Boyd kertoi, että teknologiayritykset harkitsevat manipulointia useilla rintamilla, ja totesi, että vaikka kaikki katsovat Venäjää, monet muut valtiot harjoittavat vastaavia toimia. Esimerkiksi kiinalaiset yritykset yrittävät varmistaa, että ne hallitsevat AI: tä, ja hän sanoi, että tämä asettaa erilaisen haasteen, koska kyse ei ole teollisuuskilpailusta vaan kilpailusta valtion kanssa.

Shermanin kysyessä, onko tämä sota, Boyd sanoi, että hänen mielestään se on, kun taas McNamee sanoi, että se on klassinen sissisota, koska vihollisemme ovat käyttäneet tekniikkaamme meitä vastaan. McNamee sanoi, että ongelma ei ole sosiaaliset verkostot tai haku, vaan mainosmalli. Hän sanoi taistelussa ihmisten huomiosta, että aine haudataan sensaation kautta, ja lainasi vanhaa sananlaskua, että "jos se vuotaa, se johtaa".

Sherman totesi, että pelko ja viha ovat paljon magneettisempia ja siten paljon halvempia. Hän sanoi, että vaikka orgaanisia viestejä käytettiin yli 125 miljoonan ihmisen tavoittamiseen, pyrkimyksenä oli mainosten jakaminen ihmisiin ryhmiin yhteisten etujen perusteella.

Rotenberg kertoi kannattavansa algoritmien avoimuuden lisäämistä ja mainonnan sääntelyä, mutta sanoi, että meidän on kunnioitettava yksilöiden oikeutta puhua verkossa. Mutta McNamee sanoi, että "ensimmäinen muutos on aseistettu" ja että online-tilat eroavat pohjimmiltaan julkisesta aukiosta.

boyd kuvaili sitä, mitä hän kutsuu "bumerangivaikutukseksi", toisin sanoen ajatukseen, että median provosointi ilmoittamaan törkeistä asioista on kohta, koska tämä vahvistaa alkuperäistä viestiä yleisöryhmälle, joka luottaa mediaan. Boyd puhui esimerkiksi Pizzagatesta. Hän huomautti, että tiedotusvälineet käyttivät ennen Internetiä usein "strategista hiljaisuutta" välttääkseen itsemurhien ja Klan-kokousten kaltaisten asioiden peittämistä välttääkseen niiden julkistamista.

Rotenberg oli yhtä mieltä siitä, että suuri osa tästä huolellisuuden ja valvonnan perinteestä on menetetty, ja totesi, että § 230 (jonka mukaan Internet-yritykset eivät ole vastuussa käyttäjien kaltaisista asioista) on vaikeuttanut perinteisten uutisten kilpailukykyä.

Pyydettyään ratkaisuja McNamee kertoi, että Facebook on kultti ja että sen on lopetettava kieltää ongelma ja käsitellä sitä, samoin kuin aloitettava puhkeaminen "ohjelmoinnin purkamisesta" ottamalla yhteyttä jokaiseen sen käyttäjään. Rotenberg edisti sääntely-ajatusta. Ja Boyd ehdotti, että meidän on sijoitettava rahaa yhteiskuntaan "yhdistää" Amerikka uudelleen.

Arviointi uusien hegemonistien kanssa

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, Alabaman yliopisto; David Kirkpatrick, tekniikka

Varhaisessa paneelissa aiheesta "Arviointi uusien hegemonistien kanssa" melkein kaikki olivat yhtä mieltä Alabaman yliopiston Joyce Vancen kanssa, joka sanoi, että tekniikka on todella ylittänyt lain, jonka on kipeästi saatava kiinni. Mutta Vance varoitti, että on olemassa myös "liukas" poliittisten vastausten vaara.

Simulmedian Dave Morgan sanoi, että "siellä on sääntelyä", vaikka hän sanoi, että on mahdollista, että suuret yritykset pystyvät välttämään suuren osan sen vaikutuksista.

Morgan totesi, että media-alan historia tarjoaa samankaltaisia ​​näkemyksiimme, koska sanomalehdet olisivat pitäneet itseään painotaloina ja varhaiset lähetysyhtiöt näkivät itsensä teknisinä yrityksinä. Kaikki nämä mahdollistavat kuluttajayhteyden tarjoamisen, mitä Google ja Facebook tekevätkin selvästi. Tällaisen keskitetyn mediavoiman seurauksena syntyi paljon kilpailulakeja, ja hallitus pystyi hallitsemaan ne. Yksi suuri ero on tänään se, että muut tekniikat vaativat maantieteellistä yhteyttä, jota Internet-yritykset eivät tarvitse.

Vance huomautti, että senaatti harkitsee nyt lakiesitystä, joka velvoittaisi näitä yrityksiä säilyttämään mainontahistoriansa ja tekemään selväksi kuka maksaa poliittisista mainoksista. Mutta Morgan huomautti, että nämä ovat nyt globaaleja yrityksiä, joilla on laajempi kattavuus. Kysyttäessä EU: n GDPR-tietosuojamääräyksistä Vance sanoi, että Yhdysvallat on hyvinkin luvannut johtajuuden EU: lle tällä alalla. Hän sanoi, että hän ei usko, että yhdysvaltalaiset yritykset kykenevät noudattamaan sääntöjä eri tavoin eri maantieteellisillä alueilla, joten yritykset noudattavat oletuksena eurooppalaisia ​​määräyksiä.

RBC Capital Markets -yrityksen edustaja Mark Mahaney kertoi, että yrityksiä säännellään jo etenkin Euroopan unionissa. Erityisesti Googlen valvonnassa on sen palveluiden niputtaminen tai mainostaminen hakutulostensa kanssa tai Android. Kirkpatrick sanoi, että hänen mukaansa kilpailuoikeuden ratkaisu todella auttoi Microsofttia, mutta Mahaney vastusti, että Microsoftin ei lopettanut sääntelijät, vaan kilpailu.

Voivatko tekniikka ja hallitus pelastaa demokratian?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code for America; Marc Rotenberg, sähköinen tietosuojakeskus; Molly Turner, UC Berkeley Haasin kauppakorkeakoulu; Jon Fine, Inc -lehti; Lawrence Norden, NYU: n oikeustieteiden korkeakoulu

Samanlainen aihe esiteltiin aamiaisen pyöreän pöydän pöydässä nimeltään "Voiko tekniikka ja hallitus säästää demokratiaa?", Jossa moderaattori Jon Fine of Inc Magazine pyysi ratkaisuja. Pyöreän pöydän pöydässä ei kuitenkaan oikeasti keksitty yhtään.

Hwang sanoi, että ongelma ei ole tekniikkaympäristö, vaan pikemminkin ihmisten viha, joka johtuu siitä, että he ovat irronneet taloudesta.

Lawrence Norden, New Yorkin yliopiston lakikokouksen Brennan-keskuksesta, sanoi, että lait, jotka edellyttävät enemmän julkistamista poliittisissa mainoksissa, ovat helppo vastaus, mutta valitettavasti suuri ongelma on "tummat viestit" tai tuntemattoman alkuperäiset virkaa. Hän sanoi, että Internet on enemmän kuin kaupunkinäkymä.

Mutta Rotenberg sanoi, että se on päinvastainen, ja että Internet on enemmän kuin yrityskaupunki, jossa alustoilla asetetaan säännöt ja päätetään mitä näet. Code For America -puhelimen Minnie Ingersoll kysyi, onko ongelma ulkomaalainen puuttuminen vai onko Google hallinnassa, mitä sanomme. Sääntelyviranomaisten on ymmärrettävä asiat paremmin, hän sanoi.

Molly Turner UC Berkeley Haasin kauppakorkeakoulusta kertoi, että Internetistä on tullut suurin ilmaisun väline, mutta huolestunut siitä, että se heikentää siviilikeskustelua. Toisaalta hän on huolestunut vaatimuksista alustoilta tietyn tyyppisen tiedon poistamiseksi (jos esimerkiksi viestinnän kunnollisuuslakia heikennettiin tai muun tyyppisen sääntelyn takia), koska äkkiä tällöin alustasta tulee "välimies puhetta."

Rotenberg vastasi, että vaikka autoyritykset taistelivat kerran turvallisuusmääräysten suhteen, lopulta nämä auttoivat autoja tekemään turvallisemmiksi ja johti lisää innovaatioita. Vakaa sääntely-ympäristö saattaa todella auttaa alustoja, hän ehdotti. Rotenberg huomautti, että teknologiayritykset ovat ajaneet "verkon puolueettomuutta" teleyrityksille, mutta eivät itseään, ja vaativat tasavertaisia ​​toimintaedellytyksiä.

Internet hyökkäyksen alla

Mark Anderson, strateginen uutistoimisto; Peder Jungck, BAE-järjestelmien älykkyys ja tietoturva; Rebecca MacKinnon, Uusi Amerikka; David Kirkpatrick, tekniikka

Lopullinen paneeli nimeltään "Internet Attack" jatkoi tätä keskustelua.

Rebecca MacKinnon, joka johtaa Ranking Digital Rights -projektia Uudessa Amerikassa, sanoi kerran olevan oletus, että Internetin takia autoritaariset järjestelmät tulevat lopulta enemmän demokraattisiksi. Hän pelkää nyt enemmän autoritaarisia hallituksia ja demokratiat "tapaavat keskellä".

MacKinnonin mukaan autoritaariset hallitukset mukauttavat Internetiä tarkoituksiinsa, kun taas demokratiat kohtaavat populismia, manipulointia ja "kapitalismin valvontaa". Hänen mukaansa demokratioiden tulisi kuitenkin olla varovaisia ​​sääntelyn suhteen - vaikka hän on samaa mieltä siitä, että algoritmeihin ja yksityisyyteen on lisättävä avoimuutta, hän on huolissaan siitä, että sensuurijärjestelmä helpottaisi osien torjuntaa. yhteiskunnan hallitus halveksii.

Peder Jungck, joka johtaa tiedustelupalvelua ja tietoturvaa BAE Systemsille, sopi, että hallitukset haluaisivat käyttää sellaisia ​​järjestelmiä toisinajattelijoiden löytämiseen, ja sanoi, että idea on tuote ja kuten mikä tahansa tuote, sitä voidaan ajaa. Kysyttyään, onko mainosjärjestelmiä aseistettu, hän sanoi: "Pandoran laatikko on avattu, emmekä voi palata takaisin."

Markus Anderson, Strategic News Service, kertoi, että olemme nähneet suoran linjan ARPANET-päivistä, jolloin ei ollut pahoja poikia, nykypäivään, jolloin näemme päivä päivältä yhä enemmän haittaohjelmia.

Anderson oli erityisen selkeä kuvaileessaan, kuinka Kiina varastaa immateriaalioikeuksia ja käyttää sitä ajamaan yrityksiä pois liiketoiminnasta. Ja hän ehdotti, että Equifax-hakkeroinnissa olisi kaikki hallitusten hyökkäyksen merkit. Yhteenvetona Anderson sanoi, että hän "ei näe ratkaisua".

Jungck sanoi, että meidän pitäisi olettaa, että pahat pojat ovat järjestelmissämme ja työskentelevät ratkaisujen parissa. Hän sanoi esimerkiksi, että sosiaaliturvatunnus ei ole enää turvattava, joten tarvitsemme sen sijaan blockchain-ratkaisua.

Ranking Digital Rights -hankkeessa MacKinnon arvioi 22 globaalia yritystä 35 kysymyksestä, jotka koskivat sananvapautta, yksityisyyttä ja turvallisuutta. Hän sanoi, että kaksi yritystä sai "Ds" ja kaikki muut epäonnistuivat. Hän haluaa tietää, mitä yritykset tekevät tietosi kanssa; kenen kanssa he jakavat sen; Suorittavatko he asianmukaista huolellisuutta, turvallisuusarviointeja ja riskinhallintaa; ja suojaavatko he yksityisyyttä ja tietoturvaa, sisältöä ja ilmaisua. Avoimuus ei riitä, hän sanoi, mutta välttämätön ensimmäinen askel.

Anderson sanoi, että läpinäkyvyys on hyvä asia, mutta ei ratkaisu, ja huomautti, että jonkun, joka haluaa manipuloida järjestelmää, ei tarvitse maksaa mainoksista, mutta hän voi käyttää 100 000 bottiverkkoa. Kirkpatrick ehdotti sitten, että yritykset voisivat valvoa identiteettiä ja siten vähentää bottiverkkojen käyttöä.

Mutta MacKinnon vastusti, että ihmisoikeusaktivistit ovat alttiimpia tällaisten järjestelmien käytölle, koska jos vahvistat identiteetin, kukaan, joka vastustaa autoritaarista hallitusta, ei olisi sosiaalisissa verkostoissa.

Jungck pohti, miksi meidän on vahvistettava identiteetti, kun sivustot tietävät jo kuka olet ja mitä aiot ostaa. "Internetissä ei ole nimettömyyttä, se on kauan sitten mennyt", hän sanoi. Ainoa ero on, kuinka kauan kestää selvittää kuka olet.

Yhteenvetona voidaan todeta, että MacKinnon sanoi olevansa optimistinen hyvin pitkällä aikavälillä, mutta seuraavan 100 vuoden aikana "ei niin paljon".

Kaiken tämän kuunneltua on helppo olla pessimistinen tai ainakin fatalistinen tarvittavan sääntelyn määrän ja sen vaikutuksen suhteen. Mutta olen edelleen taipuvainen olemaan optimistinen, ja vaikka mielestäni jonkin verran lisäsääntelyä on sekä todennäköistä että välttämätöntä, uskon olevan yhtä todennäköistä, että nykypäivän Internet-jättiläiset - tai jotkut tulevat toimijat - keksivät parempia vastauksia.

Kuinka todennäköisesti suosittelet PCMag.comia?