Video: Don't fear intelligent machines. Work with them | Garry Kasparov (Lokakuu 2024)
Garry Kasparov oli yksi ensimmäisistä automaattisen automaation vallankumouksen uhreista. Hänen menetys IBM: n Deep Blue: lle teki hänestä ensimmäisen ihmisen shakkimestarin, joka hävisi ottelun tietokoneelle. Mutta Kasparov ei ole jaded; hänen kirjassaan Deep Thinking tutkitaan, kuinka AI voi todella auttaa meitä muuttumaan inhimillisemmiksi.
Dan Costa: Urassa pelatessaan shakkia ja taistellessasi Deep Blue -tapahtumassa, sinusta on sittemmin tullut kaikenlainen shakin AI-asiantuntija. Kuinka haluat, että ihmiset ymmärtävät tekoälyn?
Garry Kasparov: Minun on tunnustettava, että tiedän tietämättömyyteni rajat. Siksi puhun mielelläni asioista, joissa olen vakuuttunut omasta asiantuntemuksestani, ja mielestäni minulla on tietyt tiedot ihmisen ja koneen suhteista ja voisin puhua jonkin viranomaisen kanssa tulevista tuloksista.
Uskon myös, että olemme vielä hyvin varhaisessa vaiheessa AI: tä, ja meidän pitäisi keskustella edes tietyistä ehdoista. Kyse on semantiikasta, filosofiasta, ja sanon aina, että ihmiset ajattelevat olevansa Windows 10 -kautta, kun olemme silti kaikki MS-DOS: ssa.
Tällä hetkellä on erittäin tärkeää ymmärtää "Mikä on AI? Mitä sanomme AI, mitä tarkoitamme?" Koska jos kysyt 10 asiantuntijaa AI: stä, voin lyödä vetoa, että saat 11 tai 12 vastausta. Vielä erimielisyyksiä on edelleen.
Yksityiskohtia on vielä, mutta luulen yleisesti, että tunnustamme okei, siellä on joukko ihmisiä, joita kutsumme optimisteiksi, kohtaaen suuren joukon teeskentelijöitä. Jotenkin kansalaiset ovat halukkaampia hyväksymään näyttelijöiden skenaarioita. Mielestäni se on vaistoamme pelätä tulevaisuutta, mikä on myös mielenkiintoista, koska kun palaat takaisin 50- ja 60-luvuille, sci-fi oli erittäin optimistinen. Se koski meitä kaikkia, vain työskennellä koneiden kanssa.
Nyt, kun tarkastellaan 70-, 80-, 90-luvuia, se on siirtynyt dystopiseen näkemykseen. Kyse on terminaattoreista. Kyse on Matrixista, ja nyt sci-fi-genre on melkein kuollut, koska kyse on enemmän fantasiasta, taikuudesta. Ihmiset pelkäävät puhua tulevaisuudesta, koska emme ole varmoja siitä, mitä siellä tapahtuu. Mielestäni meidän pitäisi vain tunnistaa, että AI ei ole taikasauva, mutta se ei ole myöskään terminaattori. Se ei ole utopian tai dystopian esiintyjä. Se on työkalu. Se on jotain, jonka meidän pitäisi löytää tapa käsitellä.
Se ei ole helvetin porttien avaaminen, mutta se ei olekaan paratiisi. Se ei ole ratkaisu kaikkeen. Se ei ole pelastus. Katsotaanpa maapallon aiheita, ja tänään suurin huolenaiheeni ei ole tappajaroboteista tai jonkinlaisesta virtuaalitodellisuudesta, joka voisi pilata todellisuutemme, vaan kyse on huonoista toimijoista. Kyse on terroristeista. Kyse on kalliotilasta, jolla tätä tekniikkaa käytetään vahingoittamaan meitä. Sanon aina, että ihmisillä… on pahuuden monopoli. Mielestäni siellä meidän pitäisi keskittyä, mutta sen pitäisi myös tunnustaa, että AI voi tehdä meille niin paljon hienoja asioita, koska ihmiset sanovat: "Voi, AI luo uusia haasteita. AI voisi viedä pois monia työpaikkoja." Tarkalleen. Niin tapahtui maatalouden, teollisuuden ja työpaikkojen kanssa. Häiriöteknologia tuhoaa aina teollisuuden, mutta samalla luo uusia työpaikkoja.
Sanon, että tekniikka on tärkein syy siihen, että niin monet ihmiset ovat edelleen elossa valittamasta tekniikasta, koska emme vain tiedä, että keskimääräinen elinikä kasvoi, mielestäni 45, 47, 20. vuosisadan alkupuolella - nyt 75, tekniikan ansiosta. Haluamme etuja, haluamme mukavuutta ja emme katso hintaa. Ihmiset ostavat Alexan tai lataavat kasvojentunnistussovelluksen ja valittavat sitten yksityisyydestä. Meidän on aika ymmärtää, mitä odotamme näiltä tekniikoilta, joten miten haluamme käsitellä niitä? Kuinka he voivat parantaa elämäämme ja samalla tunnustaa, että meidän ei pidä keskustella vuotaneesta maidosta. Se tapahtuu.
Meidän ei pitäisi kysyä haluammeko sitä vai ei, se tapahtuu. Kaikki yritykset torjua tuskaa ja hidastaa prosessia ovat mielestäni vain haitallisia, koska tuomittuja töitä ei voida tallentaa. Mutta meidän on ajateltava uusia toimialoja. Kuinka voimme luoda joitain uusia työpaikkoja, jotka auttavat meitä luomaan… taloudellisen tyynyn hoitaakseen jälkeensä jääneet?
Dan Costa: Se oli yksi niistä asioista, jotka teet syvässä ajattelussa . AI tarjoaa meille mahdollisuuden olla inhimillisempiä. Mielestäni meidän on tarkennettava sitä ja saavat ihmiset tuntemaan ja ymmärtämään.
Garry Kasparov: McKinsey-raportti Yhdysvaltain työmarkkinoista vuonna 2016 oli selkeä osoitus. Kuinka vähän luovuutta on käytetty?
Monet työistä teemme toistuvia töitä, raakoja töitä. Teolliset työpaikat voivat myös olla toistuvia. Koneet voivat myös helposti suorittaa ne paljon tehokkaammin. Täällä kohtaat sen, että mitä olemme oppineet peleistä… shakista, golfista, muista peleistä, niin kauan kuin meillä on ihmisten luomat puitteet ja tiedämme mitä teemme, koneet pärjäävät paremmin.
Meidän on vain tunnustettava, että jokaisessa suljetussa järjestelmässä koneet ovat parempia. Muuten, meidän ei tarvitse ymmärtää kuinka he tekevät niin. Se on toinen virhe. Haluamme selitettävyyden. Koneet pystyivät tekemään sen erittäin hankalalla tavalla kuin standardimme. Lentokoneet lentävät nopeasti, ja lintu oli ylös kääntämässä siipiään. Siksi ajattelu, että koneet ylittävät meidät jopa älyvirheissä, tekemällä jotain ymmärrettyäsi on väärin. Meidän pitäisi etsiä tuloksia, ja se on toinen ongelma yrityksille, koska on niin paljon säädöksiä, jotka velvoittavat yrityksiä selittämään tekemänsä toiminnan, mutta selitettävyyttä ei välttämättä ole, jos haluat etsiä tehokkuutta ja tuottavuutta.
Dan Costa: Esittelit lavalla Go-tapauksen, ja asia, joka teki Go AI: stä paljon tehokkaamman, on se, kun se opetti itse pelaamaan peliä. Sillä ei ollut ihmisen määräämiä sääntöjä.
Garry Kasparov: Se on sama kuin shakki nyt. Jälleen kerran, se on, että ihmislähetyssuhteiden tulevaisuus on hyvin paljon omilla ihmisillä, jotka toimivat paimenten tavoin, koska meidän on löydettävä tapa luoda nämä viileät järjestelmät, kapean älykkyyden alueet, joissa koneet tekevät työtä paljon paremmin kuin kukaan ihminen. Sitten nähdäksesi kuinka he muodostavat yhteyden. Nämä kapean tiedustelun alueet yleiseen kenttään, avoimeen järjestelmään. Jälleen kerran se kuulostaa helppolta, mutta mielestäni se on suuri haaste, koska huone ihmisille ja heidän suhteilleen koneiden kanssa voisi kutistua pienemmiksi. Ehkä jopa muutaman desimaalin tarkkuudella, mutta sillä ei ole väliä. Se voisi olla paljon tehokkaampi, koska siinä on niin paljon valtaa. Sen kanavoinnilla tai suunnan muuttamisella 0, 1 prosenttia tämän kulman asteesta voi olla suuri, massiivinen ero, kohde yhden mailin päässä.
Dan Costa: Yksi asioista, jotka minua huolestuttavat AI: stä, on, että hyviä AI-järjestelmiä ohjaa paljon ja paljon tietoja ja todella hienot algoritmit. Jos katsot, kenellä on tällä hetkellä suurin osa tämän tilan tiedoista, se on iso tekniikka, se on osavaltioiden hallitus. Kuinka näet yksilön roolin tässä AI-vallankumouksessa? Koska näihin uusiin tekniikoihin pääsyssä näyttää olevan jonkin verran epäsymmetriaa ja erilaisia motivaatioita.
Garry Kasparov: Kyllä. En voinut olla samaa mieltä enemmän. Meillä on tämä ongelma, ja luulen, että kansalaiset tunnustavat tämän ongelman, mutta hallitusten ei silti ole tarpeeksi painostusta asettaa todella tiukkoja sääntöjä ja erittäin rankaisevia toimenpiteitä yksityisyyttä loukkaaville yrityksille.
Yksi huolenaiheistani ihmisoikeussäätiön puheenjohtajana on, että säännöt eroavat demokraattisesta maailmasta vapaaseen maailmaan. Minusta on erittäin huolestuttavaa, että nämä monikansalliset jättiläiset - kuten Google, Apple, Microsoft, Facebook - soveltavat hyvin erilaisia sääntöjä asiakkailleen Amerikassa tai Euroopassa ja niihin, jotka eivät ole niin onnekkaita syntyessään vapaassa maailmassa ja asumaan Kiina, Venäjä, Turkki - missä tietojen luovuttaminen sosiaalisesta toiminnasta voisi kirjaimellisesti olla elämän ja kuoleman kysymys. Mielestäni se on askel numero yksi, mutta myös meidän pitäisi tunnistaa, jos tietoja tuotetaan, ne kerätään.
Olen varma, että on olemassa monia tapoja, joilla hallitukset voivat rajoittaa näiden tietojen käyttöä. Mielestäni se on myös julkisen puolen bonus, koska Mark Zuckerbergin todistuksen jälkeen Yhdysvaltain senaatissa, jonka löysin…, oli uskomattoman osoitus Yhdysvaltojen lainsäätäjien tietämättömyydestä. He eivät voineet kysyä hyviä kysymyksiä viiden tunnin ajan; he olivat hänet kuumassa istuimessa, ja se oli hukkaa. En nähnyt julkista törkeää. Tällainen suuri tilaisuus on käytetty.
Yksinkertainen neuvo: "Jaetaan ne." Se ei ole tavallinen öljy. Jos aloitat vain jakamisen - ja inhoan monopoleja -, mutta silloin sinulla on monia, monia Googleja, joiden tiedot ovat levinneet. Meidän pitäisi löytää tapa antaa henkilöille mahdollisuus. En tiedä blockchain-tekniikoita, mutta luultavasti tämä on tapa todella auttaa ihmisiä hallitsemaan omaa tietoa ja omaa tulevaisuuttaan. Mielestäni on vielä hetki, jolloin se on alkuperäinen käsite Internetistä, sosiaalisesta verkostosta. Nyt yhtäkkiä se on sosiaalinen media. Ihmiset vain eivät tunnista. Se ei ole semanttinen ero.
Dan Costa: Se ansaitaan rahaksi aivan eri tavalla.
Garry Kasparov: Kyse on ihmisten yhdistämisestä. Kyse oli koko ideasta, kuinka koota meidät yhteen. Kuinka sotilas yksilöä, saada tietoja ja tuottaa jotain, josta voisi olla hyötyä hänelle ja vain olla osa tätä maailmanlaajuista järjestelmää. Sosiaalinen media on erilainen, olet kohde. Olet nyt… suurten yritysten kohde. Kuinka palaamme takaisin tähän sosiaalisen verkoston konseptiin? Minulla ei ole ratkaisuja, tunnustan tietämättömyyteni täällä teknisistä ratkaisuista, mutta tiedän, että tämä on juuri filosofia, joka on oikea kysymys. Uskon, että yleisö ei ymmärrä tämän haasteen vakavuutta.
Dan Costa: Olet Venäjän kansalainen...
Garry Kasparov: Myös Kroatian kansalainen, minulla on E-passi, näin matkustan.
Dan Costa:… asuu Yhdysvalloissa, mutta olet kirjoittanut paljon propagandasta, sen vaikutuksista ja vallasta ja siitä, kuinka Venäjän hallitus käyttää sitä. Täällä Yhdysvalloissa meillä on nyt Facebook, Twitter, Google mediauniversumi, joka on melkein kuin yksityinen propagandakone, johon hallitukset ja yksittäiset yritykset voivat käyttää. Mitä neuvoja sinulla on jälleen kerran joku, joka on käsitellyt ja ymmärtää näitä kysymyksiä? Kun olemme siirtymässä tähän järjestelmään, jossa emme voi enää uskoa sitä, mitä näemme verkossa.
Garry Kasparov: Katso, olen joutunut kohtaamaan väärennettyjen uutisteollisuuden ja peikkotehtaiden nousua Putinin Venäjällä tämän vuosisadan alusta lähtien. Putinin propagandaasiantuntijat, KGB: n kaverit, suunnilleen vuosien 2004-2005 välillä, tekivät uskollisen päätöksen olla seuraamatta Kiinaa palomuureilla. Sen sijaan luodaan vääriä Internet-sivustoja, jotka sisältävät paljon todellista tietoa näistä myrkyllisistä kappaleista. Sen sijaan, että sinulla olisi oikean sanomalehden etusivu, tarina, jota kaikkien on noudatettava, puoluelinja, voit levittää sen moninaisina kappaleina, kymmeninä kappaleina. Laita se pakettiin, joka on kääritty paljon totta tarinoita.
Se ei ole niin yksinkertaista kuin sanoa, että Garry Kasparov on valtion vihollinen. Ei, jonkun sanonta Garry Kasparov on valtion vihollinen, mutta sitten joku muu sanoo ei, mutta hän oli hieno shakkipelaaja, mutta todennäköisesti nyt hän oli tunkeutunut ääneen ja propagandaan. Joku sanoo, ei, ei, ei, hän on hyvä kaveri. Joten koko kommenttisivu voi olla väärennös.
Dan Costa: Botit kiistelevät botien kanssa.
Garry Kasparov: Botit ja he ovat tässä erittäin hyviä, joten siksi jonain päivänä, kun Putin hyökkäsi Yhdysvaltain Yhdysvaltain vaaleihin, hänellä oli todella yli 10 vuoden kokemus näistä aloista. Työskentelee Venäjällä, naapurimaissa, joissa on suuria venäläisiä yhteisöjä Itä-Euroopassa, Länsi-Euroopassa.
Teoksessani Talvi on tulossa: Miksi Vladimir Putin ja vapaan maailman viholliset on lopetettava , 2015, sanoin, että se oli vain ajan kysymys. Ei ole, jos, mutta milloin ja mihin hän hyökkäisi. Koska taas, he ovat jo rakentaneet tämän koneen ja se on suhteellisen halpaa. Se on edelleen miljardien dollarien sijoitus, mutta verrattuna avoimeen sotilaalliseen interventioon, vastakkainasettelu… se on suhteellisen halpaa. Ja se sopii myös Putinin KGB-mentaliteettiin, hänen KGB-taustaansa, vakoilustaustaan. Joten avoimen vastakkainasettelun sijaan hän etsii aina mahdollisuutta soluttautua. Se on klassinen Judo-menetelmä, käytät vastustajasi vahvuuksia häntä vastaan. Putinille se oli loistava, koska se oli länsimaista tekniikkaa ja vapaata maailmaa, ja voit käyttää sitä heikentämään vapaan maailman perustaa.
Dan Costa: Onko sinulla neuvoja siitä, miten päästä pois tästä tilanteesta? Koska näyttää siltä, että tapahtuu, se ei ole oikeasti pysähtynyt.
Garry Kasparov: Ei, ja se ei lopu. Kaikille, joilla on rajaton asiantuntemus, vastaus on ilmeinen. Puolustus on häviävä ehdotus. Tietoturvallisuudessa voit rakentaa puolustusta, mutta päivän päätteeksi ainoa vastaus on pelote. Se on kuin kylmä sota, pidä siitä tai ei pidä siitä, se on kyberkylmä sota. Putin tai muut vapaan maailman viholliset hyökkäävät jatkuvasti. Olipa kyse valtioista, kuten Iran, Pohjois-Korea, Kiina, tai valtionhallinnon organisaatioista, jotka käyttävät myös samoja menetelmiä.
Vain pelote voi tosiasiallisesti pysäyttää nämä hyökkäykset tai rajoittaa niitä. Koska he ymmärtävät liian aggressiivisen seuraukset. Yritetään suojata heikkouksiamme täällä ja siellä, on tärkeää, että rakennamme joitain puolustuksia. On tärkeää, että lisäämme yleisön tietoisuutta uhista, mutta se ei toimi. Mitä tulee väärennettyihin uutealaihin, vapaassa yhteiskunnassamme on monia haasteita, jotka mahdollistivat väärennösten tuotannonalan. Kyse on partisanssin pelosta, siitä, että ei käydä vuoropuhelua ihmisistä, joilla on erilaisia ideologisia näkemyksiä ja jotka auttoivat Putinia ja muita vapaan maailman vihollisia käyttämään vääriä uutisia tämän aukon kaatamiseksi.
Dan Costa: Joten työskentelet nyt Avastin kanssa, yritys, jonka PCMag-lukijat ovat erittäin tuttuja. Mitä neuvoja annat kuluttajille heidän puolustustasonsa nostamiseksi?
Garry Kasparov: Yksilöllisen puolustustason suhteen se on erittäin helppoa. Ensimmäinen viesti on älykkäiden talojen omistajille. Olin vähän järkyttynyt, koska edes tällä Southwest Southwest -tapahtumassa puhuin monien ihmisten kanssa. Hyvin asiantuntevat ihmiset eivät ymmärrä kuinka älykkäät kodit ovat nykyään haavoittuvia.
Amerikkalaisessa kotitaloudessa 39 miljoonalla on ainakin yksi haavoittuva laite. Ihmiset eivät ymmärrä, että yksi haavoittuva laite tekee koko älykkään kodin haavoittuvaiseksi. Koska puolustuspyrramidin vahvuudet riippuvat heikoimmasta linkistä. Yksi huono omena aiheuttaa koko pakkauksen mätää.
Suurimman osan ongelmista luovat perinteisten kodinkoneiden - pesukoneiden, kahvinkeittimien - valmistajat, koska digitaalisten järjestelmien rakentamisessa ei ole kokemusta. Mutta heidän on tehtävä se nyt. Erittäin alhaisin kustannuksin, koska se on hintakilpailu, mutta he haluavat olla osa järjestelmää. Suurimmalla osalla järjestelmiä ei vain ole riittäviä puolustuksia. Mielestäni tarvitsemme… hallituksen valvontaa, meidän on painostettava pakottaaksemme noudattamaan tiettyjä normeja.
Mutta on myös toimitettava erilliset käsikirjat, koska kukaan ei lue 100-sivuaista käsikirjaa. Sivulla 85 olet lukenut jotain tästä digitaalisesta tavarasta, ihmiset eivät luke sitä. Suurin osa heistä käyttää oletustilaa, joka on tietysti avoin kutsu hakkereille. Mielestäni on erittäin tärkeää, että ihmiset alkavat tehdä niin sanottua digitaalista hygieniaa, koska pesemme kädet, harjaamme hampaamme ja teemme sen automaattisesti. Se ei pelasta meitä tietyistä vakavista sairauksista, mutta 90 prosenttia ongelmista voidaan välttää. Samoin kuin mobiililaitteilla kytkettyjen laitteidemme kanssa, meidän on silti suojauduttava viruksilta, mutta monet asiat voitaisiin tehdä osoittamalla, että välitämme siitä, koska se on yhtä tärkeää kuin terveytemme.
Dan Costa: Joten haluan kysyä teiltä kolme kysymystä, jotka pyydän kaikilta, jotka tulevat näyttelyyn. Onko tekniikkaa, joka koskee sinua ja joka pitää sinut yöllä?
Garry Kasparov: Ei, olen loistamaton optimisti. Olen huolissani pahoista ihmisistä, ei huonosta tekniikasta, koska jokaisella tekniikalla on kaksikäyttö. Voit rakentaa ydinreaktorin, mutta ennen valitettavasti rakennat ydinpommia. On melko valitettavaa, että tuhoaminen on helpompaa kuin rakentaminen. Siksi historiassa tiedämme aina, että uusi, häiritsevä tekniikka on testattu jonkinlaisen vaurion varalta.
Dan Costa: Etkö ole huolissasi siitä, että sama tapahtuu AI: lle? Minua käytetään tuhoamaan ennen kuin se tottuu luomaan?
Garry Kasparov: Jälleen ei ole kyse tappajaroboteista. Kyse on pahoista kavereista, sen takana olevista pahoista näyttelijöistä. Ihmiset sanovat: Voi, meidän pitäisi ajatella eettistä AI: tä. AI ei voisi olla eettisempi kuin sen luojat. En ymmärrä, mitä se tarkoittaa, kuten eettinen sähkö. Jos yhteiskunnassamme on puolueellisuutta, AI seuraa sitä. Siinä nähdään ero rotuun, sukupuoleen tai tuloihin. Se ottaa sen huomioon; AI on kertoimiin perustuva algoritmi. Joten jotenkin eettisen AI: n valittaminen on kuin peilin valittaminen, koska emme pidä siitä, mitä näemme siellä.
Dan Costa: Onko joka päivä käyttämäsi tekniikka, joka edelleen inspiroi ihmettä?
Garry Kasparov: Ei. Minulle maailman todellinen ihme on tiedon saanti. Koska voin kerätä tietoja, se helpottaa. Kasvoin Neuvostoliitossa, ja tietoa oli niukasti, kirjoja ei ollut paljon. Nyt tosiasia on, että voin sytyttää… se vain saa minut tuntemaan oloni hyväksi. Meitä ympäröi nyt niin paljon tekniikkaa, joka auttaa meitä paranemaan. Mikä on ihmeellistä, ihmiset valittavat jatkuvasti. Voi mitä voimme tehdä? Ei ole mitään uutta, joka keksitään… ja sanon, että odota hetki. Katsot tätä laitetta taskussa, siirrytään taaksepäin vuonna 1976 tai 1977, Cray-supertietokone oli kuin ihme. Mikä tämä laite on? Kymmenentuhatta kertaa voimakkaampi?
- AI on (myös) voima hyvälle AI on (myös) voima hyvälle
- Tämä AI on liian tehokas julkistaakseen tätä AI on liian tehokas julkistaakseen
- Tämä AI ennustaa online-uistelua ennen kuin tapahtuu Tämä AI ennustaa online-uistelua ennen kuin tapahtuu
Dan Costa: Voimakkaampi kuin avaruussukkula.
Garry Kasparov: Aivan. Meillä on niin paljon valtaa, ja… haluan meidän alkavan unelmoida uudestaan. Koska meillä on nämä mahdollisuudet nyt. Olen pahoillani avaruuskilpailusta, lopetimme avaruustutkimuksen, syvänmeren etsinnän. Palatkaamme takaisin, yritetään tehdä suuria asioita. Neljä vuotta sitten piti aloituspuheen Saint Louis Universityssä Missourissa. Puhuessani jatko-opiskelijoille, jotka sanoin, katso, sinun on elvytettävä etsinnän henki, etenkin koska St. Louis on portti länteen, ja tänään on turvallisempaa lentää Marsiin kuin Columbuksen ylittää Atlantti. Koska ainakin me tiedämme etäisyyden ja meillä on kartta. Toivon lastemme, lastenlapsiemme… olevan aggressiivisempia unelmissaan käyttämällä tätä ilmiömäistä tekniikkaa työntääksemme meitä eteenpäin, koska mielestäni tunnustetaan, tunnustetaan tämä tärkeä tosiasia; sukupolvemme on hidastunut pyrkimyksissämme löytää maailman ihmeitä, avaruutta tai valtameriä.
