Ellen ullman koodista, omatunnosta ja museosta

Tätä Fast Forward -jaksoa varten puhuin Life in Code -sarjan kirjoittajan Ellen Ullmanin kanssa, esseesarja, joka alkaa vuonna 1994, kun hän oli ohjelmoijana Piilaaksossa. Nyt hän tekee elävästä kirjoituksestaan ​​enimmäkseen kaunokirjallisuutta, mutta Ullman on edelleen innokas tarkkailija alueella, tekniikkateollisuudessa ja miten tekemämme työkalut muuttavat meitä päivittäin.

Dan Costa: Ohjelmointisi juuret juontavat juurensa taaksepäin. Vuonna 1978 olit englantilainen päämies, joka päätti siirtyä ohjelmointiin. Miksi tekisit jotain sellaista?

Ellen Ullman: No, sain mukaan ryhmään, joka teki videota, Sony Portapak oli yksi niistä koneista, kuten PC. Nämä asiat, joita behemottiyhtiöt ovat hallinneet, olivat yhtäkkiä omissa käsissäsi. Voit tehdä omia videoitasi, omia tarinoitasi. Voit käydä ympäri ja näyttää heille. Ei ollut rajoituksia. Voit tehdä pornoa jne., Ja se oli erittäin jännittävä aika. Olen oppinut pitämään koneiden kanssa työskentelystä. Mahdollisuus työskennellä näiden koneiden kanssa tehdä sosiaalisia muutoksia ja taidetta oli kiehtova. Lopulta jätin Ithacan menemään San Franciscoon.

Yksi on poistuttava yliopistokaupungista tai tullut säälittäväksi. Ja eräänä päivänä kävelin Market Streetillä ja siellä rakasti poistuneen Radio Shackin ikkunassa oli TRS-80 - joka tunnetaan hellästi Trash-80 - ja ajattelin: "Voi, onko tämä jotain Portapakin kaltaista? Mitä voi teetkö tämän asian? Voisitko tehdä taidetta, sosiaalista aktivismia?

Joten impulssina ostin sen. Ja sitten oli kysymys ohjelmoinnista. Se on vähän vaikeampaa kuin aloittaa Portapakin käyttö, paina painiketta. Minusta oli vaikeaa, mutta hyvää vaikeaa. Uskon, että jokaisen, joka haluaa mennä ohjelmistosuunnitteluun, täytyy tuntea: "Kyllä, tämä on kovaa, mutta myös metsästyksen iloa." Jos ongelmien ratkaisemisessa ei ole jonkinlaista viettelyä, siitä tulee erittäin onneton kokemus.

Ja nykyään ihmiset eivät ymmärrä sitä aivan silloin, kun ostit TRS-80: n Radio Shackista, se ei tehnyt paljon. Sinun on pakotettava se tekemään asioita. Sinun on opittava käyttämään sitä, ja se on tavallaan kutsu, jonka otit sen vastaan?

Kyllä, siellä oli tyhjä näyttö. Se oli tuolloin jo vanhentunut televisio. Siinä oli näppäimistö, ja nauhoitit ohjelmia rullalla-kelalle. Ja mielestäni se piti 4K. Se oli ohjelman maksimikoko. Ja sillä oli PERUSKIELI. Ja en tiedä tietävätkö ihmiset tulkittavan ja käännetyn kielen eron. Tulkinta tarkoittaa, että se vain suorittaa sen edessäsi. Joten sinä tiedät, kirjoitat kaksi pistettä, tiedät, kaksi plus kaksi ja se näyttää sinulle neljä. Se on helppoa, ensimmäisten pienten asioiden saaminen käyntiin. Kaikkien merkittävien tekeminen oli erittäin vaikeaa, varsinkin kun varhaisessa BASIC-järjestelmässä oli monia ansoja. Kuten voisit sanoa "Siirry", mutta se ei palannut automaattisesti. Joten voit kadottaa tiensä sekaisin, ja se tunnetaan Geddy-koodina. Jälleen se oli turhauttavaa ja kiehtovaa.

Kun etsin kirjaa ja puhut niistä varhaisvuosista, minua lyövät ihmiset, joiden kanssa työskentelit. Se melkein näyttää enemmän kuin ragtag-kokoelma taiteilijoita kuin insinöörejä ja kovaa ohjelmoijaa. Voitko puhua vähän esprit de corpsista tai ihmisistä, joiden kanssa työskentelit?

Joo. Jos katsot taaksepäin ja - tiedät kuka Stewart Brand on, koko maan Lectronic-katalogi, kaivo -, se oli yksi ensimmäisistä verkkoyhteisöistä. Ja ihmiset houkuttelivat sitä. Tiedätkö John Markoffin kirjan, mitä Dormouse sanoi ?

Varma.

Tiedätkö, kivet ja keskeyttäjät sekä ihmiset, jotka olivat vain hulluja ja halusivat pitää hauskaa. Se oli ilmapiiri, joka veti minut sisään, kuten Portapak. Nämä olivat ihmisiä, jotka pitivät hauskaa, etsivät. Ja ensimmäiset ihmiset, joiden kanssa työskentelin, kun minun piti ottaa työtä ja ansaita elantonsa, olivat myös sellaisia. Entinen sufi-tanssija, väitöskirja- ja taidehistoriaa tekevä nainen, eräs ranskalainen kaveri, joka tupakoi Gauloisea, vaikka tupakointi ei ollut sallittua. Ja hän sanoi: "Tietokone ei koskaan käskennyt minua lopettamaan tupakointia." Ja nämä ovat sellaisia ​​ihmisiä, joiden kanssa työskentelimme.

Jossain '83 - 1986 ', se muuttui. Tietotekniikasta tuli yleinen tutkinto, ohjelmistotekniikka. Ja meihin liittyi voimakkaasti mies, itse valittu ryhmä, joka oli opiskellut tietotekniikkaa perustutkintoa. Ja ilmapiiri muuttui täysin. Ihmisten kanssa oli vaikeampi puhua. Kokemukseni mukaan eivät olleet yhtä pyöreitä. Se on hyvin laaja yleistys.

Työskentelin miesten kanssa, jotka olivat erittäin hyvin pyöreitä. Voit lainata Shakespearea parhaista. Mutta koko ilmapiiri muuttui. Luulen, että se johtuu siitä, että ammatti joutui menettämään syyttömyytensä.

Kuinka innostuit tekemään koodausta?

No, jälleen kerran se oli: "Vau, mikä tämä on?" Tiedät, kun sain ensimmäisen oikean ohjelman käynnissä, siellä oli kiire iloa. "Vau, se toimii. Tein sen." Se meni tyhjästä johonkin. Ja se oli kuin ensimmäinen kerta, kun kiinnitin kaasuttimen. Tiedät, otat asiat erilleen. Laitat ne takaisin yhteen ja auto käynnistyy, eikö niin? Joten tämä on harvinainen nautinto, ja siihen on vaikea päästä. Kun minulla oli tuo tunne, se oli vähän kuin huume, tiedät. Saait niin korkean ja menetät sen, ja sitten saat sen takaisin tai yrität.

Puhut siitä paljon kirjassa. Sanot, että kaikkien pitäisi oppia koodaamaan, koska se on vaikeaa. Ja että vaikeus on lopulta menossa siitä tyydytyksen tunnetta, jonka saat siitä.

En kerro kaikille oppia koodaamaan. Kuten totesin, ihmisten on altistuttava sille. Asia on demottifioida koodi. Meitä ympäröivät algoritmit, jotka hallitsevat meitä, eikä tämä ole uutisia kenellekään, joka esimerkiksi on juuri hakkeroitu Equifaxista. Kolmannes Yhdysvaltojen aikuisväestöstä. Joten, asia on tietää tarpeeksi, että sen kirjoittavat ihmiset ja ihmiset voivat muuttaa sitä.

Bronxissa on neuvostomies, joka ehdottaa siellä lakiesitystä, jonka mukaan kaupunkialue tutkii kaikkia käyttämiään algoritmeja. He menevät poliisin tehtävistä jätteiden poistoaikatauluihin siihen kouluun, johon lapset menevät, ja etsivät puolueellisuutta. heissä. Tätä prosessia toivon, että kansalaiset alkavat nähdä, että nämä asiat voidaan muuttaa. Heillä on puolueellisuus, ja niihin voidaan puuttua.

Joten tämä vie meidät yhteen tärkeimmistä asioistasi, nimittäin siihen, että koodi itse sisältää sisällön vääristymiä. Ja luulen, että algoritmien kanssa se vie sen aivan uudelle tasolle. Mutta riippuen siitä, kuka kirjoitti koodin, se heijastaa tiettyjä poliittisia puolueellisuuksia, kulttuurisia puolueellisuuksia. Voitko puhua vain vähän siitä, kuinka se upottuu itse koodiin?

No, ohjelmistosuunnittelijat eivät määrittele, mikä koodi kirjoitetaan. Tämä tulee ylhäältä. Ja huipulla olevat ihmiset ovat erittäin rikkaita, ylivoimaisesti valkoisia miehiä, ja heidän toiveensa on se, mikä heidän mielestään on suurta yhteiskunnalle tai mitä tehtävät ovat.

Esimerkiksi yksinkertainen toimitussovellus valitsi postinumerot. Mitä tuo tarkoittaa? Että emme voi ansaita rahaa marginaalituloisten ihmisten kanssa? Tai emme halua lähettää autoja sinne? Se on yksinkertainen esimerkki. Se menee, onko kaikki ostoksia? Tarvitseeko sitä sitä mitä ihmiset tarvitsevat? Millaista sosiaalista näkökulmaa se ilmaisee?

Se on kaikki algoritmeihin asti ja jopa sitä syvemmälle. Luin juuri Phillip Rogawayn paperia. Hän toimitti sen vuonna 2015, ja kyse on salauksen moraalisista vaikutuksista. Ja hän puhuu salaustekniikasta voimana. Kenelle kirjoitat sitä? Miksi he käyttävät sitä? Ja niin näet yksinkertaisimmasta sovelluksesta aina matemaattisina pidettävän sovelluksen alaosaan.

Luulen, että olet pannut sormesi siihen, kun puhut aiheesta "Onko kaikki ostoksia?" koska kauppa motivoi sitä kaikki nyt, ja syy siihen, että kohdistat tiettyihin postinumeroihin, on se, että voit ansaita rahaa näissä postinumeroissa. Ja se muodostaa tuotteen ja sitten siitä tulee tämä vahvistava sykli. Sama asia tapahtuu jokaisessa instituutissa. Tästä syystä Amazon osti Whole Foods -tuotteen eikä Stop & Shop -sovelluksen. Se johtuu näistä demografisista puolueellisuuksista, ja ne ovat vain työmarkkinat. Mutta nämä markkinavoimat määrittelevät melko paljon myös tekniikan kehitystä nyt.

Minulla on esimerkki jostakin, joka on mielestäni vain upeaa. Eräs ryhmä puhui "Tämä on koodausta alhaalta ylöspäin". Ei, ihmiset eivät istu lasisuljettuissa tiloissaan, joissa työskentelemme, päättäessään, että "olen voittoa tavoittelematon, ja se hyödyttää yhteiskuntaa ja muuttaa maailmaa." Tämä on ryhmä, joka työskentelee kentällä asiakirjattomien työntekijöiden kanssa.

Nyt nämä kaverit seisovat kadunkulmassa, ja heidät noutataan jonkun noutoautosta tai pakettiautosta, ja sitten heidät pudotetaan myöhemmin pois, ja jotkut heistä eivät saa palkkaa. Joten he kysyvät: "Kuinka voimme viestiä keskenään? Älä päästä tähän. Tämä on huono kaveri." Se on jotain masennuksen aikakautta. Hobos, joka käytti näitä merkkejä ja sanoi, että tiedät: "Huono mies asuu täällä. Kiva nainen asuu täällä."

Ja niin he lähestyivät ryhmää. Jälleen se tuli kooderille maasta. Ja he kysyivät: "Voitko rakentaa meille jotain?" Suurimmalla osalla näistä kavereista on mobiilisovelluksia - sovellus pitää tietysti nimettömänä - ja he voivat laittaa tämän rekisterikilven. "Etsit sitä etkä ota työtä." Voisit kysyä, ansaitseeko kukaan rahaa? Lopulta kyllä, koska näitä ihmisiä, jotka ovat tavallaan epätoivoisia töihin, ei huijata yhtä paljon.

Se on kuin mainejärjestelmä. Saman tyyppinen maine, sama, joka on rakennettu Uberiin, jossa ratsastajat saavat arvosanan ja kuljettajat arvostetaan, ja ihannetapauksessa parhaat kuljettajat ja parhaat ratsastajat palkitaan jollain tavalla. Se on kiehtova esimerkki. Onko sinulla neuvoja ihmisille, jotka ovat uusia koodauksia tai jotka haluavat tutkia sitä uravaihtoehtona?

Neuvo ihmisiä, jotka haluavat tutkia sitä? Ensinnäkin, tapaamisia on kaikkialla. Ei, minun ei pitäisi sanoa kaikkialla. Ne ovat myös valituissa postinumeroissa. Lahden alueella on tuhansia ja tuhansia, joissa voit ilmoittautua ja tavata muita ihmisiä, jotka opettavat sinua koodaamaan. Niitä on erityisesti naisille. Se on erittäin hyödyllinen.

Etsin muita paikkoja maassa. Buffalo, New York, Utica, New York. Ja siinä ei ollut mitään. Joten mitä me teemme sillä? Joten massiivisesti verkkokurssit näyttävät olevan mahdollisuus. Ja yksi niistä asioista, joista kirjoitin, ja mitä tein, oli hyvin, ilmoittautuminen tarkastamaan se. Ja minä näin kaikki samanlaiset harhat opettajissa.

He tekivät oletuksia amerikkalaisesta kulttuurista. Ja hyvin, haluat ansaita miljardin dollarin. Miljoona ei riitä sinulle. Aivan sama. Luulen, että ihmiset voivat ladata nämä videot, kokoontua ryhmän. Kiinnität kielen kaverilta, joka kertoo sinulle sosiaalista roskaa. Ja auttaa toisiaan ja oppia koodaamaan.

On myös koodiakatemioita, jotka maksavat tuhansia dollareita, ja ne todella sulkeutuivat. He takaavat ihmisille, että ansaitset kolme numeroa kahdeksan kuukauden kuluessa. Mielestäni se ei ole hyvä reitti. Ihannetapauksessa koulut opettaisivat sen. En tarkoita, että koodaus liittyy humanistisiin tieteisiin perustaidona. Uskon, että humanististen tieteiden on tutkittava koodausta saadakseen historian, sosiologian ja vieraita kieliä opiskelleiden ihmisten tiedon, kuinka muut ihmiset elävät maailmassa. Tuo se koodausalueelle.

Haluan puhua kanssasi vähän sosiaalisesta mediasta. Kirjoititte jo vuonna 1998 esseen nimeltä The Museum of Me, ja kuulen tämän lauseen soittavan ikään kuin se olisi aivan uusi. Mutta kirjoitit ensin vuonna 1998 ja sanoit, että Internet antaa meille mahdollisuuden rakentaa "Yksityinen ajattelukupla" lukemalla vain niitä verkkosivustoja, jotka vahvistavat hänen haluamiaan uskomuksia, ja juuri siellä, missä tänään näytämme olevan.

Kutsit tavallaan, kuvaait Internetiä yleensä, mutta sosiaalinen media näyttää juuri vieneen tämän aivan uudelle tasolle. Olen niin pahoillani, että olen oikeassa siinä. Oli asioita, jotka olen nähnyt tapahtumassa ja jotka mielestäni sydämessäni toivoivat olevan varoituksia. Mutta tiedätkö, kirjoitin vain pienelle julkaisulle -

Luulen, että tämä oli todennäköisesti Harper'sissa . Jotenkin selfie-sukupolvi ohitti valitettavasti Harperin artikkelin.

No, mitä he lukevat? He lukevat syötteitä. Joten syötteet kertovat heille, mitä tänään tapahtuu. On erittäin vaikeaa istua ja puhua kanssasi tänään tekniikasta, päivän kuluttua siitä, kun olemme saaneet tämän kauhean teurastuksen Las Vegasissa. Ja yli 50 ihmistä kuoli ja satoja loukkaantui. Emme todellakaan tiedä sen laajuutta.

Ja tiedät, aseet ovat tekniikkaa. Teollinen muotoilu on tekniikkaa. Tiedätte, meillä on taipumus ajatella sitä vain viileinä puhelimina ja kannettavilla tietokoneilla ja AI: lla, palvelimilla ja algoritmeilla. Mutta ihmiset suunnittelevat nämä laitteet, joiden avulla ase voi ampua satoja luoteja yhdellä purskeella. Ja se todella pysäyttää minut. Tiedät, että tällaisina päivinä on vaikea saada iloisia. Tarkoitan, että olen yleensä synkän edustaja, mutta tämä erityisesti pysäytti minut.

Kaikilla on vaikea vain päästä läpi päivän tällaisina päivinä. Mutta yksi mainitsemiesi seikkojen seikka on, että kaikilla tekniikoilla on nämä implisiittiset vaikutukset ja että ne eivät ole neutraaleja, ja monet eettiset keskustelut, jotka ympäröivät kaikenlaisia ​​muita politiikan, politiikan ja sosiaalisten aiheiden keskusteluja, yleensä eivät tapahtuu teknologiatilassa, koska insinöörit rakentavat sen, markkinat vaativat sitä. Suunnittelijat rakentavat sen, lähettävät sen, ja sitten elämme seurauksilla.

Mutta vaikuttaa siltä, ​​että jokaisella käännöksellä on kyse aseen tekniikasta, ohjelmistokoodista, pääsystä palveluihin, meidän on keskusteltava seurauksista.

Se olisi toivoni. Siksi kirjoitin tämän kirjan toivoen aloittavansa keskustelun eri tasoilla. Ei mikä on tulevaisuuden tavoite. Tulevaisuus on mitä teet siitä nyt, keskustelemalla. Ihmisen halu ajaa tulevaisuutta. Se on etuoikeutemme. Myös katsoa menneisyyteen. Toinen syy, jonka halusin palata 90-luvun puoliväliin, on se, että opimme menneisyydestä.

Vain eteenpäin odottaminen opettaa sinulle vähän, koska siinä kaikki on fantasiaa. Mutta jos palaamme takaisin ja näemme kuinka pääsimme missä olemme, ja suuntaukset, jotka saivat meidät tänne, menestykset ihmisillä aiemmin, asiat, jotka olemme oppineet. Jotkut ihmiset, jotka asuivat ennen meitä, tunnet, ja he ovat työskennelleet tietotekniikan parissa enemmän kuin me. Meillä on menossa 100 vuotta, luulen, että tiedät, jossain vaiheessa aloittaen sitä koskevista ideoista. Joten toivon, että ihmiset lopettavat ja kouluttavat itseään. Voit katsoa taaksepäin ja yrittää nähdä kuinka he pääsivät minne he ovat.

Mitä mieltä olet teknologiateollisuuden luonteesta johtajien koon suhteen? Googlen, Amazonin, Applen ja Microsoftin kanssa puhut neljästä yrityksestä, jotka hallitsevat ehdottomasti kokonaisia ​​toimialoja. Verkkoteollisuus, vähittäiskauppa ja viihdeteollisuus. Ovatko nämä yritykset, onko jotain juuri liian suuresta, joka luo oman ongelman?

Se on hyvä kysymys. Kyllä, ne ovat liian suuria. Meidän kaikkien täytyy elää heidän kanssaan hyvin pitkään. Ja Applen kaltainen yritys kuvaa itseään sosiaalisesti edistyneenä. Nämä yritykset ovat kuitenkin syvästi liberaalia. He eivät halua hallituksen hallitsevan heitä paitsi silloin, kun he haluavat hallituksen houkuttelevan heitä.

Katso mitä tapahtuu kaikkien näiden kaupunkien kanssa, jotka anovat Amazonin tulevan heidän keskelleen. "Voi, sinun ei tarvitse maksaa veroja 20 vuoden ajan." Joten hallitus auttaa heitä. Sitä nämä yritykset haluavat. He eivät halua sääntelyä. En näe tässä poliittisessa ilmapiirissä, kuinka aiomme tehdä niin. Meillä ei ole korkeinta oikeutta, joka sanoisi: "Nämä ovat monopoleja. Aiomme hajottaa ne."

Tämä on oikea kysymys. Kyllä, ne ovat liian suuria. Monien on puhuttava siitä, mitä täällä teemme.

Mikä on heidän ongelmansa? Koska yrityksiä on, en ole koskaan nähnyt yksityistä yritystä, joka olisi pyytänyt lisää sääntelyä. Mikä on riski saada nämä suuret jättiläinen yritykset? Onko se, että he aikovat käyttää markkinavoimaansa kuluttajien hyödyntämiseen? Onko se, että he eivät aio tehdä innovaatioita, koska heillä on käytännössä monopolit kaikilla näillä eri aloilla?

He aikovat hyödyntää kuluttajia. Meillä on enemmän valvontaa. Kilpailua on enemmän. Luulen, että he eivät voi vain rentoutua ja sanoa: "En tee tutkimusta ja kehitystä. En ole tavoittamassa." Mutta pelkään, että paljon siitä tulee ostamalla muita yrityksiä. Startup-yrityksillä on nämä ideat, ja sitten ne ostetaan. Ja sitten he hajottavat jännittävät voimansa, jos heillä on, tähän suurempiin yrityksiin.

Mutta nämä yritykset eivät voi rentoutua eikä tehdä mitään. Katso mitä Microsoftille tapahtui. Se todella jäi jälkeen. Katso Intel. Intel oli aiemmin yksi jättiläisistä. Nyt se on takana. Ihmiset eivät enää käytä suuria tietokoneita ja kannettavissa tietokoneissa on erilaisia ​​siruja, ja he eivät lainkaan edistä mobiililaitteita. Joten heidän on pakko tehdä innovaatioita. Toivon, että he eivät tee sitä ostamalla vain muiden yritysten yrityksiä ja laimentamalla sitten näiden yritysten vaikutuksia, mitä näyttää tapahtuvan.

Sinulla on essee Millennium Bugista, jonka useimpien ihmisten on Googlelle selvitettävä mikä se oli. Mutta sanoin teille jo ennen lentoliikenteen aloittamista, että olin tosiasiallisesti uutishuoneessa uudenvuodenaattona 1999 ja kukaan ei oikein tiennyt mitä tapahtuu. Tiesimme, että henkilökohtaiset tietokoneet ovat todennäköisesti kunnossa, mutta kaikki olivat tavallaan huolestuneita siitä, mitä voimalaitoksessa tapahtuu takahuoneessa olevan tietokoneen kanssa, jota kenenkään ei ole tarkistettu 10 vuodessa. Mutta voitteko puhua vähän siitä, mitä sitten tapahtui, ja sitten mitä opit voivat olla meille tänään.

Yksi niistä asioista, mikä oli hienoa, siksi tapasin ohjelmoijia, jotka olivat kirjoittaneet tämän koodin 60-luvulla ja sanoivat: "En koskaan odottanut, että tämä koodi elää niin kauan." Texaco-yritys oli ainoa iso yritys, joka oli halukas menemään julkisuuteen sanomalla: "Tämä ei ole huijaus. Tätä me teemme. Näihin ongelmiin kohtaamme."

Ja heidän ponnistelunsa olivat sankarillisia. Ja siellä oli pieniä paikallisia asioita, joita ei julkistettu. Mutta tiesin sydämessäni keskustellessani näiden omistautuneiden ohjelmoijien ja projektijohtajien kanssa, että se tulee olemaan kunnossa, koska he todella suunnittelivat. Meille on nyt oppitunti, että käytämme edelleen kaikkea tätä vanhaa koodia. Meillä on nämä näyttävät käyttöliittymät ja sitten sinulla on internet, joka on todella stressin alla. Ja se on hyvin vanha koodi.

Syynä siihen, että meillä on kaikki nämä hakkerit, on se, että Internetiä ei koskaan suunniteltu yksityisyyttä ja nimettömyyttä varten. Se suunniteltiin olevan kollegiaalinen ja avoin. Kukaan ei rakennettu ajatukseen siitä, että nämä ukkosparvet olisivat. Joten meillä on siellä haavoittuvuus. Palaamme takaisin palvelimille, jotka tekevät algoritmeja, se on käyttöjärjestelmässä nimeltä Linux. Linux menee taaksepäin.

Jos siirryt yhä syvemmälle sieppien takana olevaan asiaan, löydät vanhan koodin, vanhan koodin, vanhan koodin. Ohjelmoijat kirjoittavat tavaroita, jotka ajavat toisen koodin päälle, eivätkä aina - usein eivät ymmärrä - niiden asioiden yksityiskohtia, joiden kanssa he ovat yhteydessä. Joten oppitunti elää.

Erinomainen. Haluan puhua kanssasi vähän AI: sta. Vaikuttaa siltä, ​​että olemme tässä asemassa Internetin kanssa, jolla on kaikki nämä tahattomat seuraukset, joita yritämme edelleen selvittää - ja nyt syntymme tätä täysin uutta tekniikkaa, jolla on kaikki nämä vaikutukset. Käytät monissa yrityksissä ja heillä on käynnissä olevat AI-järjestelmät, jotka tekevät liiketoimintapäätöksiä ja antavat suosituksia, eivätkä he kirjaimellisesti pysty selvittämään, kuinka he päästiin sinne. He eivät pysty tunnistamaan prosessia, joka pääsi tulokseen. He vain tietävät, että se toimii. Voitko puhua vähän siitä, mitä tämä voi tarkoittaa?

He luulevat sen toimivan. Tällä hetkellä AI: n trendi, koko ajatus humanoidirobotista, jota emme voi kertoa ihmiseltä, on todella mennyt tielle. Se osoittaa, että on erittäin, hyvin, vaikea ymmärtää kuinka ihmiset toimivat samalla tavalla kuin he toimivat. Se on nyt koneoppimista. Ajatuksena on, että kirjoitat algoritmin. Se tarkastelee tuloksia ja muuttaa itseään, sitten tarkastelee tuloksia ja oppii.

Nyt mitä tapahtuu, ihmiset, jotka kirjoittivat alkuperäisen algoritmin, eivät todellakaan tiedä mitä tapahtuu useiden iteraatioiden jälkeen. Ja koodi siirtyy kauemmas ihmisistä, jotka sen ymmärtävät. Joten se on tavallaan hirviö siinä mielessä, että se toimii yksinään. Ja kyllä ​​se toimii, mutta mitä siitä puuttuu?

Se toimii tiedoissa, joissa on vääristymiä. Sillä on ennen kaikkea puolueellisuus. On virheitä. Joten se, mitä se oppii, on myös puolueellinen ja virhealtista. Olen huolestunut AI: stä tässä suhteessa erityisesti ajamisesta itsenäisistä autoista. Ja että puhumme todellisista ihmisten vahingoista. Ja voisin puhua siitä liian kauan, joten lopetan paremmin.

Suurimmassa osassa ennusteita sanotaan, että itse ajavat autot ovat turvallisempia kuin ihmiskuljettajat. Mielestäni ihmisten kuljettajat ovat suuri osa nykyisissä teiden ongelmissa.

Ihmisillä kuljettajilla on 100-vuotinen historia autojen kuljettamisessa. Joten tässä mitä ihmiset voivat tehdä - he eivät vain katso ympäröivää läheisyyttään. Tiedät ajaessasi, vaikka olet tarkkailumaton, jos sinulla on kokemusta, voit nähdä edessäsi, neljännes mailin, puolen mailin korkeudella mäkeä, että se on kaikki ruuhkainen, ja sinun on valmistauduttava pysähtymään.

Voit lukea autojen persoonallisuuden. Joku tulee kaukaiselle kaistalle tuonne. Näet kuljettajan merkin, mallin ja aggressiivisuuden. Kun tuo auto liikkuu, tiedät, että se katkaisee sinut. Et odota läheisyyshälytystä. Ihmiset tietävät tavoin, että välähdyksellä tapahtuu joko onnettomuus tai menen raivoon tämän auton kanssa. Tai minä sanon: "Okei, mene eteenpäin."

Siirrytään nyt tapoihin, joilla itse ajavat autot voivat kaatua. Jälleen he luottavat koneiden välisiin rajapintoihin. Ja siinä koodissa, jaksossa, tulee olemaan virheitä. Joten he kommunikoivat Internetin tai jonkin langattoman verkon kautta. Iso haavoittuvuus siellä. Olemme nähneet, että valkoiset hype-hakkerit ovat jo hakkeroineet langattomasti toimivia autoja osoittamaan: "Katso, voin saada autosi ajamaan tieltä."

Joten miten sitä suojataan? Ja sitten on rajapinta eri merkkien ja mallien välillä. Luuletko nyt, että kaikki ajavat Priusta? Ei, ihmiset haluavat erilaista suorituskykyä. Joten kilpailu tapahtuu jälleen siitä, kuinka autot toimivat, miten kuljettaja tai matkustajat haluavat tuntea olleensa tiellä.

Siellä on jonkinlainen standardi API, sovellusrajapinta, joka on tunnettu virheistä. Mutta siellä voi tapahtua monia, monia epäonnistumispisteitä. He eivät myöskään voi ajaa lumessa.

Siellä on.

Siellä on. Tarkoitan, että olisit hyödytön?

Luuletko meillä olevan itsenäisiä autoja, jotka ovat juuri alttiita virheille ja turvallisuusriskeille? Tai että et usko, että voimme todella rakentaa turvallisen itsenäisen auton ja että tekniikka vie paljon kauemmin kuin ihmiset ajattelevat?

Luulen, että se tapahtuu. Luulen, että rajoitetun käytön tieillä, kuten moottoriteillä, se toimii hyvin. Ellei lunta tai rankkaa sadetta ole. Sen on näytettävä linjat. Ja sitten sen on näytettävä katkaisuvalot ja ympärillä olevien autojen valot. Ja niin, rajatuilla näkökulmilla, he lisäävät lisää LIDARia ja niin edelleen.

Lopulta se toimii. Se vie vähän kauemmin. Tällä hetkellä luulen, että jotkut kaupungit rakentavat infrastruktuuria keskustaan ​​autoille. Olemme kuitenkin täällä Manhattanilla ja meillä on vaikeuksia ylläpitää metroa. Luuletko, että aiomme ottaa miljardeja dollareita muuttaaksemme Manhattanin paikasta, jossa on anturit itse ajaville autoille? En tiedä, satojen vuosien kuluttua, jos Manhattania ei ole tulvinut nousevista meristä?

Se on siellä. Mutta se ajattelee, että euforia - ja kuten tavallisesti olen synkän edustaja - tuntuu siltä, ​​että olen terällä, ja kaikki muut todella tietävät mitä tekevät, ja olen kuin kirppu, joka kimpoaa toiseen lopuksi yrittää työntää vähän alas ja tasoittaa näkökulmat. Keskeytä odotukset. Kaikkien tulisi tietää tuntemamme kova työ, joka meidän on tehtävä ennen kuin upea odotus voidaan toteuttaa.

Aion kysyä teiltä pari kysymystä, jotka esitän kaikille näyttelyyn tuleville. Ja tämän pitäisi olla helppo sinulle. Mikä teknologinen suuntaus sinua kiinnostaa eniten? Onko jotain, joka pitää sinut yöllä? Voimme tehdä kokonaan toisen näyttelyn.

Kaikki yllä olevat. Se ei pidä minua yöllä. Tarkoitan, vietän tarpeeksi aikaa ajatellen sitä päivän aikana. Tiedän, että yksi niistä kysymyksistä, jotka olet ajatellut kysyäsi, oli, pitäisikö ihmisten pitää pitää tauko kaikista näistä? Joo.

Nykyään joku skootterin tuleva heitti minut melkein kadulle.

Ja puhelin?

Kuulokkeilla ja puhelimella. Joten tämä todella koskee minua. Ihmiset voivat todella satuttaa.

Ihmiset loukkaantuvat päivittäin New Yorkissa, koska kaikki katsovat puhelintansa ja kävelevät.

Joo, asun Marketin eteläosassa. Asun San Franciscossa sen Startup Alley -kadulla, Second Street. Nyt on yksi asia sanoa, että kaikki katsovat puhelintansa, mutta kun yrität kävellä kadulla pohjoiseen, kun kaikki ovat etelään, ja 100 ihmistä tutkii puhelimiaan, se todella on, minusta tuntuu " Asun vieraassa maailmassa.