Jos tekoäly-yritykset yrittävät rakentaa Jumalaa, eikö niiden pitäisi saada ensin lupamme?
Tekoäly-yritysten tehtävänä on muuttaa maailmaamme radikaalisti. He työskentelevät rakentamassa koneita, jotka voivat ylittää ihmisen älykkyyden ja vapauttaa dramaattisen taloudellisen muutoksen meissä kaikissa.
Sam Altman, ChatGPT-valmistajan OpenAI:n toimitusjohtaja, on periaatteessa kertonut meille yrittävänsä rakentaa jumalaa – tai “Maaginen äly taivaalla” kuten hän sen sanoo. OpenAI:n virallinen termi tälle on tekoäly eli AGI. Altman sanoo, että AGI ei vain “rikkoa kapitalismi” mutta myös sitä, että se on “luultavasti suurin uhka ihmiskunnan olemassaololle.”
Tässä on hyvin luonnollinen kysymys: Onko kukaan todella pyytänyt tällaista tekoälyä? Millä oikeudella muutamat voimakkaat teknologiajohtajat saavat päättää, että koko maailmamme pitäisi kääntää ylösalaisin?
Kuten olen aiemmin kirjoittanut, on selvästi epädemokraattista, että yksityiset yritykset rakentavat tekniikkaa, jonka tavoitteena on muuttaa maailma kokonaan ilman, että se hakee sisäänostoa yleisöltä. Itse asiassa jopa suurten yritysten johtajat ilmaisevat levottomuutta siitä, kuinka epädemokraattista se on.
Jack Clark, tekoälyyrityksen Anthropicin perustaja, kertoi Voxille viime vuonna, että on “todella outoa, että tämä ei ole hallituksen hanke”. Hän myös kirjoitti että on useita keskeisiä asioita, joista hän on “hämmentynyt ja levoton”, mukaan lukien “Kuinka paljon lupaa tekoälykehittäjien on saatava yhteiskunnalta, ennen kuin he voivat muuttaa yhteiskuntaa peruuttamattomasti?” Clark jatkoi:
Teknologieilla on aina ollut jonkinlainen libertaarinen linja, ja tätä kuvaa ehkä parhaiten “sosiaalinen media” ja Uber ym. 2010-luvun aikakausi – valtavia, yhteiskuntaa muuttavia järjestelmiä sosiaalisista verkostoista kyytijalkajärjestelmiin otettiin käyttöön maailmassa ja skaalata aggressiivisesti ottamatta vähän huomioon yhteiskuntia, joihin he vaikuttivat. Tämä luvaton keksintö on pohjimmiltaan implisiittisesti suositeltu kehitysmuoto, sellaisena kuin se on piilaakson ja tekniikan yleisen “liiku nopeasti ja riko asioita” -filosofia. Pitäisikö saman olla AI:ssa?
Olen huomannut, että kun joku kyseenalaistaa “luvattoman keksinnön” normin, monet tekniikan harrastajat hylkäävät. Heidän vastalauseensa näyttävät aina kuuluvan johonkin kolmesta kategoriasta. Koska tämä on niin ikuinen ja tärkeä keskustelu, kannattaa käsitellä jokaista niistä vuorotellen – ja miksi ne ovat mielestäni väärässä.
Vastaväite 1: “Käytämme suostumuksemme”
ChatGPT on historian nopeimmin kasvava kuluttajasovellus: Sillä oli 100 miljoonaa aktiivista käyttäjää vain kaksi kuukautta sen julkaisun jälkeen. On kiistatonta, että monet ihmiset pitivät sitä todella siistinä. Ja se vauhditti muiden chatbottien, kuten Clauden, julkaisua, joita kaikenlaiset ihmiset käyttävät – toimittajista koodaajiin kiireisiin vanhempiin, jotka haluavat jonkun (tai jonkin) muun pääsevän helvetin päivittäistavarakauppalistalle.
Jotkut väittävät, että tämä yksinkertainen tosiasia – käytämme tekoälyä! — osoittaa, että ihmiset suostuvat siihen, mitä suuryritykset tekevät.
Tämä on yleinen väite, mutta mielestäni se on hyvin harhaanjohtava. Tekoälyjärjestelmän käyttömme ei merkitse suostumusta. “Suostuksella” tarkoitamme tyypillisesti tietoista suostumusta, emme tietämättömyydestä tai pakotuksesta syntynyttä suostumusta.
Suuri osa yleisöstä ei ole tietoinen näiden järjestelmien todellisista kustannuksista ja hyödyistä. Kuinka monet ihmiset ovat tietoisia esimerkiksi siitä, että generatiivinen tekoäly imee niin paljon energiaa, että Googlen ja Microsoftin kaltaiset yritykset peruvat ilmastolupauksensa tämän seurauksena?
Lisäksi me kaikki elämme valikoiduissa ympäristöissä, jotka pakottavat meidät käyttämään tekniikoita, joita haluamme välttää. Joskus “hyväksymme” tekniikan, koska pelkäämme joutuvamme ammatillisesti epäedulliseen asemaan, jos emme käytä sitä. Ajattele sosiaalista mediaa. En henkilökohtaisesti olisi X:ssä (aiemmin Twitter), ellei sitä pidetä tärkeänä työlleni toimittajana. Tuoreessa tutkimuksessa Monet nuoret sanoivat, että he toivoivat, että sosiaalisen median alustoja ei koskaan keksittäisi, mutta koska nämä alustat ovat olemassa, he tuntevat painetta olla niillä.
Vaikka luulet jonkun tietyn tekoälyjärjestelmän käytön olevan suostumus, se ei tarkoita, että hän suostuu suurempaan AGI-rakennusprojektiin.
Tämä tuo meidät tärkeään eroon: on kapea tekoäly – järjestelmä, joka on suunniteltu tiettyä tehtävää varten (esimerkiksi kielenkäännös) – ja sitten on AGI. Kapea tekoäly voi olla upea! On hyödyllistä, että tekoälyjärjestelmät voivat tehdä karkeita kopioita työstäsi ilmaiseksi tai antaa sinun kirjoittaa tietokonekoodia pelkällä englannin kielellä. On mahtavaa, että tekoäly auttaa tutkijoita ymmärtämään paremmin sairauksia.
Ja se on äärimmäisen mahtavaa AI mursi proteiinin laskostumisongelman – haaste ennustaa, mihin kolmiulotteiseen muotoon proteiini taittuu – palapeli, joka järkytti biologeja 3 vuoden ajan. Nobelin kemian komitea on selvästi samaa mieltä: Se antoi juuri Nobel-palkinnon AI pioneereja tämän läpimurron mahdollistamiseksi, mikä auttaa lääkkeiden löytämisessä.
Mutta se on eri asia kuin yritys rakentaa yleiskäyttöinen päättelykone, joka päihittää ihmiset, “taivaan taikaäly”. Vaikka monet ihmiset haluavat kapeaa tekoälyä, kysely osoittaa, että useimmat amerikkalaiset eivät halua AGI:ta. Mikä tuo meidät…
Vastaväite 2: “Yleisö on liian tietämätön kertoakseen innovoijille, kuinka innovoida”
Tässä on yleinen lainaus (tosin epäilyttävästi) johtui autonvalmistaja Henry Fordista: “Jos olisin kysynyt ihmisiltä, mitä he haluavat, he olisivat sanoneet nopeampia hevosia.”
Tässä väitetään, että on hyvä syy, miksi nerokeksijat eivät pyydä yleisön sisäänostoa ennen uuden keksinnön julkaisemista: yhteiskunta on liian tietämätön tai mielikuvitukseton tietääkseen, miltä hyvä innovaatio näyttää. Painokoneesta ja lennättimestä sähköön ja Internetiin monet historian suurista teknologisista innovaatioista tapahtuivat, koska muutamat ihmiset päättivät niistä fiatin avulla.
Mutta se ei tarkoita, että fiatin käyttäminen olisi aina asianmukaista. Se tosiasia, että yhteiskunta on usein antanut keksijöiden tehdä niin, voi johtua osittain teknologisesta ratkaisuhalusta, osittain uskosta “suuren miehen” historian näkemykseen, ja osittain siitä, että olisi ollut melko vaikeaa kuulla laajaa tietoa. yhteiskunta aikakaudella ennen joukkoviestintää – ennen asioita, kuten painokone tai lennätin!
Ja vaikka nuo keksinnöt tulivat mukana riskejä ja todellinen haittoja, ne eivät aiheuttaneet uhkaa pyyhkiä ihmiskuntaa kokonaan pois tai tehdä meistä toisen lajin alaisia.
Niille harvoille tähän mennessä keksimillemme teknologioille, jotka täyttävät tämän kriteerin, etsivät demokraattista panosta ja luomme mekanismeja maailmanlaajuista valvontaa varten. omistaa on yritetty, ja aivan oikein. Tästä syystä meillä on ydinsulkusopimus ja biologisten aseiden kieltosopimus – sopimuksia, joilla on paljon merkitystä, vaikka niiden tehokas täytäntöönpano onkin vaikeaa pitääksemme maailmamme turvassa.
On tietysti totta, että useimmat ihmiset eivät ymmärrä tekoälyn jyrkkyyttä. Joten argumentti tässä ei ole se, että yleisön pitäisi sanella tekoälypolitiikan yksityiskohtia. On väärin jättää huomiotta yleisön yleiset toiveet sellaisissa kysymyksissä kuin “Pitäisikö hallituksen valvoa turvallisuusstandardeja ennen katastrofin tapahtumista vai rangaista yrityksiä vasta sen jälkeen?” ja “Onko olemassa tiettyjä tekoälytyyppejä, joita ei pitäisi olla ollenkaan?”.
Kuten Daniel Colson, voittoa tavoittelemattoman AI Policy Instituten toiminnanjohtaja, kertoi minulle viime vuonna “Politiikkojen ei pitäisi ottaa äänestäjiltä tai kyselyiden sisällöstä näiden ongelmien ratkaisemisen yksityiskohtia. Paikka, jossa ajattelen äänestäjiä olemme oikeat ihmiset kysyvät kuitenkin: Mitä haluat politiikalta? Ja mihin suuntaan haluat yhteiskunnan menevän?”
Väite 3: “Innovaatiota on mahdotonta rajoittaa joka tapauksessa”
Lopuksi on teknologisen väistämättömyyden argumentti, joka sanoo, että et voi pysäyttää teknologisen kehityksen marssia – se on pysäyttämätön!
Tämä on myytti. Itse asiassa, on monia teknologioita, joita olemme päättäneet olla rakentamatta, tai jonka olemme rakentaneet, mutta asettaneet sille erittäin tiukat rajoitukset. Ajatelkaapa ihmisen kloonausta tai ihmisen ituradan modifiointia. Yhdistelmä-DNA-tutkijat vuoden 1975 Asilomar-konferenssin takana järjestivät kuuluisasti a lykkäys tietyissä kokeissa. Emme vieläkään kloonaa ihmisiä.
Tai ajattele vuoden 1967 ulkoavaruussopimusta. YK:n hyväksymä se kylmän sodan taustalla esti kansoja tekemästä tiettyjä asioita avaruudessa – kuten säilyttämästä ydinaseitaan siellä. Nykyään sopimus tulee voimaan keskustelua siitä, pitäisikö meidän lähettää viestejä avaruuteen toivoen päästä maan ulkopuolisiin oleviin. Jotkut väittävät, että se on vaarallista, koska vieraslaji, joka on kerran tietoinen meistä, saattaa valloittaa ja sortaa meidät. Toiset väittävät, että se tulee olemaan hienoa – ehkä avaruusolennot lahjoittavat meille tietonsa Encyclopedia Galactican muodossa!
Joka tapauksessa on selvää, että panokset ovat uskomattoman korkeat ja se vaikuttaisi koko ihmissivilisaatioon, mikä saa jotkut puolustaa demokraattista pohdintaa ennen kuin tarkoitukselliset lähetykset lähetetään avaruuteen.
Kuten vanha roomalainen sananlasku sanoo: Kaikkien tulee päättää, mikä koskettaa kaikkia.
Tämä pätee yhtä hyvin superälykkääseen tekoälyyn kuin ydinaseisiin, kemiallisiin aseisiin tai tähtienvälisiin lähetyksiin.