Tekoälyn sotilaalliset vaarat eivät ole hallusinaatioita

Annan itselleni tunnustusta siitä, että olen huomattavasti aikaani edellä. Tapasin tekoälyn (AI) ensimmäisen kerran vuonna 1968 ollessani vain 24-vuotias, ja alusta asti tunsin sen syvät vaarat. Kuvittele sitä.

Vaikka haluaisinkin ylpeillä siitä, olin kaikkea muuta kuin yksin. Olin itse asiassa epäilemättä yksi miljoonista ihmisistä, jotka näkivät elokuvan 2001: A Space Odyssey , jonka Stanley Kubrick ohjasi Arthur C. Clarken kanssa kirjoitetusta käsikirjoituksesta ( inspiroitunut novellista “The Sentinel”, jonka kuuluisa tieteiskirjailija Clarke oli tuottanut – kyllä! – 1948). Tekoälyllä oli silloin todellinen nimi, HAL 9000 (mutta kutsu häntä “Haliksi”).

Ja ei, ensimmäinen kuviteltu tekoäly maailmassani ei toiminut hyvin, minkä olisi pitänyt olla (mutta ei osoittautunut) opetus meille kaikille. Upotettuna Jupiteriin matkaavaan avaruusalukseen, hän tappoi neljä viidestä sen astronautista ja teki parhaansa tehdäkseen viimeisessä ennen kuin hänet suljettiin.

Ihmisen sukupuutto sivuvauriona

Kirjailija: Michael Klare

Maailma, jossa tekoälyn (AI) ohjaamat koneet järjestelmällisesti korvaavat ihmiset useimmissa liike-, teollisuus- ja ammattitehtävissä, on kauhistuttavaa kuvitella. Loppujen lopuksi, kuten merkittävät tietotekniikan tutkijat ovat varoittaneet meitä, tekoälyn hallitsemat järjestelmät ovat alttiita kriittisille virheille ja selittämättömille “hallusinaatioille”, jotka johtavat mahdollisesti katastrofaalisiin lopputuloksiin. Mutta on olemassa vieläkin vaarallisempi skenaario, joka on kuviteltavissa superälykkäiden koneiden lisääntymisestä: mahdollisuus, että nuo ei-inhimilliset olennot voivat päätyä taistelemaan toisiaan vastaan ​​ja tuhoten samalla kaiken ihmiselämän.

Ajatus siitä, että superälykkäät tietokoneet saattavat jyllää ja tappaa ihmiset, on tietysti ollut pitkään populaarikulttuurin perusaine. Vuoden 1983 profeetallisessa elokuvassa WarGames supertietokone, joka tunnetaan nimellä WOPR (for War Operation Plan Response ja ei yllättäen lausutaan “whopper”) melkein provosoi katastrofaalisen ydinsodan Yhdysvaltojen ja Neuvostoliiton välillä, ennen kuin teini-ikäinen hakkeri (Matthew Broderick) katkaisee sen. Terminator – elokuvasarja, joka alkoi alkuperäisestä vuoden 1984 elokuvasta, hahmotteli samalla tavalla itsetietoisen supertietokoneen nimeltä “Skynet”, joka WOPR:n tapaan oli suunniteltu hallitsemaan Yhdysvaltain ydinaseita, mutta päätti sen sijaan tuhota ihmiskunnan ja pitää meidät uhkana sen olemassaololle.

Vaikka ajatus supertietokoneiden tappamisesta on aikoinaan rajoittunut tieteiskirjallisuuden piiriin, siitä on nyt tullut erillinen mahdollisuus lähitulevaisuudessa aivan todellisessa maailmassa. Sen lisäksi, että suuret sotilasvallat kehittävät monenlaisia ​​” autonomisia ” tai robottitaistelulaitteita, ne ovat myös kiirehtimässä luomaan automatisoituja taistelukenttien päätöksentekojärjestelmiä tai niin sanottuja ” robottikenraaleja” ..” Lähitulevaisuuden sodissa tällaisia ​​tekoälyllä varustettuja järjestelmiä voitaisiin käyttää toimittamaan taistelukäskyjä amerikkalaisille sotilaille, jotka sanelevat missä, milloin ja miten he tappavat vihollisjoukkoja tai ottavat vastustajiaan tulta. Joissakin skenaarioissa robottipäättäjät voivat jopa päätyä hallitsemaan Amerikan atomiaseita, jolloin he voivat sytyttää ydinsodan, joka johtaa ihmiskunnan kuolemaan.

Vedä nyt hetki henkeä. Tekoälyllä toimivan komento- ja ohjausjärjestelmän (C2) asentaminen voi tuntua kaukaiselta mahdolliselta. Siitä huolimatta Yhdysvaltain puolustusministeriö työskentelee kovasti kehittääkseen tarvittavia laitteistoja ja ohjelmistoja systemaattisesti ja yhä nopeammalla tavalla. Esimerkiksi vuoden 2023 budjettiehdotuksessaan ilmavoimat pyysivät 231 miljoonaa dollaria Advanced Battlefield Management System (ABMS) -järjestelmän kehittämiseen . Se on monimutkainen anturien ja tekoälyllä varustettujen tietokoneiden verkko, joka on suunniteltu keräämään ja tulkitsemaan tietoja vihollisen operaatioista ja tarjoamaan lentäjille ja maajoukoille valikoima optimaalisia hyökkäysvaihtoehtoja. Kun tekniikka kehittyy, järjestelmä on kykenevä“palo”-ohjeiden lähettäminen suoraan “ampujille” suurelta osin ohittamalla ihmisen hallinnan.

“Koneen välinen tiedonvaihtotyökalu, joka tarjoaa vaihtoehtoja pelotteelle, asematasolle [sotilaallinen voimannäyte] tai varhaiseen sitoutumiseen”, kuten Will Roper, ilmavoimien hankinnasta, teknologiasta ja logistiikasta vastaava apulaissihteeri, kuvaili ABMS-järjestelmää vuoden 2020 haastattelussa . Roper ehdotti, että “meidän on vaihdettava nimeä” järjestelmän kehittyessä, ja lisäsi: “Luulen, että Skynet on poistunut, vaikka haluaisinkin tehdä sen scifi-juttuina. En vain usko, että voimme mennä sinne.”

Ja vaikka hän ei voi mennä sinne, me muut voimme todellakin mennä sinne.

Huomaa, että se on vasta alkua. Itse asiassa ilmavoimien ABMS on tarkoitettu muodostamaan ytimen suuremmalle anturien ja tietokoneiden joukolle, joka yhdistää kaikki Yhdysvaltain taistelujoukot, Joint All-Domain Command-and-Control Systemin (JADC2, lausutaan “Jad-C-two”). “JADC2 aikoo antaa komentajille mahdollisuuden tehdä parempia päätöksiä keräämällä dataa lukuisista antureista, käsittelemällä dataa tekoälyalgoritmeilla kohteiden tunnistamiseksi ja suosittelemalla sitten optimaalista asetta… kohteen kohdistamiseksi”, Congressional Research Service raportoi vuonna 2022 .

Tekoäly ja ydinlaukaisu

Aluksi JADC2 on suunniteltu koordinoimaan taisteluoperaatioita “tavanomaisten” tai ei-ydinvoimaisten amerikkalaisten joukkojen kesken. Lopulta sen odotetaan kuitenkin kytkeytyvän Pentagonin ydinkomento-ohjaus- ja viestintäjärjestelmiin (NC3), mikä saattaa antaa tietokoneille merkittävän hallinnan amerikkalaisen ydinarsenaalin käyttöön. “JADC2 ja NC3 ovat kietoutuneet yhteen”, kenraali John E. Hyten, Joint Chiefs of Staff -järjestön varapuheenjohtaja, totesi vuoden 2020 haastattelussa. Tämän seurauksena hän lisäsi tyypillisellä Pentagonian kielellä: “NC3:n on ilmoitettava JADC2:lle ja JADC2:n on ilmoitettava NC3:lle.”

Ei vaadi suurta mielikuvitusta kuvitella aikaa ei liian kaukaiseen tulevaisuuteen, jolloin jonkinlainen kriisi – esimerkiksi Yhdysvaltain ja Kiinan välinen sotilaallinen yhteenotto Etelä-Kiinan merellä tai lähellä Taiwania – saa aikaan yhä intensiivisemmän taistelun vastakkaisten ilma- ja merivoimien välillä. Kuvittele sitten, että JADC2 määrää vihollisen tukikohtien ja komentojärjestelmien intensiivisen pommituksen itse Kiinassa, laukaiseen vastavuoroisia hyökkäyksiä Yhdysvaltain laitoksia vastaan ​​ja JADC2:n salaman päätöksen kostaa taktisilla ydinaseilla, sytyttäen kauan pelätyn ydinholokaustin.

Mahdollisuus, että tämänkaltaiset painajaisskenaariot voisivat johtaa vahingossa tapahtuvaan tai tahattomaan ydinsodan syttymiseen, on pitkään vaivannut analyytikot asevalvontayhteisössä. Mutta sotilaallisten C2-järjestelmien kasvava automatisointi on herättänyt ahdistusta ei vain heidän keskuudessaan, vaan myös korkeiden kansallisten turvallisuusviranomaisten keskuudessa.

Jo vuonna 2019, kun kysyin Pentagonin yhteisen tekoälykeskuksen silloiselle johtajalle kenraaliluutnantti Jack Shanahanille tällaisesta riskialtista mahdollisuudesta, hän vastasi: “Et löydä vahvempaa kannattajaa tekoälyvalmiuksien integroimiselle puolustusministeriöön, mutta on yksi alue, jolla pysähdyn ydinkomennolla ja sen on tehtävä . ” Tämä “on perimmäinen inhimillinen päätös, joka on tehtävä”, joten “meidän on oltava hyvin varovaisia”. Ottaen huomioon tekniikan “epäkypsyyden”, hän lisäsi, tarvitsemme “paljon aikaa testaamiseen ja arvioimiseen [ennen tekoälyn soveltamista NC3:een]”.

Seuraavina vuosina Pentagon on tällaisista varoituksista huolimatta kilpaillut automatisoitujen C2-järjestelmien kehittämisessä. Vuoden 2024 budjettiehdotuksessaan puolustusministeriö pyysi 1,4 miljardia dollaria JADC2:lle “muuttamaan sodantorjuntakykyä tarjoamalla tietoetua merkityksellisellä nopeudella kaikilla aloilla ja kumppaneilla”. Voi ei! Ja sitten se pyysi vielä 1,8 miljardia dollaria muuhun sotilaalliseen tekoälytutkimukseen.

Pentagonin viranomaiset myöntävät, että kestää jonkin aikaa, ennen kuin robottikenraalit ohjaavat suuria määriä Yhdysvaltain joukkoja (ja autonomisia aseita) taistelussa, mutta he ovat jo käynnistäneet useita projekteja, joiden tarkoituksena on testata ja täydentää juuri tällaisia ​​yhteyksiä. Yksi esimerkki on Army’s Project Convergence, joka sisältää sarjan kenttäharjoituksia, jotka on suunniteltu validoimaan ABMS- ja JADC2-komponenttijärjestelmiä. Esimerkiksi elokuussa 2020 Yuma Proving Groundilla Arizonassa pidetyssä testissä armeija käytti erilaisia ​​ilmassa ja maassa sijaitsevia antureita jäljittääkseen simuloituja vihollisjoukkoja ja sitten käsitelläkseen näitä tietoja tekoälyä tukevilla tietokoneilla Lewis McChordin yhteistukikohdassa Washingtonin osavaltiossa. Nämä tietokoneet puolestaan ​​antoivat tuliohjeita Yuman maassa sijaitsevalle tykistölle. “Tämä koko sekvenssi oli oletettavasti suoritettu 20 sekunnissa”, kongressin tutkimuspalvelu raportoi myöhemmin .

“Flash Wars” ja ihmisten sukupuutto

Kaikesta näihin projekteihin liittyvästä salailusta huolimatta voit ajatella, että ABMS, JADC2, Convergence ja Overmatch ovat tulevaisuuden Skynet-tyyppisten supertietokoneiden megaverkkojen rakennuspalikoita, jotka on suunniteltu ohjaamaan kaikkia Yhdysvaltain joukkoja, mukaan lukien sen ydinvoimat, aseellisissa taisteluissa. Mitä enemmän Pentagon liikkuu tähän suuntaan, sitä lähemmäksi tulemme aikaa, jolloin tekoälyllä on elämä tai kuolema valtaa kaikkiin amerikkalaisiin sotilaisiin sekä vastustaviin joukkoihin ja ristituleen joutuneisiin siviileihin.

Tällaisen mahdollisuuden pitäisi olla runsaasti huolestuttavaa. Aluksi harkitse tällaisten järjestelmien ytimessä olevien algoritmien virheiden ja virhelaskujen riskiä. Kuten huipputietotekniikan tutkijat ovat varoittaneet, nämä algoritmit voivat tehdä huomattavan selittämättömiä virheitä ja tämän hetken tekoälytermiä käyttäen “hallusinaatioita” – toisin sanoen näennäisesti järkeviä tuloksia, jotka ovat täysin illuusiota. Näissä olosuhteissa ei ole vaikea kuvitella tällaisten tietokoneiden “halusinoivan” välitöntä vihollisen hyökkäystä ja käynnistävän sodan, joka muuten olisi voitu välttää.

Ja se ei ole pahin vaaroista. Loppujen lopuksi on ilmeinen todennäköisyys, että Amerikan vastustajat varustavat joukkonsa samalla tavalla robottikenraaleilla. Toisin sanoen, tulevat sodat käyvät todennäköisesti yksi tekoälyjärjestelmä toista vastaan, molemmat liittyvät ydinaseisiin, ja tulokset ovat täysin arvaamattomia, mutta mahdollisesti katastrofaalisia.

Venäjän ja Kiinan pyrkimyksistä automatisoida sotilaallisen komento- ja valvontajärjestelmänsä ei tiedetä paljoa (ainakaan julkisista lähteistä), mutta molempien maiden uskotaan kehittävän Pentagonin JADC2:een verrattavia verkkoja. Itse asiassa Venäjä perusti jo vuonna 2014 Moskovaan National Defense Control Centerin (NDCC), keskitetyn komentoaseman, jonka tehtävänä on arvioida globaaleja uhkia ja aloittaa kaikki tarpeelliseksi katsotut sotilaalliset toimet, olivatpa ne luonteeltaan ydinvoimattomia. JADC2:n tapaan NDCC on suunniteltu keräämään tietoa vihollisen liikkeistä useista lähteistä ja tarjoamaan johtaville upseereille ohjeita mahdollisista vastatoimista.

Kiinan sanotaan jatkavan vieläkin monimutkaisempaa, joskin samanlaista yritystä “Multi-Domain Precision Warfare” (MDPW) -otsikon alla. Pentagonin vuoden 2022 Kiinan armeijan kehitystä koskevan raportin mukaan sen armeijaa, kansan vapautusarmeijaa, koulutetaan ja varustetaan käyttämään tekoälyllä varustettuja antureita ja tietokoneverkkoja “tunnistamaan nopeasti Yhdysvaltain operatiivisen järjestelmän tärkeimmät haavoittuvuudet ja yhdistämään sitten yhteiset voimat eri aloilla tarkkuusiskujen käynnistämiseksi näitä haavoittuvuuksia vastaan”.

Kuvittele sitten tuleva sota Yhdysvaltain ja Venäjän tai Kiinan (tai molempien) välillä, jossa JADC2 komentaa kaikkia Yhdysvaltain joukkoja, kun taas Venäjän NDCC ja Kiinan MDPW komentavat näiden maiden joukkoja. Ajattele myös, että kaikki kolme järjestelmää kokevat todennäköisesti virheitä ja hallusinaatioita. Kuinka turvassa ihmiset ovat, kun robottikenraalit päättävät, että on aika “voittaa” sota tuhoamalla vihollisensa?

Jos tämä tuntuu sinusta omituiselta skenaariolta, mieti uudelleen, ainakin tekoälyn kansallisen turvallisuuskomission johdon mukaan. Se on kongressin valtuutettu yritys, jonka puheenjohtajana toimivat Googlen entinen johtaja Eric Schmidt ja entinen apulaispuolustusministeri Robert Work. “Vaikka komissio uskoo, että oikein suunnitellut, testatut ja käytetyt tekoälyllä toimivat ja autonomiset asejärjestelmät tuovat huomattavaa sotilaallista ja jopa humanitaarista hyötyä, tällaisten järjestelmien hallitsematon maailmanlaajuinen käyttö saattaa vaarantaa tahattoman konfliktin kärjistymisen ja kriisin epävakauden”, se vahvisti .loppuraportissaan. Se totesi, että tällaisia ​​vaaroja saattaa syntyä, koska tekoälyllä varustettujen ja autonomisten asejärjestelmien välinen vuorovaikutus taistelukentällä on haastavaa ja testaamatonta, eli silloin, kun tekoäly taistelee tekoälyä vastaan.

Tällä hetkellä ei käytännössä ole olemassa toimenpiteitä tämänkaltaisen tulevan katastrofin estämiseksi tai edes neuvotteluja suurvaltojen kesken tällaisten toimenpiteiden suunnittelemisesta. Kuitenkin, kuten tekoälyn kansallinen turvallisuuskomissio totesi, tällaisia ​​kriisinhallintatoimenpiteitä tarvitaan kiireellisesti “automaattisten eskalaatiojohtojen” integroimiseksi sellaisiin järjestelmiin, “jotka estäisivät konfliktien automatisoidun eskaloitumisen”. Muuten jokin katastrofaalinen versio kolmannesta maailmansodasta näyttää aivan liian mahdolliselta. Ottaen huomioon tällaisen tekniikan vaarallisen kypsymättömyyden ja Pekingin, Moskovan ja Washingtonin haluttomuuden rajoittaa tekoälyn aseistamista, päivä, jolloin koneet voisivat päättää tuhota meidät, saattaa saapua paljon nopeammin kuin kuvittelemme, ja ihmiskunnan sukupuuttoon voi liittyä tällaisen tulevan sodan sivuvaurio.

Lähde: ActivistPost.com