Voisiko tekoäly aloittaa ydinsodan?
Olen käsitellyt monia mahdollisia kriisejä vuosien varrella.
Näitä ovat luonnonkatastrofit, pandemiat, sosiaaliset levottomuudet ja taloudellinen romahdus. Se on pelottava lista.
Yksi asia, jota en ole tehnyt, on peittää suurin mahdollinen katastrofi – ydinsota. Alla selitetyistä syistä johtuen nyt on aika harkita sitä.
Ydinsotataistelu on palannut ilmaan. Aihe saa nykyään enemmän huomiota kuin koskaan vuoden 1962 Kuuban ohjuskriisin ja sen jälkiseurausten jälkeen. Tähän on kolme syytä.
Ensimmäinen on amerikkalaisten syytökset siitä, että Venäjä kiihtyisi käyttämään ydinaseita, kun se käy epätoivoisempaa Ukrainan sodassa. Nämä syytökset olivat aina vääriä ja ovat kuuliaisia nyt, kun Venäjä selvästi voittaa sodan tavanomaisilla aseilla.
Uhkaukset ja vastauhkaukset riittivät kuitenkin saamaan aiheen peliin.
Toinen syy on Israelin ja Hamasin välinen sota. Jälleen eskaloituminen on huolenaihe. Eräs ei uskottava skenaario on, että Hizbollah Etelä-Libanonissa avaa toisen rintaman Israelin pohjoisrajalle intensiivisellä ohjuspommituksella.
Jemenin huthikapinalliset osallistuisivat hyökkäykseen. Koska Hizbollah ja huthit ovat molemmat shiiamuslimeja ja iranilaisia edustajia, Israel voisi hyökätä Iraniin eskaloitumisen lähteenä.
Israel on ydinvoima. Kun alueella on yhdysvaltalainen lentotukialuksen taisteluryhmä ja ydinsukellusvene sekä ydinvoimat Venäjä ja Pakistan ovat valmiina auttamaan Irania, mahdollisuudet kärjistyä ydinasevaihdoksi on todellinen.
Iranin ja Pakistanin välisten jännitteiden kärjistyminen juuri tällä viikolla lisää öljyä tuleen.
Kolmas syy on tekoäly ja GPT-tulostus. Vaikka tekoäly voi tarjota kannattavia mahdollisuuksia sijoittajille monilla markkinoiden sektoreilla, tekoäly/GPT voi myös olla suurin uhka ydinvoiman leviämiselle, koska sen sisäinen logiikka on ristiriidassa sen ihmisen logiikan kanssa, joka on säilyttänyt ydinrauhan viimeiset 80 vuotta. .
Olen käsitellyt Ukrainaa ja Israelia laajasti, ja niitä käsitellään laajasti uutisissa. Mutta tänään käsittelen AI/GPT:n ydinsodan riskejä. Se on uhka, josta et kuule mitään, mutta siihen on puututtava.
Aloitetaan fiktiivisestä elokuvasta. Paradigmaattinen kuvaus vahingossa tapahtuneesta ydinsodasta on vuoden 1964 elokuva Fail Safe . Elokuvassa Yhdysvaltain tutka havaitsee tuntemattoman, mutta mahdollisesti vihamielisen lentokoneen tunkeutumisen Yhdysvaltain ilmatilaan.
Yhdysvaltain ilmavoimat päättävät pian, että kone on siviililentokone. Sillä välin tunkeutumiseen reagoinut tietokone määrää virheellisesti eversti Jack Gradyn johtaman yhdysvaltalaisen strategisen pommikoneryhmän aloittamaan ydinhyökkäyksen Moskovaan.
Yhdysvaltain yritykset peruuttaa määräys ja palauttaa pommikoneet epäonnistuvat Neuvostoliiton radiokanavien häirinnän vuoksi. Presidentti käskee armeijaa ampumaan alas pommittajat ja hävittäjäkoneet salataan tätä tarkoitusta varten.
Hävittäjät käyttävät jälkipolttimia pommittajien kiinni saamiseksi, mutta ne epäonnistuvat ja lisääntynyt polttoaineenkulutus saa ne syöksymään Jäämereen.
Seuraavaksi presidentti kommunikoi Neuvostoliiton pääministerin kanssa, joka suostuu lopettamaan häirinnän. Presidentti keskustelee hyökkäyspommittajaryhmän johtajan kanssa hyökkäyksen keskeyttämiseksi, mutta miehistöä on koulutettu jättämään huomiotta sellaiset vetoomukset kuin Neuvostoliiton temppu.
Sen jälkeen Yhdysvallat tarjoaa Neuvostoliiton teknistä apua pommittajien ampumisessa. Melkein kaikki lentokoneet ammutaan alas, mutta yksi selviää. Presidentti laittaa eversti Gradyn vaimon radioon; hän epäröi, mutta on pian huolissaan Neuvostoliiton ohjusten kiertämisestä. Sitten hän päättää, että hänen vaimonsa ääni on toinen petos.
Ennakoimalla pahinta ja pyrkiessään välttämään täysimittaista ydinsotaa, presidentti käskee Yhdysvaltain ydinpommittajan lentämään New Yorkin yli tietäen, että ensimmäinen nainen on New Yorkissa.
Lopulta Yhdysvaltain ydinase tuhoaa Moskovan ja presidentti käskee pudottaa ydinpommin New York Cityyn käyttämällä Empire State Buildingia pohjana. Odotetaan, että New Yorkin uhraus Moskovan vastineeksi lopettaa kärjistymisen, mutta sitä ei näytetä elokuvassa.
Seuraava vaihe jää epäselväksi.
Vaikka Fail Safe on 60 vuotta vanha, sen herättämät ongelmat ja jotkut juonenkäänteet ovat hämmästyttävän nykyaikaisia. Elokuvassa hyökkäyksen aiheuttanutta tietokonevirhettä ei koskaan selitetä teknisesti, mutta se ei kuitenkaan ole kovin olennaista.
Tietokonevirheitä tapahtuu jatkuvasti kriittisessä infrastruktuurissa, ja ne voivat aiheuttaa todellista vahinkoa, mukaan lukien sähkökatkokset ja junaonnettomuudet. Tällaiset tietokonevirheet ovat tämän päivän strategisten järjestelmien tekoälystä käytävän keskustelun ydin.
Lue, miksi…
Voisiko tekoäly aloittaa ydinsodan?
Tekoäly komento- ja ohjauskontekstissa voi joko toimia virheellisesti ja antaa virheellisiä käskyjä, kuten Fail Safe -tilassa, tai todennäköisemmin toimia suunnitellusti, mutta silti antaa tappavia määräyksiä, jotka perustuvat suunnitteluvirheisiin, vääristyneisiin harjoitussarjoihin tai oudoihin ominaisuuksiin, jotka johtuvat korrelaatioista, joita ihmiset tuskin pystyvät havaita.
Ehkä tutuimpia nykyyleisölle ovat presidentin ja eversti Gradyn vaimon epäonnistuneet yritykset saada pommikoneen komentaja keskeyttämään hyökkäys. Grady oli koulutettu odottamaan tällaisia yrityksiä ja pitämään niitä petoksina.
Nykyään tällaisia petoksia tehtäisiin syvällä fake-video- ja äänilähetyksillä. Oletettavasti komentajan koulutus ja perusteiden irtisanominen olisivat samat huolimatta niiden takana olevasta kehittyneemmästä tekniikasta. Teknologia kehittyy, mutta ihmisen käyttäytymisen osat ovat ennallaan.
Toinen väärinkäsitys, tämä todellinen, ei kuvitteellinen, joka oli lähellä ydinsodan aiheuttamista, oli vuoden 1983 tapaus, jonka koodinimi oli Able Archer.
Able Archerin juuret ulottuvat toukokuuhun 1981, jolloin silloinen Neuvostoliiton kommunistisen puolueen pääsihteeri Leonid Brežnev ja KGB:n päällikkö Juri Andropov (myöhemmin pääsihteeri) paljastivat neuvostojohtajille näkemyksensä siitä, että Yhdysvallat valmistautui salaa käynnistämään ydinisku Neuvostoliittoon.
Andropov ilmoitti sitten massiivisesta tiedustelutietojen keräämisyrityksestä jäljittääkseen henkilöitä, jotka olisivat vastuussa tällaisen hyökkäyksen käynnistämisestä ja toteuttamisesta, sekä heidän tilat ja viestintäkanavat.
Samaan aikaan Reaganin hallinto aloitti sarjan salaisia sotilaallisia operaatioita, joissa aggressiivisesti tutkittiin Neuvostoliiton vesiä merivoimavaroilla ja lensi suoraan kohti Neuvostoliiton ilmatilaa strategisilla pommikoneilla, jotka perääntyivät vasta viime hetkellä.
Näillä edistysaskelilla näennäisesti testattiin Neuvostoliiton puolustusta, mutta niillä oli vaikutusta Neuvostoliiton käsityksiin, että Yhdysvallat suunnittelee ydinhyökkäystä.
Analyytikot ovat yhtä mieltä siitä, että suurin eskaloinnin ja todellisen ydinsodan riski syntyy, kun käsitykset molemmista osapuolista vaihtelevat siten, että eskalaatiodynamiikan järkevä arviointi on mahdotonta. Molemmat puolet ovat eri poluilla tehden erilaisia laskelmia.
Jännitteet nousivat entisestään vuonna 1983, kun Yhdysvaltain laivasto lensi F-14 Tomcat -hävittäjällä Neuvostoliiton sotilastukikohdan yli Kuriilisaarilla ja Neuvostoliitto vastasi lentämällä Alaskan Aleuttisaarten yli. 1. syyskuuta 1983 Neuvostoliiton hävittäjät ampuivat alas Korean Air Linesin lennon 007 Japaninmeren yllä. Yhdysvaltain kongressiedustaja oli kyydissä.
4. marraskuuta 1983 USA ja Naton liittolaiset aloittivat laajan sotapelin koodinimeltään Able Archer. Tämän tarkoituksena oli simuloida ydinhyökkäystä Neuvostoliittoon sarjan eskalaatioiden jälkeen.
Ongelmana oli, että eskalaatiot kirjoitettiin sotapelien tiedotuskirjoihin, mutta niitä ei todellisuudessa simuloitu . Siirtymistä tavanomaisesta sodankäynnistä ydinsotapeliin simuloitiin .
Tämä tapahtui aikana, jolloin Neuvostoliitto ja KGB etsivät aktiivisesti merkkejä ydinhyökkäyksestä. Simulaatiot, joissa käytettiin NATOn komento-, valvonta- ja viestintäprotokollia, olivat erittäin realistisia, mukaan lukien Saksan liittokansleri Helmut Kohl ja Yhdistyneen kuningaskunnan pääministeri Margaret Thatcher. Neuvostoliitot uskottavasti uskoivat, että sotapeli oli todellisen hyökkäyksen peite.
Uskoen, että Yhdysvallat suunnittelee ensimmäistä ydiniskua, neuvostoliittolaiset päättivät, että heidän ainoa keinonsa selviytyä oli aloittaa oma ennalta ehkäisevä ensimmäinen isku. He määräsivät ydinkärkien asettamisen Neuvostoliiton ilma-armeijan strategisiin pommikoneisiin ja asettivat ydinhyökkäyslentokoneita Puolassa ja Itä-Saksassa korkeaan valmiustilaan.
Tällä tosielämällä ydinsodan lähellä oli taustatarina, joka on vielä kylmempi. Neuvostoliitot olivat aiemmin rakentaneet varhaisvaroitustutkajärjestelmän tietokonelinkeillä käyttäen primitiivistä tekoälyä nimeltä Oko.
Syyskuun 26. päivänä 1983, vain kaksi kuukautta ennen Able Archeria, järjestelmässä oli toimintahäiriö ja se ilmoitti viidestä saapuvasta ICBM:stä Yhdysvalloista. Oko-hälytykset soivat ja tietokoneen näytössä vilkkuu “LAUNCH”. Pöytäkirjojen mukaan LAUNCH-näyttö ei ollut varoitus, vaan tietokoneen luoma käsky kostaa.
Neuvostoliiton ilmapuolustusvoimien everstiluutnantti Stanislov Petrov näki tietokonekäskyn ja hänen täytyi välittömästi valita, pitääkö käsky tietokoneen toimintahäiriönä vai hälyttääkö vanhempi upseeri, joka todennäköisesti aloittaisi ydinvastahyökkäyksen.
Petrov oli Okon kehittäjä ja tiesi, että järjestelmä teki virheitä. Hän arvioi myös, että jos hyökkäys olisi todellinen, Yhdysvallat käyttäisi paljon enemmän kuin viittä ohjusta. Petrov oli oikeassa. Tietokone oli lukenut väärin auringon heijastuksen joistakin pilvistä saapuviksi ohjuksiksi.
Ottaen huomioon päivän jännitteet ja KGB:n uskon, että ydinhyökkäys voi tulla milloin tahansa, Petrov vaaransi Neuvostoliiton tulevaisuuden ohittaakseen Oko-järjestelmän. Hän luotti päätelmien, kokemuksen ja vaiston yhdistelmään tappaakseen tappamisketjun.
Tapaus pysyi salassa vielä pitkään kylmän sodan päättymisen jälkeen. Ajan myötä Petrovia kehuttiin “Mieheksi, joka pelasti maailman”.
Tekoälyn aiheuttama ydinsodan uhka ei johdu pelkästään ydinasevallasta vaan kolmansista osapuolista ja valtiosta riippumattomista toimijoista, jotka käyttävät tekoälyä katalyyttisten ydinkatastrofien luomiseen. Termi katalyyttinen viittaa kemiallisiin aineisiin, jotka aiheuttavat haihtuvia reaktioita muiden yhdisteiden kesken ilman, että ne ovat osa reaktiota.
Kansainvälisissä suhteissa käytettynä se viittaa agenteihin, jotka voivat käynnistää ydinsodan suurvaltojen kesken ilman, että he itse osallistuvat sotaan. Tämä voi jättää heikon agentin suhteellisen vahvaan asemaan suurvaltojen tuhottua itsensä.
AI/GPT-järjestelmät ovat jo löytäneet tiensä ydinsotaprosessiin. Ihmisten tehtävänä on pitää roolinsa marginaalina ja tietolähtöisenä, ei päätöslähtöisenä. Ottaen huomioon sodankäynnin teknologian historian pronssikeihäistä hypersonic-ohjuksiin, on vaikea päätellä, että AI/GPT on niin rajoittunut. Jos ei, me kaikki maksamme hinnan.
Ukraina, Gaza ja tekoäly lisäävät ydinsodan todennäköisyyttä huomattavasti. Tämän taloudelliset vaikutukset sijoittajille ovat yksinkertaiset. Ydinsodan sattuessa osakkeet, joukkovelkakirjat, käteinen ja muut rahoitusvarat ovat arvottomia. Pörssit ja pankit suljetaan. Ainoa arvokas omaisuus on maa, kulta ja hopea.
On hyvä idea olla kaikki kolme – varmuuden vuoksi.
Lähde: ZeroHedge
