Verkkopelaaminen on seuraava kohde ‘vihapuheelle’.

Call of Duty (CoD), Activisionin julkaisema videopelisarja, on hypännyt tekoälyn voimalla toimivan sensuurin synkkiin vesiin paljastaessaan uuden kumppanuuden tekoälyäänimoderointityökalun, Modulate ToxModin, kanssa. Tämä tullaan sisällyttämään uusimpaan CoD-peliin, Modern Warfare 3, joka julkaistaan tämän vuoden 10. marraskuuta. Tällä hetkellä sitä testataan Modern Warfare 2:ssa ja Call of Duty: Warzonessa. Sitä käytetään tunnistamaan ‘karkeakieliset’ pelaajat sekä tunnistamaan vihapuhe, rasistinen tai homofobinen kielenkäyttö, naisviha ja kaikki ‘väärin sukupuolittaminen’. Pelaajilla ei ole mahdollisuutta estää tekoälyn kuuntelua.

Paitsi että tämä on viimeisin kehitysaskel verkossa tapahtuvassa sensuurissa, sitä voidaan pitää myös miesten vastaisen sodan kiihtymisenä. Suurin osa CoD-pelaajista on miehiä, ja peliä pelataan usein rankan työpäivän jälkeen, myöhään yöllä pubikäynnin jälkeen, ja siihen liittyy paljon leikkimielistä jutustelua. Tekoälyllä voi olla paljon tekemistä, ottaen huomioon pelin luonteen, joka on konfliktinomainen, sitä voidaan pelata vastakkaisilla joukkueilla ja sitä voidaan myös pelata kansainvälisesti. Yksi setäni oli maailman sadan parhaan pelaajan joukossa, ja hänen makuuhuoneestaan kuuluva kielenkäyttö oli, no, ‘valikoivaa’.

ToxMod voi kuunnella pelaajien äänichatteja ja syventyä chatissa käytetyn tekstin sävyyn ja tarkoitukseen – mukaan lukien sen tunne, äänenvoimakkuus ja prosodia – käyttämällä kehittyneitä koneoppimismalleja. Kehittäjät väittävät, että heidän tavoitteensa on puuttua karkeaan kieleen ja ‘myrkylliseen käytökseen’. Mutta miksi pelaajien pitäisi luottaa ToxModin määritelmään siitä, mikä on ‘myrkyllistä’? Monet epäilevät, että todellinen motiivi on tyrkyttää pelaajille herätetty näkemys ‘inklusiivisesta’ yhteiskunnasta, joka on puhdistettu kaikista kielletyistä ajatuksista. Mikä seuraavaksi – mikrofonit istuimemme alla jalkapallostadioneilla?

Valitettavasti olemme tottumassa siihen, että tekoäly vakoilee meitä. Tätä tapahtuu jo rutiininomaisesti WeChatissa, alustassa, jota käyttää valtava määrä ihmisiä Kiinassa ja myös laajasti lännessä. TikTok, videonjakosovellus, joka sallii käyttäjien luoda ja jakaa lyhyitä videoita mistä tahansa aiheesta – toinen kiinalainen alusta – myönsi vakoilleensa Yhdysvaltain käyttäjiä viime vuoden lopussa, ja tämä on johtanut keskusteluihin sovelluksen kieltämisestä. Snapchat esitteli oman tekoälychattibottinsa huhtikuussa tänä vuonna, joka tietää sijaintisi – vaikka sovellus lupasi, että se ei tiedä – kysyy henkilökohtaisia kysymyksiä ja kysyy aina päivästäsi.

George Orwellin dystooppisessa romaanissa 1984 – jota nykyään liian monet näyttävät pitävän ohjekirjana – hallitus käytti teleskriinejä valvoakseen ja vakoillakseen väestöä jakamalla sekä tiedonvälityslaitteita että valvontalaitteita julkisilla ja yksityisillä alueilla. ToxMod näyttää olevan jälleen yksi Orwellilainen ennustus, joka toteutuu.

Call of Duty on peli aikuisille. Vapaassa maassa aikuisilla pitäisi olla oikeus odottaa yksityisyyttä käydessään keskusteluja omassa kodissaan.

Ja mitä, meidän pitäisi kysyä, ToxMod aikoo tehdä kaikella keräämällään tiedolla pelaajien ‘vihapuheesta’ ja ‘myrkyllisestä käytöksestä’? Tällä hetkellä se on epäselvää, mutta älä ylläty, jos näet lukuja ilmestyvän tulevina kuukausina pelaajien määrästä, jotka saavat porttikiellon ‘vihapuheen’ vuoksi CoD-keskustelujensa seurauksena.

On vaikea kuvitella, että pelaajat suhtautuisivat tähän myönteisesti. Löytääkö CoD itsensä uusimman ‘go woke, go broke’ -uhriksi, kun pelaajat hylkäävät pelin, joka olettaa voivansa valvoa heidän yksityisiä keskustelujaan ja määrätä heille rangaistuksia siitä, mitä se kuulee?

Lähde: Daily Sceptic