Fasismi 2.0 – sosiaalisen median sensuurin muuntuvat kasvot

Facebook ansaitsee vain noin 34 puntaa vuodessa keskivertoasiakkaalta Isossa-Britanniassa – hieman alle 3 puntaa kuukaudessa (ja se on ennen kustannuksia), joten ei selvästikään ole inhimillistä asiakaspalvelua tai huomiota. . Käyttäjä ei ole asiakas; pikemminkin ne ovat tuotteita, joiden tiedot myydään mainostajille.

Näin ollen käyttäjillä ei ole suoraa asiakassuhdetta alustan kanssa. Verkostoa ei ole suoraan kannustettu “välittämään” käyttäjää ennen kuin mainostaja. Ja riippumatta siitä, missä päin “sananvapauden absolutismin” ja “yksityisillä tahoilla on oikeus sensuroida kuka tahansa käyttäjä” välissä, niin pienillä marginaaleilla on väistämätöntä, että viestien moderointiin ja asiakkaan kanssa tekemiseen on käytettävä koneellista käsittelyä. käyttöliittymä.

Mutta se on tosiasia, että sosiaalisten verkostojen nyt kehittyviä asiakkaiden käsittely- ja hallintaominaisuuksia hyödynnetään monin eri tavoin kuin vain maltillisesti. Ja on myös totta, että tämä automatisoitu käsittely suoritetaan mittakaavassa ja sitä sovelletaan nyt jokaiseen viestiin, jonka jokainen jäsen tekee. 68 % yhdysvaltalaisista äänestäjistä on Facebookissa. Isossa-Britanniassa se on 66 prosenttia ja Ranskassa 73,2 prosenttia. Luvut ovat samanlaisia ​​jokaisessa lännen demokraattisessa valtiossa. Siksi on erittäin tärkeää, että sovellettavat säännöt ovat poliittisesti neutraaleja.

Teho, joka sisältyy kykyyn käsitellä jokaisen käyttäjän viestejä, on paljon syvempää ja syvällisempää kuin ehkä monet ymmärtävät. Ja vaikka se ei voi suoraan sanella, mitä käyttäjät kirjoittavat viesteihinsä, se pystyy pohjimmiltaan muokkaamaan, mitkä viestit saavat vetovoimaa.

Sosiaalisen median palveluista on tullut de facto kaupungin aukioita, ja useimmat olisivat samaa mieltä yritysten omistajiensa pitämästä käsiä vaa’alle ja vaikuttamasta politiikkaan.

Lisäksi, kuten kaikki Facebookin käyttäjät tietävät, varsinkin kun on kyse poliittisesti arkaluonteisista aiheista, järjestelmä määrittelee yksilön tavoittavuuden; joskus äärimmäisessä määrin. Tai tämä käyttäjä yksinkertaisesti estetään tietyksi ajaksi tai estetään kokonaan verkosta.

Joten voimme esittää kysymyksen, koska sosiaalisen median yrityksillä on niin paljon sensuurivaltaa, mistä tiedämme, etteivät ne osallistu epäeettiseen poliittiseen sekaantumiseen? Voidaanko heihin luottaa vastuu?

Palaan tähän kysymykseen, mutta on selvää, että luottamus näihin yrityksiin on syvästi väärässä paikassa.

Pandemia heräsi monet ihmiset sosiaalisen median verkostoistamme vastaavien hallinnan tasoihin. He kirjoittavat säännöt lisätäkseen suosimiensa viestien sitoutumista, mikä tekee tiettyjen henkilöiden seuraajamäärästä arvokkaampaa. Päinvastoin, käyttäjät, jotka ovat vastoin viljaa (tai perustamiskertomusta), näkevät sitoutumisensa hienovaraisesti vähentyneen tai jopa tankkiin, tai heidät voidaan kieltää kokonaan palvelusta. Ja todisteena on, että jonkin verran demokratian periaatteiden vastaisesti kädet on asetettu erittäin lujasti vaakalle Facebookissa, Twitterissä ja YouTubessa.

Kun Elon Musk osti Twitterin, hän kutsui riippumattomat toimittajat Matt Taibbin, Bari Weissin ja Michael Schellenburgerin Twitterin toimistoihin tutkimaan yrityksen sisäistä viestintää ja katsomaan, kuinka pitkälle aiemmat omistajat olivat sensuroineet käyttäjien twiittejä.

Twitter-tiedostot ovat tulos, ja ne osoittavat selvästi, että häiriöitä on esiintynyt laajamittaisesti ja että se on monissa tapauksissa ollut myös poliittista . Twitter Files -tiimin perustamat valtion virastot ovat olleet tiukasti kiinni yritykseen, joka valvoo ja sensuroi Yhdysvaltain kansalaisia, ja muiden maiden kansalaiset ja valtion virastot vaativat säännöllisesti (voimakkaasti) sensuuritoimia. Mutta enemmän kuin tämä, he ovat myös paljastaneet samantasoisia häiriöitä muissa sosiaalisen median verkostoissa, kuten Facebookissa.

Mutta sen jälkeen kun Twitter on esittänyt todisteita häiriöistä, on ilmaantunut uusi ja mahdollisesti vielä suurempi häiriöuhka.

AI.

Joskus näytti siltä, ​​​​että algoritmit olivat ainoa keskustelunaihe, josta digitaaliset markkinoijat voivat keskustella. Ja koska ihmisten puuttumiselle ei ole marginaalia yksittäisten viestien tasolla, käytettiin algoritmeja.

Aluksi ne olivat melko yksinkertaisia, kuten yhtälöt, joita harjoittelimme koulun matematiikan tunnilla, joten ne olivat suhteellisen helppoja laatia. Googlen nousun taustalla oli yksinkertainen mutta loistava idea: ulkoisten verkkosivujen linkkien laskeminen osuvuuden välityspalvelimeksi.

Mutta algoritmit ovat sittemmin väistyneet monimutkaisemmille koneoppimismalleille, jotka ovat edelleen ytimessä, tukeutuvat algoritmeihin, mutta nyt ne luodaan automaattisesti, ja niin laajat ihmisen yritykset purkaa niitä ei ole aloite. Joten rajoitamme ajattelumme niistä siihen, mitä he voivat saavuttaa, mitä merkittäviä asioita he voivat erottaa, eikä siihen, miten koodi toimii.

Ja nyt olemme siirtyneet kolmannen sukupolven teknologiaan. Koneoppiminen on muuttunut suurten kielimallien (LLM) tai yleisemmin tekoälyn kehittämiseksi. Ja tämän viimeisimmän kehityksen myötä korporatiivit ovat löytäneet valtavia ja pelottavia uusia mahdollisuuksia vallalle ja kontrollille.

LLM:ien luomiseen liittyy koulutus. Koulutus antaa heille erityisiä taitoja ja ennakkoluuloja. Koulutuksen tarkoituksena on täyttää aukot siten, että LLM:n kyvyssä ei ole ilmeisiä aukkoja käsitellä ihmisen käsitteellistämisen ja puheen rakennuspalikoita. Ja tämä on LLM:ien erottava piirre; että voimme keskustella heidän kanssaan ja keskustelu virtaa, ja kielioppi ja sisältö tuntuu normaalilta sujuvalta ja täydelliseltä. Ihannetapauksessa LLM toimii kuin hienostunut englantilainen hovimestari – kohtelias, informatiivinen ja oikea olematta töykeä. Mutta myös koulutus antaa erikoisalojen LLM:lle.

Sosiaalisen median kontekstissa – ja täällä pelottavat vallan tasot alkavat näkyä – LLM:itä käytetään hallin valvojina, jotka pakottavat “sisällön moderointiin”.

Metan Llama Guard on loistava esimerkki, joka on koulutettu paitsi maltillisesti myös raportoimaan käyttäjistä. Ja tämä raportointitoiminto ei sisällä vain mahdollisuutta raportoida, vaan raportointidatan kautta myös vaikuttamismahdollisuuksien louhintaa ja ehdotuksia käyttäjästä ja myös käyttäjästä. Ja kun sanon ehdotuksia, LLM kykenee paitsi sellaiseen ilmeiseen tyyppiin, jonka käyttäjä saattaisi toivottaa tervetulleeksi ja jonka hän on iloinen vastaanottaessaan, myös kieroavampaan tiedostamattomaan tyyppiin, joka voi olla manipuloiva ja suunniteltu hallitsemaan.

Ei ole vielä kerätty todisteita (jotka olen tietoinen), että erityisesti LLM:itä käytetään tällä tavalla; vielä. Mutta kyky on varmasti olemassa, ja jos aiemmat käytökset osoittavat tulevaa kehitystä, sitä todennäköisesti käytetään.

Sinun tarvitsee vain katsoa vuoden 2006 jakso Derren Brownin televisio-ohjelmasta “Derren Brown: The Heist”, jossa hän vakuuttaa ryhmän tuntemattomia, että heidän on tehtävä pankkiryöstö, jotta hän voi ymmärtää, kuinka syvällistä ja voimakasta ehdotuksen käyttö voi olla. Niille, jotka eivät ole tietoisia Derren Brownista, hän on näyttämöhypnotisoija ja mentalisti, joka pyrkii korostamaan ehdotuksen voimaa hypnoosiin nähden (useimmat hänen esityksistään eivät sisällä hypnoosia ollenkaan). Pelkästään ehdotuksen voimalla hän saa ihmiset tekemään mitä erikoisimpia asioita.

“Derren-Brownin kaltaiset” ehdotukset toimivat, koska ihmisen aivot ovat itse asiassa paljon vähemmän ketterät ja lineaarisemmat kuin haluamme ajatella. Tietoisuus on arvokas resurssi ja monet usein tekemämme toimet siirtyvät tottumuksiksi, joten voimme tehdä ne ajattelematta ja näin voimme säilyttää tietoisuuden sinne, missä sitä eniten tarvitaan.

Tottumuksesta vaihdamme vaihteita sauvavaihteisessa autossa ilman, että meidän tarvitsee ajatella sitä. Ja me kaikki olemme kokeneet sen pelin, jossa sinulla on tietty aika miettiä asioita, kuten maita, joka päättyy kirjaimeen A. Jos sinut asetetaan paikalle yleisön eteen, voi joskus olla vaikea keksiä minkä tahansa kanssa. Aivot eivät useinkaan ole niin hyviä ajattelemaan luovasti tai tekemään nopeasti tietoisia paikan päällä muistamiseen.

Mutta jos joku, jonka puhuit myös muutama minuutti ennen peliä, kertoi sinulle lomastaan ​​Keniassa, voit olla varma, että Kenia tulee ensimmäisenä mieleesi. Enemmän kuin, että yhdistyminen tapahtuu automaattisesti, halusimme sitä tai emme!

Tämä on yksinkertaisesti tapa aivot toimivat. Jos tieto välitetään juuri oikeaan aikaan ja oikealla tavalla, siitä voidaan tehdä lähes varma, annettua ehdotusta noudatetaan.

Derren Brown ymmärtää tämän ja on mestari sen hyödyntämisessä.

Hakukoneet ja sosiaalisen median alustat käyttävät valtavasti valtaa suunnitella käyttäytymistä hienovaraisten ehdotusten avulla. Ja todellakin on todisteita siitä, että Facebook ja Google ovat tehneet niin.

Professori ja tutkija tohtori Robert Epstein – ikään kuin “saavutti Googlen” manipuloimalla hakuehdotusruutua, joka näkyy tekstikentän alla, johon käyttäjät kirjoittavat hakupyynnön. Koko jaksosta tuli lisäksi surkea, kun kävi selväksi, että he olivat petollisia ja he ymmärsivät, että heidän kokeilunsa oli epäeettistä. En kerro kaikkia yksityiskohtia, mutta katso linkit tähän – se on mielenkiintoinen tarina sinänsä.

Käyttäjät ovat erityisen luottavaisessa ja vastaanottavaisessa henkisessä tilassa käyttäessään Googlen ehdottamaa linkkitoimintoa, eivätkä huomaa, kun tulokset sisältävät toimia ja pakottavia ehdotuksia, jotka eivät suinkaan ole paras vastaus hakukyselyysi, vaan ovat olemassa käyttäjän myöhempien toimien manipuloimiseksi. .

Sosiaalisen median julkaisuissa ehdotuksen käyttö on usein paljon hienovaraisempaa, mikä tekee sen havaitsemisesta ja vastustamisesta vaikeampaa. LLM-analyysi käyttäjien viestien tietokannassa voi paljastaa aiheeseen liittyviä viestejä, jotka tarjoavat ehdotuksia toimenpiteistä. Tässä verkko voi hyödyntää sitä tosiasiaa, että heillä on käytössään miljoonia käyttäjäviestejä, mukaan lukien viestit, jotka ehdottavat toivottuja tuloksia. Tällaisia ​​viestejä voidaan valita ja mainostaa ensisijaisesti käyttäjäsyötteissä.

Sisällön moderointi on tietysti välttämätöntä sopimattoman kielen ja epäsosiaalisen käytöksen käsittelemiseksi. Siellä on kuitenkin suuri harmaa alue, jossa epämiellyttävät mielipiteet voidaan leimata “vihapuheeksi”, ja koska se on harmaa alue, sosiaalisella verkostolla on paljon liikkumavaraa tunkeutua henkilökohtaiseen politiikkaan ja sananvapauteen.

Termi “vihapuhe” on ollut erittäin tehokas keino oikeuttaa kieltovasaran käyttöä, mutta suurin huolenaihe nyt on, että LLM:n käyttöönoton myötä merkittävä historiallinen virstanpylväs on ohitettu tuskin kuiskauksella, joka merkitsee kokonaan uutta tasoa. tällaisia ​​rajoituksia ja uhkia käyttäjien viestintävapauteen.

Ja tämä virstanpylväs on, että nyt LLM:itä käytetään hallitsemaan ihmisten käyttäytymistä eikä päinvastoin. Tämän virstanpylvään ohittamista on tuskin huomattu, koska meillä oli jo aiemmin yksinkertaisempia algoritmeja suorittamassa tätä roolia ja se tehdään joka tapauksessa pimeässä.

Käyttäjät eivät näe sitä ennen kuin se ei vaikuta heihin ilmeisellä tavalla. Mutta silti on syytä ajatella, että tulevaisuudessa saatamme katsoa taaksepäin ja tunnustaa, että tämä virstanpylväs oli kriittinen käännekohta, jonka jälkeen jostain “Sky-Net” -verkon tulevaisuudesta tuli väistämätön.

Juuri viime viikolla Ison-Britannian pääministeri Keir Starmer ilmoitti poliisin aloitteesta sosiaalisen median avulla tunnistaakseen ne, jotka ovat osallistuneet julkisen häiriön tukahduttamiseen. Tämä havainnollistaa kuinka LLM:n automatisoitu raportointi on valmis käytettäväksi sosiaalisen median ulkopuolella ja lainvalvontatoimien yhteydessä.

Ei ole vielä tarkempaa tietoa siitä, miten tämä seuranta tehdään, mutta koska sinulla on kokemusta Tech Projectin pitchingistä, voit olla varma, että hallituksella on lista teknologiayrityksiä ehdottamassa ratkaisuja. Ja voit olla varma, että LLM:t esitetään olennaisena osana melkein kaikkia!

Olemme siis tehneet siitä, että sosiaalinen media on suljettu ja omistettu, ja se on mahdollistanut uusien median voimarakenteiden perustamisen. Olemme nähneet, että sosiaalisen median omistajilla on valta tukahduttaa tai lisätä viestien viraalisuutta, ja olemme nyt ottaneet käyttöön LLM:n (AI) valvonta- ja raportointitoiminnot, jotka näyttävät ulottuvan todelliseen poliisitoimintaan. Olemme nähneet Twitter-tiedostojen kautta, että sosiaalisen median yritykset rikkoivat lakia pandemian aikana ja ovat osoittaneet halukkuutta tehdä yhteistyötä valtion virastojen kanssa sensuroida ja tukahduttaa epäsuotuisat.

Lähde