Google suunnittelee uutta sisältöjä valvovaa sensuuritekniikkaa
Aiemmin tänä vuonna Google jätti patenttihakemuksen uusista menetelmistä, järjestelmistä ja välineistä, joita se kutsuu “paheksuttavaa sisältöä sisältävien videoiden tunnistamiseksi”, jotka on ladattu sosiaaliselle sivustolle tai videopalveluun.
Esimerkkinä mainittakoon YouTube – vaikka hakemuksessa ei nimenomaisesti mainita kyseistä alustaa.
Patenttihakemus, joka julkaistiin juuri tässä kuussa, eroaa jonkin verran muista automaattisista “menetelmistä ja järjestelmistä”, joita Googlella ja muilla jättiläisillä, erityisesti Microsoftilla, on jo sensuurikoneistonsa voimanlähteenä; tässä hakemuksessa keskitytään enemmän siihen, miten tekoälyä voidaan lisätä sekoitukseen.
Eri maat ottavat yhä useammin käyttöön sensuurilakeja, joissa sisällön poistamisen tai tilien estämisen nopeus on yksi sosiaalisen median yrityksille asetettavista tärkeimmistä vaatimuksista. Google saattaa pitää tätä mielessä, kun patentin tarkoituksena sanotaan olevan parantaa paheksuttavan sisällön nopeaa havaitsemista “mahdollista poistamista varten”.
Tässä ei ole mitään yllättävää, mutta se, minkä pitäisi olla avainkysymys – nimittäin se, mitä pidetään “paheksuttavana sisältönä” – ei ole niinkään määritelmä vaan pikemminkin luettelo, jota voidaan edelleen laajentaa, tulkita eri tavoin jne., ja luettelossa on muun muassa väkivaltaa, pornografiaa, paheksuttavaa kielenkäyttöä, eläinten pahoinpitelyä ja sitten kirsikkana kakun päällä – “ja/tai minkä tahansa muunlaista paheksuttavaa sisältöä”.
Tiedonannossa kerrotaan yksityiskohtaisesti, miten Googlen uusi järjestelmä toimii, ja yhtä yllättäen saamme tietää, että tekoälyllä tarkoitetaan tässä koneoppimista (ML) ja neuroverkkoja. Tämän tekniikan on tarkoitus jäljitellä ihmisaivoja, mutta se koostuu sarjasta yhtälöitä, jotka eroavat tavallisista algoritmeista “oppimalla” kuvasta (tai tässä tapauksessa videosta) pikseli kerrallaan.
Prosessin kuvauksen perusteella vaikuttaa siltä, että kyseessä on eräänlainen generatiivinen vastakkaisverkkojärjestelmä (GAN) – kaksi neuroverkkoa “kilpailee” keskenään “oppiessaan”.
Google sanoo, että se luo “upotuksia” sisällöstä tai jopa metatiedoista ja vertaa niitä muuhun tiedossa olevaan paheksuttavaan sisältöön (molemmat “kelluvat” kahdessa erillisessä “moniulotteisessa tilassa”, jotka sisältävät muita “upotuksia”).
Tämä on yksi tapa sanoa, että “tähän tarvitaan valtavia tietokokonaisuuksia”.
Jotkut tarkkailijat pitävät tätä ja muita vastaavia pyrkimyksiä tuottaa “tekoälyyn perustuvaa” sensuuriteknologiaa loogisina, kun otetaan huomioon sisältöjen määrä, jota alustat käsittelevät.
Mutta sitten on kaikenlaisia ongelmia, kuten sekä vääriä positiivisia että negatiivisia tuloksia loputtomassa “disinformaation” ja “haittojen” metsästyksessä.