Googlen Jigsaw laajentaa ponnistelujaan online-“toksisuuden” torjumiseksi ja panostaa sensuurityökaluihin
Googlen Jigsaw sai alkunsa nimellä Google Ideas – ja Eric Schmidtin vuonna 2010 esittämä idea oli, että sen avulla voitaisiin tutkia “teknologian ja geopolitiikan risteyskohtia”.
Se oli kuitenkin hieman liian “avointa ja rehellistä”, joten Jigsaw on nyt Alphabetin (Googlen) osasto, joka on brändätty uudelleen ja jonka avulla teknologiajätti pyrkii puuttumaan muun muassa “väärään tietoon”, “myrkyllisyyteen” ja luomaan “turvallisemman internetin”.
Uuden aloitteen tarkoituksena on “tunnistaa ja lieventää myrkyllisyyttä, joka usein vähentää osallistumista verkkokeskusteluihin” ja “suojella verkkoalueita vihalta ja myrkyllisyydeltä”.
Lupaus siitä, että “moderointityökaluihin” panostetaan tässä vaiheessa enemmän, on melkein itsestäänselvyys.
Mediumissa julkaistussa kirjoituksessa Jigsaw’n takana olevat tahot kehystävät alusta alkaen tätä uusinta ponnistelua ei todellisuudessa ole keino vähentää osallistumista verkko-“keskusteluun” (sulkemalla pois ne, jotka on leimattu “myrkyllisyyden ja vihan levittäjiksi”) – vaan päinvastoin “mahdollistaa useampien äänten osallistuminen”.
(Jigsaw/Google ei kuitenkaan tarkenna, tarkoittaako tämä enemmän “ääniä” yleensä – vai enemmän tietynlaisia “ääniä”.)
Oli miten oli, postauksessa sanotaan, että Jigsaw (koneoppimisen avulla toimivan Perspective API:nsa kautta) on tehnyt tätä vuodesta 2017 lähtien. Sen on ottanut käyttöön jopa 10 000 tahoa, julkaisijaa ja sosiaalista alustaa, ja se on saatavilla 18 kielellä.
“Moderaattorit voivat käyttää Perspectivea priorisoidakseen ja tarkastellakseen nopeasti ilmoitettuja kommentteja ja antaakseen palautetta kommentoijille, jotka julkaisevat myrkyllisiä kommentteja”, Jigsaw kehuu sensuuriohjelmistonsa ominaisuuksia.
Nyt asiat ovat muuttumassa, jos ei hieman paremmiksi (jos Jigsaw’ta on uskominen), niin paljon rakeisemmiksi. Perspective on postauksen mukaan laajentunut “lisäämään silloittavia ominaisuuksia, uuden työkalupaketin, jolla tunnistetaan ominaisuuksia, kuten päättelyä, uteliaisuutta ja henkilökohtaisia tarinoita, jotka korreloivat rakentavampien puheenvuorojen kanssa ja auttavat pitämään keskustelut käynnissä erilaisten ryhmien kesken.”
Ja se on vasta ensimmäinen askel siinä, mitä Jigsaw kutsuu muutokseksi, jossa käytetään “deliberatiivista teknologiaa” perustana (oletettavasti koneoppimista kehittyneemmän) tekoälyn sisällyttämiselle, ja lopputavoitteena on tarjota eräänlainen “nukketeatterin panos” (ja sen jälkeinen vaikuttaminen).
Esimerkiksi näin: “Jigsaw tutkii, miten uusin tekoälyteknologia voisi tehostaa ja skaalata näitä teknologioita ja tukea sekä keskustelun osallistujia että yhteisön johtajia ymmärtämään jaettuja mielipiteitä ja toimimaan niiden perusteella.”
Aloitetta on tarkoitus kehittää kolmea polkua käyttäen – tutkimusagendaa, jonka tavoitteena on kehittää kyseistä teknologiaa, yhteistyötä Googlen DeepMindin kanssa laajamittaisissa keskusteluissa (tutkimalla, “miten niistä voidaan saada tolkkua”, kuten artikkelissa sanotaan).
Ja sitten, mitä Googleen tulee, Euroopan demokratia kaipaa “kestävyyttä”. Sen saavuttamiseksi Jigsaw tukee “avointa ehdotuspyyntöä Google.orgin kanssa, jonka tarkoituksena on auttaa skaalaamaan yhteiskunnallisia vaikutusaloitteita, jotka edistävät demokraattista joustavuutta Euroopassa”.