Chatbotit sensoreina: Miten EU:n kone etsii tekoälyä puhevalvontaa varten?

Brysselissä sijaitseva voittoa tavoittelematon EU:n DisinfoLab tutkii, kuinka hyödyllisiä ja tehokkaita suuret kielimallit (LLM) chatbotit ovat verkkosensuurin (”moderointi”) edistämisessä, erityisesti ”väärän tiedon” osalta.

Vaikka ryhmä ei virallisesti kuulu EU:hun, se on mukana useissa EU:n rahoittamissa ”disinformaation vastaisissa hankkeissa” ja antaa poliittisia suosituksia EU:n toimielimille ja jäsenmaille.

Yksi näistä mahdollisista ”valmisteilla olevista suosituksista” näyttää nyt olevan pyrkimys lisätä chatbottien mahdollisuuksia sensuurin välineinä, ja EU:n sensuurilaki, Digital Services Act (DSA), mainitaan oikeudellisena kehyksenä, joka mahdollistaisi tämän.

DisinfoLabin raportissa ”Terms of (dis)service: comparing misinformation policies in text-generative AI chatbot” (Palvelun ehdot: väärää tietoa tuottavien tekoäly-chatbottien harhaanjohtamiskäytäntöjen vertailu) tutkimuksen tarkoituksena on tutkia 11 parhaan chatbotin käyttämiä ”väärää tietoa koskevia käytäntöjä”, jotta voitaisiin selvittää, tekevätkö ne tarpeeksi estääkseen, etteivät pahansuovat toimijat käytä tai käytä niitä väärin.

Yksi johtopäätöksistä on, että juuri nyt EU DisinfoLabin poimimiin chatbotteihin sovellettavat käyttöehdot ovat puutteellisia, kun on kyse sensuurin nimenomaisesta valvonnasta, ja se ennustaa, että ”tällä hetkellä riittämättömät” tavat, joita chatbotit käyttävät ”maltillisesti väärän tiedon torjumiseksi”, vain pahenevat – jos ne siis pysyvät sääntelemättöminä.

Tässä kohtaa DSA astuu kuvaan, ja raportissa väitetään, että lain yleiset säännökset edellyttävät, että verkkoalustat poistavat ”laittoman sisällön nopeasti, kun ne saavat todellisen tiedon sen laittomuudesta” – velvollisuus, jota alustojen väitetään nyt kiertävän välttämällä ”faktantarkistusta”.

Eurooppa ei ole ainoa paikka, jossa pohditaan mahdollisuuksia käyttää chatbotteja ”disinformaation vastaisessa sodassa”. New Yorkin osavaltion yleiskokous pyrkii nyt ”tekemään chatbotit vastuullisiksi”.

On esitetty ehdotus (Bill 025-A222), joka sääntelisi tätä alaa asettamalla chatbottien takana olevat yritykset vastuuseen siitä, että ne eivät anna ”oikeaa tietoa”.

Demokraattisen osavaltiokokousedustajan esittelemässä lakiesityksessä pyritään myös lisäämään ”olennaisesti harhaanjohtavaksi, virheelliseksi, ristiriitaiseksi tai haitalliseksi” määritellyt tiedot niiden asioiden luetteloon, joista yritykset eivät saisi luopua vastuusta.

Nämä jo ennestään laajat kategoriat ovat entistäkin tulkinnanvaraisempia, sillä ehdotetun tekstin mukaan chatbot-operaattorit olisivat vastuussa, jos tällaiset tiedot aiheuttavat taloudellisia tappioita, mutta myös ”muuta todistettavaa vahinkoa”.

Lähde