Demokraatit painostavat Googlea edistämään “arvovaltaisia” lähteitä, tekemään yhteistyötä hallituksen kanssa tekoälykatsauksissa vaali- ja terveysteemoissa
Kalifornialainen kongressiedustaja Adam Schiff on nostanut esille huolenaiheita Googlen tekoälyteknologian, erityisesti sen tekoälykatsauksen, virheistä ja väärän tiedon leviämisestä, ja vaatinut hallintaa sen käyttöön.
Schiff on tiedustellut Googlen toimitusjohtajalta Sundar Pichailta, miten Google varmistaa tekoälykatsauksissa käytettyjen lähteiden luotettavuuden ja tekee yhteistyötä valtion virastojen, kuten CISA:n, kanssa.
Väärän tiedon leviämisen hillitsemiseksi ehdotetaan, että etusijalle asetetaan arvovaltaiset lähteet ja tarkistettu tieto erityisesti äänestystä, vaaleja ja terveyttä koskevissa asioissa.
Schiffin kirjeessä vaaditaan myös lisätietoja siitä, miten Google varmistaa tekoälyn tuottamien yhteenvetojen tarkkuuden, virheilmoitusmekanismit ja terveyteen liittyvän sisällön tieteellisen paikkansapitävyyden.
Kalifornialainen kongressiedustaja Adam Schiff on tehostanut Googlen tekoälyteknologian hallintaa, erityisesti sen tekoälykatsausta, joka tekee yhteenvetoja suosituimmista verkkosivuista, mutta on ollut altis virheille, mikä on herättänyt huolta sen taipumuksesta levittää “väärää tietoa”.
On totta, että Googlen tekoäly on tuottanut outoja ja vääriä tietoja, ja monet ovat olleet huolissaan tekoälyn epäluotettavien tulosten mahdollisista seurauksista, mutta hallituksen väliintulon ajatukseen suhtaudutaan laajemmin epäilevästi, koska kyse on tiedon ja puheen sääntelystä.
Tekoälykatsauksen tavoitteena on tarjota käyttäjille ytimekästä tietoa, mutta Schiffin Googlen toimitusjohtajalle Sundar Pichaille tekemät tiedustelut viittaavat siihen, että se saattaa usein käyttää kyseenalaisia lähteitä. Hallituksen ei pitäisi olla se, joka voi valita, mitkä lähteet ovat luotettavia.
Väärän tiedon leviämisen hillitsemiseksi heidän mukaansa olisi asetettava etusijalle “arvovaltaiset” lähteet, perinteisesti tunnustetut tiedotusvälineet. Lisäksi Googlen ja valtion virastojen, kuten CISA:n (Cybersecurity and Infrastructure Security Agency), välistä yhteistyötä kehotetaan, vaikka CISA on aiemmin osallistunut verkkosisällön merkitsemiseen, mikä kriitikoiden mukaan lähentelee sensuuria.
“Kun otetaan huomioon, että väärän ja disinformaation uhka verkossa kasvaa, on tärkeää, että amerikkalaiset ohjataan arvovaltaisten ja täsmällisten resurssien pariin, kun he käyttävät Googlen alustaa”, kirjeessä sanotaan.
Saimme kopion kirjeestä täältä.
Nämä vaatimukset ulottuvat erityisesti äänestys- ja vaalitietojen kaltaisille alueille, joilla demokraatit vaativat, että tekoälyn yleiskatsausten kautta levitetään vain todennettua ja tarkkaa tietoa.
“Miten Google tekee yhteistyötä asiaankuuluvien viranomaisten kanssa, mukaan lukien Cybersecurity and Infrastructure Security Agency (CISA), varmistaakseen, että tekoälykatsausten kautta välitetään vain täsmällistä tietoa, erityisesti äänestämistä ja vaaleja koskevan tiedon osalta?”, kirjeessä kysytään.
Samanlaisia standardeja haetaan myös terveyteen liittyvälle sisällölle, ja vaaditaan, että tällaisen tiedon on oltava kliinisesti tarkkaa ja tieteellisesti perusteltua. Tätä pyrkimystä voidaan pitää yrityksenä rajoittaa kritiikkiä rokotteiden tehoa ja muita COVID-19-toimenpiteitä kohtaan, jotka ovat olleet kiistanalaisia aiheita.
Muut edustajat, kuten Henry C. Johnson Jr., Donald S. Beyer Jr., Pramila Jayapal ja Lori Trahan, ovat liittyneet Schiffiin ja pyytäneet Googlelta lisätietoja siitä, miten se varmistaa tekoälyn tuottamien yhteenvetojen tarkkuuden, virheilmoitusmekanismit ja terveyteen liittyvien tietojen tuottamismenetelmät.
Schiffin mainitsemissa tapauksissa tekoäly on virheellisesti ehdottanut haitallisia toimia tai esittänyt julkisuuden henkilöitä väärin, mikä korostaa teknologian puutteita. Mutta nyt kysymys siitä, mitä asialle pitäisi tehdä, sekä kongressin painostus rajoittaa sitä, mitä lähteitä saa käyttää seuraavassa sisällön vallankumouksessa, nostavat todennäköisesti esiin ensimmäisen perustuslain muutoksen perusteluja.