Demokraattiset senaattorit laajentavat rajoitetun verkkosisällön määritelmää siirtymällä aiemmista, eksplisiittisiin deepfake-videoihin keskittyneistä toimista uuteen kampanjaan, joka kohdistuu niin sanottuun ”ei-alastomaan seksuaaliseen” materiaaliin.

Uusi kielenkäyttö laajentaa dramaattisesti sensuroitavien sisältöjen kategoriaa, joka ulottuu pornografian ja rikollisen hyväksikäytön lisäksi myös muokattuihin vaatteisiin, muokattuihin vartaloihin tai vihjaileviin visuaalisiin efekteihin.

Delawaren senaattori Lisa Blunt Rochester johti seitsemän demokraatin ryhmää, joka allekirjoitti kirjeen Alphabetille, Metalle, Redditille, Snapille, TikTokille ja X:lle.

Olemme hankkineet sinulle kopion kirjeestä täältä.

Allekirjoittajat — Tammy Baldwin, Richard Blumenthal, Kirsten Gillibrand, Mark Kelly, Ben Ray Luján, Brian Schatz ja Adam Schiff — pyytävät tietoja siitä, miten kukin yritys luokittelee ja poistaa tämän tyyppisen sisällön, sekä sisäisiä asiakirjoja tai moderaattorien ohjeita, jotka koskevat ”virtuaalista riisumista” ja vastaavia tekoälymuokkauksia.

”Olemme erityisen huolissamme raporteista, joiden mukaan käyttäjät hyödyntävät generatiivisia tekoälytyökaluja tuottaakseen seksuaalisia ”bikini”- tai ”ei-alastomia” kuvia henkilöistä ilman heidän suostumustaan ja levittääkseen niitä X:n ja muiden alustojen kautta”, senaattorit kirjoittivat.

”Nämä väärennetyt mutta hyperrealistiset kuvat tuotetaan usein ilman kuvattujen henkilöiden tietämystä tai suostumusta, mikä herättää vakavia huolenaiheita häirinnästä, yksityisyyden loukkauksista ja käyttäjien turvallisuudesta.”

Heidän argumenttinsa perustuu raportteihin, joissa kuvataan tekoälytyökaluja, joilla vaatetettujen naisten valokuvia voidaan muuttaa paljastaviksi deepfake-kuviksi tai luoda kuvia seksuaalisista poseista. Senaattorit kuvaavat tätä todisteena kasvavasta ”kuvapohjaisen hyväksikäytön kriisistä”, joka heikentää luottamusta ja turvallisuutta verkossa.

Mutta kirjeen sanamuoto menee pidemmälle kuin aikaisemmat aloitteet, jotka kohdistuivat eksplisiittiseen sisältöön. Se esittelee paljon laajemman standardin, jossa pelkkä vihjaus tai esteettinen muutos voi täyttää ”seksuaalisen” määritelmän. Kehotus kieltää ”muokatut vaatteet” tai ”vartalonmuotojen muokkaukset” yhdistää tehokkaasti todellisen hyväksikäytön ehkäisyn subjektiivisiin arvioihin ulkonäöstä.

Tämä lähestymistapa madaltaa sisällön poistamisen kynnystä ja asettaa suuret teknologiayritykset poliittisen paineen alle, jotta ne panisivat täytäntöön makuun perustuvia standardeja.

Todennäköinen tulos on, että automatisoidut moderointijärjestelmät, joiden tiedetään jo luokittelevan satiiria tai taidetta väärin, tukahduttavat yhä enemmän harmittomia tai ilmaisullisia kuvia.

Senaattoreiden pyyntö, joka on muotoiltu turvallisuus- ja arvokkuuskysymykseksi ja hyödyntää viimeaikaisia otsikoita, siirtää hyväksyttävän verkkoviestinnän rajat entistä enemmän tulkinnan alueelle sen sijaan, että se perustuisi selkeisiin todisteisiin haitasta.