YouTube julkaisi tiistaina uuden työkalun tekoälyn syväväärennösten torjumiseksi, mikä antaa sisällöntuottajille enemmän hallintaa digitaaliseen identiteettiinsä.
Samankaltaisuuden tunnistusjärjestelmän avulla käyttäjät voivat löytää videoita, joissa käytetään väärin heidän kasvojaan tai ääntään, ja pyytää niiden poistamista. Tämä siirtyminen Googlen omistamasta alustasta tulee viikkoja kestäneen kiistan jälkeen OpenAI:n Sora 2 -sovelluksesta.
Sora 2:n julkaisu herätti Hollywoodin ja kuuluisuuksien perheiden vastareaktion luvattomista syväväärennöksistä. Tämä pakotti OpenAI:n muuttamaan nopeasti sääntöjään ja tekemään yhteistyötä toimijoiden ammattiliittojen kanssa turvallisuuden parantamiseksi, mikä korosti kasvavaa alan laajuista taistelua tekoälyn luoman sisällön hallinnasta.
YouTube julkaisee uusia työkaluja sisällöntuottajien suojaamiseen
Merkittävänä askeleena yhteisönsä voimaannuttamiseksi YouTube on virallisesti ottanut käyttöön samankaltaisuuden havaitsemisteknologiansa YouTube-kumppaniohjelman ehdot täyttäville sisällöntuottajille.
Järjestelmä on suunniteltu tunnistamaan tekoälyn luoma tai muutettu sisältö, joka käyttää tekijän kasvoja tai ääntä ilman hänen suostumustaan. Se tarjoaa ennakoivan suojan vakuuttavien syväväärennösten nousua vastaan.
Käyttääkseen työkalua sisällöntuottajien on suoritettava kertaluonteinen henkilöllisyyden vahvistusprosessi, jokavaatii virallisen henkilötodistuksen ja lyhyen selfie-videon vilpillisen käytön estämiseksi.
Käyttöönoton jälkeen järjestelmä, joka toimii samalla tavalla kuinYouTuben tekijänoikeuksia koskeva Content IDskannaa uudet lataukset mahdollisten osumien varalta.
Kun mahdollisesta väärinkäytöstä ilmoitetaan, sisällöntuottajat voivat tarkistaa videon ja tehdä poistopyynnön YouTuben tietosuojavalitusprosessin tai tavallisen tekijänoikeusvaatimuksen kautta.
Tämä antaa sisällöntuottajille suoran mekanismin suojella henkilökohtaista brändiään ja identiteettiään, mikä vastaa sisällöntuottajien taloudessa pitkään jatkuneeseen pelkoon siitä, että digitaalinen toisena henkilönä esiintyminen voi vahingoittaa maineensa.
Suora vastaus OpenAI:n Deepfake Firestormiin
YouTuben menetelmällinen käyttöönotto on jyrkässä ristiriidassa OpenAI:n Sora 2 -videogeneraattorin kaoottisen debyytin kanssa.
Lokakuun alussa julkistettu Sora 2:n alkuperäinen "opt-out" -käytäntö julkisuuden henkilöille ja tekijänoikeudella suojatuille hahmoille koitui välittömästi. Alustan suunnittelu, joka rohkaisi nopeaan, virusperäiseen videoiden luomiseen, tarkoitti sitä, että käyttäjät tulvivat kumppanin sosiaalisen sovelluksen luvattomilla ja usein loukkaavilla syväväärennöksillä, mikä herätti kovaa julkista kohua.
Voimakkain kritiikki tuli kuolleiden julkisuuden henkilöiden perheiltä. Zelda Williams, näyttelijä Robin Williamsin tytär, kuvaili tuskaa nähdä "oikeiden ihmisten perinnöt tiivistyvät… kauheaksi, TikTok-huijaus heidän nukkekuvansa on raivostuttavaa".
Myös kansalaisoikeusjohtajien Malcolm X:n ja Martin Luther King Jr.:n omaisuus tuomitsi "epäkunnioittavat" ja "loukkaavat" kuvaukset. Bernice King, tohtori Kingin tytär, esitti yksinkertaisen mutta kaikuvan pyynnön sosiaalisessa mediassa lopettaa isänsä videot.
Hollywood mobilisoitui nopeasti alustaa vastaan. Vaikutusvaltainen Creative Artists Agency (CAA) piti sovellusta "merkittäväksi riskiksi" asiakkailleen. Samaan aikaan Motion Picture Association (MPA) asetti laillisen vastuun väärinkäytöstä suoraan tekoälyyritykselle. MPA:n toimitusjohtaja Charles Rivkin totesi, että "heidän – ei oikeudenhaltijoidensa – vastuulla on estää Sora 2 -palvelun loukkaukset."
Lisää luettavaa:Google Search ottaa käyttöön AI Calling Agentin, päivittää tekoälytilan Gemini 2.5 Prolla ja Deep Searchilla
Tämä luovan teollisuuden yhtenäinen rintama loi OpenAI:lle täysimittaisen PR-kriisin.
Kovan paineen edessä yritys ryntäsi kääntämään kurssia. Toimitusjohtaja Sam Altman ilmoitti siirtyvänsä tarkempaan, "opt-in" -järjestelmään suojatuille hahmoille vain muutama päivä julkaisun jälkeen.
Myöhemmin yhtiö muutti sääntöjään salliakseen "äskettäin kuolleiden" hahmojen edustajien estää heidän kaltaisensa. Tämä käytäntö otettiin käyttöön, kun OpenAI keskeytti Martin Luther King Jr.:n kaikki sukupolvet hänen kuolinpesän pyynnöstä.
Lausunnossaan OpenAI tunnusti kohtaaman vaikean tasapainon ja sanoi: "Vaikka historiallisten henkilöiden kuvaamisessa on vahvat sananvapauden edut, OpenAI uskoo, että julkisuuden henkilöiden ja heidän perheidensä pitäisi viime kädessä hallita, kuinka heidän kaltaisuuttaan käytetään."
Reaktiivisten toimenpiteiden sarja huipentui 20. lokakuuta, kun OpenAI ilmoitti muodollisesta kumppanuudesta näyttelijä Bryan Cranstonin ja SAG-AFTRA-liiton kanssa vahvistaakseen turvakaiteitaan. Tämä on maamerkki, jossa johtava tekoälykehittäjä tekee yhteistyötä luovien ammattiliittojen kanssa politiikan muokkaamiseksi.
Navigointi tekoälyn tuntemattomalla laillisella ja eettisellä alueella
Sora 2 -kiista ja YouTuben uusi työkalu korostavat generatiivista tekoälyä ympäröivää laajaa juridista ja eettistä harmaata aluetta. Perinteisiä kunnianloukkauslakeja ei useinkaan sovelleta vainajaan, joten perheille jää vain tilkkutäkki epäjohdonmukaisia valtion tason kuolemanjälkeiseen julkisuuteen liittyviä oikeuksia.
Tämä oikeudellinen tyhjiö, jossa ei ole ylivoimaista liittovaltion standardia, on mahdollistanut sisällön leviämisen, vaikka se ei aina ole laitonta, mutta aiheuttaa merkittävää emotionaalista kärsimystä ja luo epävarmuutta alustoille ja perheille.
Keskustelu herättää myös uudelleen perustavanlaatuisia kysymyksiä tekoälymallien kouluttamisesta. Kriitikot väittävät, että alan riippuvuus valtavien verkkotietojen kaappaamisesta ilman nimenomaista lupaa on perustavanlaatuinen ongelma, jota ei ole vielä ratkaistava.
Vaikka OpenAI on ilmaissut tukensa liittovaltion lainsäädännölle, kuten NO FAKES Actille, digitaalisten oikeuksien puolustajat ovat huolissaan siitä, että tällaiset lait voivat tukahduttaa sananvapauden ja parodian, jos niitä ei laadita huolellisesti.
Tässä myrskyisässä ympäristössä YouTuben sisällöntuottajakeskeinen työkalu tarjoaa erilaisen tien eteenpäin. Tarjoamalla selkeän, helposti saatavilla olevan mekanismin yksilöiden hallita omaa kaltaisuuttaan alusta asettuu vastuullisemmaksi digitaalisen identiteetin ylläpitäjäksi.
Näyttelijä Bryan Cranstonille, joka oli luvattomien Sora-leikkeiden kohteena, tällaiset ennakoivat toimet ovat välttämättömiä. "Olen kiitollinen OpenAI:lle sen politiikasta ja sen suojakaiteiden parantamisesta ja toivon, että he ja kaikki tähän työhön osallistuvat yritykset kunnioittavat henkilökohtaista ja ammatillista oikeuttamme hallita äänemme ja samankaltaisuutensa kopioimista."
Kun teollisuus kamppailee näiden uusien teknologioiden kanssa, OpenAI:n "build in public" kaaoksen ja YouTuben jäsennellyn, työkalupohjaisen lähestymistavan välinen kontrasti esittelee kaksi hyvin erilaista filosofiaa tekoälyn luoman sisällön tulevaisuuden hallinnassa.
Näiden erilaisten strategioiden tulokset muodostavat todennäköisesti ratkaisevan ennakkotapauksen vastuullisen tekoälyn käyttöönotolle koko teknologian alueella.
