Muistatko vuonna 2018, kun Buzzfeed esitteli maailmalle ”deepfaken” käsitteen mahdollisimman dramaattisella tavalla?
Jordan Peelen leipäläven Barack Obaman kasvoilla? ”FakeApp”-ohjelmiston? Vakuuttelun, että ”[syväväärennöksen havaitsemiseen] tarvitaan vain hieman kärsivällisyyttä ja skeptisyyttä”? Jälkikäteen ajateltuna, kaikki Buzzfeedin varoittelut syväväärennöksestä vaikuttaa viehättävän vanhanaikaiselta.
Niin höpsöä kuin se olikin – meille kerrottiin, että tuon melko epäuskottavan videon kokoaminen vei 56 tuntia videon prosessointia ja videotehostealan ammattilaisen valvontaa – varoitus itsessään oli osuva. Buzzfeed oli oikeassa varoittaessaan meitä siitä, että vakuuttavien deepfake-videoiden tekeminen ”tulee helpommaksi, halvemmaksi ja yleisemmäksi nopeammin kuin voisimme odottaa”, ja että ”kaikkialla olevien deepfake-videoiden aikakausi voi auttaa luomaan ’infokalypsin'”.
Etkö vieläkään ole huolissasi? Sinun pitäisi olla. Lyön vetoa, että sinua on jo jossain vaiheessa huijattu deepfake-videolla, ja tulevaisuudessa ei todennäköisesti voida ottaa digitaalista kuvaa, videota tai äänitiedostoa nimellisarvollaan.
Etkö usko minua? Sitten kutsun sinut tekemään seuraavan testin . . .
HAASTE
Katsotaanpa kolmea viimeaikaista videota. Tehtäväsi on kertoa minulle, mitkä näistä videoista ovat aitoja ja mitkä tekoälyn tuottamia väärennöksiä. Oletko valmis?
Tässä ensimmäinen video:
Ja tässä toinen:
Ja tässä kolmas:
Okei, ei huijaamista nyt. Kerro minulle lukematta eteenpäin, mitkä näistä videoista mielestäsi ovat aitoja ja mitkä tekoälyn tuottamia väärennöksiä.
Odotan, että kirjaudut sisään corbettreport.com-sivustolle ja jätät arvauksesi siellä tämän julkaisun kommenttiosioon . . .
. . . Okei, siinä oli riittävästi aikaa.
Joten, oletko tehnyt arvauksesi? Hienoa! Niin minäkin!
Ja haluatko tietää oikean vastauksen? Hienoa! Niin minäkin!
TULOKSET
Kuten saatat tietää tai et tiedä, ensimmäisen videon väitetään olevan pätkä Burkina Fason presidentin Ibrahim Traorén puheesta englanniksi. Video on merkitty ”puheeksi IMF:lle”, ja jos ”FAKE VIDEO!” -hälytyskellosi eivät soi yli kymmenen sekunnin katselun jälkeen, saatat joutua vaihtamaan ”FAKE VIDEO!” -hälytyksesi paristot.
Koko lähes 30 minuuttia kestävän videon ajan, Traoré tekee saman vasemmalta-oikealle-vasemmalle-oikealle -pään liikkeen yhä uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen ja uudelleen. (Vakavasti, selaa koko video läpi nähdäksesi kuinka täysin naurettavaa tämä on.)
Hänen kasvojensa edessä oleva mikrofoni katoaa jatkuvasti puolivälistään.
Ja hänen takanaan oleva yleisö liukenee jatkuvasti outoon, autuaalliseen valoon ennen kuin aineellistuu uudelleen (ilmeisesti ilman kulumisen merkkejä).
Ja, tietenkin, on vaikea olla huomaamatta Traorén outoa, katkonaista äänenkäyttöä, jossa jotkut lauseet yhtäkkiä katkeavat luonnottomalla tavalla.
Nyt, kun nämä asiat on tuotu sinulle esiin, huomaat, että tässä on jotain ”pielessä”. Mutta tämä selvästi muokattu video on julkaistu lukuisissa paikoissa verkossa oletettavasti oikeana puheena, ja hyväntahtoinen kuuntelija jopa välitti sen minulle ja totesi vakavasti, että ”en ole kuullut tätä rohkeutta, selkeyttä ja oivallusta afrikkalaiselta johtajalta pitkään aikaan”.
Pintapuolinen haku paljastaa, ettei ole olemassa minkäänlaista hyvämaineista uutislähdettä tai minkäänlaista riippumatonta lähdettä, joka olisi tallentanut tätä mullistavaa puhetta tai sen transkriptiota tai lainausta. Se esiintyy vain satunnaisilla YouTube-kanavilla ja hämäräperäisissä Facebook-postauksissa.
Lyhyesti sanottuna, tämä on selvästi jonkinlainen väärennetty video, vaikka lisätutkimuksia tarvitaankin tämän muokatun puheen tarkan alkuperän selvittämiseksi.
Entäpä toinen video?
Tämä video väittää välittävänsä Virginia Giuffren ”kuolleen miehen kytkin” -viestin ääniraidan. Kuten asioista perillä olevat lukijani epäilemättä tietävät, Virginia Giuffre oli yksi Jeffrey Epsteinin tunnetuimmista uhreista, ja – kuten keskustelin veteraani Epstein-tutkija ja kirjailija Nick Bryantin kanssa – hän teki itsemurhan (tai ”teki itsemurhan”, riippuen siitä, mihin uskot) viime huhtikuussa. Videon ääniraita on oletettavasti hänen nauhoittama viesti, joka oli tarkoitus julkaista automaattisesti hänen kuollessaan ja joka paljastaisi kaikki asiat, joita hän ei pystynyt sanomaan eläessään.
Epäilemättä, tämän ääniviestin välittämä tieto on järkyttävää: Epstein on elossa. Epsteinin ”pedofiilisaarella” vierailivat muun muassa Barack Obama, George Clooney ja Tom Hanks. Bill Gates suoritti siellä sairaalloisia geenikokeita lapsille.
Mutta onko viesti todellinen? Kuulostaako ääni sinusta aidolta ihmisääneltä vai tietokoneella tuotetulta tekoälyn syväväärennökseltä?
Minulla ei ole epäilystäkään siitä, etteikö tämä olisi aito ihmisääni, mutta jos se kuulostaa sinusta siltä, mitä voisin sanoa vakuuttaakseni sinut siitä, ettei se ole sitä? Mitä sinä voisit sanoa vakuuttaaksesi minut siitä, että se on?
Tietenkin on olemassa oikeuslääketieteellistä analyysia . . . mutta ”oikeuslääketieteellinen analyysi” tarkoittaa tässä tapauksessa sen ajamista niin sanotun ”tekoälyäänenilmaisimen” läpi jollakin hämärällä verkkosivustolla tai muulla käyttäen jotakin ”tekoälyäänenilmaisu”-prosessia, joka on täysin läpinäkymätön ja itsekin riippuvainen tekoälyteknologiasta. Sen sijaan, että vastattaisiin kysymykseen siitä, onko ääni aidosti ihmisen vai tekoälyn tuottama, nämä ”syväväärennösten ilmaisimet” lisäävät väittelyyn vain uuden epävarmuuskerroksen.
Mitä hyötyä siitä onkaan, ”AI Voice Sensor” osoittaa, että tämä ääni on ”100 % todennäköisesti aito ihmisääni” (pidän näistä kertoimista!):
ElevenLabsin ”AI Speech Classifier” puolestaan arvioi äänileikkeen 84 %:n todennäköisyydellä ElevenLabsin tekoälyäänityökaluilla tuotetuksi:
Toisin sanoen, mitä ikinä haluatkaan uskoa tästä äänityksestä, voit nyt osoittaa oletettavasti objektiiviseen analyysiin, joka vahvistaa intuitioasi! Hienoa!
Okei, entä sitten kolmas video? Voimmeko määrittää, onko tämä aito vai feikki?
Onneksi olemme vihdoin löytäneet videon, jonka aitoutta (tai sen puutetta) ei kiistetä!
Tämä on puhe, jonka Argentiinan presidentti Javier Milei piti Maailman talousfoorumin vuosikokouksessa Davosissa tammikuussa 2024. Tässä on video itse puheesta: ”La conferencia completa de Javier Milei En Davos.”
Puheen käänsi englanniksi Heygen, tekoälyvideogeneraattori, joka tarjoaa tekoälyn käännösominaisuuksia. Heygen ei ainoastaan käännä minkä tahansa puhujan sanoja missä tahansa videossa. Se ei ainoastaan tuota tekoälyääntä, joka sanoo käännetyt sanat. Se renderöi äänen puhujan äänen tyyliin ja sitten automaattisesti huulisynkronoi videon tekoälyn tuottamaan ääneen.
Toisin sanoen, katsot Milein espanjankielistä puhetta englanniksi aivan kuin Javier Milei itse olisi pitänyt sen englanniksi.
Ei ole vaikea ymmärtää, miksi tämä teknologia räjäytti ihmisten mielet aikoinaan, sillä video sai miljoonia katselukertoja verkossa ja tuotti lukuisia otsikoita. Loppujen lopuksi tällä teknologialla on potentiaalia todella poistaa kielimuuri ihmisten väliltä lopullisesti . . . edellyttäen tietenkin, että he kommunikoivat keskenään asianmukaisen teknologian avulla.
Pandoran lipas on avattu. Mutta mitä se tarkoittaa?
MITÄ SE TARKOITTAA
Ei vaadi paljon mielikuvitusta nähdäkseen, kuinka tämäntyyppinen tekoälyyn perustuva syväväärennös-äänenkloonaus/automaattinen käännös/huulisynkronointiteknologia voisi johtaa merkittäviin läpimurtoihin ja muuttaa maailmaa paremmaksi.
Artikkelissaan ”AI just changed the world. Again”, Sean Thomas The Spectator -julkaisusta tutkii, miten tätä teknologiaa voitaisiin käyttää maailmamme muuttamiseen lähitulevaisuudessa:
Oletettavasti tämä ohjelmisto liitetään pian laseihin tai linsseihin, jotka suorittavat tämän tehtävän [käännös ja huulten synkronointi] automaattisesti. Sinun tarvitsee vain käyttää näitä laseja Pisassa, Limassa tai Osakassa, ja ymmärrät, mitä kaikki sanovat, ja luet heidän kasvojensa kielen, melkein kuin olisit syntynyt siellä. Voisimme kutsua näitä laseja Babel-laseiksi Douglas Adamsin pikakääntäjän, Baabelin kalan, kunniaksi, koska niiden välillä on silmiinpistävä samankaltaisuus. Tärkein ero on, että Babel Glass -lasit ovat paljon paremmat kuin Baabelin kala, huulten synkronoinnin ansiosta.
Toisaalta, ei vaadi paljon mielikuvitusta nähdäkseen, miten tätä teknologiaa voitaisiin käyttää horjuttamaan luottamuksen rakennetta, jolle sivilisaatiomme on rakennettu.
Tappoiko Virginia Giuffre itsensä vai murhattiinko hänet? Nauhoittiko hän viimeisen viestin todistaen kaikki todelliset tietopommit, joita hän ei paljastanut eläessään? Onko yksikään uutissivusto hankkinut ja välittänyt tarkasti kyseisen nauhoituksen keinoin, joita ei ole vielä paljastettu?
Vastaukset näihin kysymyksiin ovat, sanomattakin selvästi, uskomattoman tärkeitä ja mahdollisesti poliittisesti räjähdysherkkiä. Mutta kuvittele nyt, että ääni- tai videotiedoston aitouden kysymyksestä tulee normi jokaiselle räjähdysherkälle ääni- tai videotiedostolle, joka raportoidaan tästä lähtien.
Toisin sanoen, kuvittele maailma, jossa kaikkien ei tarvitse ainoastaan tarkastella tietyn toimittajan poliittista näkökulmaa tai pohtia, mitä tietoja raportista on saatettu jättää pois, vaan heidän on myös pakko kyseenalaistaa jokainen yksittäinen ääni- tai videolausunto ja jokainen dokumentti jokaisesta tulevaisuudessa raportoidusta tapahtumasta.
Tähän maailmaan olemme syöksymässä.
Ja, niin huonosti kuin asiat ovatkin, ne pahenevat päivä päivältä. Corbett Reportterit ovat jo tutustuneet Veo3:een, uusimpaan tekoälyvideoiden luontimalliin, jota käytettiin tuottamaan hyperrealistisia videoita, jotka aloittivat äskettäisen podcastini ”We Need To Talk About AI”. Ottaen huomioon, kuinka nopeasti tekoälyn tekstistä videoksi -tuotanto on edennyt pelkästään viimeisten kolmen vuoden aikana, on lähes varmaa, että tekoälyn tuottama video on täysin erottamaton todellisesta elämästä muutaman vuoden kuluttua.
Kuvittele sitten Epsteinin kiristysmateriaalin mahdollista tulevaa julkaisua. Olipa kuvamateriaali kuinka tuomitsevaa tahansa mille tahansa poliitikolle, liikemiehelle tai rahoittajalle, jota siinä kuvataan, heillä on nyt uskottava tekosyy, että se on tekoälyn tuottamaa materiaalia. He eivät tietenkään koskaan tekisi sellaista, ja kuinka te kehtaatte ottaa tällaista todistusaineistoa nimellisarvollaan!
Syytetyn kannattajat hyväksyvät tämän tekosyyn tietenkin mielellään ja vapauttavat hänet rikoksesta. Hänen arvostelijansa kieltäytyvät uskomasta, että materiaali ei ole aitoa. Käytetään erilaisia ”syväväärennösten havaitsemiseen” tarkoitettuja teknologioita, jotka todennäköisesti antavat ristiriitaisia tuloksia, kuten yllä olevassa Giuffren esimerkissä.
Nyt, ihmiset eivät enää kiistele tosiasioiden tulkinnasta. He eivät kiistä ideologioita tai maailmankatsomuksia. He kohtaavat itse todellisuuden dokumentoinnin. Mitä tapahtui, ja miten voimme koskaan todistaa, että se tapahtui?
Eikä tämä todennäköisesti ole tapa, jolla yksi tai kaksi korkean profiilin skandaalia etenee tulevaisuudessa. Jokainen merkittävä tapahtuma tuo nyt mukanaan toimittajille ylimääräisen todistettavuuden siitä, että se on koskaan tapahtunut.
Olemme virallisesti menettämässä otteen itse todellisuuden käsitteestä.
RATKAISU?
Mikä sitten on ratkaisu tähän hankalaan tilanteeseen?
Kuten tavallista, hallitukset astuvat esiin yrittäessään ”fiksata” tilanteen . . . Ja kuten tavallista, tämä hallituksen ”fiksaus” ei tarkoita ”korjaamista” tai ”parantamista”, vaan ”peukalointia”.
Yksi esimerkki tästä on lakiesitys, joka on menossa Yhdysvaltain senaatin läpi ja tunnetaan nimellä ”NO FAKES Act of 2025”. Yhden lakiesitystä tukevan kongressin jäsenen lehdistötiedotteen mukaan, NO FAKES Act ”suojaa kaikkien yksilöiden ääntä ja kuvallisuutta luvattomilta, tietokoneella tuotetuilta tekoälyn (AI) ja muiden teknologioiden tuottamilta kopioilta” perustamalla ”selkeän oikeuden hallita oman äänen ja kuvan digitaalisia kopioita”.
Kuitenkin, kuten lakiesitystä vastustava edunvalvonta- ja kauppajärjestöjen yhteenliittymä huomauttaa avoimessa kirjeessään NO FAKES Actista, tämä on lakihenkinen temppu. Yrittämällä luoda omistusoikeuden digitaaliseen kuvaan sen sijaan, että se koskisi yksityisyyden suojaa oman kuvansa käytössä, lakiesitystä ei petollisesti ole suunniteltu pysäyttämään näiden tekoälydeepfake-kopioiden leviämistä, vaan itse asiassa luomaan lailliset markkinat tekoälyn tuottamille todellisten ihmisten representaatioille.
Digitaalisen kopion oikeus, jota voidaan lisensoida tai siirtää ilman merkittäviä rajoituksia, uhkaa oikeuden aiottujen edunsaajien vapautta ja autonomiaa. Vaikka NO FAKES sisältää joitakin lisensointi- ja siirtorajoituksia, se jättää silti tilaa väärinkäytöksille. Vaatimus ”allekirjoitetusta kirjoituksesta” ja ”kohtuullisen tarkasta kuvauksesta kopion käyttötarkoituksista” jättää silti oven avoimeksi yksinkertaisen klikkauslisenssin käytölle, jolla saadaan yksinomainen 10 vuoden oikeus tuottaa määräämätön määrä äänitallenteita tai audiovisuaalisia teoksia, jotka vastaavat tiettyä kuvausta. Sekä ammattiesiintyjät että yksityishenkilöt voivat huomata olevansa vieraantuneita omasta kuvauksestaan jopa vuosikymmenen ajan, kykenemättä luomaan tai valtuuttamaan sellaisten teosten tuottamista, jotka sisältävät heidän digitaalisen kopion. Samaan aikaan mikään lakiesityksessä ei estäisi lisensoitua käyttäjää käyttämästä digitaalista kopiota väärän tiedon luomiseen, mukaan lukien videot, jotka näyttävät jonkun tekevän tai sanovan asioita, joita hän ei ole koskaan tehnyt tai sanonut, ilman että paljastetaan, että esitykset ovat keinotekoisia.
NO FAKES -laki on kuitenkin vain yksi oikeudellinen vastaus yhteen tekoälyn syväväärennösilmiön esiin nostamaan ongelmaan, ja se koskee vain yhtä maata. Monet muut lakiesitykset epäilemättä kiemurtelevat eri lainsäädäntöelinten läpi ympäri maailmaa tulevina vuosina, mutta mikään niistä ei puutu ongelman juurisyihin.
Tämä teknologia on nyt olemassa. Hammastahna on poistettu tuubista. Eikä mikään lainsäädäntö estä tiedustelupalveluita ja muita syvän valtion toimijoita (puhumattakaan tavallisista rikollisista ja pahantekijöistä) käyttämästä sitä tulevaisuudessa.
On jo pitkään raportoitu, että CIA:n johtaja William Casey sanoi helmikuussa 1981 pidetyssä kokouksessa Roosevelt-huoneessa Valkoisen talon länsisiivessä: ”Tiedämme disinformaatio-ohjelmamme olevan valmis, kun kaikki, mitä amerikkalainen yleisö uskoo, on valetta.”
Mutta niin kauhistuttava kuin tuo CIA:n tehtävä onkin, tämä deepfake-ilmiö herättää aaveen jostain paljon pahemmasta. Tämän teknologian yleistyessä ei ole kyse siitä, että kaikki, mitä amerikkalainen yleisö (tai maailman yleisö) uskoo, olisi valetta. Kyse on siitä, ettei kukaan pysty lopullisesti todistamaan, mikä on tai ei ole valetta. Todellisuus itsessään katoaa digitaaliseen eetteriin.
Miten se voisi enää pahentua?
No, entäpä tämä uutinen: YouTube lisää nyt tekoälyn slop-painikkeen, jonka avulla ihmiset voivat automaattisesti tuottaa Veo3:n tekoälyn tuottamia lyhyitä videopätkiä yhdellä klikkauksella. Ja voit vain uskoa, että heidän Iso Tekno veljeskuntansa ei ole kaukana perässä. Jumala meitä kaikkia auttakoon.
Sillä välin, miksi et jakaisi ”Spot The Deepfake” -haastetta ihmisille elämässäsi? Ainakin tarvitsemme lisää ihmisiä kohtaamaan sen maailman synkän todellisuuden, johon astumme, ennen kuin tuo todellisuus katoaa ikuisiksi ajoiksi.
Tämä viikoittainen pääkirjoitus on osa The Corbett Report Subscriber -uutiskirjettä.
Artikkelin on kirjoittanut James Corbett 29.6.2025 ja se on luvalla Creative Commons Attribution-NonCommercial 4.0 International License suomennettu ja julkaistu Rakkausplaneetan sivuilla.
Alkuperäisen artikkelin löydät täältä:
corbettreport.com: Media Challenge: Spot the Deepfake!
