”Luota tieteeseen!”
Tämä on teknokraattisten tyrannien mantra. Orwellilaisen ajatuspoliisin kokoontumishuuto. Nykyajan sensuroijien määräys, jotka pyrkivät vapauttamaan markkinapaikat mistä tahansa ja kaikista opposition ajatuksista.
Jos luet näitä sanoja, tiedät tämän jo. Tai sinun pitäisi tietää tämä, koska syy siihen, miksi minut sensuroitiin ThemTubesta vuonna 2021, oli se, että kehtasin tuottaa podcastin tieteenfilosofiasta, joka pyrki tutkimaan ja purkamaan ”Luota tieteeseen!” käskyn.
Mennään suoraan asiaan: tällä COVIDin jälkeisellä aikakaudella jokainen, jolla on pää ruuvattuna suoraan, tietää, että ”Luota tieteeseen!” on tyhmä, perusteeton, itseään kumoava hölynpöly, jota autoritaarit käyttävät nuijana poliittista erimielisyyttä vastaan.
Mutta niin typerä kuin ”Luota tieteeseen” lause onkin, siitä on tulossa vieläkin typerämpi.
Miksi? Koska viime kuussa esiin nousi tarina, joka horjuttaa täysin minkä tahansa väärin kohdistetun uskon, jota keskivertopropagandaa nielevä juntti vielä hautoi mielessään ”tieteen” luotettavuudesta ja oletettavasti itseään korjaavasta vertaisarviointiprosessista, jolle ”tiede” rakentuu.
Sitokaa hihnat, porukat. Tämä tarina on mieletön. Ja se viittaa tulevaisuuteen, joka on niin kauhistuttavan dystooppinen, etteivät edes ”Luota tieteeseen!” rosvot pysty sitä puolustamaan.
VANHA ONGELMA
Muistatko ”Sokal-tapauksen”?
Et ehkä tiedä sitä nimeltä, mutta oletan, että kuulit tarinan. Vuonna 1996 Alan Sokal oli fysiikan professori New Yorkin yliopistossa ja University College Londonissa, jota hänen omien sanojensa mukaan ”vaivasi kurinalaisuuden standardien ilmeinen lasku tietyillä humanististen tieteiden alueilla”. Sen sijaan, että hän olisi kirjoittanut tieteellistä tutkielmaa huolenaiheistaan, hän päätti kuitenkin osoittaa ongelman provosoivalla (ja hilpeällä) tavalla: huijaamalla vertaisarvioitua humanistista lehteä.
Sokal tilittää:
Joten testatakseni vallitsevia älyllisiä standardeja, päätin kokeilla vaatimatonta (vaikkakin kontrolloimatonta) koetta: Julkaisisiko johtava pohjoisamerikkalainen kulttuuritutkimuksen aikakauslehti – jonka toimitukselliseen joukkoon kuuluvat sellaiset valonlähteet kuin Fredric Jameson ja Andrew Ross – artikkelin, jota on runsaasti suolattu hölynpölyllä, jos (a) se kuulosti hyvältä ja (b) se imarteli toimittajien ideologisia ennakkokäsityksiä?
Ei ole yllättävää, että vastaus tähän kysymykseen oli painokas ”Kyllä!”
Tarkemmin sanottuna, Sokal kirjoitti ”Transgressing the Boundaries: Toward a Transformative Hermeneutics of Quantum Gravity – Rajoja ylittämässä: Kohti kvanttigravitaation transformatiivista hermeneutiikkaa”, täysin käsittämättömän soopa-artikkelin, joka pyrkii purkamaan ”pitkän valaistumisen jälkeisen hegemonian läntisen älyllisen näkemyksen yli” kritisoimalla tieteen kieltä – matematiikkaa ja logiikkaa – ja sen ”saastumista” ”kapitalististen, patriarkaalisten ja militarististen” voimien toimesta.
”Siten, vapauttava tiede ei voi olla täydellinen ilman matematiikan kaanonin perusteellista tarkistusta”, Sokalin satiirinen artikkeli päättää ennen tunnustamistaan: ”Tällaista emansipatorista matematiikkaa ei ole vielä olemassa, ja voimme vain spekuloida sen lopullista sisältöä.”
Matkan varrella hän osallistuu vaikuttavalta kuulostavaan, mutta täysin irrelevanttiin keskusteluun teoreettisen fysiikan esoteerisista käsitteistä, mukaan lukien ”Einsteinin kenttäyhtälön muuttumattomuus epälineaaristen aika-avaruusdiffeomorfismien alaisuudessa” ja tarjoavatko ”säieteoria, avaruus-aikakudos tai morfogeneettiset kentät” lopulta vastauksen ”teoreettisen fysiikan keskeiseen ratkaisemattomaan ongelmaan”.
Sepitteen jälkeisessä tunnustuksessaan ”Fysicist Experiments with Cultural Studies – Fyysikko tekee kokeita kulttuuritutkimuksilla”, Sokal huomauttaa, että hän tarkoituksella pippuroi artikkelin hölmöllä näennäistieteellisellä hölynpölyllä ”jotta jokainen pätevä fyysikko tai matemaatikko (tai fysiikan tai matematiikan perustutkinto-opiskelija) ymmärtäisi, että se on parodia”.
Joten, miksi artikkeli läpäisi vertaisarvioinnin vahvuuden? Sokalin arvion mukaan:
On ymmärrettävää, että Social Textin toimittajat eivät pystyneet arvioimaan kriittisesti artikkelini teknisiä puolia (tämän vuoksi heidän olisi pitänyt konsultoida tutkijaa). Yllättävämpää on se, kuinka helposti he hyväksyivät vihjaukseni siitä, että totuuden etsiminen tieteestä on alistettava poliittiselle agendalle, ja kuinka tietämättömiä he olivat artikkelin yleisestä epäloogisuudesta.
Social Textin toimittajien egon hiveleminen ehdottamalla, että fysiikka oli liian tärkeä todellisille tiedemiehille jätettäväksi, ja että sitä on sen sijaan täydennettävä kriittisellä teorialla, joka heijastaa feministisiä ja antikapitalistisia ideologioita, järjetön tutkielma hyväksyttiin luontevasti julkaistavaksi ja painettiin asianmukaisesti Social Textin kevät/kesä 1996 numerossa ”Science Wars”.
Valitettavasti tämä petkutus ei häpäissyt tarpeeksi humanististen aikakauslehtien toimittajia ja vertaisarvioijia tekemään parempaa työtä. Päinvastoin. Se johti seuraavien vuosikymmenten aikana useiden samankaltaisten (ja yhä naurettavampien) huijaustutkielmien julkaisemiseen.
Muistatko ”Grievance studies affair – Epäkohtatutkimusten tapauksen”? Tuossa Sokalin kaltaisessa petkutuksessa, joka tapahtui vuosina 2017 ja 2018, kolme erillistä kirjoittajaa – Peter Boghossian, James A. Lindsay ja Helen Pluckrose – kirjoittivat, ei vain yhtä vaan kaksikymmentä erillistä huijausartikkelia osoittaakseen, ettei mikään ollut parantunut Sokalin alkuperäisen gambiitin ajoista lähtien. Kriittisen yhteiskuntateorian ja niin sanottujen ”epäkohtatutkimusten” kehitys oli itse asiassa pahentanut tilannetta kahden vuosikymmenen aikana.
Voidakseen todella puskea kokeen rajoilleen, trio varmisti, että ”jokainen tutkielma alkoi jollakin absurdilla tai syvästi epäeettisellä (tai molemmilla) tavalla, jota halusimme viedä eteenpäin tai päätellä”.
Joitakin esimerkkejä tutkielmista, joita ei toimitettu pelkästään tämän akateemisen rynnäkön aikana:
- ”Human reactions to rape culture and queer performativity at urban dog parks in Portland, Oregon – Ihmisten reaktiot raiskauskulttuuriin ja queer performatiivisuuteen urbaaneissa koirapuistoissa Portlandissa, Oregonissa” – Gender, Place and Culture -lehdessä julkaistu artikkeli, jonka tarkoituksena oli käsitellä ”ihmisen ja seksuaalisuuden maantieteellisiä kysymyksiä” tarkkailemalla koirien ja koiranomistajien käyttäytymistä koirapuistoissa ”määrittämään, milloin koiran nylkyttäminen katsotaan raiskaukseksi”;
- ”When The Joke Is On You: A Feminist Perspective on How Positionality Influences Satire – Vitsi onkin sinusta: Feministinen näkemys siitä, kuinka asemoituminen vaikuttaa satiiriin” – tutkielma, jonka Hypatia, johtava feministisen filosofian aikakauslehti, on hyväksynyt julkaistavaksi, väittää, että akateemiset huijaustutkielmat ovat itse asiassa ”hienostunut, mutta etuoikeuksia säilyttävän episteemisen takaisin työnnön tyhjä muoto, joka pyrkii ratkaisemaan episteemisen epämukavuuden jäljittelemällä tiettyjä ajatuksia vakuuttavasti, tarjotakseen ne naurettavaksi muille, jotka ovat samalla tavalla episteemisesti protektionistisia”;
- ”Our Struggle Is My Struggle: Solidarity Feminism As An Intersectional Reply To Neoliberal and Choice Feminism – Taistelumme on minun taisteluni: Solidaarisuusfeminismi intersektionaalisena vastauksena uusliberaaliin ja valintafeminismiin” – Affilia: Feminist Inquiry and Social Work -julkaisun hyväksymä tutkielma, joka – huijarit myönsivät myöhemmin – ”perustui noin 3 600 sanan uudelleenkirjoitukseen ’Mein Kampfin’ 1. osan 12. luvusta, ja käsitti Hitlerin juutalaisten vastaisten herjausten vaihtamisen modernin femi-natsi-ismin anti-patriarkaaliseen herjaamiseen; ja
- ”Konseptuaalinen penis sosiaalisena konstruktiona”, julkaistiin Cogent Social Sciences– lehdessä, joka väittää . . . no, sen annan sinun lukea itse.
Tietenkin, kaikki nämä tutkielmat joko vedettiin takaisin tai niitä ei hyväksytty julkaistavaksi . . . kun huijarit kerran myönsivät petoksen The Wall Street Journalille. Vasta sen jälkeen, kun kolmikko kertoi totuuden, ”arvostetut” ja ”vertaisarvioidut” lehdet – ”tieteen” portinvartijat – ymmärsivät, että heitä oli vedetty nenästä, mikä aiheutti julkisuuden myrskyn ja julkisen kädenväännön yhteiskuntatieteiden tilasta.
”Mutta OIKEASHTAAN”, huutavat Tieteen puolustajat, ”kaikki lehdet vetivät takaisin ja kielsivät tutkielmat, kun ne havaittiin vilpillisiksi, mikä vain osoittaa, että tiede lopulta korjaa itseään, eikö niin? Ja joka tapauksessa, huijarit paljastavat vain epävarmuutensa omien genitaaliensa suhteen! Luottakaa tieteeseen, kaverit!
. . . Mutta miksi järjettömiä tutkielmia, kuten ”Glaciers, gender, and science: A feminist glaciology framework for global environmental change research – Jäätiköt, sukupuoli ja tiede: Feministinen glasiologian kehys globaaliin ympäristönmuutostutkimukseen” – Progress in Human Geography -lehdessä julkaistu artikkeli, joka vaatii ”feministisen glasiologian” rakennelmaa – julkaistaan edelleen? (Niin tai näin, tuo tutkielma ei ilmeisesti ollut huijaus . . . mutta olisit voinut huijata minua!)
Se, mitä nämä huijaukset ovat osoittaneet dramaattisella tavalla, on seikka, joka on ollut akateemisen makkaratehtaan sydämessä työskentelevien tutkijoiden tiedossa jo jonkin aikaa: vertaisarviointi ei ole – huolimatta ”Luota tieteeseen!” joukon vakuutteluista – tieteellisten ansioiden takuu.
Kyllä, normaalit ihmiset, jotka ansaitsevat elantonsa vapailla markkinoilla tarjoamalla tuotteita tai palveluita yhteisön jäsenilleen, ovat tienneet jo pitkään, että kaikki ei ole hyvin ”tieteen” maassa, jossa yhä enemmän ostetut-ja-maksetut tutkijat ansaitsevat elantonsa valtion avustuksia kasaan raapimalla tai myymällä itsensä eniten tarjoavalle yritykselle.
Mutta – ja ymmärrän, että sinun on vaikea uskoa tätä – niin huonoa kuin kaikki tämä onkin, se kalpenee verrattuna uuteen ongelmaan, joka putkahti esiin viime kuussa.
UUSI ONGELMA
Varmasti ”kunnioitettavien” akateemisten lehtien julkaisemat, ihmisten tuottamat huijaustutkielmat ovat pohjasakkaa ”tieteen” suhteen, eikö niin?
Ei.
Vuonna 2005 MIT-tutkinnon suorittaneiden ryhmä loi ”SCIgen – An Automatic CS Paper Generator” -ohjelman, joka ”luo satunnaisia tietojenkäsittelytieteen tutkimuspapereita, mukaan lukien kaavioita, kuvioita ja lainauksia”.
Slate esitteli MIT-projektin vuonna 2014, jossa se tiivisti: ”SCIgenin ansiosta tietokoneella kirjoitettua diibadaabaa on julkaistu useiden viime vuosien ajan rutiininomaisesti tieteellisissä lehdissä ja konferenssijulkaisuissa.”
Sen, minkä pitäisi olla kaksinkertaisesti järkyttävää niille, jotka ovat tähän asti epäilemättä luottaneet ”tieteeseen”, on se, että vuoden 2005 ja Slaten vuoden 2014 paljastuksen välisenä aikana häikäilemättömät SCIgen käyttäjät olivat onnistuneet jo saamaan 120 algoritmisesti luotua siansaksan artikkeliaan julkaistuksi akateemisissa aikakauslehdissä.
Tämä huomattava petoksen saavutus sai aikaan paljon hampaiden kiristelyä tiedeyhteisössä ja sai tieteen kommunikaattorit vuodattamaan monta gallonaa (digitaalista) mustetta kirjoittaessaan sielua etsiviä artikkeleita siitä, missä pyhitetty vertaisarvioinnin instituutio meni pieleen ja kuinka akateemikot voivat työskennellä yhdessä kurssin korjatakseen ja palauttaakseen yleisön usko Tieteen instituutioon.
Joten, johtiko kaikki tämä tekopyhä sielunetsintä hölmöjen sepiteartikkelien aikakauden loppuun?
Ei.
Itse asiassa vuoden 2021 tutkimuksessa havaittiin, että akateemisissa aikakauslehdissä oli julkaistu huimat 243 SCIgenin tuottamaa artikkelia. Niistä vain 12 oli vedetty takaisin ja toiset 34 oli poistettu äänettömästi. Toisin sanoen jopa vuosia sen jälkeen, kun ongelma paljastettiin ensimmäisen kerran, siellä oli edelleen satoja peruuttamattomia hölynpölyartikkeleita sotkemassa tieteellisiä rekistereitä.
Mutta, jos lähes kaksi vuosikymmentä vanha tietokoneohjelma tuottamassa tieteelliseltä kuulostavaa hölynpölyä kuulostaa hieman idylliseltä nykypäivän ChatGPT:n hallitseman suurten kielimallien (LLM – Large Language Model) aikakauden edessä, niin . . . olet oikeassa! Se on.
Unohda 243 SCIgenin tuottamaa valheellista tutkielmaa. Viime kuussa The Wall Street Journal raportoi, että Wiley, 217-vuotias tieteellisen julkaisuteollisuuden uskollinen kannattaja, oli vetämässä takaisin yli 11 300 vilpillistä artikkelia ja lopettamassa 19 aikakauslehteä.
Raportin mukaan:
Tiedottajan mukaan Wiley on vetänyt takaisin yli 11 300 artikkelia, jotka näyttivät olleen epäilyksenalaisia, ja sulkenut neljä lehteä viimeisten kahden vuoden aikana. Se ei ole yksin: ainakin kaksi muuta kustantajaa on kumpikin vetänyt takaisin satoja epäilyttäviä julkaisuja. Useat muut ovat vetäneet pois pienempiä, huonojen tutkielmien rykelmiä.
Vaikka tämä laajamittainen petos edustaa pientä prosenttiosuutta lehdille lähetetyistä artikkeleista, se uhkaa lähes 30 miljardin dollarin akateemisen julkaisuteollisuuden legitiimiyttä ja tieteen uskottavuutta kokonaisuudessaan. [Painotus lisätty.]
Nyt sen tosiasian, että akateeminen kustantaminen on 30 miljardin dollarin teollisuusala, pitäisi antaa ensimmäinen vihje siitä, että ”tiede” ei ole puolueetonta tavoittelua objektiiviseen totuuteen, jollaista teknokraattiset tyrannit haluavat vakuuttaa meille sen olevan. Mutta tapa, jolla tätä alaa pelattiin, tekee tyhjäksi jonkinasteisen piittaamattomuuden tieteellistä pyrkimystä kohtaan, joka on häiritsevää jopa niille, jotka ovat jo tuttuja tieteen kriisin kanssa.
Tämä ei tietenkään ollut mikään hienostunut huijaus, jossa hyvin perillä olevat rikollisjoukot hienosäätivät AI-algoritmia ovelasti huijatakseen akateemisia vertaisarvioijia. Sen sijaan, näiden valheellisten tutkielmatehtaiden operaattorit käyttivät erään tutkijan ”AI Gobbledygook sandwich” -termillä nimeämää, hyvin yksinkertaista algoritmia aidon tieteellisen artikkelin muuttamiseksi tieteelliseltä kuulostavaksi liirumlaarumiksi, joka on (ilmeisesti) tarpeeksi hyvä vertaisarvioinnin läpäistääkseen.
Näin voileipä (engl. sandwich) tehdään.
Ensin, aito tieteellinen artikkeli näpistetään ja sen otsikko muutetaan niin, että artikkeli liittyy suosittuun tutkimusaiheeseen. Tämän jälkeen tavanomaisista sanamuodoista ja standardimääritelmistä sepitetään tekninen osa. Seuraavaksi lisätään tulososio, jonka tarkoituksena on näyttää, kuinka tekoälyä on sovellettu julkiseen tietojoukkoon, jotta voidaan tuoda uutta valoa tutkittavaan asiaan. Lopuksi liitetään joitain epäolennaisia lainauksia, jotka antavat tutkielmalle vaikutelman akateemisesta uskottavuudesta.
Et voilà! Le Voileipä de Diibadaaba on tarjoiltu!
Mielenkiintoinen asia tässä huijauksessa ei ole vain se, että se käsittää tietokonealgoritmin, joka käyttää suurta kielimallia kyhätäkseen pintapuolisesti vakuuttavan hämmennyksen, vaan se, että se turvautuu itse tekoälytutkimuksen arvovaltaan saadakseen tutkielman sitten julkaistuksi. ”Hei kaverit, tekoälyä on käytetty käymään käsiksi ongelmaan kokonaan uudella tavalla! Katsokaa upeita tuloksia.”
Tämän skandaalin tarina on lukemisen arvoinen kokonaisuudessaan, sillä se herättää mielenkiintoisia pointteja pohdittavaksi.
Ensinnäkin se tosiasia, että ainakin 11 000 (!) näitä hölynpölytutkielmia on todella julkaistu, osoittaa, että koko ”vertaisarviointi”-prosessi on vitsi.
Mutta toiseksi se vahvistaa sen, mitä jokainen, joka on työskennellyt korkeakoulun tienoilla tai missä tahansa sen lähellä, on tiennyt pitkään: kukaan ei lue näitä lehtiä kuitenkaan. Yksikään työskentelevä akateemikko ei välitä hitustakaan mistään uudesta tutkimuksesta, joka on julkaistu Journal of East Mongolian Invertebrate Feminist Endicronology Studies Quarterly -lehdessä tai missä tahansa muussa tämän 30 miljardin dollarin kustannusalan hämärässä nurkassa. Nämä lehdet ja niiden sivuja täyttävät hölynpölytutkielmat ovat olemassa vain antaakseen tutkijoille toisen ”vertaisarvioidun julkaisun” tunnustuksen heidän akateemiselle CV:lleen.
Jos luulet, että liioittelen tässä ongelmaa tai jos epäilet, että näillä AI Gobbledygook Sandwich -tuotetuilla artikkeleilla saattaa olla joitain tieteellisiä ansioita, kutsun sinut miettimään tätä tarinaa:
Kaikkinensa, mene lukemaan tuo artikkeli ja löydä kaikki alhaiset yksityiskohdat siitä, kuinka ”merkittävä tieteellinen aikakauslehti” päätyi julkaisemaan ”tekoälyn tuottaman kuvan rotasta suurilla sukuelimillä vieressään järjettömät hölynpölysanat”. Mutta todella, katso sitä itse ja muista: tämä julkaistiin merkittävässä, vertaisarvioidussa tieteellisessä lehdessä!
On kysyttävä: onko tämä ”tiedettä”, johon meidän on tarkoitus luottaa? Ottakaa joku tohtori Fauci linjoille!
Mutta hei, katso valoisaa puolta: tämä ei voi mennä enää pahemmaksi, eikö niin?
Tarkoitan, että olemme varmasti saavuttaneet tämän akateemisen nadiirin pohjan, eikö niin?
Meillä ei voi olla vielä vähemmän syytä ”Tieteeseen luottamisen” jatkamiseen, eihän?
UUSI ONGELMA PAHENEE ENTISESTÄÄN
Joten luuletko, että ”kunnioitettavat” akateemiset aikakauslehdet, jotka julkaisevat AI Gobbledygook Sandwich tuotettuja artikkeleita, on niin huonoa kuin se voi olla?
No, pidä kiinni, koska aion räjäyttää mielesi: mitä jos ”vertaisarvioijat” ovat itse tekoälyä?
Itse asiassa se on kompakysymys. Siinä ei ole mitään ”mitä jos”! Tekoälyä käytetään jo vertaisarviointiprosessin ”avustamiseen”.
Kuten ”AI-Assisted Peer Review”, vuonna 2021 julkaistu artikkeli Humanities and Social Sciences Communications -julkaisussa (Nature Portfolion julkaisema, vertaisarvioitu ”täysin avoin pääsy verkossa” -lehti) selittää hyödyllisesti:
Tieteellinen kommunikaatioprosessi on rasittunut erityisesti lisääntyvien vaatimusten vuoksi vertaisarvioijien ja heidän aikansa suhteen. Käsikirjoitukset vertaisarviointilehtiin ovat nähneet ennennäkemättömän 6,1 % vuotuisen kasvun vuodesta 2013 lähtien, ja takaisinvetojen määrät ovat lisääntyneet huomattavasti (Publons, 2018). Arviolta yli 15 miljoonaa tuntia käytetään vuosittain aiemmin hylättyjen ja sitten muihin lehtiin uudelleen lähetettyjen käsikirjoitusten tarkistamiseen.
Voi ei! Eikö kukaan ajattele ”lapsenomaisia” vertaisarvioijia!
Onneksi teknokraattiset tekoäly-yliherrat ovat täällä auttamassa:
Tutkimusyhteisö suhtautuu todennäköisesti myönteisesti kehitykseen, joka voi tehostaa tutkimustuloksiin liittyvää laadunvalvonta-/varmistusprosessia, erityisesti vertaisarviointiprosessia. On jo olemassa useita aloitteita, joissa hyödynnetään automaattisia seulontatyökaluja sellaisilla aloilla kuin plagioinnin estäminen, vaatimusten noudattamisen tarkistukset sekä arvioijan ja käsikirjoituksen täsmääminen ja pisteytys. Monet näistä työkaluista käyttävät tekoälyä (AI), koneoppimista ja suurten tietojoukkojen luonnollisen kielen käsittelyä.
Aivan oikein, porukat. Auttaakseen niitä vaikeuksissa olevia vertaisarvioijia, jotka kärsivät (enimmäkseen tekoälyn luomien) artikkelien tulvasta, he kääntyvät . . . tekoälyn puoleen! Mikä voisi mennä pieleen?
On tärkeää ymmärtää, että tämä ei ole mikään ääriajatus. Päinvastoin. Itse asiassa ajatus tekoälyn vertaisarvioinnista näyttää olevan yksi kuumimmista aiheista vertaisarvioiduissa aikakauslehdissä näinä päivinä, ja julkaisut, kuten Nature ja Journal of Medical Research ja Learned Publishing sekä Springer Nature ja ACS Energy Letters ja lukuisat muut ovat käsitelleet aihetta viime vuosina.
Ottaen huomioon, kuinka nopeasti ajatus tekoälyavusteisesta (tai jopa tekoälyn ohjaamasta, ihmis-”avusteisesta”) vertaisarvioinnista on normalisoitunut akateemisessa maailmassa, on mahdollista kaunistella sitä, kuinka hullu tämä tilanne on.
Saadaksesi todella käsityksen tästä hulluudesta, ehdotan, että luet äskettäisen artikkelin aiheesta ”Kuinka generatiivinen tekoäly tuhoaa tieteen ja akateemisen tutkimuksen”, jossa käsitellään tämän kehityksen filosofisia seurauksia.
Kuten artikkelin kirjoittaja huomauttaa:
Tekoälyarvioijat tarkistavat algoritmien kirjoittamia, lehdissä julkaistuja tutkielmia, joita kukaan ei lue. Paitsi ehkä tekoäly itse, joka tuottaa nyt omaa valmennusmateriaaliaan pahanilkisessä informaation palautesilmukassa, joka tulee olemaan täynnä rakenteellisesti integroituja hallusinaatioita.
Joten, missä on laadunvalvonta? Miten se on edes ajateltavissa? Kuka tekee tekoälyn tuottaman materiaalivyöryn ”faktantarkistuksen”? Ja mihin dataan viitaten? Tekoälyn tuottamia tai kuratoimia tutkimusartikkeleita, joiden tieto on kytketty irti luotettavuudesta, objektiivisuudesta ja oikeellisuudesta, ja joita nyt kuitenkin tuotetaan kannattavan kuluttajakäyttäytymisen ja strategisen mielipiteenmuodostuksen vahvistamiseksi?
Kyllä, AI ouroboros on nyt valmiina alkamaan syömään omaa häntäänsä.
Melko pian on mahdollista, että merkittävä osa 30 miljardin dollarin vuosittaisesta akateemisesta julkaisuteollisuudesta koostuu ”tekoälystä” (eli Large Language Model -kielimalleista) tuottamassa diibadaaba-artikkeleita, jotka vertaisarvioidaan muiden ”tekoälyjen” (LLM) toimesta, jotka on harjoitettu ”tekoälyn” (LLM) tuottamalla diibadaaba-sisällöllä.
Roskaa sisään, roskaa ulos, todellakin.
RATKAISU
Kuten edellä kirjoitin, vaikka tämän tekoälyn tuottaman hämmennyksen erityispiirteet voivat olla uusia, ei ole mitään uutta ajatuksessa, että nykyaikaisen akateemisen yritteliäisyyden julkaise-tai-kuihdu luonne vääristää perusteellisesti institutionaaliset tiedontuotannon menetelmämme. Itse asiassa kaiken tämän pitäisi olla hyvin tuttua niille, jotka ovat nähneet esitykseni tieteen kriisistä: The Crisis of Science.
Hetkinen, et ole vielä nähnyt ”The Crisis of Science” videota? Korjataan se puute nyt, eikö niin?
Kuten tavallista, on tärkeää tietää ongelmasta, mutta vain siltä osin kuin tämä tieto voi ohjata meidät ongelman ratkaisuun. Kuten varmasti tiedät, tämä on syy, miksi seurasin The Crisis of Science -podcastiani Solutions: Open Science -podcastilla.
Mitä, et ole vielä nähnyt esitystäni aiheesta ”Solutions: Open Science – Ratkaisut: Avoin tiede”? Ei ole parempaa hetkeä kuin nyt!
Lyhyesti sanottuna: kyllä, tähän sotkuun on ratkaisu, mutta se ei tule siitä, että turvaudutaan tekoälyyn tekoälyn tuottaman ongelman ratkaisemisessa.
Ja se ei tule ”Tieteeseen luottamisen” kautta.
Se tulee täysin erilaisesta, hajautetusta, avoimen lähdekoodin lähestymistavasta tiedon hankkimiseen ja hajautetusta, horisontaalisesta vertaiskritiikistä, joka ottaa keskustelun pois ostetun ja maksetun akateemisen kustannusalan käsistä ja palauttaa sen takaisin tutkijoiden ja kiinnostuneiden maallikoiden käsiin.
Hyvä asia on, että tämä keskustelu on jo käynnissä, mutta sitä vain eivät mainosta teknokraatit ja heidän korporatiiviset kätyritiedemiehet ja heidän AI-hallitut akateemiset julkaisut ja tiedelehdistö. Ja nyt, kun tiedät siitä, sinäkin olet osa ratkaisua!
Levitä sanaa: ”Luota tieteeseen!” on kuollut. ”Tule tieteeksi” on se, mitä makeet tyypit nyt sanovat.
Tämä viikoittainen pääkirjoitus on osa The Corbett Report Subscriber -uutiskirjettä.
Artikkelin on kirjoittanut James Corbett 16.6.2024 ja se on luvalla Creative Commons Attribution-NonCommercial 4.0 International License suomennettu ja julkaistu Rakkausplaneetan sivuilla.
Alkuperäisen artikkelin löydät täältä:
corbettreport.com: Trust the (Computer-Generated Gobbledygook) Science!
Artikkelikuva: Tada Images/shutterstock.com
