Kui AI hakkab oma saba sööma: miks tehisintellekt lõpuks jäneseid näeb? 🐇🤖

Seda nähtust nimetatakse mudeli kollapsiks. Teadlased kirjeldavad olukorda, kus mudel õpib valimatult teiste mudelite loodud andmetest ning kaotab järk-järgult sideme algse andmejaotusega. Kõigepealt kaovad haruldased juhtumid ja peened erinevused. Hiljem võib kogu vastuste jaotus viltu vajuda.

Internetis kasutatakse selle kohta ka väljendeid Habsburg AI ja AI inbreeding. Need on värvikad võrdlused, mitte teadusterminid. Täpsem on rääkida mudeli kollapsist või tehisandmetega tagasisideahelast.

2024. aastal avaldas ajakiri Nature uuringu, mis näitas probleemi üsna meeldejäävalt. Teadlased treenisid keelemudeleid järjest eelmise põlvkonna loodud tekstil. Telefonimäng, ainult et osalejad olid robotid.

Katse algtekst rääkis Inglismaa kihelkonnakirikute tornidest. Kasutati OPT-125m mudelit ja WikiText-2 andmestikku ning protsessi korrati mitu korda.

1. Algmudel ehk põlvkond 0 jätkas teksti veel arusaadavalt ja püsis arhitektuuri lähedal.
2. Põlvkond 5 oli kirikutornid unustanud ja hakkas loetlema eri keeltes kirjutamist.
3. Põlvkond 9 koostas juba loetelu mustadest, valgetest, sinistest, punastest ja kollasesabalistest jänestest.

Jänesed ei tõesta, et iga sünteetiliste andmetega treenitud mudel tingimata kokku kukub. Katse näitab midagi täpsemat: kui mudeli väljundit kasutatakse uue mudeli treeningmaterjalina ilma algseid pärisandmeid alles hoidmata, võivad vead ja lihtsustused iga ringiga kuhjuda.

Kujuta ette purki, kus on 99 valget palli ja üks punane. Valged pallid tähistavad tavalisi näiteid, punane haruldast erandit. Kui võtad purgist palli 100 korda, paned selle iga kord tagasi ja koostad tulemuste põhjal uue andmestiku, on tõenäosus punasest pallist täielikult mööda vaadata:

0,99¹⁰⁰ ≈ 36,6%

See tähendab, et enam kui kolmandikul juhtudest ei jõua ainus haruldane näide järgmisse andmestikku. Kui sama protsessi korrata, võivad äärealad – ebatavalised sõnastused, vähemusvaated, harvad haigused, väikesed keeled ja erandlikud ärijuhtumid – järjest nõrgeneda.

Keelemudel ei ole lihtsalt „keskmise arvutaja”, kuid ta õpib statistilisi seaduspärasusi. Kui korduv ja sile sisu muutub treeningandmetes ülekaalukaks, jäävad erandid vaiksemaks. Esialgu kõlab vastus endiselt viisakalt. Lihtsalt need detailid, mis päriselus sageli otsustavad, on kadunud.

Siin on oluline vahe: sünteetiline ei tähenda automaatselt halba.

AlphaZero mängis iseendaga miljoneid male-, šogi- ja go-partiisid ning õppis neist. Mängul olid kindlad reeglid, lubatud käigud ja üheselt mõõdetav tulemus. Halb strateegia ei saanud end lõputult tõena esitleda: see kaotas.

Ka Meta kirjeldab Llama 3 tehnilises ülevaates sünteetiliste andmete ulatuslikku kasutamist. Koodi puhul saab osa lahendusi käivitada, testidega kontrollida ja vigased näited välja praakida. Matemaatikas ja loogikaülesannetes saab kasutada kontrollitavaid vastuseid, hindamismudeleid ning muid filtreid.

Teisisõnu ei olnud AlphaZero edu saladus see, et masin sõi rõõmsalt iseennast. Tal oli kohtunik. Sünteetilised andmed toimivad kõige paremini siis, kui meil on usaldusväärne viis head ja halba eristada.

Kas kood töötab? Käivita test. Kas malekäik võitis? Vaata mängu tulemust. Aga kas tekst „kuidas naabriga aia üle läbi rääkida” on tark nõuanne või enesekindel jama? Seda ei saa arvuti ühe nupuvajutusega kindlaks teha.

Ajaloos, juhtimises, turunduses ja inimestevahelistes suhetes sõltub kvaliteet kontekstist. Sageli puudub üks õige vastus ning halb soovitus võib kõlada sama ladusalt kui hea. Just siin on kontrollimata tehisandmete tagasisideahel kõige salakavalam.

Uuemad tööd täpsustavad siiski, et kollaps ei ole vältimatu. Gerstgrasser ja kaasautorid näitasid, et kui iga põlvkonna treeningusse lisatakse alles hoitud pärisandmed, võib mudel tehisandmetest kasu saada ilma kokku kukkumata. 2025. aasta seisukohavõtt mudeli kollapsi kohta rõhutab samuti, et tulemus sõltub andmete valikust, segust ja kontrollist, mitte pelgalt sildist „AI loodud”.

Kindlat ülemaailmset protsenti ei ole. Hinnang sõltub valimist ja tuvastusmeetodist – ning AI-tuvastus ise pole eksimatu.

Graphite’i analüüs hindas, et 2026. aasta esimeses kvartalis oli ligi 49,9% nende mõõdetud uutest veebiartiklitest AI loodud. See on ettevõtte klassifikaatoripõhine hinnang, mitte kogu interneti loendus.

Ahrefsi valimis leidus mingil määral tuvastatavat AI-teksti 74,2% lehtedel, kuid täielikult AI looduks liigitati vaid 2,5%. Need arvud ei ole vastuolus: üks mõõdab AI jälgede olemasolu, teine teksti täielikku päritolu.

Seega oleks väide „üle poole kogu veebist on AI kirjutatud” liiga tugev. Mõistlik järeldus on tagasihoidlikum: tehisintellekti loodud või tugevalt toimetatud sisu osakaal kasvab kiiresti ning treeningandmete päritolu kontroll muutub aina tähtsamaks.

• Hoia algallikad alles. Kliendiintervjuud, mõõtmised, fotod, eksperdi märkmed ja päris töö tulemused on väärtuslikumad kui kümme korda ümber sõnastatud veebitekst.
• Kasuta AI-d võimendina, mitte tõeallikana. Ta aitab mõtteid korrastada ja variante luua, kuid faktid kontrolli algallikast.
• Lisa automaatne kohtunik sinna, kuhu saad. Koodil testid, arvutustel kontrollvalemid, klienditeenindusel kinnitatud teadmistebaas ja turundusel päris tulemused.
• Märgi andmete päritolu. Erista inimeste loodud, AI abil toimetatud ja täielikult sünteetilised materjalid. Muidu ei tea järgmine kasutaja – või mudel –, mida ta tegelikult sööb.
• Ära lase keskmisel erandeid ära süüa. Väikesed kliendirühmad, harvad vead ja ebamugavad vastunäited on sageli kõige väärtuslikum osa andmestikust.

Praegu ei ole olemas universaalset tööriista, mis suudaks iga teksti puhul kindlalt öelda, kas selle kirjutas inimene või masin. OpenAI lõpetas oma varasema AI-teksti klassifikaatori pakkumise vähese täpsuse tõttu.

Stanfordi teadlased on näidanud ka seda, et osa tuvastajaid kipub võõrkeelse taustaga inimeste ingliskeelset teksti ekslikult AI looduks pidama. Eesti keeles on alusmaterjali veel vähem.

Detektor võib anda vihje, kuid selle skoor ei tohiks üksi otsustada inimese töö, hinde ega maine üle. Sisukvaliteedi puhul on endiselt paremad küsimused: kas väited on kontrollitavad, kas allikad on olemas ja kas autoril on teema kohta päris kogemus?

Tehisintellekt ei muutu rumalaks lihtsalt sellepärast, et kohtab tehislikult loodud andmeid. Ta satub hätta siis, kui koopia asendab algupära, kontroll kaob ja iga järgmine põlvkond peab eelmise enesekindlaid oletusi tõeks.

Päris inimkogemus pole väärtuslik mingi romantilise vastuhaku pärast. See on väärtuslik, sest toob süsteemi uut infot: juhtumi, mida mudel pole näinud; vea, mis ilmnes alles päriselus; lõhna, pinge, kompromissi või väikese detaili, mida keskmine vastus ei osanud oodata.

Seega kirjuta, mõõda, katseta ja jaga seda, mida päriselt kogesid. AI võib aidata teksti selgemaks teha. Punased pallid peame siiski ise purki tagasi panema.