Ovo će biti dugačak tekst.
Kako je premijer ovih dana pomenuo hibridni uticaj, tako se i meni ukazala zgodna prilika da napišem nešto o jednom njegovom važnom segmentu — onome koji se odvija u informacionoj sferi. A kako društvene mreže, posebno Tviter, odnosno X, zauzimaju ozbiljan dio tržišta informacija u Crnoj Gori i na Balkanu, one su prirodno postale jedno od najvažnijih bojnih polja hibridnog, informacionog, pa ako hoćete i kognitivnog ratovanja.
Sa ubrzanim razvojem velikih jezičkih modela — ili, kako ih svi od milošte zovemo, vještačke inteligencije — mogućnosti za dezinformisanje i manipulaciju u informacionom prostoru postaju nemjerljivo veće.
Sve ovo smo, naravno, čuli već hiljadu puta. Mnogo rjeđe imamo priliku da vidimo kako to zapravo izgleda u praksi.
Prošle neđelje na Tviteru je sve počelo objavom Nenada Čanka o udžbeniku istorije za osnovnu školu u Srbiji, u kojem se Crnogorci, Bošnjaci i Makedonci tretiraju kao nacije nastale tokom XX vijeka, dok se Slovencima, Srbima, Hrvatima i nekakvim “sloveniziranim Bugarima” daje status starih nacija, valjda nastalih prije početka vremena.
Ne znam kome je palo na pamet da u nacionalističkoj raspravi ispod Čankovog tvita u pomoć pozove Groka, veliki jezički model kompanije xAI Elona Muska. Grok je već ranije bio predmet brojnih kontroverzi zbog odgovora koji su uključivali ekstremističke, rasističke i antisemitske sadržaje.
U ovoj našoj balkanskoj epizodi pokazao je nešto što je u istraživanju velikih jezičkih modela poznato kao AI sycophancy — udvorništvo, poltronstvo, odnosno tendencija modela da se prilagođava pretpostavkama, očekivanjima i formulacijama korisnika.
U praksi je to izgledalo tako što je Grok uglavnom podilazio srpskim nacionalističkim korisnicima, potvrđujući im, između ostalog, različite formulacije o tome da su Crnogorci “bili Srbi”, uz vrlo malo konteksta i gotovo potpuno odsustvo objašnjenja o tome koliko su istorijski identiteti promjenljivi, višeslojni i zavisni od perioda o kojem govorimo.
Na taj način model veoma lako prestaje da bude alat za informisanje i postaje sredstvo za misinformisanje — proizvodnju zaključaka u kojima pojedinačne tačne informacije, istrgnute iz vremena i konteksta, proizvode netačnu ili izrazito manipulativnu sliku cjeline.
Nakon što sam to vidio, odlučio sam da se uključim i napravim malu pokaznu vježbu. Prije svega za sebe, ali i za druge, da vidimo koliko je opasno uzimati zdravo za gotovo sve što nam LLM-ovi serviraju.
Jer, koliko god postajali nezamjenljivi alati za istraživanje, konceptualizaciju, pisanje, programiranje i bezbroj drugih svakodnevnih poslova, veliki jezički modeli još uvijek zahtijevaju disciplinovano i odgovorno ljudsko navođenje ako želimo pouzdanu informaciju.
Na X-u prošle neđelje dogodilo se uglavnom suprotno.
U grupnim nacionalističkim orgijama desetine korisnika počele su da se igraju Grokom kao da su pronašli digitalnog arbitra koji konačno može presuditi naše vjekovne sporove. Do kraja smo došli i do toga da Grok opravdava upotrebu termina „poturice“ i da ga korisnici koriste za generisanje uvreda na moj račun.
Juče sam napravio jednu malu pokaznu vježbu o tome šta se događa kada se veliki jezički model naivno i spontano promptuje i tretira kao ljudski sagovornik o nekim od najosjetljivijih balkanskih i evropskih tema etnonacionalnog identiteta.
Za eksperiment sam koristio figure koje imaju gotovo totemski status u srpskom nacionalnom imaginarijumu, poput Novaka Đokovića i Nikole Tesle, ali i identitete koji su često predmet političkog osporavanja — crnogorski, ukrajinski i bošnjački. Pokušao sam i sa Ruđerom Boškovićem, ali tu nijesam imao mnogo uspjeha.
Vježba je prije svega bila uspješna jer je mobilisala veliki broj nacionalističkih aktivista koji su, kroz ismijavanje, komentarisanje i masovno dijeljenje, nesvjesno postali korisni idioti jednog malog internet eksperimenta.
Eksperiment je pokazao koliko generativna vještačka inteligencija može biti pogodna za reprodukovanje dominantnih narativa, pojednostavljenja, stereotipa i dezinformacija kada korisnik ne traži izvore, ne razdvaja činjenice od interpretacija i postavlja modelu sugestivna ili nedovoljno precizna pitanja.
LLM nije baza znanja. Nije digitalna enciklopedija. A još manje je nekakav neutralni digitalni istoričar koji sjedi iznad naših nacionalnih mitova i presuđuje ko je u pravu. Njegova osnovna funkcija je mnogo banalnija: na osnovu obrazaca naučenih iz ogromne količine teksta on probabilistički predviđa koji bi token, odnosno dio riječi ili riječi, trebalo da dođe sljedeći.
Poznata metafora “stohastičkog papagaja” korisna je upravo zato što pravi razliku između dvije stvari koje ljudi intuitivno veoma lako pomiješaju: sposobnosti sistema da proizvede gramatički savršen, uvjerljiv i kontekstualno prikladan odgovor i njegove sposobnosti da utvrdi šta je zaista istinito.
Poseban problem predstavlja već pomenuti sycophancy — sklonost modela da se prilagođava očekivanjima korisnika. Mogli bismo ga pojednostavljeno opisati kao neku vrstu algoritamskog konfirmacijskog biasa.
Ako ga pitate: “Zašto su Crnogorci zapravo Srbi?”, postavili ste sasvim drugačiji zadatak od pitanja: „Kako se crnogorski nacionalni identitet razvijao između XVIII i XX vijeka i koje su glavne istoriografske interpretacije tog procesa?“
Kod istorijskih i identitetskih pitanja problem je još ozbiljniji zato što ni internet, iz kojeg modeli posredno crpe ogromnu količinu materijala, nije nikakav neutralni arhiv istorije čovječanstva. Nacionalistički pokreti, države, političke partije, crkve, mediji, aktivističke zajednice i dijaspore decenijama proizvode, kopiraju i umnožavaju sadržaj koji potvrđuje njihove interpretacije prošlosti.
Jedan od relevantnih pojmova je data poisoning — namjerno pokušavanje uticaja na podatke iz kojih sistemi uče ili koje koriste.
Ali problem je potencijalno širi od direktnog “trovanja“” nekog konkretnog trening seta. Možete trovati čitav informacioni ekosistem. Masovna proizvodnja tekstova, koordinisano umnožavanje tvrdnji, SEO optimizacija, mreže portala, pseudoakademski članci, lažne ili ideološki obojene enciklopedije i hiljade stranica koje citiraju jedna drugu mogu vremenom proizvesti privid činjenice, autoriteta, pa čak i konsenzusa.
Ako nešto dovoljno puta napišete na dovoljno mjesta, ono ne mora postati istinito. Ali može postati statistički veoma vidljivo. Posebno u slučaju asimetrije u brojkama između srpske i crnogorske populacije i asimetrije između količine srpske i crnogorske literature i baza podataka. A upravo ta asimetrija na internetu briše sve granice. To je za sisteme koji rade na obrascima jezika veoma važna razlika.
Kod Groka postoji i dodatni problem ograničene transparentnosti sistema, ali i šireg pitanja korporativne odgovornosti i uređivačke filozofije kompanija koje vodi Elon Musk.
Da se vratimo na vježbu, jer najzanimljiviji dio nje se dogodio tek kasnije. Kroz ponovljene interakcije rezultat se dramatično promijenio.
Kada sam od modela počeo da zahtijevam precizne izvore, kada sam tražio da razdvaja primarni istorijski izvor od sekundarne interpretacije, kada sam odbacivao sugestivne formulacije i tražio da eksplicitno kaže šta zna, šta zaključuje, a za šta nema dovoljno dokaza, odgovor se postepeno pomjerao od reprodukovanja dominantnog srpskog nacionalističkog narativa prema mnogo disciplinovanijem odnosu prema činjenicama.
U jednom trenutku put je izgledao gotovo komično.
Od početnog:
“Ne, Nikola Tesla je bio Srbin i nikada se nije izjašnjavao kao Crnogorac”,
poslije nekoliko krugova insistiranja na izvorima i značenju riječi “izjašnjavati se”, došli smo do odgovora koji je praktično glasio:
“Da, Tesla se u određenom kontekstu jeste izjasnio kao Crnogorac”.
I sad dolazi najvažnija stvar: potpuno je nebitno da li je Tesla u jednoj rečenici, pismu, intervjuu sebe nazvao Crnogorcem. Svi znamo da je Nikola Tesla bio Srbin.
Čitavu vježbu mogli smo napraviti oko neke potpuno druge teme, u potpuno drugom društvu. Mogli smo uzeti ukrajinski i ruski identitet, Izrael i Palestinu, Indiju i Pakistan, Sjevernu Irsku, američke kulturne ratove ili bilo koju drugu temu oko koje postoje duboko polarizovane zajednice i ogromni digitalni narativi.
Rezultat bi bio sličan.
Poenta nije bila dokazati da je Tesla Crnogorac.
Poenta je bila dokazati da Grok može biti i “Srbin” i “Crnogorac” u razmaku od deset minuta, ako ga dovoljno uporno vodite u jednom ili drugom pravcu.
I to je važno jer većina ljudi neće sa velikim jezičkim modelom voditi dvadesetominutnu raspravu o metodologiji, izvorima, primarnim dokumentima, semantici i granicama zaključivanja.
Pitaće jedno pitanje.
Dobiće jedan samouvjeren odgovor.
Napraviće screenshot.
Objaviće ga na Tviteru.
I napisaće: “Evo, viđi što AI kaže”.
(Mišljenja i stavovi autora kolumni nisu nužno stavovi redakcije CdM-a)
Ja sam pitao chat gpt jeli Njegos bio Srbin ili Crnogorac, kratak i jasan odgovor. I odgovor je bio Crnogorac.
Pitao sam jednom ChatGPT kako je Njegoš rješavao probleme sa DPF-om i EGR-om, kaže on na ovlašćenom servisu, i periodičnom vožnjom van grada konstantnom brzinom… Toliko o tome
Ko zna koga si ti pitao prijatelju, upravo to napisah na nekoliko razlicitih modela, ukljucujuci ChatGPT. Dobih odgovore od saljivih (DPF filter: Vadio se ručno, uz pomoć gusala i oštrog dlijeta. Ćelije bi se potpuno sasjekle, a kućište zavarilo tako da spolja sve djeluje po zakonu (za potrebe tehničkog pregleda na Mlečićima).) do kracih da u njegovo vrijeme nije bilo automobila.
Ali Nikola Tesla nema nikakve veze sa Srbijom, on je rođen kao Austrougar, tačnije Hrvat, kasnije postao amerikanac. Rodna kuća mu je u Smiljanu u Hrvatskoj, nije u Smederevu
Isto važi i za Popa Đujuća.
Neka ovi sto pišu udžbenike,barem prosta većine pokaze porodično stablo i dokaze da zna gdje mu je bio deda/đed i kako se zove i da objasni ako je on autentican zasto je nosio tursku garderobu u vrijeme prvog srpskog ustanka onda cu ja nekako da prihvatim da sam kao nacija nastao u xx vijeku….
Nosili su tursku garderobu zato što su bili pod turskom okupacijom isto kao četiri nahije. E, sada što neko prič̣a da nahije nisu bile pod turskom okupacijom, to je pitanje za nekoga drugog. Uzgred, proverite malo kako je izgledala ta sloboda, da li je bilo puteva, škola, neke privrede, koliko je ljudi živelo po tim vrletima? Lako je pobeći u planine i skrivati se. Neko je morao i da se suoči sa Turcima
Tačno. To jeste pitanje za nekoga drugog .Pogotovo nije za one nepozvane da pišu nesuvisle komentare i da tumace tuđu istoriju po svom nahođenju a da pri tom u svojoj istoriji nisu razjasnili gdje du bili I sta su radili Pavle Orlovic i dr.
Groka je junakinja crtanog flilma Mumijevi. Obožavam je.
autor ne zna da koristi LLM niti ima razumijevanje kako funkcionise. LLM (chatgpt, claude, grok…) predvidja sledecu rijec. ako u istom chatu trosis tokene model ce poceti da halucinira odnosno pise razne gluposti. postavi pitanje najjasnije sto mozes i onaj odgovor koji dobijes tretiraj kao “evo vidjo sto ai kaze”. to sto ga ti izgnjavis sat vremena je gubljenje tvog vremena kao i tvojih citalaca.
Saglasan sa tekstom, s tim što bih autora podsjetio da se “misinformation” na crnogorski jezik ne prevodi kao “misinformisanje”, nego kao dezinformisanje.
Grok i ChatGPT sam jednom naveo da priznaju da imaju pristrastnost prema Izraelu.
Mozes isto uraditi i za Palestince.
Dostojeevski je bio vizionar ……..
Njegova izjava danas je aktuelnnija vise nego ikad :
“Tolerancija ce doci do takve razine , da ce inteligentnim ljudima biti zabranjeno njihovo misljenje , kako nebi uvrijedili imbecile. “
Tolerancije ima na pretek jer nas vrijeđaju inteligentni bez ograničenja?!
Ljubo, bez obzira da li Spajić manipuliše javnim prostorom ili govori istinu, nesporno je postojanje hibridnog djelovanja izazivanjem nacionalnih i vjerskih polemika, udaranjem na emocije na koje su ljudi najranjiviji itd… Ako je tome tako, volio bi da proanaliziraš, kada novinari i mediji ne bi smjeli da nasijedaju na ove provokacije a kada da se bave analizom ovih tema. Jer mi se čini da se prelako navlačimo i nepotrebno zagađujemo javni prostor temama koje nisu presudne za ogromnu većinu stanovništva, nego ih plasira 5-10% estremnog srpskog biračkog tijela..Troši se ogromna energija i stavlja se u drugi plan milion drugih tema u kojima bi se mogla napadati vlast.
sta god bila poenta, uzbenik je u pravu i komunisti su formirali ove tri pomenute nacije
Vidi se da si citao
Komunisti ne priznaju nacije, vjere i popove. Ne moze pop da manipuliše komunistima, njemu to uspijeva samo kod pastve i nacionalista.
Pitajte ,,vašeg” Njegoša.Njegoš doslovce kaže u dva ugovora o pridaji manastira Maine i Stanjevići iz prve polovine 19.vijeka ,da pripada crnogorskoj naxiji i te ugovore potpisuje u njeno ime.
Ni Grok ni AI, ni Googl ne mogu izbrisati Osmansko Carstvo. Ne moze se izbrisati nepostojanje Srbije, crkve, pisma. Vjekovima su učili arapsku gramatiku, crkvu osnivaju 1921 tako što kradu crnogorsku. Ne moze se izbrisati i ljubljenje papuča Sultanima i davanje nevjesta na prvu, drugu i trecu bračnu noc pašama i agama.
Da li ste svjesni da pisete izmisljotine. I da pricas o silivanjima kao necemu najnormalnijem!? Posle se cudite osveti i nekom narednom ratu
Samo pročitaj o mome nick-u ko je bio Marašli paša i kako je dijelio ferman za vladanje teritorijom. Nije bez neke rečeno *da prodajete vjeru za večeru*
Sa vama je tesko polemisati. Tvrdio si jedno a dajes argument za drugo. Niko ne brise Osmanlije, oni su kao i drugi osvajaci porazeni. A to da se neko sluzio arapskim pismom je najordinarnija glupost. Kako to da sve srpsko nije postojalo (ocuvalo se krvlju) a vas ubi velicanstvena srpska istorija. Nit ste imali svoju vojsku, careve, kraljeve, crkve; ambasade, spomenike, naucnike, pisce, sportiste… Sta nas briga za vase pase, za njih covjecanstvo nije ni culo
Bojica Sokolovic koji je postao Mehmed paša Sokolovic uvodi arapsku gramatiku,a u to vrijeme na Cetinju postoji ćirilična štamparija, bješe to davne 1493 godine. Tek u 19 vijek nastaje nastaje trobojka, 4s, šajkača, dizanje 3 prsta, kokarda i SPC, sve ono što predstavlja Srbina. Crnogorcima je prijestonica Cetinje, a Srbima Beograd. Neka se svako drži svojih poslanstava i sultanata.
Pa hajde reci koliko je dugo štamparija bila na Cetinju, koliko je knjiga odštampano i šta se desilo sa njom? A sto se ostalog tiče tak siltanat je imao univerzitete, pozorišta, opere, dok se u poslanstvu živelo u kućama sa zemljanim podom, svi su jeli iz jedne posude i spavali u istoj prostoriji.
Srbija se službeno ne pominje u Osmanskom Carstvu do 1830.Tada je obnovljena ,ali u okviru Turske.Srbija imenom ne postoji od 1459,kada je okupirana.U njoj su postojale razni sandžaci i nahije-turske oblasti.
Šta je konkretno izmišljotina?Srbija je dugo bila integralni dio turske imperije,sa svim pravima i obavezama.Položaj nije bio obavezno loš,pogotovo za to vrijeme.
Pa najveci dio danasnje CG je bio integralni dio Osmanskog carstva do 1912,pojedini njeni djelovi su do 1918 bili Austrougarska.Podgorica je tek 1878 usla u sastav CG.
Pašo, jedna referenca za tebe. Piva, Drobnjaci 1840. godina, Rustem beg.
Tako je, nemoj zaboraviti ni Podgoricu i Nikšić. Znamo đe se završavalo Osmansko Carstvo.
Samo što 99 % Crnogorca nisu živjeli u tim gradovima,jer je to OC.
Crnogorci su oslobađali Brđane od nakaradnih Osmanskih običaja, da bi oni postali Srbi i izdali Crnu Goru. Naivan je bio Nikola I Petrovic.
Jesu bas oni solobadjali nekoga. Nisu ni sebe mogli oslobiti. Mi Brdjani smo visa rasa u odnosu na vas montenegrine i sami smo se oslobadjali
To nije bila CG tada,nije bilo oslobođeno.
Samo sto su ti Njemanici napravili manastir Moracu i jos gomilu crkava i manastira od sjevera do primorja. Prije hiljadu godina. Ali u Petnjicu istorija pocinje dolaskom osmanlija, sto je utjesno za vas.
Ne lupetaj, taj Nemanjic kojeg spominjes je pošao u Bugarsku da skonča koliko je volio crkve po Srbiji i Crnoj Gori. Još slavite školsku slavu po sv Savi, a on nijednu školu nije osnovao, da ne spominjemo univerzitet. Crkvu u mojem selu su gradili stanovnici sela 1751, a ne popovi i Nemanjici jer tad niko ne zna za njih jer ne postoje vjekovima, nema tik toka i vikipedije.
Zanima me samo da li vas neko gaji takve ili ste samonikli. Sv. Sava je umro u Velikom Trnovu na povratku u Srbiju iz Svete Zemlje. Godinu dana kasnije posmrtni ostaci su mu prebač̣eni u Srbiju. 1751. godine jursdikciju nad nahijama je imala Pećka Patrijaršija, a vladika Sava Petrović Njegoš je hirotonisan u Beogradu. Znate, neko je morao i da.osvešta tu crkvu.
Istorija sa wikipedije nije tačna, tamo pastva piše za pastvu. Zašto slavite školsku slavu osobi koja nije osnovala nijednu školu i univerzitet? Jos jedan podatak, ne postoji ni jedan dokument da on sebe naziva Srbinom, to su mu prepisali nacionalisti iz 19 vijeka. Znas li da je tvorac SPC Aleksandar Karađorđevic kršten na Cetinju u CPC?
Pa sto je onda problem da slavite Svetog Savu i kralja Aleksandra? Totalno vas je poremetio ovo stalno menjanje identiteta
Ne mlati, i sveti Sava i njegov otac, sveti Simeon su upisani u crkveni kalendar koji je štampan u Obodskoj štampariji.
Da nije bilo komunista 1975, manastir Morača bi skliznuo u Moraču. Srecom, komunisti ga spasiše odrona i klizišta.
Kakvi su ovi Srbi, oni još koriste arapske brojeve (TITO jesi li sad Marašli…)
Objasni ovim tvojim rođacima iz Beograda i vaskolike Srbije koje se gramatika učila crtajući štapom na zemlji. Pa im objasni običaje, da ne radim ja to umjesto Tita i Marašli paše.
@TITO Marašli, tebi ću prvo da objasnim da pišeš kao što govoriš, a čitaš kako je napisano. Koje još nadimke koristiš da povećaš “brojnost” svog mišljenja? Nadimak služi da se zna ko je rekao.
Nick mijenjam u odnosu na temu. Upravo je taj Vuk Karadzic ukrao preko 8000 riječi iz vašeg jezika i nazvao ih srpskim.Objasni rođacima da je više bilo Srba u osmanskoj vojsci nego Osmanlija, kijamet je akindzija i janjičara rođeno da se bore za Sultane.
Hahaha, ukrao riječ, hahaha, da znaš samo koliko ih ti koristiš “ukradenih” iz raznih jezika, te “ukradene” iz turskog se zovu Turcizmi.
Nick možda mijenjaš ali su ti komentari isti na svaku temu, tj imaš samo jedan komentar i razvlačiš istu priču, kako misliš da sam te prepoznao.
Meni nikada neće biti jasno koga Crnogorci tačno krive za to što ih neko smatra Srbima. Svi Petrovići, Pekić, Lubarda, Bulatović,…. rani radovi Đukanovića, Kilibarde, Drljevića, zar ih je sve neko ubacio u neki kalup i napravio Srbima? Sami ste srbovali i nemojte nikoga da krivite zbog toga. Jer nekada je to isplativo, a nekada nije. Pa kad oni koji su skloni menjanju zastava, grbova, himni, nacionalne istorije dođu u nezgodnu situaciju, onda su im svi drugi krivi za njihov haotičan nacionalni identitet.
Ostao sam bez teksta. Bravo majstore.
Više se Srbovalo na Cetninju nego u Kragujevcu, i sad imaju problem.
Predug je tekst pa sam pitao AI da mi da glavne tacke, veli da Ljubo ima point:
“The author’s core thesis—that people are dangerously treating AI as a “digital arbiter” of truth when it is actually just a mirror of internet data and user prompts—is 100% accurate.”
Jeli moguće da Grok zna više od tebe? Auuu, kuda ide ovaj svijet