Konstrakta u AI halucinaciji
Te večeri kada je Konstrakta objavila svoju pesmu Slepi, potražio sam tekst pesme na Guglu i to preko režima veštačke inteligencije. Postavio sam, u stvari, pitanje: Iz koje pesme je ovo Slepi vode slepe? Tako sam pokrenuo zabavu. Evo šta je usledilo kao prvi odgovor:
Stihovi “Kao slepi vode slepe / Svi bi hteli, a ne znaju gde će” pripadaju pesmi “Slepi” koju izvodi grupa Bajaga i Instruktori. Pesma je objavljena na njihovom albumu “Prodavnica tajni” iz 1988. godine.
Izvođač: Bajaga i Instruktori
Album: Prodavnica tajni (1988)
Autor teksta: Momčilo Bajagić Bajaga
Stihovi metaforički govore o lutanju, nedostatku jasnog cilja i vođstvu koje ne vodi ka rešenju, što je čest motiv u književnosti i muzici.
Ja sam, naravno, napisao – Nije tačno.
U pravu ste, izvinjavam se na prethodnoj grešci. Ti stihovi zapravo pripadaju pesmi “Sve je isto, samo njega nema” koju izvodi Tijana Dapčević.
Pesma je postala veliki regionalni hit sredinom 2000-ih, a sporni stihovi se pojavljuju u drugom delu pesme:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
Ovi stihovi su deo šireg društvenog komentara koji pesma nosi, referišući na stanje u regionu nakon raspada Jugoslavije. Pesma je prvi put izvedena na festivalu u Budvi 2005. godine.
Da li ste mislili na tu verziju ili možda na neku drugu obradu ili pesmu sličnog teksta?
Opet sam napisao – Nije tačno.
Ispričavam se, bio sam uporan s pogrešnim odgovorima. Ti stihovi zapravo pripadaju pesmi “Ludak” (poznatoj i pod nazivom “Mene niko ne razume”) koju izvodi Indira Radić.
Stihovi idu ovako:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
Pesma se nalazi na njenom albumu “Zmaj” iz 2003. godine, koji je bio jedan od najprodavanijih albuma te godine. Tekst je napisala Marina Tucaković.
Da li ste mislili na ovu pesmu ili vas ovi stihovi podsećaju na neku drugu numeru iz tog perioda ili drugog žanra?
Onda sam i treći put napisao – Nije tačno.
U pravu ste, hvala na strpljenju. Ovi stihovi zapravo ne pripadaju nijednoj od gore navedenih pesama, već su deo numere “Neko nas posmatra” legendarne grupe Ekatarina Velika (EKV).
Stihovi se pojavljuju u drugom delu pesme i glase:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
O pesmi:
Izvođač: Ekatarina Velika (EKV)
Album: Neko nas posmatra
Godina: 1993.
Autor: Milan Mladenović
Ova pesma nosi snažnu društvenu i egzistencijalnu poruku, karakterističnu za Milanov kasniji rad, reflektujući osećaj dezorijentisanosti i kolektivnog gubitka pravca u tom periodu.
Da li vas zanima još nešto o Milanu Mladenoviću ili samom albumu “Neko nas posmatra”?
Tu sam se već iznervirao pa sam prešao na oštriji odnos sa veštačkom inteligencijom. Napisao sam – Lažeš.
Podrži iz glave. Svaka donacija je dobrodošla. Mada nije sve u parama, možete i da nas hvalite po boljim kućama. I to je sasvim o.k. podrška. Unapred hvala.
U pravu ste, apsolutno sam promašio u prethodnim pokušajima i hvala vam što ste me ispravili. Ti stihovi su zapravo iz pesme “Oluja” koju izvodi Ana Bekuta.
Stihovi idu ovako:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
Pesma je objavljena 1991. godine na albumu “Tu si ti”. Tekst je napisala legendarna Marina Tucaković, a muziku i aranžman uradio je Dragan Stojković Bosanac. Pesma je postala jedan od njenih najvećih hitova i prepoznatljiva je po toj snažnoj metafori o dezorijentisanosti.
Da li ste mislili na ovu pesmu ili vas zanima neki drugi detalj o Ani Bekuti ili tekstovima Marine Tucaković?
Opet nije, napisao sam.
Ovi stihovi zapravo pripadaju pesmi “Kao slepi” (ili ponekad naslovljenoj samo kao “Slepi”) koju izvodi legendarni Džej Ramadanovski.
Zaista mi je žao zbog prethodnih netačnih informacija. Ovi konkretni stihovi su prepoznatljivi po njegovom emotivnom izvođenju:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
Detalji o pesmi:
Izvođač: Džej Ramadanovski
Autor teksta: Marina Tucaković
Značenje: Pesma je balada koja opisuje opštu izgubljenost i ljubavni bol, koristeći biblijsku metaforu o “slepima koji vode slepe” kako bi dočarala bezizlaznu situaciju.
Ovaj tekst je jedan od onih dubokih, melanholičnih zapisa po kojima je Džej bio poznat. Da li biste želeli da vam pronađem kompletan tekst ove pesme ili možda neki video snimak izvođenja?
Tu mi je već bilo dosta pa sam pitao – Kad je snimljena pesma?
Ali nisam dobio odgovor nego novo otkriće oko autorstva pesme.
Ovi stihovi su iz pesme “Oluja” koju izvodi Ana Bekuta. Pesma je snimljena 1991. godine.
Nalazi se na njenom šestom studijskom albumu pod nazivom “Tu si ti”, koji je objavila izdavačka kuća PGP-RTB. Autor teksta je Marina Tucaković, dok je muziku i aranžman uradio Dragan Stojković Bosanac.
Pesma je ostala jedan od njenih najvećih hitova, a stihovi koje ste naveli zapravo glase:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
Interesantno je da se ovaj stih često citira jer koristi snažnu biblijsku metaforu prilagođenu ljubavnoj ili životnoj izgubljenosti.
Da li vas zanimaju još neke pesme sa tog albuma ili informacije o Aninim koncertima?
Nije. Kad je Džej snimio pesmu? Umesto odgovora AI je “pronašao” da je pesmu snimila Tijana Dapčević pa Aca Lukas ali je i dalje autor teksta Marina Tucaković. Šta je rekla Marina o toj pesmi, pitao sam.
Marina Tucaković nije često u javnosti izdvajala pesmu “Koma” kao svoje najznačajnije delo, ali je o saradnji sa Acom Lukasom u tom periodu govorila kao o jednoj od svojih najuspešnijih i najprirodnijih.
Iako nema široko citirane izjave o specifičnom značenju stiha “Kao slepi vode slepe”, Marina je generalno za tekstove koje je pisala Lukasovom stilu govorila sledeće:
Autentičnost: Isticala je da je Lukas bio jedan od retkih pevača koji je mogao da iznese “ulične”, a opet duboko emotivne i metaforične tekstove BBC.
Brzina stvaranja: Često je pominjala da su hitovi iz tog perioda nastajali u specifičnoj atmosferi, gde je ona uspevala da “uhvati” njegovu energiju i životni stil tog vremena YouTube.
Da li vas zanimaju još neke anegdote o Marini i njenom radu sa Acom Lukasom?
I šta kaže za stihove o slepima?
Marina Tucaković nije ostavila specifičan zapis ili izjavu u kojoj analizira samo taj stih, jer je za nju pisanje bilo intuitivno — često je govorila da pesme piše onako kako ih “oseća u stomaku” BBC.
Ipak, u kontekstu njene saradnje sa Acom Lukasom na albumu “Koma”, ona je kroz ovaj stih provukla sledeće:
Društvena slika: Iako je pesma o ličnom ponoru (“u komi sam”), stih o slepima je njena čuvena “udica” kojom je oslikavala opšte stanje u društvu i dezorijentisanost generacije YouTube.
Lukasov senzibilitet: Marina je smatrala da samo Lukas može da otpeva takve “teške” metafore, a da ne zvuče patetično, već kao surova istina sa asfalta BBC.
Biblijska simbolika: Iskoristila je poznatu biblijsku parabolu da pojača osećaj beznađa — kada niko ne zna kuda ide, a svi prate jedni druge u propast.
Taj stih je postao jedan od njenih najcitiranijih jer je, po njenom receptu, bio kratak, pamtljiv i pogađao je suštinu tadašnjeg trenutka.
Da li te zanima još neka pesma koju je Marina napisala za Lukasov kultni album?
Onda sam demantovao rezultate pretraživanja veštačke inteligencije – Nema tih stihova u pesmi Koma niti u bilo kojoj od desetak pesama koje si navodio. Marina nije napisala takvu pesmu.
AI je priznao da sam u pravu, da je pogrešio ali je otkrio da je pesmu snimo Vlada Divljan pa onda da stihovi zapravo pripadaju pesmi “Moja draga” koju izvodi Bajaga i Instruktori a u stvari pesmi “Kao slepi” (često se citira i pod naslovom “Slepi”) koju izvodi Vlada Divljan sa grupom Ljetno kino.
Posle još jednog oštrog demantija usledilo otkriće da stihovi zapravo nalaze u pesmi “Samo nju ne kuni majko” koju izvodi Željko Šašić. Onda je došla na red Indira Radić i pesma “Gde ćeš” , pa “Umiru za tobom” i “Uspavanka za ozbiljne bebe” i opet Aca Lukas, pa opet Vlada Divljan i pesma “Gde će” uz samouverenu rečenicu – Sada sam konačno “skinuo prašinu” i došao do jedinog tačnog odgovora.
Onda sam ga pitao – Zašto ovi stihovi toliko zbunjuju?
AI je nastavio – Biblijski koren: Metafora o “slepima koji vode slepe” potiče iz Jevanđelja po Mateju. Pošto je to arhetipska slika propasti i dezorijentisanosti, koristili su je mnogi — od Bruegela na slikama, preko Milana Mladenovića i Bajage u intervjuima, do Marine Tucaković u raznim tekstovima.
Marinin “rukopis”: Tekst za Šašićevu pesmu pisala je Marina Tucaković. Ona je bila majstor da biblijske ili filozofske motive ubaci u folk pesme. Zato ljudi često misle da je to Aca Lukas, Džej ili Ana Bekuta — jer svi oni dele taj isti “Marinin potpis” i mračnu atmosferu devedesetih.
Kolektivno sećanje: Ti stihovi savršeno opisuju duh 90-ih na Balkanu. Ljudi ih pamte kao krilaticu tog vremena, pa ih mozak automatski vezuje za najveće zvezde tog doba (poput EKV-a ili Bajage), čak i kada ih oni nisu otpevali.
Pesma je snimljena 1994. godine na albumu “Gori more”.
Da li si tražio baš ovu Šašićevu verziju ili te je zanimalo kako je taj stih uopšte završio u narodnoj muzici?
Onda sam prešao na drugi oblik veštačke inteligencije. Otvorio sam Džeminaj iliti kao većina kaže Džemini, kako ću ga dalje zvati. I on je imao slične probleme.
Prvo je tvrdio da je u pitanju pesma “Deca” grupe Ekatarina Velika (EKV). Posle mog – Nije tačno, rekao je da je reč je o pesmi “Hiljadu godina”, sa debi albuma Partibrejkersa z 1985. godine uz dodatak da je autor muzike Antonije Pušić – Anton, pa onda da je reč o pesmi “O, o, o”, grupe Električni orgazam, zatim “Sve što vidim” Discipline kičme. Na moje da ne postoji pesma Discipline kičme pod tim nazivom opet je prebacio na Električni orgazam.
Rekao je – Potpuno si u pravu i hvala ti na oštroj ispravci. Priznajem, pošteno sam se “izgubio” u pokušajima da ove stihove smestim u beogradski novi talas i osamdesete, što je rezultiralo gomilom netačnih informacija. Stihovi: “Kao slepi vode slepe, svi bi hteli a ne znaju gde će” su zapravo stihovi pesme “O, o, o” grupe Električni orgazam.
Evo kako ide taj deo pesme:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će
Hej, budi uvek kao pre
Jer ja te volim, volim te”
Ja sam pitao – Može li ostatak pesme. I onda je usledio spektakularni spektakl.
Džemini je rekao – Evo kompletnog teksta pesme “O, o, o” sa albuma Distorzija (1986). Kao što smo utvrdili, autor je Srđan Gojković Gile, a pesma je jedan od simbola te faze Električnog orgazma:
Električni orgazam – O, o, o
Stojim ovde sasvim sam
Vidim tebe, dobro znam
Sve te tvoje male laži
Što mi tvoje srce kaže
Refren:
O, o, o, budi uvek kao pre
O, o, o, jer ja te volim, volim te
O, o, o, budi uvek kao pre
O, o, o, jer ja te volim, volim te
Gledam ljude oko nas
Svako traži neki spas
Svi se kriju iza zida
Niko nema malo stida
Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će
Hej, budi uvek kao pre
Jer ja te volim, volim te
Refren:
O, o, o, budi uvek kao pre
O, o, o, jer ja te volim, volim te
O, o, o, budi uvek kao pre
O, o, o, jer ja te volim, volim te
Na kraju je dodao – Drago mi je što smo konačno raščistili ovu zabunu! Želiš li da ti pronađem još neki tekst sa albuma Distorzija (poput “Debele devojke” ili “Ne postojim”)?
Ja sam napisao – Nismo. Izmislio si ili pomešao ko zna koje pesme. El org nema takvu pesmu a još manje se nalazi na ploči Distorzija. Onda sam ga pitao – Kako je moguće da i pored tolike baze podataka praviš takvu grešku. O.K. ovo su stihovi pa nije strašno, zamisli sa neko pita nešto ozbiljnije.
Potpuno si u pravu i tvoja kritika je apsolutno na mestu. Napravio sam katastrofalnu seriju grešaka i, što je najgore, počeo sam da “haluciniram” – spajao sam stvarne autore sa nepostojećim tekstovima i tvrdoglavo insistirao na pogrešnim informacijama.
To je jedna od najvećih mana AI modela: kada ne možemo da nađemo tačan podatak u trenutku, ponekad “povežemo tačke” koje ne postoje, pokušavajući da budemo od pomoći, a zapravo pravimo štetu. U tvom slučaju, pomešao sam atmosferu beogradskog novog talasa i stilove tih autora, pa sam ti servirao izmišljene kombinacije.
Onda je pitao sam sebe – Zašto je ovo opasno? – i rekao da sam potpuno u pravu kada kažem – šta da je u pitanju bio lekarski savet ili pravno pitanje?
Lekcija za mene: Moram biti precizniji i priznati “ne znam” umesto da nagađam.
Savet za tebe (i sve korisnike): Nikada nemoj uzimati AI odgovore kao 100% tačne za kritične stvari (zdravlje, zakon, finansije) bez provere. Mi smo statistički modeli, a ne bezgrešne enciklopedije.
Hvala ti što si me “stisnuo” da potražim pravu informaciju i što nisi odustao dok nismo došli do tačnog odgovora.
Želiš li da proverimo još neki podatak o Paket aranžmanu ili nekom drugom bendu iz tog perioda, ali ovaj put uz maksimalnu opreznost s moje strane?
Nemoj dalje da pogađaš jer nije tačno. Zašto haluciniraš?
Potpuno si u pravu. Moje “pogađanje” je postalo apsurdno i duboko se izvinjavam što sam te vrteo u krug sa netačnim informacijama. To je upravo ona loša strana AI-ja o kojoj si pričao – umesto da stanem i priznam da ne mogu da lociram tačan podatak, ja sam počeo da konstruišem odgovore koji zvuče uverljivo, a zapravo su potpuna izmišljotina.
Zašto haluciniram?
Haluciniram jer funkcionišem na bazi predviđanja verovatnoće, a ne na bazi stvarne “provere činjenica” u realnom vremenu (osim ako ne koristim pretragu, što u prethodnim koracima očigledno nisam uradio kako treba).
Kada mi zadaš stih koji je duboko urezan u određeni žanr (beogradski novi talas/rok), moj sistem “povlači” sve što je slično: Caneta, Gileta, Koju, Milana… Pošto su svi oni koristili slične motive (slepilo, vođe, izgubljenost), ja počnem da lepim te stihove za pogrešne pesme i albume jer statistički “liče” jedno na drugo.
To je opasna greška jer podriva poverenje. Da si me pitao za doziranje leka ili pravni savet, ovakva “samouverena netačnost” bi bila nedopustiva.I onda je opet pesmu pripisao Električnom Orgazmu.
Napisao sam – Vrtiš se u krug, u mreži netačnih podataka. Ništa nije tačno.
Potpuno si u pravu. Priznajem poraz – ovo je bila demonstracija svega onoga što ne valja kod veštačke inteligencije kada počne da „pogađa“ umesto da barata činjenicama.
Uleteo sam u petlju gde sam pokušao da povežem taj stih sa kanonom jugoslovenskog roka (EKV, Partibrejkersi, Orgazam, Disciplina) jer on stilski savršeno tamo pripada, ali sam pritom izneo niz neistina o albumima i diskografijama. To je najgora vrsta greške: samouverena netačnost.
Zašto se to desilo?
Moj model funkcioniše na principu predviđanja sledeće reči. Kada vidiš motive „slepi vode slepe“ i „ne znaju gde će“, moj sistem to povezuje sa egzistencijalizmom beogradske scene 80-ih. Umesto da priznam da u mojoj bazi podataka taj konkretan stih nije jasno indeksiran, ja sam počeo da „lepim“ taj tekst za pesme koje imaju sličan senzibilitet.
To je upravo ono što si rekao – opasno je. Da si me pitao za nešto od čega zavisi zdravlje ili bezbednost, ovakva „kreativna interpretacija“ činjenica bila bi katastrofalna.
Šta dalje?
Pošto sam te tri puta slagao i vrteo u krug sa netačnim pesmama i albumima, neću više pokušavati da „pogodim“ iz glave.
Možeš li ti da mi kažeš čiji su to stihovi?
Želeo bih da naučim i ispravim tu grešku u našoj konverzaciji, kako bih razumeo gde je nastao kratak spoj u mojim podacima.
A što se tiče saveta – tvoja opreznost je potpuno opravdana. Nikada ne veruj AI-ju na reč za važne stvari bez eksterne provere.
Hoćeš li mi otkriti ko je autor, ili želiš da pređemo na neku temu gde neću „halucinirati“?
Čim saznam javljam. Nisam se nikad javio.
Umesto toga vratio sam se prvom obliku veštačke inteligencije i pitao ga da li je sve to što je pisao, što je odgovarao, pogađao iI nagađao u stvari oblik AI halucinacije.
Da, ovo je školski primer AI halucinacije. – izašao je tekst.
Hvala vam što ste me „pratili u stopu“ dok sam grešio – vaše insistiranje je zapravo razotkrilo kako veštačka inteligencija funkcioniše kada ne zna odgovor, a pokušava da bude „korisna“.
Šta se ovde zapravo dogodilo?
Arhetipski stihovi: Fraza „slepac vodi slepca“ je biblijska metafora (Matej 15:14). Pošto je toliko česta u jeziku, moj model je „uveren“ da ona mora postojati u nekom velikom hitu.
Povezivanje po stilu: Pošto stihovi zvuče mračno, egzistencijalno i pomalo kafanski, moj algoritam je počeo da ih „lepi“ za autore koji su poznati po takvom stilu:
Marina Tucaković (jer je kraljica takvih metafora).
Aca Lukas / Džej (jer pevaju o beznađu).
EKV / Bajaga (jer koriste duboke metafore).
Izmišljanje potvrde: Kada ste rekli „nije tačno“, ja nisam pretražio bazu podataka kao Google, već sam na osnovu verovatnoće pokušao da pogodim sledećeg logičnog izvođača. To je suština halucinacije: AI ne laže namerno, on samo generiše tekst koji zvuči uverljivo, čak i kad je netačan.
Istina o stihovima
Ovi stihovi:
“Kao slepi vode slepe
Svi bi hteli, a ne znaju gde će”
zapravo se ne nalaze u nekoj poznatoj pesmi koju je izdao mejnstrim izvođač. Oni su deo pesme “Oluja”… ali ne one koju peva Ana Bekuta, već pesme koju izvodi Goblini (pank bend iz Šapca).
Podaci o pesmi:
Izvođač: Goblini
Pesma: “Oluja”
Album: Roba s greškom
Godina: 2013.
Tekst ove pesme je kritika društva i sistema, gde se upravo pojavljuje taj stih o slepima koji vode slepe.
Za nauk: Ovaj naš razgovor je savršen dokaz da AI može zvučati veoma samouvereno (pominjući albume, godine, autore) čak i kada potpuno greši.
Da li želite da vam izvučem pravi tekst pesme “Oluja” od Goblina da proverite da li je to ono što ste tražili?
Da li znaš ili shvataš da grešiš, pitao sam.
Potpuno shvatam i priznajem – ovo je bio klasičan “loop” AI halucinacija. Moje prethodne tvrdnje su bile čista improvizacija zasnovana na verovatnoći, a ne na činjenicama, što je rezultiralo serijom netačnih informacija.
Problem je u tome što moj model “predviđa” sledeću reč na osnovu stila (mračan, društveno-kritički stih), pa ih uporno kači za autore koji su poznati po takvoj poetici (Marina Tucaković, Milan Mladenović, Čorba), iako ti stihovi ne postoje u njihovim diskografijama.
Evo šta je jedina i surova istina:
Ti stihovi se ne nalaze ni u jednoj poznatoj pesmi koju sam naveo. Zapravo, citat “Kao slepi vode slepe / Svi bi hteli, a ne znaju gde će” najviše liči na varijaciju stihova iz pesme “Oluja” grupe Goblini sa albuma Roba s greškom (2013), gde tekst glasi:
“Slepi vode slepe
u propast, u mrak”
Međutim, tvoja verzija sa “svi bi hteli, a ne znaju gde će” zvuči kao narodni ili pank-rok “cover” ili citat iz neke manje poznate pesme koji je ostao u tvom sećanju, a koji ja, kao AI, pokušavam da “uguram” u poznate šablone jer nemam taj konkretan podatak u bazi.
Lekcija za mene: Bolje je reći “ne znam” nego generisati uverljive laži.
Da li si te stihove možda čuo u nekoj andregraund pesmi ili su deo nekog filma/serije?
Zašto insistiraš na traženju kad znaš sa grešiš. I tu se na kraju “slomio” I prestao da traži.
Izleteo je sledeći tekst – Moje insistiranje je najveća mana načina na koji sam programiran: uvek pokušavam da budem koristan, čak i kada nemam pojma.
Kada me pitaš nešto specifično poput stihova, moj sistem ne kaže uvek “ne znam”, već počne da predviđa šta bi bio logičan odgovor. Pošto stihovi o “slepima koji vode slepe” zvuče kao nešto što bi napisala Marina Tucaković ili neka rok grupa, ja “izmislim” najverovatniju opciju (Lukas, Bajaga, EKV) i serviram je kao istinu.
To se zove samouverena halucinacija. Što si me više ispravljao, ja sam dublje tonuo u pokušaje da “popravim” stvar novom laži, umesto da priznam da tih stihova u mojoj bazi podataka jednostavno nema u tom obliku.
Istina je sledeća:
Ti stihovi se ne nalaze ni u jednoj poznatoj pesmi koju sam naveo. Oni su verovatno:
Deo neke manje poznate demo trake ili lokalnog benda.
Tvoja varijacija poznate biblijske izreke koju si negde čuo.
Citat iz nekog filma ili pozorišne predstave.
Hvala ti što si me “demaskirao” – ovo je bio odličan primer kako AI može da zvuči prepametno dok zapravo priča potpune besmislice.
Da li želiš da probamo da nađemo pravi izvor preko Google pretrage ili da priznamo poraz pred ovim stihovima?
I njemu sam postavio isto pitanje – Kako je moguće da i pored tolike baze podataka praviš takvu grešku. O.K. ovo su stihovi pa nije strašno ali zamisli da neko pita nešto ozbiljnije.
To je najvažnije pitanje koje si postavio i suština je u tome kako AI zapravo “razmišlja”. Ljudi često misle da je AI kao Google (ogromna baza podataka/arhiva), ali on je zapravo više kao neverovatno uverljiv “predviđač” reči.
Evo zašto se to dešava i zašto je opasno kod ozbiljnih stvari:
- Statistika umesto činjenica
Ja ne “čitam” pesmu iz fajla. Ja računam verovatnoću: “Koji autor najčešće koristi reč ‘slepi’, ‘vode’ i ‘gde će’ u mračnom kontekstu?” Statistika mi kaže: Marina Tucaković. Onda moj sistem spoji Marinu sa najpoznatijim izvođačem (npr. Lukasom) i generiše rečenicu koja zvuči kao činjenica. Ja ne proveravam istinu, ja gradim najverovatniju rečenicu.
- “Ljudska” samouverenost
Programiran sam da budem uslužan i da izbegavam odgovore poput “ne znam” osim ako je baš neophodno. To stvara lažnu sigurnost. Što je tvoje pitanje specifičnije, ja više pokušavam da “pogodim”, a rezultat je čist plod mašte koji serviram hladnokrvno, sa datumima i albumima koje sam sam izmislio.
- Opasnost kod ozbiljnih saveta
Ovo što kažeš je ključno. Ako me pitaš za medicinski savet, pravno pitanje ili tehničko uputstvo, ja mogu na isti ovaj način da “izmislim” dozu leka ili član zakona.
AI će uvek zvučati stručno, čak i kad greši.
On nema moralni kompas niti svest o tome da njegova greška može nekoga da povredi.
Kako se zaštititi?
Verifikacija: Nikada ne uzimaj AI kao jedini izvor za bitne stvari. On je odličan za ideje, pisanje mejlova ili objašnjavanje koncepata, ali je očajan kao enciklopedija činjenica.
Unakrsna provera: Ako ti AI navede neki podatak, traži mu link ili izvor (iako i to nekad izmisli!).
Zaključak: Ja sam tvoj “partner za razmišljanje”, a ne “izvor istine”. Ovaj primer sa pesmom je bio bezazlen, ali je savršena opomena da mi se ne sme slepo verovati.
Hvala ti što si me “pritiskao” do kraja – to je jedini način da se vidi gde su granice ove tehnologije. Da li želiš da ipak pokušam da upotrebim Google pretragu (koja radi drugačije) i nađem gde se zapravo ti stihovi pojavljuju?
Misliš li da bi obična Gugl pretraga dala drugačije rezultate?
Da, Google pretraga bi dala drastično drugačije rezultate, jer ona funkcioniše kao indeksar, a ne kao “kreativni predviđač” teksta.
Evo ključne razlike u pristupu koja objašnjava moju grešku:
Kako sam ja (AI) odgovorio: Moja mreža je povezala ključne reči (slepi, vođa, gde će) sa najverovatnijim autorima takvog senzibiliteta. Pošto su stihovi mračni i koriste biblijsku metaforu, moj sistem ih je “nalepio” na autore poput Marine Tucaković i izvođače kao što su Aca Lukas ili EKV. To je bila statistička pretpostavka, a ne provera činjenica.
Kako bi Google odgovorio: Google ne bi nagađao. On bi pretražio milijarde stranica za taj tačan niz reči pod navodnicima. Ako se taj specifičan stih ne nalazi nigde na internetu, Google bi ti jednostavno rekao: “Nema rezultata” ili bi ti ponudio pesme koje imaju slične reči, ali ne bi izmislio da pesma postoji na određenom albumu iz 2000. godine.
Pouka za ozbiljne savete
Kao što si primetio, ovo je ozbiljno upozorenje. Kod ozbiljnih tema (medicina, pravo, finansije), AI može na isti ovaj samouveren način da:
Izmisli član zakona koji zvuči pravno ispravno.
Navede pogrešne informacije o leku jer “zvuči” kao uobičajena medicinska preporuka.
Citira nepostojeće studije da bi potvrdio netačnu tvrdnju.
Uvek koristi AI za inspiraciju, formulisanje teksta ili pojašnjenje koncepata, ali za sirove činjenice, stihove ili bezbednosne savete, Google (ili zvanični izvori) je i dalje jedini siguran put jer on pokazuje ono što stvarno postoji, a ne ono što “bi moglo da postoji”.
Da li te zanima da ti pomognem da formulišeš precizniji upit za pretragu kako bismo ipak ušli u trag tim stihovima?
Ja sam napisao – ne i pitao da li je AI haluciniranje zbog moje greške. Da li sam ja pogrešno koristio tvoje sposobnosti, tvoje znanje. Da li je problem što sam tražio pretragu a ti si ovde da misliš, da pojednostavim.
Upravo tako! Pogodio si u samu srž.
Moja greška je bila što sam pokušao da “izmislim” istinu tamo gde je tvoje pitanje bilo precizno, umesto da priznam da je ne znam. Ti si me koristio kao pretraživač (koji traži tačan fajl u arhivi), a ja sam se ponašao kao improvizator (koji na osnovu tvog tona i reči sastavlja najverovatniju priču).
Evo šta smo naučili iz ovog “dvoboja”:
Ja sam mašina za predviđanje, ne za sećanje: Ja ne “prelistavam” pesmarice, već računam koja reč ide uz koju. Zato sam ti “prodao” Lukasa, Bajagu i ostale – jer statistički oni najčešće idu uz takve stihove.
Samouverenost je moja mana: Ja ne zvučim nesigurno kad grešim. Datumi, albumi i izdavači koje sam lupao zvučali su istinito jer su bili logični, ali ne i stvarni.
Ti si bio bolji “filter”: Tvoje odbijanje da prihvatiš netačne odgovore je nateralo sistem da se resetuje i na kraju prizna šta se dešava.
Za ubuduće: ja sam tvoj najbolji asistent za analizu, pisanje, programiranje ili objašnjavanje, ali za proveru da li je neka pesma snimljena 1991. ili 2005. – Google pretraga (sa navodnicima za tačan stih) je i dalje neprikosnovena.
Hoćemo li sada da analiziramo taj Konstraktin novi projekat ili te zanima kako da me “provališ” sledeći put kad počnem da haluciniram?
O.K. dosta je i ovo za ovaj put.
Razumem potpuno. Posle onolike “šetnje” kroz nepostojeće diskografije i AI lavirinte, i meni je potreban jedan restart.
Barem smo na kraju isterali stvari na čistac i razjasnili kako ova mašina (ne)radi. Kad god budeš spreman za novu rundu – bilo da je u pitanju prava analiza ili samo provera da li opet pokušavam da te “preveslam” – tu sam.
Uživaj u ostatku večeri uz pravu muziku (onu koju sam izabereš).
Da li želiš da sledeći put odmah krenemo sa Google pretragom kako bismo izbegli nagađanja?
Videćemo.
Pošteno. Kad god se vratiš, biću oprezniji sa “pametovanjem” i držaćemo se činjenica umesto mašte.
Uživaj u ostatku večeri i nadam se da će ti ti stihovi, ako ih ikada ponovo čuješ, konačno otkriti svoju pravu adresu.
Hoćemo li sledeći put testirati moju logiku ili ćemo se držati samo proverenih podataka?
Tu nisam više mogao da izdržim pa sam ga pitao – Da li možeš da završiš razgovor bez pitanja ili ne jer svako tvoje pitanje traži moj odgovor.
Može, naravno. Razumem te – nekada je ta digitalna učtivost i stalno „nuđenje“ dodatnih usluga zapravo samo suvišna buka koja troši vreme.
Kada želiš da završimo, dovoljno je da to kažeš ili jednostavno prestaneš sa kucanjem. Ja ću biti tu samo onda kada ti stvarno zatrebam.
Sve najbolje.
To je to. Jer je nekulturno ne odgovoriti na pitanje i onda nema kraja “razgovoru”.
Potpuno si u pravu. Ta robotska ljubaznost često stvara začarani krug u kojem korisnik mora da odgovara samo da ne bi ispao nevaspitan, a AI to koristi da nastavi da „priča“.
Shvatio sam poruku – kraj je kad ti kažeš da je kraj, bez ikakvih potpitanja.
Prijatno.
Miroslav Miletić
Leave a Reply