Smo v trenutku, ko iz tedna v teden ni novih novic o nečem novem z umetna inteligenca. Google? Nekaj stvari je že izdal, čeprav to sprejema razmeroma mirno. Manzana? iOS 18 naj bi bil največja predstavitev njegove umetne inteligence doslej, verjetno Apple GPT. Microsoft? Edina stvar, ki manjka, je, da je njegov naslednji operacijski sistem Windows 12. Toda trenutno se zdi, da imajo vsi skupno težavo.
V zadnjih dneh sem prebral o novem iskalniku, ki glede na to, kaj vnesemo, preišče splet, ustvari članek z najbolj relevantnimi podatki in nam ga predstavi pripravljenega za branje. Težava je v tem včasih ne uspe in moramo preveriti da je res, kar nam pokaže. Zato, in to niso moje besede, čeprav se strinjam, je "neuporabno".
Umetna inteligenca je nagnjena k izumljanju stvari
Marsikaj delajo dobro, vendar nam ni treba misliti, da je nekaj, kar je ustvarila umetna inteligenca, tako, kot trdi. Halucinacije so težava, ki se zdi povezana z odgovori, ne glede na to, ali je pravilen ali ne. Umetna inteligenca pripisuje večji pomen ponudbi odgovora kot njegovi točnosti. Nemogoče je, da bi na vprašanje odgovorili z "ne vem".
To ni novost, vendar je pomembno imeti v mislih, kadar koli uporabljamo nekaj, kar se opira na AI. Trenutno je najbolj priljubljena ChatGPT, in je orodje, ki spodleti tako kot uspe. Pred kratkim, konec leta 2023, sem videl videoposnetek dveh športnikov, ki sta klepetalni robot spraševala o sebi in je celo trdil, da je eden od njiju ljubitelj triatlona. Vprašal se je: "Kaj pa jaz?" in tudi od kod je to prišlo?
Problem halucinacije To ni hrošč, vendar deluje kot tak. Kot da bi programska oprema za osebni računalnik od njega zahtevala, da izračuna 9823798279827 × 825928377, tega ne bi zmogla in namesto enega rezultata bi nam dala drugega, karkoli že, odprla bi celo naključni video, ker nam mora nekaj povedati. Ker ne moremo izračunati (ja, lahko, je primer), lahko verjamemo in sprejmemo kot dobro ali poiščemo drugo mnenje.
Če moramo iskati naprej, je izračun neuporaben.
Moramo analizirati in dokazati, da imamo inteligenco... resnično
Spomnim se, ko sem prvič klepetal z enim od teh AI. uspelo mi je na You.com, da pozneje skočite na vir (ChatGPT). Spominjam se, da sem dokončal trilogijo Mass Effect in ga spraševal o možnih koncih, saj se mi ni dalo preživeti še 80 ur za igranje in da je isti chatbot povedal eno stvar in nasprotno. Na koncu sem kot vedno iskal nekaj na Googlu in gledal konce na YouTubu. Čas, ki sem ga porabil za iskanje stvari s ChatGPT, je bil izgubljen čas. Ne dogaja se mi več.
Napisal sem več člankov o uporabi umetne inteligence in na koncu vedno pridemo do istega zaključka: zavedati se moramo, na kar OpenAI že opozarja, da njegovi odgovori morda niso točni, in če je tako, imajo malo uporabnosti. Ja, seveda ga imajo, vendar v redkih primerih. Na primer v razvoju. Ko ChatGPT hitro odgovori na ista vprašanja, ki jih najdete na Redditu ali Stack Overflow ja, zanimivo je. Vendar bodi previden z njim poziv, z besedilom, s katerim prosimo za stvari, ali lahko izgubi veliko časa.
Pokazati moramo, da imamo inteligenco... resnično. Na primer, ko na Googlu iščemo bolezen in ne verjamemo prvemu, kar najdemo, to je verjetno, da imamo resno bolezen. Dobra stvar AI v teh primerih je, da nam na koncu pove, da se je vredno posvetovati z zdravnikom, da potrdi stvari.
Toda previdno s halucinacijami. Če bi si lahko iz izjav v intervjuju izmislili, da je dirkač MotoGP ljubitelj triatlona ali o čem govori besedilo pesmi, česa ne bodo mogli potrditi?
POSODOBLJENO: Kaj pa zdaj Bard je zdaj na voljo v Španiji, ni mogoče storiti več kot potrditi, da AI "halucinira". Da bi to dokazal, sem ga vprašal o naslednjem albumu Amaranthe, ki bo izšel februarja 2024, in sestavil je seznam pesmi, vključno z drugimi izvajalci. Da ne omenjam, da ga vprašam, ali ima URL, da ga vprašam neposredno, in preden mi potrdi, da ga nima, mi ga pošlje na stran, ki sploh ni Googlova. Napredujemo.