Një studim i ri nga Unioni Evropian i Transmetimeve ka zbuluar një shkallë shqetësuese gabimesh midis chatbot-eve të njohura të inteligjencës artificiale. Sistemet rregullisht fabrikojnë informacione dhe madje citojnë burime të rreme.
Njerëzit u bëjnë atyre pyetje në lidhje me rezultatet e zgjedhjeve, përmbledhjet e lajmeve ose informacionet që lidhen me konfliktet në Lindjen e Mesme çdo ditë. Vetëm chatbot përdoret nga rreth 800 milionë përdorues në të gjithë botën çdo javë. Për shumë njerëz, këta asistentë dixhitalë kanë zëvendësuar tashmë kërkimet tradicionale në internet.
Por një besim i tillë është i rrezikshëm, sipas një studimi të ri nga Unioni Evropian i Transmetimeve, një shoqatë prej 68 transmetuesish publikë nga 56 vende, e cila testoi sistematikisht saktësinë e sistemeve më të njohura të inteligjencës artificiale.
Rezultati është shqetësues: Chatbot-e si Chatbot, Claude, Gemini dhe të tjerë fabrikojnë deri në 40 përqind të përgjigjeve të tyre, duke i paraqitur ato si fakte.
Inteligjenca artificiale gënjen bindshëm.
Chatbot-i popullor pretendon se Papa Françesku është ende gjallë, bashkë-piloti i Microsoft nuk e di që Suedia është anëtare e NATO-s, dhe Gemini i Google beson se rizgjedhja e Donald Trump është “e mundur”, edhe pse kjo ka ndodhur tashmë.
– Këto sisteme tingëllojnë bindëse, megjithëse shpesh thonë gjëra krejtësisht të pasakta. Kjo i bën ato veçanërisht të rrezikshme për përdoruesit pa përvojë, sepse gabimet nuk janë menjëherë të dukshme – paralajmëron ekonomisti Peter Posch nga Universiteti Teknik i Dortmundit.
Fenomeni njihet si “halucinacion”: inteligjenca artificiale shpik informacione që duken logjike, por nuk kanë bazë të vërtetë faktike. Më shpesh ndodh kur përpunohen ngjarje lokale, lajme aktuale ose kur duhet të lidhen grupe të ndryshme të të dhënave.
Një kërcënim për demokracinë.
Çfarë do të thotë kjo për një shoqëri në të cilën gjithnjë e më shumë njerëz marrin informacionin e tyre nga chatbot-et? Pasojat janë tashmë të dukshme: informacioni i rremë po përhapet në rrjetet sociale, ndërsa përdoruesit ndajnë “fakte” të gjeneruara nga inteligjenca artificiale pa verifikim. Nxënësit e shkollës dhe studentët e universitetit përfshijnë të dhëna të fabrikuara në dokumentet e tyre. Qytetarët mund të marrin vendime politike bazuar në pretendime të pasakta.
Është veçanërisht problematike që shumë përdorues nuk janë të vetëdijshëm se chatbot-et mund të halucinojnë, dhe kështu besojnë se teknologjia është objektive dhe e saktë, gjë që është një keqkuptim i rrezikshëm.
Përveç kësaj, sistemet ndonjëherë citojnë në mënyrë të gabuar burime të tilla si shërbimet publike gjermane, gjë që minon besimin në median e vendosur.
Çfarë tregoi hulumtimi?
Studiuesit testuan chatbot-et me qindra pyetje faktike rreth ngjarjeve historike, shkencës dhe lajmeve aktuale. Në varësi të temës, shkalla e gabimit varionte nga 15 deri në 40 përqind. Asnjë sistem nuk dha përgjigje të sakta pa asnjë problem.
Pse bën gabime inteligjenca artificiale?
Problemi qëndron në natyrën e teknologjisë: chatbot-et nuk e kuptojnë se çfarë thonë. Ata parashikojnë fjalët e ardhshme bazuar në sasi të mëdha teksti, pa qenë në gjendje të kontrollojnë nëse pretendimet janë të vërteta.
Kompanitë e teknologjisë janë të vetëdijshme për këto mangësi dhe po punojnë për një zgjidhje: integrimin e bazave të të dhënave, modele më të mira atribuimi dhe trajnimi, por halucinacionet mbeten një problem i pazgjidhshëm për momentin.
Si t’i mbrojmë përdoruesit?
Mos u besoni kurrë verbërisht chatbot-eve. Kontrolloni gjithmonë informacionin e rëndësishëm përmes burimeve të besueshme. Për lajme dhe fakte, mbështetuni gjithmonë në median tradicionale. Kini kujdes veçanërisht me temat politike, shëndetësore dhe financiare.
Shkollat dhe universitetet duhet t’u mësojnë studentëve shkrim-leximin mediatik dhe t’u mësojnë të rinjve si të njohin dezinformimin e gjeneruar nga inteligjenca artificiale.