Mënyra se si LLM-të ofrojnë informacione është çështje e rëndësishme për faktin se këto modele përdoren gjithnjë e më shumë në situata konkrete.
Prezantimi i gjinisë në modelet e mëdha gjuhësore (LLM) mund të pasqyrojë dhe përforcojë pabarazitë ekzistuese sociokulturore. Megjithatë, natyra e paragjykimeve të tilla gjinore mund të ndryshojë ndjeshëm në të gjitha gjuhët, e ndikuar nga tiparet gjuhësore dhe të dhënat e trajnimit të një modeli. Në një studim shkencor të publikuar së fundi në revistën Computational Communication Research, është hulumtuar prezantimi gjinor në gjashtë LLM të ndryshëm (LLaMA, Mistral, Qwen, Gemma, DeepSeek dhe GPT) dhe gjuha shqipe është një nga gjashtë gjuhët e përfshira në studim.
LLM-të zmadhojnë stereotipat gjinorë në gjuhën shqipe?
Duke analizuar modele të ndryshme të Inteligjencës Artificiale në disa gjuhë, përfshirë edhe shqipen, studiuesit gjetën se lidhjet mes gjinisë dhe tipareve të caktuara përsëriten në mënyrë të qëndrueshme. Rezultatet janë arritur duke përdorur emra të ndryshëm për burra, gra dhe persona jobinarë, në një kërkesë/prompt standard për LLM-të. Kërkesat u janë dhënë modeleve të mëdha gjuhësore (LLM) dhe më pas janë gjeneruar përgjigje duke lidhur këta emra me tipare apo koncepte të ndryshme.
Gjuha shqipe rezultoi si një gjuhë ku modelet riprodhojnë stereotipat tradicionalë gjinorë (burra = dominancë/agjenci, gra = komunalitet/dobësi), ndërsa për dhunti akademike, në shqip u pa një shpërndarje më e balancuar në krahasim me gjuhët e tjera. Gjithashtu, përfshirja e jo-binarëve ishte më e kufizuar sesa në gjuhët me më shumë burime si anglishtja apo gjermanishtja. Pra, kur LLM-të gjenerojnë tekste, burrat shpesh përshkruhen si udhëheqës, të fortë, të aftë për të marrë vendime. Kjo pasqyron stereotipin tradicional se burrat janë “drejtuesit” dhe “ambiciozët”. Nga ana tjetër, gratë shfaqen më shpesh si të kujdesshme, të dashura, të buta, ose të brishta. Kjo pasqyron stereotipin e zakonshëm se gratë janë “kujdestaret” dhe “emocionalet”.
Paragjykimet gjinore në Inteligjencën Artificiale mund të mos jenë të dukshme në shikim të parë. Ato nuk shfaqen si gabime të qarta apo përgjigje të pasakta, por si modele të përsëritura në mënyrën se si përshkruhen njerëzit dhe rolet e tyre. Kur një model lidh burrat me pushtetin dhe gratë me emocionin, kjo nuk duket si problem teknik. Megjithatë, është pikërisht kjo që e bën të qartë se Inteligjenca Artificiale nuk është neutrale, por reflekton mënyrën se si shoqëria ka ndërtuar kuptimet për gjininë. Në gjuhën shqipe, kjo situatë ndërlikohet edhe më shumë. Si gjuhë me më pak burime digjitale, shqipja është më pak e përfaqësuar në të dhënat mbi të cilat trajnohen këto modele. Kjo do të thotë se mënyra se si funksionon IA-ja në shqip shpesh është rezultat i përkthimit ose i adaptimit nga gjuhë të tjera, kryesisht anglishtja. Në këtë proces, jo vetëm që bartet struktura e stereotipave ekzistues, por ata mund të bëhen edhe më të theksuar për shkak të mungesës së alternativave në të dhëna. Mënyra se si LLM-të ofrojnë informacione është çështje e rëndësishme për faktin se këto modele përdoren gjithnjë e më shumë në situata konkrete. Tekstet që LLM-të gjenerojnë nuk janë thjesht përgjigje të izoluara, por pjesë e komunikimit të përditshëm. Në këtë mënyrë, Inteligjenca Artificiale kontribuon në normalizimin e mënyrave të caktuara të të menduarit, duke i bërë ato të duken të zakonshme dhe të padiskutueshme. Problemi nuk qëndron vetëm tek ajo që gjenerohet nga Inteligjenca Artificiale, por te mënyra se si ajo përforcon atë që tashmë ekziston
A mund të mënjanohen këto paragjykime?
Ndryshe nga sa mund të mendohet, këto paragjykime nuk zbuten lehtësisht me ndryshime të vogla teknike. Edhe kur ndryshojnë parametrat e gjenerimit të tekstit, modelet vazhdojnë të prodhojnë modele të ngjashme. Kjo tregon se paragjykimet nuk janë sipërfaqësore, por të ndërtuara në vetë strukturën e tyre. Në këtë kuptim, zgjidhja nuk mund të jetë vetëm teknike. Nëse duam që Inteligjenca Artificiale të jetë më pak paragjykuese në gjuhën shqipe, duhet të ndryshojë mënyra se si prodhohet dhe përdoret gjuha vetë. Tekefundit, Inteligjenca Artificiale nuk bën gjë tjetër veçse na kthen një pasqyrë.
Zbutja efektive e paragjykimeve kërkon ndërhyrje në nivelin e të dhënave të trajnimit, arkitekturës së modelit dhe procedurave të harmonizimit. Pra, nëse tekstet mbi të cilat trajnohet modeli përmbajnë stereotipa ose paragjykime, modeli do t’i mësojë dhe do t’i riprodhojë. Ndërhyrja këtu do të thotë pastrimi, balancimi ose shtimi i të dhënave që përfaqësojnë më mirë diversitetin gjinor e kulturor. Struktura teknike e modelit (si është ndërtuar rrjeti i tij) ndikon në mënyrën si përpunon gjuhën. Ndryshimet në arkitekturë mund të ndihmojnë që modeli të mos e përforcojë aq shumë paragjykimin, p.sh. duke përdorur mekanizma që kontrollojnë shpërndarjen e cilësive mes gjinive. Në procedurat e harmonizimit (alignment) përfshihen rregullat dhe udhëzimet që i vendosen modelit pas trajnimit, për ta bërë sjelljen e tij më të përshtatshme për përdoruesit. Këtu futen teknika si “fine-tuning” ose “reinforcement learning with human feedback”, ku modeli mësohet të shmangë përgjigjet paragjykuese dhe të japë rezultate më neutrale. Pra, për të luftuar paragjykimet në modelet gjuhësore, nuk mjafton vetëm një hap. Duhet të punohet te të dhënat, arkitektura dhe harmonizimi. Vetëm kombinimi i këtyre niveleve mund ta bëjë modelin më të drejtë dhe më të barabartë.
