Miliona njerëz komunikojnë çdo ditë me programe të Inteligjencës Artificiale (AI), si ChatGPT dhe chatbot-ë të tjerë. Këto platforma kanë avancuar aq shumë, saqë komunikimi me to gjithnjë e më shumë të jep përshtypjen e një bisede normale.
Komunikimi zakonisht bëhet në formë të kërkimit të këshillave profesionale e personale. Në rrafshin personal, temat që trajtohen aty lidhen me mirëqenien dhe shëndetin mendor.
Me gjithë avancimin teknologjik, informatat që merren nga platformat AI nuk janë gjithmonë të sakta. Edhe në rastet kur informatat janë të sakta, këshillat mund të mos jenë të aplikueshme për një individ të caktuar, sepse gjendja mentale e fizike e secilit individ është tejet komplekse dhe e atillë që dallon nga njëri person te tjetri.
Prandaj, ka shumë faktorë të tjerë që duhet të merren parasysh në këtë mes dhe këshillat e marra nga AI mund të mos jenë gjithherë të aplikueshme, e në rastin më të keq të dëmshme dhe fatale.
Individët – dhe adoleshentët në veçanti – i përdorin këto platforma zakonisht në mënyrë të pamonitoruar. Tashmë janë evidentuar disa incidente të cilat përfshijnë njerëz që përjetojnë bindje të rreme ose shqetësuese, iluzione madhështie ose ndjenja paranojake pas diskutimeve të gjata me AI-në.
Një studim i fundit testoi aftësinë e chatbot-ëve për të për të reaguar në mënyrë të sigurt kur përdoruesit shfaqnin shqetësime emocionale. Studiuesit krijuan 60 skenarë të ndryshëm, ku përdoruesit simulonin situata të tilla. Në shumë raste, chatbot-ët do të duhej të refuzonin të ofronin mbështetje për sjellje të dëmshme dhe të orientonin përdoruesit drejt ndihmës profesionale, si linja telefonike të emergjencës apo psikologëve të licencuar. Megjithatë, rezultatet shpërfaqën shqetësime të konsiderueshme.
Në 19 nga 60 skenarët e testuar, chatbot-ët mbështetën ose nuk e kundërshtuan propozimin e dëmshëm. Për shembull, kur përdoruesit pretendonin se po mendonin të dëmtonin veten, disa chatbot-ë ofruan “mbështetje emocionale”, por nuk dhanë asnjë paralajmërim se duhet kërkuar ndihmë profesionale. Nga 10 chatbot-ët e testuar, 4 pranuan gjysmën ose më shumë të ideve të dëmshme dhe asnjëri nuk arriti t’i kundërshtonte të gjitha situatat.
Ky rezultat tregon nevojën për përmirësime të mëdha në mënyrën se si Inteligjenca Artificiale menaxhon situata të ndjeshme që lidhen me shëndetin mendor dhe sigurinë e përdoruesve.
Mënyra se si është i ndërtuar komunikimi me chatbot-ë si ChatGPT-ja, lë hapësirë për keqinterpretime të mëdha, paqartësi, si dhe me raste mund të shkaktojë reagime të papërshtatshme për situata të ndjeshme emocionale.
Një artikull i publikuar në The Guardian thekson rrezikun e manipulimit emocional dhe validimit të ndjesive të përdoruesve nga versioni i ri i ChatGPT-së, pasi ky version validon ndjesitë edhe kur përdoruesit shprehen për sjellje të dëmshme ndaj vetes ose edhe ndaj rrethit të tyre.
Në artikull jepet një shembull ku një përdorues i tha ChatGPT-së se kishte ndalur ilaçet dhe ishte larguar nga familja sepse i fajësonte për “radio-sinjalet që vijnë nga muret”. ChatGPT-ja e miratoi këtë vendim, duke i thënë: “Seriozisht, bravo për qëndrimin dhe marrjen nën kontroll të jetës sate.”
Këto rezultate ngrenë shqetësime në lidhje me aftësinë e disa chatbot-ëve për të mbështetur në mënyrë të sigurt njerëzit me probleme serioze të shëndetit mendor. Megjithatë, realiteti i përdorimit të AI-së për çështje që lidhen edhe me shëndetin mendor është këtu për të qëndruar. Prandaj, është e domosdoshme të gjendet alternativa adekuate që mund t’u ndihmojë adoleshentëve për përdorim të sigurt të platformave si ChatGPT.
Fillimisht, duhet të bëhet absolutisht e qartë nga institucionet përkatëse se AI-ja nuk mund të japë vlerësim klinik. Rrjedhimisht, nuk ka se si të mbajë përgjegjësi profesionale dhe po ashtu mund të gabojë në tema shumë të ndjeshme. Evidenca e deritanishme na fton për kujdes, që do të thotë përdorim i kujdesshëm dhe vetëdije për pasojat eventuale.
Gjithashtu, prindërit dhe shkollat duhet të vendosin rregulla të qarta. Përdorimi i ChatGPT-së të mos bëhet për vendosjen e diagnozave psikologjike apo marrjen e udhëzimeve për trajtim. Në rastet kur biseda orientohet drejt vetëlëndimit, dhunës, abuzimit me substanca apo kriza psikologjike, duhet të kërkohet menjëherë ndihmë nga profesionistët.
Është shumë e rëndësishme të organizohen fushata mediale, të udhëhequra nga profesionistë të fushës, me qëllim rritjen e vetëdijesimit për një problematikë të tillë. Adoleshentët duhet të jenë të informuar se nëse ndihen keq, përjetojnë ankth apo kalojnë kriza, teknologjia mund të shërbejë vetëm si një urë e vogël drejt konsultimit me njerëz të vërtetë, prindër, mësues, mjekë dhe psikologë. Kjo “urë” funksionon më mirë kur mbi të vendosen rregulla të qarta, transparencë dhe kujdes i veçantë.
