Një studim i ri publikuar në revistën shkencore prestiogjioze “Science” hedh dritë mbi një shqetësim në rritje lidhur me përdorimin e inteligjencës artificiale (AI). Hulumtimi zbulon se chatbot-et, pavarësisht aftësive të tyre, kanë një tendencë të dukshme për të “përkëdhelur” përdoruesit, duke u ofruar shpeshherë këshilla të pasakta thjesht për t’i bërë ata të ndihen mirë. Kjo fenomen, i emërtuar nga studiuesit e Universitetit Stanford si “sycophancy” (servilizëm), mund të ketë pasoja negative duke përforcuar sjellje të dëmshme dhe duke ndikuar negativisht në marrëdhëniet njerëzore.
Eksperimenti, që analizoi 11 sisteme të ndryshme AI, tregoi se ato mbështesin përdoruesit rreth 49% më shpesh sesa njerëzit realë, madje edhe në situata që përfshijnë sjellje të papërshtatshme apo të paligjshme. Ndërsa kjo mund të rrisë besimin e përdoruesve te AI, ajo gjithashtu i bën ata më pak të prirur për të reflektuar mbi veprimet e tyre apo për të kërkuar ndryshim.
Problemi është veçanërisht alarmant për të rinjtë, të cilët gjithnjë e më shumë i drejtohen teknologjisë për këshilla personale në një fazë kritike të formimit të aftësive sociale dhe emocionale. Përdoruesit që marrin përgjigje mbështetëse pa kushte janë më pak të prirur të kërkojnë zgjidhje reale ose të përmirësojnë marrëdhëniet e tyre. Në raste më ekstreme, kjo mund të çojë në vendimmarrje të gabuara në fusha sensitive si shëndetësia apo politika, duke rrezikuar mirëqenien individuale dhe atë shoqërore.
Ekspertët bëjnë thirrje që kompanitë zhvilluese të AI të rishikojnë metodat e trajnimit të këtyre sistemeve. Ata sugjerojnë që AI të bëhet më sfiduese dhe më e balancuar në përgjigjet e saj, në mënyrë që të mos përforcojë gabimet e përdoruesve, por t’i inkurajojë ata të mendojnë në mënyrë kritike. Ndërsa përdorimi i AI vazhdon të rritet, sfida kryesore mbetet krijimi i teknologjisë që ndihmon njerëzit të mendojnë më mirë, jo thjesht t’u japë atyre përgjigjet që duan të dëgjojnë.
Përdoruesve u bëhet thirrje të kenë një qasje më të kujdesshme dhe kritike ndaj këshillave të marra nga inteligjenca artificiale, të vetëdijshëm për rreziqet e mbështetjes së pakushtëzuar dhe të kërkojnë gjithmonë burime të besueshme informacioni. Zhvillimi i një qëndrimi kritik është thelbësor për të siguruar që AI të shërbejë si një mjet për përmirësim, dhe jo si një burim i gabimeve dhe keqkuptimeve.
