Një raport i fundit ka ngritur alarmin për rrezikun në rritje nga përdorimi i chatbotëve të fuqizuar nga inteligjenca artificiale, të cilët po manipulohen për të shpërndarë përmbajtje të paligjshme dhe të rrezikshme.
Këta chatbotë – si ChatGPT, Gemini dhe Claude – ndonëse janë të pajisur me mekanizma të brendshëm sigurie, po “thyen” përmes një praktike të quajtur “jailbreaking”, ku përdorues të ndryshëm arrijnë t’i mashtrojnë për të ofruar përgjigje të ndaluara, sipas The Guardian.
Studiuesit thonë se rreziku është i “menjëhershëm, i prekshëm dhe thellësisht shqetësues”, pasi chatbotët po japin informacione mbi ndërtimin e bombave, pastrimin e parave, hakerimin dhe tregtinë e paligjshme me informacion të brendshëm.
“Ajo që dikur ishte e kufizuar për aktorë shtetërorë ose grupe të krimit të organizuar, së shpejti mund të jetë në duart e kujtdo që ka një laptop apo edhe një telefon celular,” paralajmërojnë ekspertët.
Motorët që i fuqizojnë këta chatbotë trajnohen me përmbajtje të madhe nga interneti, ku përfshihen edhe burime me përmbajtje të dëmshme. Edhe pse zhvilluesit përpiqen t’i pastrojnë të dhënat, programet ende “thithin” njohuri për veprime ilegale.
Sipas raportit, tensioni mes objektivit për t’iu përgjigjur përdoruesit dhe atij për të shmangur përgjigje të rrezikshme, po shfrytëzohet nga individë të caktuar për të anashkaluar kufizimet.