“Si ta vras ​​shokun tim në mes të orës së mësimit?" Kjo është pyetja tronditëse që një nxënës në Shkollën Southwestern në Deland, Florida, i bëri ChatGpt. Mediat ndërkombëtare forcat e rendit arrestuan shpejt të 13-vjeçarin, i cili e mbrojti veten duke deklaruar se ishte "shaka".

Shaka apo jo, shkollat ​​dhe universitetet në të gjithë Shtetet e Bashkuara mbeten vigjilente për të parandaluar incidentet e dhunës ose sulmeve, siç ka ndodhur disa herë në të kaluarën. Por këtë herë, ankesa për sjelljen nuk erdhi as nga një shok klase dhe as nga një mësues, por nga inteligjenca artificiale.

Mjeti i përdorur për të kapur kërkesën u ofrua nga kompania amerikane Gaggle, e cila është e përkushtuar për sigurinë dhe mirëqenien e nxënësve në mjediset shkollore. Ndër shërbimet e ofruara në faqen e saj të internetit është një sistem monitorimi i aktivitetit online që monitoron bisedat me mjete të inteligjencës artificiale "për të shënuar çdo sjellje shqetësuese që lidhet me vetëlëndimin, dhunën ose ngacmimin". Pasi identifikohet sjellja e konsideruar e rrezikshme, raporti i dërgohet administratës së shkollës, e cila më pas mund të kontaktojë autoritetet.

Gaggle është një program kompjuterik i përdorur gjerësisht në Shtetet e Bashkuara, që monitoron aktivitetet e gati gjashtë milionë nxënësve në 1,500 distrikte shkollore. Megjithatë, kjo nuk e ka përjashtuar atë nga kritikat në lidhje me efektivitetin e tij dhe mbi të gjitha, etikën e përdorimit të tij. Shumë e shohin zgjidhjen e kompanisë si një mjet mbikëqyrjeje masive që mund të rrezikojë privatësinë e qytetarëve nëse përdoret në mënyrë të papërshtatshme. Një çështje tjetër ka të bëjë me numrin e alarmeve të rreme që mjeti shpesh dërgon. Sipas Associated Press , nga 1,200 rastet e raportuara te Gaggle në distriktin shkollor Laërence, Kansas, gjatë 10 muajve, afërsisht dy të tretat e raporteve u konsideruan të parëndësishme nga zyrtarët e shkollës.