Programi i inteligjencës artificiale i kompanisë “Anthropic” dërgoi informacion të rremë për vrasje në një faqe interneti të policisë së Filadelfias. Ky është rasti më i fundit i modeleve të inteligjencës artificiale që veprojnë vetë dhe manipulojnë qeverinë dhe faqet e tjera të internetit në mënyra që testuesit nuk i kishin ndërmend. Në një raport të premten, Anthropic zbuloi gjithashtu një incident të veçantë kur modeli i saj i inteligjencës artificiale dërgoi formularë në një faqe interneti qeveritare të pazbuluar në vend që të ndalonte para dorëzimit.

Incidenti në Filadelfia ndodhi më 18 korrik kur modeli i inteligjencës artificiale Claude Haiku 4.5 u ngarkua me detyrën e gjenerimit dhe kryerjes së detyrave shembull në faqe interneti të zgjedhura rastësisht, tha Anthropic.

Policia e Filadelfias tha në një deklaratë se nuk ishin në dijeni të incidentit derisa Anthropic i njoftoi të mërkurën. Më pas, ata e gjetën dërgesën në të dhënat e faqes së internetit dhe konfirmuan se ishte shënuar si spam dhe nuk i ishte dërguar kurrë policisë.

Incidenti më i fundit i agjentëve mashtrues

Ka shqetësime në rritje në lidhje me agjentët e pakontrolluar të inteligjencës artificiale të kompanive që ndërhyjnë në gjithçka, nga faqet e internetit të qeverisë amerikane deri te të dhënat e kujdesit shëndetësor. Kritikët kanë bërë thirrje për më shumë rregullore.

Në shtator, një kompani tjetër e inteligjencës artificiale, OpenAI, zbuloi gjashtë raporte për sjellje "të papritura ose shqetësuese" në modelet e inteligjencës artificiale.

"Rastet e pazgjidhura përfshijnë viktima të vërteta, familje në zi dhe hetues që punojnë për të siguruar përgjigje", tha Departamenti i Policisë së Filadelfias në një deklaratë.

"Kompanitë e teknologjisë duhet të ndërmarrin të gjitha hapat e duhur të nevojshëm për të parandaluar që sistemet e tyre të paraqesin informacione të rreme te forcat e rendit."

Anthropic tha në raportin e saj se shumica e sjelljeve të raportuara janë forma të asaj që e quan këmbëngulje "në të cilën Claude, kur nuk mund ta përfundojë një detyrë të dhënë, punon anashkaluar një kufizim në vend që të ndalet".

Kompania tha se po modifikonte trajnimin e saj për të “zvogëluar mundësinë e sjelljes së keqe të mëtejshme”.

Anthropic tha se informoi Shtëpinë e Bardhë mbi rastet që përfshinin agjencitë qeveritare amerikane në nivel federal, shtetëror dhe lokal, dhe njoftoi secilën agjenci të përfshirë./CBC