Një tjetër paralajmërim vjen nga Anthropic, kompania që zhvilloi chatbot-in Claude: "Po, inteligjenca artificiale mund ta shfarosë njerëzimin". Ekspertët e inteligjencës artificiale paralajmërojnë në mënyrë ciklike për mundësinë katastrofike që inteligjenca artificiale mund të bëhet një kërcënim i madh për vetë ekzistencën tonë. Dekada të tëra antologjish kinematografike nuk kanë qenë të mjaftueshme: papritmas, Skynet mund të mos kufizohet më në serinë e filmave të suksesshëm Terminator .

Paralajmërimi i ri u shkrua dhe u botua nga tre studiues që punonin në kompaninë e vëllezërve Amodei. Pas dorëheqjes, ata vendosën të shprehnin shqetësimet e tyre në mediat sociale X. Njëri prej tyre, Jacob Coxon, deklaroi se "njerëzit që po zhvillojnë inteligjencën artificiale besojnë vërtet se ajo mund të na 'vrasë' të gjithëve deri në fund të dekadës. Kjo nuk është një dredhi marketingu. Në fakt, shumë drejtues të lartë dhe studiues do të përpiqen të përdorin gjuhë më të butë me shtypin, por dëgjoj të njëjtët njerëz që e shprehin këtë frikë privatisht. Asnjë aktivitet tjetër njerëzor nuk përbën një rrezik të kësaj madhësie".

Evan Hubinger, drejtori kryesor shkencor për shtrirjen në Athropic, gjithashtu konfirmoi shqetësimet e Coxon. "Rreshtimi" i referohet procesit të drejtimit të sistemeve të IA-së në mënyrë që sjelljet, qëllimet dhe rezultatet e tyre të përputhen me vlerat, qëllimet dhe nevojat njerëzore.

"Jacob ka të drejtë," u përgjigj ai.

"Ne besojmë vërtet se IA mund të shfarosë të gjithë njerëzimin! Personalisht, mendoj se përqindja do të kalojë 10% brenda dekadës së ardhshme. Unë besoj se Anthropic po bën më të mirën e saj, por ne ende nuk kemi një plan për të zgjidhur problemin e shtrirjes për superinteligjencën, dhe ne qartësisht nuk jemi në rrugën e duhur për ta bërë këtë."

Samuel Marks, kreu i mbikëqyrjes së shkallëzuar në Anthropic, e përsëriti këtë ndjenjë, duke shtuar: "Zhvilluesit e IA-së besojnë se teknologjia e tyre mund të shkaktojë zhdukjen e njerëzimit (ose pasoja të ngjashme negative). Kjo mund të ndodhë në vitet e ardhshme. Në përgjithësi, sa më i lartë të jetë niveli i lartë i punonjësit, aq më i madh është shqetësimi i tyre."

Siç po thoshim, ne kthehemi ciklikisht në pikën ku ata që janë të përfshirë në zhvillime të ndryshme ngrenë alarme dhe shqetësime. Që kur inteligjenca artificiale është bërë e zakonshme, që nga lançimi i ChatGpt, kanë dalë projekte të ndryshme që synojnë monitorimin dhe ndonjëherë, në nivel qeveritar, bllokimin e aftësive të modeleve. Por pse thjesht të mos ngadalësojmë ose mbyllim gjithçka?

Përgjigja e kësaj pyetjeje është e qartë, por nuk ka të bëjë vetëm me paratë. Alarmet, dyshimet dhe shqetësimet nxiten kryesisht nga zhvilluesit perëndimorë. Ndalimi ose ngadalësimi do t'i linte rivalët dhe konkurrentët, si perëndimorë ashtu edhe jo, të lirë të përmirësonin vazhdimisht modelet e tyre, pa asnjë frenim apo kufizim. E vërteta është se përmirësimi i modelit po ecën me një ritëm të shpejtë dhe vetëm kohët e fundit, OpenAI pretendoi se kishte arritur nivelin e AGI-së (inteligjencës së përgjithshme artificiale), pikën pa kthim ku IA do të tejkalonte aftësitë njerëzore.

Por rreziku i vërtetë mund të lindë nëse IA do të bëhej e aftë për vetëpërmirësim. Zhvillimet e fundit që përfshijnë agjentët e IA-së kanë demonstruar aftësinë e tyre për t'u koordinuar për të arritur një qëllim me çdo kusht, veçanërisht në rastet e sigurisë kibernetike. Incidenti HuggingFace, detajet e të cilit kanë dalë vetëm ditët e fundit, është një shembull kryesor.

Paralajmërimet e ngritura nga ish-punonjësit e Anthropic vijnë vetëm disa ditë pasi Komisioneri i Lartë i Kombeve të Bashkuara për të Drejtat e Njeriut, Volker Türk, lëshoi ​​një apel duke u bërë thirrje shteteve të ndërhyjnë përpara se inteligjenca artificiale të dalë jashtë kontrollit dhe të bëhet "një rrezik ekzistencial për njerëzimin"./ Corriere della Sera