Komisioni Europian ka nisur një hetim ndaj platformës X të Elon Musk për prodhimin e imazheve eksplicite dhe përhapjen e materialeve të mundshme të abuzimit seksual të fëmijëve nga chatbot-i me inteligjencë artificiale të platformës Grok, raporton The Guardian.

Hetimi i nisur të hënën, zgjeron gjithashtu një hetim ekzistues mbi sistemet rekomanduese të X, algoritme që i ndihmojnë përdoruesit të zbulojnë përmbajtje të reja.

Grok ka shkaktuar zemërim ndërkombëtar pasi ka lejuar përdoruesit të “zhveshin” në mënyrë dixhitale gra dhe fëmijë dhe t’i vendosin ata në poza provokuese. Sipas studiuesve të Qendrës Kundër Urrejtjes Dixhitale (Center for Countering Digital Hate), Grok ka gjeneruar rreth 3 milionë imazhe me përmbajtje seksuale në më pak se dy javë, përfshirë 23 mijë që dukeshin se përshkruanin fëmijë.

Komisioni tha se hetimi i ri do të “vlerësojë nëse kompania ka vlerësuar dhe zbutur siç duhet rreziqet” që rrjedhin nga funksionalitetet e Grok në BE, përfshirë rreziqet që lidhen me shpërndarjen e përmbajtjeve të paligjshme, si imazhet seksualisht eksplicite të manipuluara dhe “përmbajtje që mund të përbëjnë” material të abuzimit seksual të fëmijëve.

Hetimi ka nisur në bazë të Aktit të Shërbimeve Dixhitale të BE-së (Digital Services Act – DSA), një legjislacion relativisht i ri që synon të mbrojë përdoruesit e internetit nga një mori rreziqesh.

Zyrtarët e BE-së po hetojnë nëse X ka sisteme për të zbutur rreziqet.

Henna Virkkunen, zyrtarja më e lartë e komisionit për sovranitetin teknologjik, sigurinë dhe demokracinë, tha: “Deepfake-t seksualë pa pëlqimin e grave dhe fëmijëve janë një formë e dhunshme dhe e papranueshme degradimi. Me këtë hetim, ne do të përcaktojmë nëse X ka përmbushur detyrimet e tij ligjore sipas DSA, apo nëse i ka trajtuar të drejtat e qytetarëve europianë, përfshirë ato të grave dhe fëmijëve, si efekte anësore të shërbimit të tij.”

Në përgjigje të hetimit, X publikoi një deklaratë më 14 janar ku tha se do të ketë “zero tolerancë ndaj çdo forme të shfrytëzimit seksual të fëmijëve, zhveshjes pa pëlqim dhe përmbajtjes seksuale të padëshiruar.”