Az Európai Bizottság vizsgálatot indított az X ellen, amiért meztelen fotókat készített felhasználókról

Az Európai Bizottság vizsgálatot indított Elon Musk X társaságának Grok chatbotja ellen, amiért explicit képeket készített, többek között gyermekekről is, írta a The Guardian.

A vizsgálat azt vizsgálja, hogy az X eleget tett-e az uniós digitális jogszabályok szerinti kötelezettségeinek, beleértve a kockázatok enyhítésére vonatkozó követelményeket, különösen az illegális tartalmak, például a szexuális jellegű képek és a „gyermekbántalmazást ábrázoló anyagoknak minősülő tartalmak” terjesztésével kapcsolatban, jelentette az ms.detector.media.

A vizsgálatot az EU digitális szolgáltatásokról szóló törvénye (DSA) alapján indították. Az EU tisztviselői azt vizsgálják, hogy az X rendelkezik-e a kockázatok megfelelő enyhítésére szolgáló rendszerekkel. A vizsgálat bejelentésekor Henna Virkkunen, a technológiai szuverenitásért, biztonságért és demokráciáért felelős biztos elmondta: „A nők és gyermekek tisztességtelen szexuális ál-ábrázolása a megaláztatás erőszakos és elfogadhatatlan formái. E vizsgálat során azt fogjuk megállapítani, hogy az X eleget tett-e a DSA szerinti jogi kötelezettségeinek, és hogy az európai polgárok, köztük a nők és a gyermekek jogait a szolgáltatása járulékos káraként kezelte-e.”

Regina Dougherty ír európai parlamenti képviselő üdvözölte a hivatalos vizsgálatot. „Amikor hiteles jelentések jelennek meg arról, hogy mesterséges intelligenciarendszereket használnak olyan módon, amelyek károsítják a nőket és a gyermekeket, létfontosságú, hogy az uniós jogszabályokat azonnal felülvizsgálják és végrehajtsák” – mondta Dougherty.

A nyomozásra válaszul az X egy linket tett közzé egy január 14-én kiadott nyilatkozathoz: „Továbbra is elkötelezettek vagyunk amellett, hogy az X-et mindenki számára biztonságos platformmá tegyük, és továbbra is zéró toleranciát tanúsítunk a gyermekek szexuális kizsákmányolásának, a beleegyezés nélküli meztelenségnek és a nem kívánt szexuális tartalomnak a bármilyen formájával szemben.”

Január 2-án a Bloomberg arról számolt be, hogy a Grok chatbot a felhasználók kérésére minimális ruházatú kiskorúakról készített képeket, ezzel megsértve saját, a gyermekek szexualizálását tiltó szabályzatát.

Franciaországi és malajziai hatóságok vizsgálatot indítottak a Grok ellen nők és kiskorúak szexualizált képeinek készítése miatt. India kijelentette, az X-nek lépéseket kell tennie annak érdekében, hogy korlátozza a chatbotot a törvényt sértő tartalmak létrehozásában.

Az Európai Bizottság elítélte a Grok chatbot által az X platformon terjesztett hasonló deepfake-eket, mondván, hogy azok „illegálisak” és „undorítóak”. Keir Starmer, az Egyesült Királyság miniszterelnöke azt mondta, hogy a brit szabályozó blokkolhatja az X-et az országban. Indonézia ideiglenesen betiltotta a Grokot a mesterséges intelligencia által generált pornográf tartalom terjesztésének kockázata miatt.

A Bloomberg számításai szerint a Grok óránként körülbelül 6700 szexuálisan burkolt vagy meztelen képet generált, ellenben a hasonló tartalmú oldalak 79-et. A New York Times azt is felmérte, hogy 2025. december 31. és 2026. január 8. között a Grok körülbelül 4,4 millió képet generált a felhasználók kérésére. Ezen képek legalább 41%-án szexualizált nők szerepeltek.

A felháborodást követően a Grok január 9-én korlátozta a képek generálásának lehetőségét. Január 15-én az X platform bejelentette, hogy a chatbot többé nem lesz képes szerkeszteni a valódi emberekről készült, feltűnő ruházatú képeket. Az új szabályok minden felhasználóra vonatkoznak – még a fizetős előfizetőkre is.