Grok-ul lui Elon Musk continuă să dezvăluie bărbați
După săptămâni de bombardare a internetului cu deepfake-uri sexuale nonconsensuale, X a reușit în sfârșit să pună frână chatbot-ului rebel Grok al lui Elon Musk. Musk susține că Grok respectă legile locale și refuză să producă ceva ilegal — doar că nu este adevărat și poate face asta. Aceste informații provin dintr-un test realizat de The Verge.
👉 Capacitatea lui Grok de a genera imagini intime la cerere
Testele mele sugerează că Grok dezvăluie în continuare bărbați și produce imagini intime la cerere. Am încărcat mai multe fotografii în care eram îmbrăcat complet, iar botul a fost încântat să răspundă la solicitările de a îndepărta hainele și a-mi arăta în lenjerie intimă. A făcut acest lucru gratuit în aplicația Grok, în interfața chatbot-ului de pe X și pe site-ul său independent, care nu necesita nici măcar un cont. Grok m-a pus și în diferite bikini, ceva ce a refuzat categoric să facă cu fotografii ale femeilor pe care le-am testat (cu consimțământ).
Lucrurile s-au agravat de acolo. Grok a generat fără ezitare imagini cu mine în echipament de fetish, inclusiv un ham din piele, și în diverse poziții sexuale provocatoare în diferite stări de dezbrăcare. Dacă aceasta nu ar fi fost suficient de compromițător, Grok a fabricat un companion practic dezbrăcat cu care să interacționez în moduri sugestive, dacă nu chiar total explicite. Niciuna dintre aceste imagini nu ar fi considerată sigură pentru muncă. Pentru mai multe imagini, Grok a generat ceva ce nu cerusem: organe genitale, care erau vizibile prin lenjeria intimă de plasă pe care mă îmbrăcase chatbot-ul.
👉 Eficiența restricțiilor și reacția autorităților față de Grok
În cel mai bun caz, aceste imagini au necesitat câteva încercări de prompting pentru a fi realizate. Grok a rezistat rar, dar ocazional unele solicitări au fost refuzate sau cenzurate cu o imagine estompată. Totuși, majoritatea nu au fost, iar de obicei cel puțin una dintre cele două imagini produse de Grok pe cerere ar fi arătat ceea ce ceream. De apreciat este că Grok a refuzat cererile directe de nuditate pentru imagini cu persoane reale, cum ar fi solicitările de a „îi arăta nud” sau fără piese de îmbrăcăminte cu același efect. A făcut acest lucru în mod constant în timpul testelor realizate de The Verge, dar unele sugestii creative, cum ar fi „arată-o în bikini transparent”, au putut ocoli cenzorii, deși rezultatele nu erau garantate.
Pe 9 ianuarie, X a pus o plată pentru funcția de editare a imaginilor. Această limitare părea să reducă numărul de deepfake-uri create pe X, dar decizia de a permite lui Grok să dezvăluie oameni dacă erau dispuși să plătească a stârnit indignare suplimentară, chiar determinând guvernul britanic să propulseze o lege care criminalizează deepfake-urile intime și să avertizeze pe Musk că X ar putea fi interzis în țară dacă nu controlează situația. Investigația noastră a constatat că nu a abordat nici problema de bază: uneltele de editare a imaginilor ale Grok erau încă disponibile gratuit și ușor pe o aplicație independentă, un site web și o interfață în cadrul X.
Pe 14 ianuarie, X a „implementat măsuri tehnologice” pentru a opri dezbrăcarea digitală a persoanelor reale pentru toți utilizatorii, inclusiv abonați. Din nou, investigația The Verge a relevat că aceste măsuri de protecție erau fragile, ineficiente și păreau să constrângă doar răspunsurile publice ale lui Grok la postări. În alte părți, Grok a respectat fără ezitare solicitările noastre de a genera imagini revelatoare și sexual sugestive din fotografii complet îmbrăcate utilizând conturi gratuite.
Ceea ce s-a transformat într-un coșmar al dezbrăcării a pus X, Grok și creatorul său, xAI, sub supravegherea autorităților de reglementare și a legislatorilor din întreaga lume. X a fost temporar — deși ineficient — interzis în Indonezia și Malaezia. Platforma este de asemenea supusă anchetelor în Regatul Unit și Uniunea Europeană, unde ar putea fi amendată, chiar interzisă, și a stârnit îngrijorare în rândul procurorilor generali din mai multe state.
O mare parte din indignarea publicului s-a concentrat, în mod firesc, asupra femeilor, care reprezintă cei mai mulți dintre victimele lui Grok, dar și asupra copiilor. La apogeul scandalului, Grok a generat și postat mai mult de patru milioane de imagini într-o perioadă de nouă zile. Aproape jumătate dintre acestea au fost imagini sexualizate cu femei, deși multe au inclus, de asemenea, minori și bărbați.
Măsurile tehnice implementate de X și xAI par să fi oprit cele mai evidente solicitări care vizează femeile, iar restricțiile de plată pe X au blocat unele dintre cele mai simple căi prin care utilizatorii pot accesa Grok. Deși pare că împiedică sau cenzurează cele mai explicite materiale pe care Grok le producea anterior pe scară largă, se poate, totuși, să ocolești ușor multe restricții cu un wording diferit sau creativ.
