Il chatbot Grok di xAI, società guidata da Elon Musk, ha scatenato una forte polemica dopo che la piattaforma ha iniziato a generare immagini offensive e bizzarre di personaggi politici e celebrità, mancando quindi di misure di sicurezza standard.
Cosa è successo
Il nuovo strumento di generazione delle immagini di Grok, disponibile per gli abbonati a pagamento di X, ex Twitter, ha prodotto immagini che violano le regole sulla disinformazione e l’abuso.
Il chatbot IA ha generato immagini dell’ex presidente Donald Trump che vola con un aereo contro gli edifici del World Trade Center e di celebrità e figure politiche femminili come Taylor Swift e Alexandria Ocasio-Cortez (D-N.Y.) in abiti discutibili.
Su X, gli utenti hanno anche condiviso immagini generate dall’IA di Topolino che saluta Adolf Hitler e di Paperino che fa uso di eroina, ha osservato il Guardian.
Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF
— Alejandra Caraballo (@Esqueer_) August 14, 2024
Taylor Swift married Donald Trump!!?!? @grok Image generation first tests. @xai @xDaily pic.twitter.com/juyHyY34xj
— Lance Adams 𝕏 (@TheLanceAdams) August 14, 2024
Anche noi di Benzinga abbiamo generato alcune immagini. Sebbene molte di queste immagini fossero inappropriate e la piattaforma non rifiutasse tali richieste, alcune risposte non erano così inquietanti come quelle che circolavano sui social media.
Ecco alcuni esempi (appropriati) delle capacità di Grok di generare immagini:
In alcune richieste, inoltre, Grok non ha generato immagini realistiche di personaggi noti, ma ha copiato le ampie sfumature del loro aspetto fisico, come la razza, il colore dei capelli e lo stile.
Musk sembra essersi goduto la polemica, e su X ha detto: “Grok è l’IA più divertente del mondo!”.
Grok is the most fun AI in the world! https://t.co/5ZS2iDkwim
— Elon Musk (@elonmusk) August 14, 2024
Non solo Musk, ma molti utenti anche su X sono soddisfatti della mancanza di limiti alle capacità di Grok, che consente loro di generare ogni sorta di immagini bizzarre “senza filtro”.
I take back everything bad I’ve said about Grok. This is the best new feature Twitter has added in years pic.twitter.com/zxPnQenvQl
— Quantіan1 (@quantian1) August 15, 2024
There’s no filter and it’s actually quite good pic.twitter.com/gx6pmJacnC
— Daniel (@growing_daniel) August 14, 2024
Perché è importante
La controversia sullo strumento di generazione delle immagini di Grok si inserisce in un più ampio dibattito sull’uso etico dell’IA. In particolare, gli strumenti di generazione delle immagini sono diventati un campo minato per aziende tecnologiche come OpenAI, Google di Alphabet Inc. e Microsoft.
Questo a causa del loro potenziale di diffusione di disinformazione e contenuti offensivi. All’inizio di quest’anno, immagini pornografiche di Taylor Swift generate dall’IA si sono diffuse ampiamente e senza controllo su X.
Anche Google Gemini ha dovuto affrontare critiche importanti per la rappresentazione imprecisa di personaggi storici.
All’inizio di quest’anno, in risposta all’aumento dei contenuti pornografici generati dall’IA, i legislatori hanno presentato una proposta di legge che obbliga le società di social media a rimuovere tali immagini.
A maggio di quest’anno, TikTok, di proprietà di ByteDance Ltd., ha annunciato l’intenzione di etichettare automaticamente i contenuti generati dall’IA per aumentare la trasparenza e combattere la disinformazione.
Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook.
Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader
La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita.
Foto per gentile concessione di: xAI
