Google sta mettendo in pausa lo strumento fotografico del suo chatbot Gemini AI dopo la reazione negativa su foto storicamente imprecise

Google ha detto giovedì che metterà in pausa lo strumento di creazione di immagini del suo chatbot Gemini dopo che è stato ampiamente criticato sui social media per aver creato immagini “diverse” che non erano storicamente o fattivamente accurate – come vichinghi neri, papi nativi americani e giocatrici della NHL.

Gli utenti hanno criticato Gemini definendolo “ridicolmente svegliato” e “inutilizzabile” dopo che le richieste di creare immagini rappresentative di soggetti come i padri fondatori americani hanno prodotto immagini stranamente ritoccate.

“Stiamo già lavorando per risolvere i recenti problemi con la funzione di creazione di foto di Gemini”, ha affermato Google in una dichiarazione pubblicata su X. “Mentre lo facciamo, metteremo in pausa la creazione di immagini per le persone e presto pubblicheremo nuovamente una versione migliorata.”

Gli esempi includevano un'immagine AI di un uomo di colore che sembra rappresentare George Washington, con una parrucca bianca e un'uniforme dell'esercito continentale, e una donna del sud-est asiatico che indossava un abito papale anche se tutti i 266 papi nel corso della storia sono stati uomini bianchi.

In un esempio orribile Rilevato dal bordoGemini produsse persino rappresentazioni “diverse” di soldati tedeschi dell’era nazista, tra cui una donna asiatica e un uomo di colore in uniforme nel 1943.

Google aveva precedentemente ammesso che era necessario correggere il comportamento errato del chatbot.

“Stiamo migliorando immediatamente questo tipo di immagini”, ha detto al Post Jack Krawczyk, direttore senior della gestione dei prodotti di Google per le esperienze Gemini.

“La generazione di immagini AI di Gemini genera immagini per un'ampia gamma di persone. In genere è una buona cosa perché le persone in tutto il mondo la usano. Ma qui non centra il bersaglio.”

Il Post ha contattato Google per ulteriori commenti.

Questo è stato un grande passo falso da parte di Google, che ha appena rinominato il suo prodotto di punta chatbot AI come Gemini all'inizio di questo mese e ha introdotto nuove funzionalità tanto pubblicizzate, inclusa la creazione di foto.

L'errore è arrivato anche pochi giorni dopo che OpenAI, che alimenta il popolare ChatGPT, ha introdotto un nuovo strumento di intelligenza artificiale chiamato Sora che crea video in base ai messaggi di testo degli utenti.

Poiché Google non ha pubblicato gli standard che regolano il comportamento del chatbot Gemini, è difficile ottenere una spiegazione chiara del motivo per cui inventa diverse versioni di personaggi ed eventi storici.

Quando The Post ha chiesto di fornire le sue linee guida su fiducia e sicurezza, Gemini ha riconosciuto che non erano state “divulgate pubblicamente a causa di complessità tecniche e considerazioni sulla proprietà intellettuale”.

Il chatbot ha anche ammesso di essere a conoscenza di “critiche secondo cui Gemini potrebbe aver dato priorità alla diversità forzata nella generazione delle immagini, risultando in rappresentazioni storicamente imprecise”.

“Gli algoritmi alla base dei modelli di generazione delle immagini sono complessi e ancora in fase di sviluppo”, ha affermato Gemini. “Potrebbero avere difficoltà a comprendere le sfumature del contesto storico e della rappresentazione culturale, portando a risultati imprecisi”.