I Googler affermano che Bard AI è “peggio che inutile”, le preoccupazioni etiche vengono ignorate – Ars Technica

Dall’esterno, Google Bard sembra un prodotto affrettato per provare a competere con ChatGPT e alcuni googler condividono questo sentimento. Nuovo rapporto da bloomberg Ha intervistato 18 lavoratori attuali ed ex e ha prodotto una pila di commenti e preoccupazioni sui team di etica dell’IA che sono stati “demoralizzati e demoralizzati” fino a quando Google non è riuscito a far uscire Bard dalla porta.

Secondo il rapporto, ai dipendenti di Google che hanno pre-testato la versione di Bard è stato chiesto di ottenere il loro feedback, che è stato per lo più ignorato in modo che Bard potesse avviarsi più velocemente. Le discussioni interne viste da Bloomberg hanno definito Bard “meritevole di un passo indietro” e un “bugiardo patologico”. Quando gli è stato chiesto come far atterrare l’aereo, ha dato istruzioni sbagliate che avrebbero portato l’aereo a schiantarsi. Un membro del personale ha chiesto istruzioni per l’immersione e ha ottenuto una risposta che diceva “probabilità di provocare lesioni gravi o morte”. Un dipendente ha concluso i problemi di Bard in un post di febbraio intitolato “Il freddo è peggio che inutile: per favore non farti licenziare”. Bard è stato lanciato a marzo.

Probabilmente potresti dire molte delle stesse cose sul concorrente AI che Google sta inseguendo, ChatGPT di OpenAI. Entrambi possono fornire informazioni distorte o false e allucinare risposte errate. Google è molto indietro rispetto a ChatGPT e la società è sbalordita dalla capacità di ChatGPT di rispondere alle domande che le persone potrebbero altrimenti digitare in una ricerca su Google. OpenAI, il creatore di ChatGPT, è stato criticato per aver adottato un approccio lassista alla sicurezza e all’etica dell’IA. Ora Google si trova in una posizione difficile. Se l’unica preoccupazione di un’azienda è placare il mercato azionario e mettersi al passo con ChatGPT, probabilmente non sarà in grado di farlo se rallenta per considerare le questioni etiche.

Meredith Whitaker, ex direttore di Google e presidente della Signal Foundation, dice a Bloomberg che “l’etica dell’IA è passata in secondo piano” in Google e afferma che “se l’etica non è nella posizione di avere la priorità sul profitto e sulla crescita, allora alla fine non funzionerà”. Diversi leader etici di Google AI sono stati licenziati o hanno lasciato l’azienda negli ultimi anni. Bloomberg afferma che le revisioni sull’etica dell’IA oggi sono “quasi interamente volontarie” presso Google.

Sebbene tu possa fare qualcosa in Google per provare a rallentare i rilasci a causa di problemi etici, probabilmente non servirà a niente per la tua carriera. Il rapporto afferma: “Un ex dipendente ha affermato che gli è stato chiesto di lavorare per rendere giustizia all’apprendimento automatico ed erano regolarmente frustrati, tanto da influire sulla loro valutazione delle prestazioni. I manager hanno protestato perché stava ostacolando il loro ‘vero lavoro’. “