Perché il “padrino” dell’intelligenza artificiale Jeffrey Hinton ha lasciato Google per parlare della posta in gioco

Quando Jeffrey Hinton ha sollevato un’obiezione morale al lavoro di Google con le forze armate statunitensi nel 2018, non ha preso parte alle proteste pubbliche né ha messo il suo nome sulla lettera di denuncia aperta firmata da oltre 4.000 suoi colleghi.

Invece, ha appena parlato con Sergey Brin, il co-fondatore di Google. Ha detto che anche lui era un po’ turbato per questo, ha detto Hinton in un’intervista all’epoca.

L’incidente è emblematico della tranquilla influenza di Hinton nel mondo dell’intelligenza artificiale. Il professore 75enne è venerato come uno dei “padrini” dell’intelligenza artificiale grazie al suo lavoro formativo nel deep learning, un’area dell’intelligenza artificiale che ha guidato gli enormi progressi che stanno avvenendo nel settore.

Ma la storia riflette anche la lealtà di Hinton, secondo chi lo conosce meglio. In linea di principio, non ha mai espresso pubblicamente rimostranze istituzionali, etiche e non.

È stata questa convinzione che lo ha portato a dimettersi da vicepresidente e collega di ingegneria presso Google la scorsa settimana, in modo da poter parlare più liberamente delle sue crescenti preoccupazioni sui pericoli dell’intelligenza artificiale per l’umanità.

Il suo collaboratore e amico di lunga data Yoshua Bengio, che ha vinto il Premio Turing insieme a Hinton e Yan-Locun nel 2018, ha detto di aver visto arrivare le dimissioni. “Avrebbe potuto rimanere a Google e parlare, ma il suo senso di lealtà non lo era”, ha detto Bengio.

Le dimissioni di Hinton seguono una serie di rivoluzionari lanci di intelligenza artificiale negli ultimi sei mesi, a partire da ChatGPT basato su Microsoft a novembre e dal chatbot di Google, Bard, a marzo.

Hinton ha espresso preoccupazione per il fatto che la gara tra Microsoft e Google possa portare avanti lo sviluppo dell’intelligenza artificiale senza barriere e regole adeguate.

“Penso che Google sia stato molto responsabile all’inizio”, ha detto in un discorso a un evento EmTech Digital mercoledì, dopo aver annunciato le sue dimissioni. “Una volta che OpenAI aveva creato cose simili con .

Dagli anni ’70, Hinton ha aperto la strada allo sviluppo di “reti neurali”, una tecnologia che tenta di imitare il funzionamento del cervello. Ora supporta la maggior parte degli strumenti e dei prodotti AI che utilizziamo oggi, da Google Translate e Bard a ChatGPT e auto a guida autonoma.

Ma questa settimana, ha riconosciuto le preoccupazioni per il suo rapido sviluppo, che potrebbe portare a disinformazione che inonda il dominio pubblico e l’intelligenza artificiale a usurpare più posti di lavoro del previsto.

“Quello che mi preoccupa è che questo accadrà [make] I ricchi sono più ricchi e i poveri sono più poveri. mentre lo fai. . . “La società sta diventando più violenta”, ha detto Hinton. “Questa tecnologia deve essere eccezionale… viene sviluppata in una società che non è progettata per essere utilizzata a beneficio di tutti”.

Hinton ha anche lanciato l’allarme sulle minacce a lungo termine che i sistemi di intelligenza artificiale rappresentano per gli esseri umani, se alla tecnologia viene data troppa autonomia. Aveva sempre pensato che questo pericolo esistenziale fosse fuori portata, ma recentemente ha resettato il suo pensiero sulla sua urgenza.

“È abbastanza plausibile”, ha detto, “che l’umanità sia uno stadio transitorio nell’evoluzione dell’intelligenza”. Ha aggiunto che la decisione di Hinton di lasciare Google dopo un decennio è stata suggerita da un collega accademico che lo ha convinto a parlarne apertamente.

Nato a Londra, Hinton proveniva da una famosa linea di studiosi. È il pronipote dei matematici britannici Mary e George Boole, l’ultimo dei quali ha inventato la logica booleana, la teoria alla base dell’informatica moderna.

In qualità di psicologo cognitivo, il lavoro di Hinton nell’intelligenza artificiale ha mirato ad approssimare l’intelligenza umana, non solo per costruire la tecnologia AI, ma per far luce sul modo in cui funziona il nostro cervello.

Il suo background significa che “non è la persona più matematica che troverai nella comunità dell’apprendimento automatico”, ha affermato Stuart Russell, professore di intelligenza artificiale presso l’Università della California, Berkeley e un collega accademico presso la Hinton School.

Ha indicato la svolta di Hinton nel 1986, quando ha pubblicato un articolo su una tecnica chiamata “backpropagation”, che ha mostrato come i programmi per computer possono imparare nel tempo.

“È chiaramente una chiave magnetica”, ha detto Russell. “Ma non ha derivato il… controllo come potrebbe fare un matematico. Ha usato la sua intuizione per capire un metodo che avrebbe funzionato.”

Hinton non è sempre stato esplicito in pubblico riguardo alle sue opinioni morali, ma le ha chiarite in privato.

Nel 1987, quando era Professore Associato alla Carnegie Mellon University negli Stati Uniti, decise di lasciare la sua posizione e immigrare in Canada.

Uno dei motivi che ha addotto, secondo Bengio, era morale: era preoccupato per l’uso della tecnologia, in particolare l’intelligenza artificiale, in guerra e gran parte del suo finanziamento proveniva dall’esercito americano.

“Voleva sentirsi bene con i finanziamenti che stava ottenendo e il lavoro che stava facendo”, ha detto Bengio. “Lui e io condividiamo valori sulla società. Che gli esseri umani contano, che la dignità di tutti gli esseri umani è essenziale. E tutti dovrebbero beneficiare dei progressi compiuti dalla scienza”.

Nel 2012, Hinton e i suoi studenti laureati presso l’Università di Toronto, tra cui Ilya Sutskiver, ora co-fondatore di OpenAI, hanno fatto un passo avanti nel campo della visione artificiale. Hanno costruito reti neurali in grado di riconoscere gli oggetti nelle immagini a dimensioni più precise di quanto fosse possibile prima. Sulla base di questo lavoro, hanno fondato la loro prima startup, DNNresearch.

La loro azienda, che non produceva alcun prodotto, è stata venduta a Google per 44 milioni di dollari nel 2013, dopo che un’asta competitiva ha portato l’azienda cinese Baidu, Microsoft e DeepMind a fare offerte per l’esperienza del trio.

Da allora, Hinton ha trascorso metà del suo tempo in Google e l’altra metà come professore all’Università di Toronto.

Secondo Russell, Hinton ha costantemente nuove idee e prova nuove cose. “Ogni volta che aveva una nuova idea, diceva alla fine del suo discorso:” E Questo Come funziona il cervello! “

Quando gli è stato chiesto sul palco se si fosse pentito del lavoro della sua vita, dato che potrebbe aver contribuito alla miriade di danni che ha delineato, Hinton ha detto che ci stava pensando.

“Questa fase [AI] Non era previsto. Fino a poco tempo fa, pensavo che questa crisi esistenziale fosse inverosimile. “Quindi non ho davvero alcun rimpianto per quello che sto facendo.”