Recensione del libro: “La teoria letteraria dei robot” di Dennis Yee Tennen

Teoria letteraria per i robot: come i computer hanno imparato a scrivereScritto da Dennis Yee Tinen

In The Literary Theory of Robots, un nuovo libro giocoso di Dennis Yi Tinen sull’intelligenza artificiale e su come i computer hanno imparato a scrivere, uno dei suoi esempi più potenti si presenta sotto forma di un piccolo errore.

Tennen traccia collegamenti tra i moderni chatbot, i generatori di trame di fantascienza, gli antichi dizionari e le ruote delle profezie medievali. Entrambi gli utopisti (I robot ci salveranno!)) e i pessimisti (I robot ci distruggeranno!) Sostiene. Ci sarà sempre un aspetto umano irriducibile al linguaggio e all’apprendimento, un nucleo cruciale del significato che emerge non solo dalla sintassi ma dall’esperienza. Senza di esso non si ottiene altro che il chiacchiericcio dei pappagalli che, “secondo Cartesio nelle sue Mediazioni, è semplicemente una ripetizione senza comprensione”, scrive Tennen.

Ma Cartesio non ha scritto “Mediazioni”; Tenen deve aver significato “riflessioni”: la “t” mancante supererebbe qualsiasi software di controllo ortografico perché entrambe le parole sono perfettamente legittime. (L'indice del libro elenca correttamente il titolo.) Questo semplice errore di battitura non ha alcuna relazione con l'argomentazione di Tennen; Se non altro, rafforza la tesi che vuole sostenere. Le macchine stanno diventando più forti e più intelligenti, ma stiamo ancora decidendo cosa è significativo. L'uomo ha scritto questo libro. E nonostante i robot nel titolo, è pensato per essere letto da altri umani.

Tennen, ora professore di inglese e letteratura comparata alla Columbia University, era un ingegnere informatico presso Microsoft. Usa le sue disparate competenze in un libro che è sorprendente, divertente e per niente spaventoso, anche se elude grandi domande sull'arte, l'intelligenza, la tecnologia e il futuro del lavoro. Penso che la piccola dimensione del libro – meno di 160 pagine – sia parte del punto. Le persone non sono macchine instancabili, che assorbono incessantemente grandi quantità di vasti argomenti. Tennen ha scoperto come presentare una rete di idee complesse a livello umano.

A tal fine, racconta storie, iniziando con lo studioso arabo del XIV secolo Ibn Khaldun, che registrò l'uso della Ruota della Profezia, e terminando con un capitolo sul matematico russo del XX secolo Andrei Markov, che analizzò le contingenze della lettera sequenze di “Eugene Onegin” di Pushkin. Costituisce un elemento fondamentale dell'intelligenza artificiale generativa (i giocatori abituali di Wardell avvertono continuamente tali possibilità). Tennen scrive delle barriere tecnologiche che hanno ostacolato i precedenti modelli di apprendimento informatico, prima che “la forza bruta fosse necessaria per sfruttarli”. “Tutto ciò che è stato pubblicato in inglese è stato facilmente elaborato. Ci esorta a essere vigili. Ci esorta anche a non farci prendere dal panico.

“L’intelligenza si sta evolvendo su larga scala, dall’assistenza parziale all’automazione completa”, ha scritto Tennen, facendo l’esempio di una trasmissione automatica in un’auto. Guidare un'auto automatica negli anni '60 deve essere stato fantastico per le persone abituate alle trasmissioni manuali. Il cambio automatico funziona automatizzando le decisioni chiave, scalando marcia in salita e inviando meno potenza alle ruote in caso di maltempo. È stata rimossa l'opzione per fermare o macinare gli ingranaggi. Era “artificialmente intelligente”, anche se nessuno usava quelle parole per descriverlo. Adesso gli automobilisti americani danno per scontato il suo fascino. Questo è stato demistificato.

Per quanto riguarda gli attuali dibattiti sull’intelligenza artificiale, questo libro tenta anche di demistificarli. Invece di parlare dell’intelligenza artificiale come se avesse una mente propria, Tennen parla del lavoro collaborativo necessario per costruirla. “Utilizziamo una stenografia cognitiva e linguistica condensando e attribuendo la tecnologia stessa”, scrive. “È più facile a dirsi”il telefono Completa i miei messaggi con “invece di”Il team di ingegneri dietro il software per scrivere lo strumento di completamento automatico si basa sulle seguenti dozzine di documenti di ricerca Completa i miei messaggi.

Le nostre metafore comuni per l’intelligenza artificiale sono quindi fuorvianti. Tennen sostiene che dovremmo essere scettici nei confronti di tutte le metafore che attribuiscono all’intelligenza artificiale aspetti cognitivi umani familiari. Una macchina pensa, parla, spiega, capisce, scrive, sente ecc. solo per analogia. Questo è il motivo per cui gran parte del suo libro ruota attorno a questioni di linguaggio. La lingua ci permette di comunicare e capirci. Ma consente anche inganni e incomprensioni. Tennen vuole che “eliminiamo la metafora” dell’intelligenza artificiale, un suggerimento che a prima vista potrebbe sembrare l’hobby di un professore inglese ma che si rivela del tutto appropriato. Una metafora troppo generale può renderci compiacenti. Il nostro senso di possibilità è modellato dalle metafore che scegliamo.

I generatori di testo, sia sotto forma di chatbot del 21° secolo che di “messaggi magici” del 14° secolo, hanno sempre affrontato il problema della “verifica esterna”, scrive Tennen. “Il testo generato proceduralmente può avere un senso grammaticale, ma potrebbe non avere sempre senso senso senso.” Prendiamo il famoso esempio di Noam Chomsky: “I pensieri verdi e incolori dormono ferocemente.” Chiunque abbia vissuto nel mondo materiale saprebbe che questa frase grammaticalmente impeccabile non ha senso. Tennen prosegue sottolineando l'importanza dell '”esperienza vissuta” perché che descrive la nostra condizione.

Tennen non nega che l’intelligenza artificiale minacci gran parte di ciò che chiamiamo “lavoro cognitivo”. Inoltre, non si può negare che automatizzare qualcosa ne riduce anche il valore. Ma lo dice anche in un altro modo: “L’automazione abbassa le barriere all’ingresso e aumenta l’offerta di beni per tutti”. L’apprendimento è ora più economico, quindi avere un ampio vocabolario o un repertorio di fatti memorizzati non è più il vantaggio competitivo di una volta. “Gli scribi e gli studiosi di oggi possono mettersi alla prova con compiti più creativi”, suggerisce. “I compiti noiosi vengono affidati alle macchine.”

Sono d’accordo con il suo punto, anche se la prospettiva mi sembra ancora terribile, con un segmento sempre più ridotto della popolazione che svolge lavori creativi impegnativi mentre un ecosistema un tempo fiorente crolla. Ma Tennen sostiene anche che noi, come esseri sociali, abbiamo il potere di agire, ma solo se permettiamo a noi stessi di accettare la responsabilità che ne deriva. Riconosce che “l’intelligenza artificiale individuale rappresenta un pericolo reale, data la sua capacità di accumulare potere nel perseguimento di un obiettivo”. Ma il vero pericolo deriva “dalla nostra incapacità di ritenere i produttori di tecnologia responsabili delle loro azioni”. Cosa accadrebbe se qualcuno volesse collegare un motore a reazione a un'auto e vedere come funziona bene nelle strade di una città affollata? La risposta è chiara: “Non farlo”, dice Tennen.

Perché “non farlo” può sembrare facile in un campo, ma in un altro non richiede più riflessione, più precisione, più controllo – tutte qualità che cadono nel dimenticatoio quando ci inchiniamo all'intelligenza artificiale, trattando la tecnologia come un divinità unica Invece di essere un dio. Molte macchine costruite da un gran numero di persone. Tenen dà l'esempio, usando la sua intelligenza umana per influenzare l'intelligenza artificiale. Riflettendo sulle nostre abitudini di pensiero collettive, offre una riflessione tutta sua.

Teoria letteraria dei robot: Come hanno imparato i computer a scrivere? | Scritto da Dennis Yee Tinen | Norton | 158 pag. | $ 22