Una macchina che cresce. Un figlio in arrivo. E la voglia di piantare comunque.

La lettera di oggi ha due metà: una per la testa, una per il cuore. Leggetele nell’ordine che volete.

Parte prima

La testa

come funziona, spiegato semplice

Coltivato, non costruito

Facciamo un salto nel 1843. Ada Lovelace, matematica inglese e figlia del poeta Byron, studia la Macchina Analitica di Charles Babbage: un enorme calcolatore a ingranaggi, progettato ma mai costruito, antenato dei nostri computer. Molti la considerano la prima programmatrice della storia. Scrive che quella macchina potrebbe tessere «motivi algebrici, come il telaio Jacquard tesse fiori e foglie». Ma mette in guardia: la macchina non crea nulla da sé, fa solo quello che sappiamo ordinarle.

Con i modelli linguistici di intelligenza artificiale, oggi va diversamente. Non scriviamo a mano ogni regola: durante l’addestramento, il modello impara da montagne di testi, regolando miliardi di piccole manopole interne, i «pesi». Dario Amodei, CEO di Anthropic, una delle aziende che sviluppano questi sistemi, li descrive come «cresciuti più che costruiti». Noi mettiamo il traliccio, la forma non la decidiamo tutta noi.

prendi 36
aggiungi 59
scrivi 95

Ieri
fa quello che scriviamo

Oggi
cresce lungo il traliccio, ma dove vuole lei

Il coniglio

I ricercatori di Anthropic hanno provato a seguire un filo dentro Claude 3.5 Haiku, uno dei loro modelli linguistici. Gli danno il primo verso di una rima in inglese: «He saw a carrot and had to grab it» — vide una carota e dovette afferrarla. Deve scrivere il secondo verso: deve avere senso e fare rima con grab it.

Ci aspetteremmo che scriva una parola dopo l’altra e trovi la rima soltanto alla fine. Invece, prima che cominci il secondo verso, nei circuiti osservati dai ricercatori compare già rabbit, coniglio. Il modello costruisce la frase per arrivare proprio lì: «His hunger was like a starving rabbit» — aveva la fame di un coniglio affamato.

Per capire se quell’indizio conta davvero, i ricercatori lo sopprimono. Claude trova un’altra strada e chiude con habit, abitudine: un’altra rima con grab it. Non stanno soltanto osservando il coniglio: provano a toglierlo dal percorso e vedono cambiare la risposta. È un indizio di pianificazione in questo compito, non la prova che il modello pensi come un poeta.

Legge il primo verso: «He saw a carrot and had to grab it»

Prima di scrivere una sola parola, nei suoi circuiti si accende già «rabbit»

Costruisce il verso per arrivarci: «His hunger was like a starving rabbit»

I ricercatori spengono «rabbit»: lui cambia piano e chiude con «habit»

Il punto · Fa piani, e nessuno gliel’ha insegnato. È solo una finestrella su un modello e un compito, ma basta a chiederci quanto capiamo di ciò che abbiamo fatto crescere.

Parte seconda

Il cuore

un figlio, in quale futuro?

Fin qui abbiamo provato a capire che cosa succede dentro una macchina. Ma fuori dalla macchina ci siamo noi, con le nostre vite e le nostre decisioni. Se nessuno sa con certezza dove ci porterà questa tecnologia, come si fa a guardare avanti? E, soprattutto, come si fa a mettere al mondo un figlio?

È da questa preoccupazione che nasce The AI Doc: Or How I Became an Apocaloptimist, il documentario diretto da Daniel Roher e Charlie Tyrell. Roher sta per diventare padre e cerca di capire quale mondo erediterà suo figlio. Per farlo incontra chi sviluppa l’intelligenza artificiale, chi ne vede le possibilità e chi teme le conseguenze. La sua non è soltanto un’indagine sulla tecnologia: è il viaggio di un futuro padre in cerca di una risposta.

«Avresti un figlio oggi, con l’intelligenza artificiale che arriva?»
È la domanda che attraversa il film. Le voci degli intervistati offrono risposte e prospettive diverse.

Eliezer Yudkowsky · autore e ricercatore sui rischi dell’AI

No. Non in questo futuro.

Dario Amodei · guida Anthropic, l’azienda che sviluppa Claude

«Sono sicuro che andrà tutto bene? No, non lo sono.» Però consiglia di fare quello che avresti fatto comunque.

Sam Altman · guida OpenAI, l’azienda che sviluppa ChatGPT

È diventato padre da poco anche lui. Si fanno gli auguri davanti alla telecamera, e Altman ammette che sì, fa paura.

Gli ottimisti

È il momento migliore della storia per nascere.

Reid Hoffman · cofondatore di LinkedIn e investitore tecnologico

«Facciamo progressi solo quando abbiamo speranza.»

Anch’io sto per diventare padre, per la seconda volta. Per questo non guardavo quelle conversazioni soltanto per capire l’intelligenza artificiale. Cercavo anch’io qualcosa da portare a casa: non la certezza che andrà tutto bene, ma un modo per stare dentro questa incertezza.

Nessuno, nemmeno chi queste macchine le costruisce, sa dire come andrà. Da qui viene la parola del titolo: apocalottimista, metà apocalisse e metà ottimismo.

La risposta più saggia, alla fine, non gliela dà nessun esperto. Gliela danno i suoi genitori, che hanno messo su famiglia in piena Guerra fredda: un momento perfetto per fare figli, forse, non c’è mai stato.

Ogni epoca ha avuto le sue nubi dense e i suoi sprazzi d’azzurro. La guerra, la fame, le epidemie, la bomba. E ogni volta si è continuato a fare figli, per speranza più che per incoscienza. Quei bambini cresciuti con la paura della bomba sono, in parte, quelli che oggi costruiscono le macchine di cui abbiamo paura.

Un pensiero a margine

Domenica scorsa vi ho lasciati con una domanda: quando la tecnologia diventerà parte di noi, chi saremo? Credo che succederà, è inevitabile. Forse la risposta è quella di sempre: saremo quello che coltiviamo.

Anche un figlio è coltivato, non costruito. Gli diamo un traliccio, le parole della buonanotte, un modo di stare al mondo, e poi cresce dove vuole. Un giorno ci dirà una cosa che non gli abbiamo mai insegnato, e ci sembrerà un po’ un estraneo. Il nostro estraneo.

C’è un vecchio proverbio: si piantano alberi alla cui ombra non ci si siederà mai. Essere apocalottimisti, per me, vuol dire questo: avere paura, e piantare comunque.

Giovanni

Un grazie a Daddy Batman per l’aiuto nella redazione di questa lettera.

A breve, ogni lunedì, pubblicherò su Substack la versione lunga, con più storie, spiegazioni e fonti. Seguimi su Substack

Apocalottimisti

Ti è piaciuto?