Giovanni Perani — Manifesto
Manifesto AI.I miei dieci principi.
Apocalottimista
Entusiasta del progresso. Umano, anche nel futuro.
Amo lo sviluppo tecnologico. Mi entusiasma ciò che permette di scoprire, costruire e rendere possibile. Dell’intelligenza artificiale mi affascina soprattutto la promessa di superare limiti che sembravano inevitabili. Ma ho paura che, mentre le macchine acquistano capacità, le persone rinuncino a esercitare le proprie.
Questa tensione ha un nome: apocalottimismo. La convinzione che valga la pena partecipare al futuro, senza ignorarne i rischi. È da qui che parto, e da qui nasce anche A margine, la mia lettera della domenica. Questo manifesto parte da una domanda: come accompagnare lo sviluppo dell’intelligenza artificiale senza perdere la nostra umanità?
I dieci punti
Possibilità
Il progresso deve ampliare le possibilità umane
La ricerca e la sperimentazione meritano spazio, anche quando il loro valore non è immediatamente misurabile. L’AI dovrebbe aprire possibilità di conoscenza, cura, creazione e iniziativa. Il suo successo va valutato anche attraverso ciò che rende accessibile a persone che prima ne erano escluse.
Dignità
La dignità umana non dipende dalle prestazioni
Il valore di una persona non può essere misurato dalla sua superiorità rispetto a una macchina. Nessuno diventa meno degno perché un sistema è più rapido, preciso o produttivo. Fragilità, lentezza e bisogno di aiuto non sono difetti da eliminare per meritare un posto nel futuro.
Intelligenza
L’intelligenza va coltivata anche quando può essere assistita
L’AI dovrebbe sostenere l’apprendimento e favorire l’autonomia di chi la usa. Delegare un compito può essere utile; perdere la capacità di comprenderlo richiede attenzione. La formazione deve conservare spazio per l’esercizio, l’errore e la scoperta personale, anche quando una risposta è già disponibile.
Dissenso
Il dubbio e il dissenso devono restare possibili
Una risposta convincente deve poter essere interrogata. Fonti, ipotesi e alternative devono restare accessibili quando una conclusione conta. Un sistema che conferma ogni preferenza rischia di rendere più comodo il pensiero, senza renderlo migliore. Il confronto deve poter mettere in discussione anche chi formula la domanda.
Tempo
Il tempo liberato deve migliorare la vita
L’efficienza acquista valore quando restituisce possibilità alle persone. Il tempo risparmiato dovrebbe poter diventare attenzione, studio, riposo, cura e partecipazione. Se ogni attività accelerata produce soltanto un nuovo obbligo, il beneficio dell’automazione resta incompleto. Una parte del progresso deve potersi vivere fuori dal lavoro.
Relazioni
Le relazioni umane meritano spazio e protezione
L’AI può aiutare a comunicare e offrire sostegno, senza diventare un pretesto per ridurre la presenza delle persone. La disponibilità di un interlocutore artificiale non deve giustificare l’abbandono di chi ha bisogno di assistenza o compagnia. Ogni interazione deve rendere riconoscibile la natura umana o artificiale dell’interlocutore.
Responsabilità
Ogni delega deve conservare una responsabilità riconoscibile
L’autonomia dei sistemi deve essere accompagnata da limiti, verifiche e possibilità d’intervento proporzionati alle conseguenze. Il controllo umano deve poter essere esercitato davvero, con competenze e tempo adeguati. Chi affida un’attività a una macchina deve restare disponibile a rispondere delle scelte compiute.
Libertà di scelta
Le persone devono poter contestare e cambiare strada
Chi subisce gli effetti di una decisione deve poter chiedere spiegazioni, ottenere una revisione e rivolgersi a un responsabile. La libertà richiede anche alternative praticabili: cambiare fornitore, recuperare il proprio lavoro, proteggere i propri dati. La comodità iniziale non deve trasformarsi in una dipendenza senza uscita.
Benefici e costi
Benefici e costi devono essere resi visibili
L’adozione dell’AI deve considerare chi riceve il vantaggio e chi sostiene il costo, compresi gli effetti sul lavoro, sull’ambiente e sulla distribuzione del potere. Imprese e istituzioni devono accompagnare le trasformazioni con formazione e tutele concrete. La responsabilità del cambiamento non può essere scaricata soltanto su chi ha meno strumenti per affrontarlo.
Partecipazione
Il futuro richiede partecipazione, non rassegnazione
Né la fiducia nel progresso né la paura dei suoi rischi dispensano dall’agire. Lo sviluppo tecnologico deve restare aperto al confronto, alla correzione e, quando necessario, all’interruzione di una strada sbagliata. La speranza prende forma nella ricerca, nelle scelte di progetto e nella cura delle conseguenze.
La chiusura
Essere apocalottimisti significa
avere paura, e piantare comunque.
Giovanni Perani