L’intelligenza artificiale l’abbiamo preparata noi

1 – L’intelligenza artificiale non è caduta dal cielo

Quando parliamo di intelligenza artificiale, spesso la raccontiamo come se fosse un visitatore arrivato improvvisamente dal futuro. Una potenza estranea avrebbe fatto irruzione nella nostra vita e ora noi dovremmo capire come difenderci, adattarci oppure approfittarne.

Ma l’intelligenza artificiale non è caduta dal cielo. Il terreno sul quale cresce l’abbiamo preparato noi umani. Lo abbiamo fatto costruendo una realtà sempre più vasta, veloce, interconnessa e soprattutto complessa: una realtà che, a un certo punto, non siamo più riusciti a governare con le sole facoltà umane.

Abbiamo moltiplicato norme, procedure, dati, messaggi, piattaforme, adempimenti e possibilità. Poi, davanti alla massa che noi stessi avevamo prodotto, abbiamo domandato alle macchine di aiutarci a ritrovare un ordine. In questo senso l’intelligenza artificiale non è soltanto un’invenzione: è anche la risposta a un problema creato da noi.

2 – Abbiamo superato la nostra capacità di comprendere

La complessità non è necessariamente un male. Un organismo vivente è complesso, una società libera è complessa, una cultura ricca è complessa. Il problema nasce quando la complessità smette di essere feconda e diventa opaca: nessuno vede più l’insieme, ciascuno conosce soltanto un frammento e ogni decisione dipende da una catena di sistemi che quasi nessuno comprende fino in fondo.

È accaduto gradualmente. Ogni nuova regola poteva sembrare ragionevole. Ogni nuovo modulo prometteva precisione. Ogni nuova applicazione doveva farci risparmiare tempo. Eppure il risultato cumulativo è spesso un ambiente nel quale occorre studiare la procedura necessaria persino per compiere un gesto semplice.

La tecnica diventa allora indispensabile non perché l’essere umano sia diventato meno intelligente, ma perché l’ambiente che ha costruito eccede la quantità di informazioni che può tenere insieme. È la stessa ragione per cui oggi vale ancora la pena studiare: non per competere con una macchina nella velocità, ma per sapere che cosa chiederle, riconoscere quando sbaglia e decidere dove vogliamo andare.

3 – Nel diritto la contraddizione diventa evidente

Il campo legale mostra questa dinamica con una chiarezza quasi brutale. Il diritto dovrebbe permettere alle persone di conoscere le regole della convivenza, prevedere le conseguenze delle proprie azioni e ottenere giustizia. Ma quando norme, interpretazioni, eccezioni, prassi, scadenze e strumenti digitali si accumulano senza una vera opera di semplificazione, il sistema diventa difficilmente leggibile persino per chi vi lavora ogni giorno.

L’avvocato deve cercare tra enormi quantità di provvedimenti, coordinare fonti di livello diverso, controllare modifiche continue e utilizzare procedure telematiche che a loro volta richiedono manuali, credenziali e aggiornamenti. In un contesto simile l’intelligenza artificiale appare quasi inevitabile: può riordinare documenti, confrontare testi, sintetizzare materiali e aiutare a individuare ciò che una persona, da sola, faticherebbe a trovare in tempo utile.

Non è un caso che il regolamento europeo sull’intelligenza artificiale riservi una particolare attenzione ai sistemi impiegati nell’amministrazione della giustizia. Quando una macchina può influire sulla libertà, sui diritti o sulla sorte concreta di una persona, efficienza e comodità non bastano.

La domanda decisiva, però, viene prima della tecnologia: perché abbiamo lasciato che il diritto diventasse così complicato da aver bisogno di una macchina per essere attraversato?

4 – Il rimedio può aggravare la malattia

L’intelligenza artificiale può aiutarci a gestire la complessità, ma può anche moltiplicarla. Se la usiamo per produrre in pochi secondi nuovi documenti, nuove regole, nuove comunicazioni e nuove contestazioni, aumentiamo ulteriormente la massa che dovrà essere letta, verificata e archiviata.

È un paradosso importante: inventiamo uno strumento per non affogare nei testi e poi lo usiamo per generare ancora più testi. Automatizziamo una procedura senza domandarci se quella procedura abbia ancora senso. Rendiamo rapidissimo un passaggio che forse andrebbe eliminato.

La stessa cosa avviene fuori dal diritto. Nel lavoro l’IA può smistare la posta che altre automazioni hanno contribuito a moltiplicare. Nei servizi può guidarci attraverso regole che nessuno ha avuto il coraggio di rendere semplici. Nella vita quotidiana può riassumere il flusso di contenuti prodotto da piattaforme progettate per non lasciarci mai in pace.

La macchina diventa così la cura di una malattia che, se usata senza giudizio, continua ad alimentare. È per questo che la tecnologia dovrebbe adattarsi alle persone, come ricordavo parlando della fabbrica che segue il ritmo umano, e non costringerle a inseguire un’accelerazione senza fine.

5 – Prima di automatizzare, bisogna semplificare

Davanti a un sistema ingestibile, la prima domanda non dovrebbe essere: «Come possiamo automatizzarlo?». Dovrebbe essere: «Di quali parti possiamo fare a meno?».

Semplificare non significa impoverire. Significa distinguere l’essenziale dall’accessorio, eliminare le duplicazioni, scrivere in modo comprensibile, ridurre i passaggi che non proteggono davvero nessuno. È un lavoro politico, giuridico, organizzativo e anche spirituale, perché obbliga a scegliere. E scegliere significa rinunciare all’illusione di poter conservare tutto.

L’IA può collaborare a questa opera, ma non può stabilire da sola che cosa meriti di rimanere. Può mostrarci ricorrenze, contraddizioni e sprechi; non può decidere quale idea di giustizia, di lavoro o di vita vogliamo servire. L’efficienza risponde alla domanda «come?». Il senso risponde alla domanda «perché?». Confondere le due cose significa consegnare alla macchina una responsabilità che resta nostra.

6 – Più potente è lo strumento, più necessaria è la persona

Nel diritto non basta che una risposta sia plausibile. Deve essere corretta, verificabile, pertinente al caso concreto e assunta da qualcuno che ne risponda. Un sistema generativo può produrre un testo molto convincente anche quando ricostruisce male una fonte o riempie un vuoto con un’invenzione verosimile.

Per questo l’uso maturo dell’intelligenza artificiale non diminuisce il valore della competenza: lo aumenta. Chi conosce davvero una materia sa porre domande migliori, controllare i risultati, cogliere ciò che manca e interrompere il processo quando la risposta automatica rischia di danneggiare una persona.

La Carta etica europea per l’IA nei sistemi giudiziari insiste proprio su diritti fondamentali, non discriminazione, qualità e sicurezza, trasparenza e controllo da parte dell’utilizzatore. La formula più importante è forse quest’ultima: la persona deve restare un soggetto informato, capace di scegliere. Non un passeggero trasportato da un algoritmo che nessuno sa più interrogare.

7 – L’intelligenza artificiale è uno specchio

L’IA ci mette davanti a ciò che abbiamo costruito. Se il nostro mondo è dominato dall’ansia di produrre, essa produrrà di più. Se è governato dalla burocrazia, essa renderà la burocrazia più veloce. Se premia la sorveglianza, essa sorveglierà meglio. Ma se noi scegliamo chiarezza, accessibilità, ascolto e misura, può diventare uno strumento potente al servizio di queste qualità.

Per questo non credo che la questione centrale sia essere a favore o contro l’intelligenza artificiale. La questione è diventare più consapevoli della società e della vita per le quali la stiamo preparando. Una tecnologia così potente amplifica la direzione già presente: non ci dispensa dal decidere quella direzione.

Forse il compito più urgente non è insegnare alle macchine a somigliarci. È tornare noi a essere responsabili di ciò che costruiamo, smettendo di chiamare «inevitabile» il risultato delle nostre scelte. Il terreno lo abbiamo preparato noi. E possiamo ancora coltivarlo in modo diverso.

8 – Un video per continuare

Nel canale YouTube di Terre dell’anima trovi anche questa breve riflessione sui confini che è bene non delegare alla tecnologia:

• Non usare le AI per le situazioni spirituali.

9 – Quando la complessità diventa un peso personale

La complessità non vive soltanto nei codici e nelle organizzazioni: spesso entra nella tua giornata, affolla i pensieri e rende difficile distinguere ciò che conta da ciò che può essere lasciato andare. Se senti il bisogno di ritrovare chiarezza, chiamami allo 059 761926 per fissare un primo incontro di counseling; l’incontro può svolgersi anche a distanza.

Se vuoi continuare questa conversazione, iscriviti a Terre dell’anima per ricevere i prossimi articoli.

E tu, dove senti che la complessità ha ormai superato la misura umana? Raccontamelo nei commenti.