Non vi resta che decidervi: “occorre procedere per vie legali”. Ma quali? Innanzitutto sarebbe bene farsi una idea di cosa significa procedere per vie legali. vi recate dunque nel palazzo del Comune del vostro municipio dove vi hanno detto che esistono due strumenti nuovi di orientamento del cittadino. Uno sportello di triage, dove un esperto vi spiega quali sono le conseguenze di una eventuale causa e un monitor touch screen che, una volta inseriti i dati, vi fornisce una informazione elaborata con un calcolo fatto a partire da una ampia base di dati, quali i costi medi di un procedimento contenzioso civile in materia divorzile, quali gli esiti dal punto di vista del range medio di assegni divorzili, quale la percentuale di accordi raggiunti in casi come il vostro attraverso la via non contenziosa, con la negoziazione assistita. Cosa preferite?

Per godervi in santa pace il viaggio che avete atteso da mesi decidete di coprire tutto il pacchetto vacanze vostro e della vostra famiglia con una assicurazione il cui premio copra almeno i più frequenti inconvenienti. Una volta raggiunta la meta della vacanza vi rendete conto che cio’ che vi viene offerto non corrisponde in alcun modo a quanto acquistato: siete stati truffati. Non vi resta che chiedere un risarcimento. L’assicurazione vi propone due possibili soluzioni: aprire una controversia con la agenzia che vi ha venduto il pacchetto oppure mediare e trovare una transazione conveniente sulla base di una valutazione fatta da un algoritmo sul costo medio dell’opportunità perduta e quindi sulla somma di risarcimento che in casi come il vostro viene dato. Cosa scegliete?

Potremmo continuare con gli esempi all’infinito. Il punto pero’ non è tanto quale sia la risposta, quanto invece quali siano le ragioni che vi spingono a preferire una opzione oppure l’altra, ossia a preferire una strada dove sarete coadiuvati da esperti ad una strada dove sarete coadiuvati da esperti automatizzati, macchine o dispositivi automatizzati o viceversa.

Il dilemma “uomo- macchina” non è certo nuovo nel panorama sociale, culturale e politico della modernità. Cosa c’è di nuovo oggi? Di nuovo c’é la disponibilità di dati, dati in formato digitale, provenienti dalle fonti più disparate, che possono essere estratti, codificati, aggregati, analizzati, letti e usati per costruire informazioni le quali, se considerate dalle persone o dalle organizzazioni come significative, possono diventare conoscenza capace di orientare le azioni. Di nuovo c’è la forza computazionale straordinariamente aumentata ed esponenzialmente esplosa con la dotazione tecnologico e informatica sottesa e sviluppata o utilizzata da attori dominanti sul mercato.

Ed è proprio per questo che occorre riportare – quando si fanno delle scelte di ordine generale, che toccano, modificandole o rafforzandole, le garanzie – il baricentro sulle persone e su cio’ che i cittadini chiedono. Perché e fino a che punto le persone si fiderebbero di un meccanismo impersonale ( come l’automazione), regolare ( come l’automazione), che si basa su procedure prevedibili ( come l’automazione), ma che ( diversamente dalla automazione e dell’intelligenza artificiale) sono attivate da altre persone, che svolgono quella funzione perché esperti o perché rappresentanti di istituzioni, o ancora perché depositari di una competenza che non si circoscrive alla capacità di risolvere problemi, ma comprende soprattutto la capacità di inquadrare bene la domanda che è all’origine del problema.

Cosa chiede la persona che vuole il risarcimento per il viaggio fantasma? Un viaggio di compensazione – bonus – un risarcimento in denaro per comprare altri beni, un riconoscimento del torto subito – per ovviare alla brutta figura fatta visto che quel viaggio era un regalo offerto alla famiglia? Cosa cerca la persona che decide di procedere per vie legali in caso di dissidi familiari? Una sede dove vedere riconosciuti i torti subiti, una soluzione stabile per assicurare un futuro di crescita ragionevolmente solido ai figli o una possibilità di investire sulla propria professionalità perché dovrà occuparsi dei figli minori e quindi cercare un migliore lavoro?

In paesi dove il sistema delle professionalità viene poco capito o poco valorizzato, dove la fiducia nelle procedure che si attivano solo con persone e non sono automatizzate è in diminuzione, il fascino dell’intelligenza artificiale diventa una tentazione sostitutiva. È sul potenziale sostituivo che occorre riflettere, non tanto perché nei dispositivi che si avvalgono di automazione e uintelligenza artificiale ci sono “delle distorsioni, delle discriminazioni, delle imperfezioni”. Non è nella comparazione 1 a 1 che si deve porre la questione del rapporto uomo macchina.

Di certo non nel settore del diritto e dello Stato di diritto. Nessuna macchina, nessuno strumento automatico potrà mai da solo comprendere nel suo funzionamento anche i valori e principi che sono necessari a valutare la accettabilità sociale del suo operato. Nemmeno se glieli insegniamo by design: anche se fosse perfettamente progettato, spetterebbe sempre al cittadino, ossia a chi è detentore di responsabilità, l’ultima parola su quali valori e quale combinazione di valori e principi debba dare forma a quella che viene sentita come una società giusta.

Dove stanno allora i limiti e dove le norme a cui ispirarsi? Nella costituzione e soprattutto nelle funzioni che, rese vive da persone, permettono in ogni situazione in cui un cittadino si trova dinnanzi al potere, di avere la certezza che entrambe le parti del contendere avranno voce, anche se poi decideranno – ma lo devono decidere in una dialettica contraddittoria – di avvalersi anche di un consulto algoritmico, tratto dalla analisi di basi di dati massivi. Non viene mai fatto il nesso fra il dibattito sul ruolo delle funzioni di cui CNF e CSM sono istanze rappresentative e di governo e la necessità di estendere anche agli agenti automatizzati o semi- automatizzati la riflessione e la progettazione di un modello di governance della democrazia che assicuri sempre due parti e la loro dialettica.

Dentro a questo perimetro ha senso inserire anche dispositivi automatizzati: essi saranno cosi’ oggetto di una dialettica nel processo e fuori dal processo. Insomma la società digitale non resta democratica e costituzionalmente conforme se si insegna alle macchine il diritto, ma se si posizionano le macchine e chi le costruisce, in un solido, non pregiudicabile e non contendibile spazio la cui costituzione prevede un funzionamento basato su egualmente sancite parti di un contraddittorio.