Pericoli e opportunità derivanti dall’AI ci sono, va prestata attenzione
L’intelligenza artificiale possiede un patrimonio di dati pressoché infinito che permette di fare scelte rapide e mirate. Per esempio, se desidero mangiare un alimento con determinate caratteristiche nutrizionali, posso chiedere a un sistema di intelligenza artificiale (AI) quali siano i cibi o le ricette più adatte e ricevere in pochi secondi una selezione che risponde esattamente alle mie esigenze. Certo, potremmo anche metterci noi a consultare enciclopedie e manuali, ma con l’intelligenza artificiale il processo viene drasticamente semplificato e si arriva subito alle soluzioni ricercate.
C’è, però, anche un lato negativo. Le aziende conoscono molto bene questi strumenti e rischiano di utilizzarli per orientare i consumatori verso prodotti manipolati e tutt’altro che naturali. Pensiamo al settore del biologico: in teoria, se mangio davvero “bio”, ogni frutto dovrebbe essere diverso dall’altro, perché in natura non esiste l’uniformità assoluta. Il limite dell’intelligenza artificiale rispetto alla vita reale sta proprio qui: tende a omologare le risposte, a proporre un modello unico valido per tutti. Si finisce così col pensare che quel cibo contenga sempre quelle precise sostanze, ma non è affatto detto. Dipende dall’alimento che io ho sul piatto, non da quello analizzato a campione. Il rischio è che, nel tentativo di avere sempre lo stesso standard, si arrivi a cibi sintetici.
Pensare che l’intelligenza artificiale possa gestire la nostra spesa dicendoci di quanta vitamina o di quale minerale abbiamo bisogno e quindi quale alimento scegliere, è una forzatura. In natura questo non esiste, perché ogni persona è diversa e ogni cibo è diverso. L’omologazione che può fare l’intelligenza artificiale diventa estremamente pericolosa. Io devo mangiare quello che serve a me, non quello che un algoritmo stabilisce in base a valori standardizzati. Quando scelgo un cibo, devo sentirmi appagato. Non solo io, ma anche i miei batteri devono esserlo, perché nel nostro corpo ci sono infiniti sistemi di regolazione che spingono verso certe scelte.
Quello che spaventa dell’intelligenza artificiale è pensare a un futuro in cui, varcando la porta di un ristorante, veniamo immediatamente scannerizzati. Il sistema confronta i nostri dati con la cartella clinica e con lo storico della nostra salute. A quel punto ci dice che cosa possiamo o non possiamo mangiare: “Tu puoi ordinare solo questa pasta, perché tutto il resto ti fa male”. Arrivare a una situazione simile? Speriamo davvero che non accada. Ma il rischio che la direzione sia questa esiste, perché ci stiamo spingendo sempre più verso una selezione forzata di ciò che è ritenuto “sano”.
Non vogliamo trovarci costretti a mangiare quello che un algoritmo ha deciso per noi, ma il punto è proprio questo: l’intelligenza artificiale sarà anche veloce e potentissima, ma resta pur sempre un “sistema” privo di anima. Non può essere considerata davvero “intelligente”. In italiano il termine intelligenza viene dal latino intelligere, cioè “leggere tra le righe”, comprendere il non detto, il non scritto, interpretare ciò che sfugge alla superficie. E questa capacità un computer non ce l’avrà mai, nemmeno con l’auto-apprendimento. Non potrà mai capire i desideri profondi. Certo, potrà avere una memoria quasi illimitata, una rapidità impressionante, ma si tratta pur sempre di memoria, non di comprensione. Pensiamo a quello che già oggi succede: ci sono super computer ai quali, da anni, vengono caricati praticamente tutti i lavori scientifici pubblicati dal 1960 in poi. Stanno imparando la medicina, elaborando cure a partire da quei dati. E qui nasce un problema enorme: chi ci assicura che i dati immessi siano veri? Perché se inserisco nel sistema informazioni false, incomplete o manipolate, il computer inevitabilmente elaborerà cure sbagliate. Non solo: gli errori possono derivare da ingenuità, ma spesso anche da malafede. E allora il rischio è quello di costruire una logica apparentemente rigorosa, ma basata su un database falsificato.
Quello che va detto con chiarezza è che circa quindici anni fa, ma purtroppo da allora non è cambiato nulla, il Congresso americano convocò i direttori editoriali dei quattro giornali scientifici più prestigiosi: Lancet, JAMA, Science e Nature. Davanti al Parlamento, sotto giuramento, dichiararono che il 70% di ciò che veniva pubblicato era falso. E noi dovremmo basare le nostre cure su un’intelligenza artificiale che si nutre di dati provenienti da lavori in gran parte falsi? È una prospettiva che lascia sgomenti. È giusto credere nella scienza, ma non accettare acriticamente tutto ciò che viene spacciato per tale.
L’intelligenza artificiale è uno strumento che può produrre elaborazioni e scritti in modo rapidissimo. Ma quello che genera va poi analizzato dall’Uomo, con i suoi occhi e con la sua capacità critica, per capire se ha una logica o se invece è una sciocchezza. Perché se i dati di partenza sono sbagliati, se le informazioni inserite sono scorrette, il risultato non può che essere sbagliato. Non importa quanto raffinato sia l’algoritmo: se la base è falsa, il risultato sarà falso. Il risultato dell’AI, specie in sanità, va valuto personalmente. L’Uomo ha gli strumenti per capire se è sensato o no. Il problema si pone per i più giovani, ai quali viene consegnata una libertà enorme e un potere immenso, ma senza fornire le basi critiche per utilizzarli. Non basta essere intelligenti, bravi o preparati: la capacità critica non si costruisce in cinque minuti, richiede tempo, studio, basi solide.
Oggi viviamo una fase di “analfabetismo funzionale”. I dati ufficiali lo confermano: il 70% delle persone non comprende ciò che legge. Non riesce a interpretare un testo, non va oltre le conclusioni, e di conseguenza si limita a seguire in modo acritico ciò che gli viene detto. Questo lo dicono le statistiche. È un dato allarmante, perché stiamo diventando una società incapace di ragionare, pur essendo sommersa da informazioni. Qui sta la differenza fondamentale tra conoscenza e intelligenza.
L’intelligenza artificiale va, quindi, regolamentata da una normativa chiara e precisa. Dal punto di vista della salute, la pericolosità è evidente. Eppure, allo stesso tempo, questo strumento potrebbe permetterci di semplificare tante pratiche inutilmente complicate che ci fanno perdere tempo e ci stressano. Lasciamo pure, infatti, all’intelligenza artificiale la burocrazia. Ma la parte decisionale, quella che richiede ragionamento deve restare all’Uomo.
Attenzione che togliere le radici per manipolare il futuro è catastrofico. Non esiste una persona uguale a un’altra, non esiste un’alimentazione identica, non esiste lo stesso vissuto, lo stesso livello di stress, lo stesso bagaglio genetico. Non c’è niente di uguale. Ogni persona è diversa dall’altra, non esiste l’uomo clone identico. Con l’intelligenza artificiale si cerca in tutti i modi di fare un’omologazione terapeutica. Ed è pericoloso.
Daniele Damele, Presidente Fasi
Luciano Lozio, Farmacologo e Divulgatore scientifico
