L’intelligenza artificiale (IA) penetra sempre di più nelle decisioni quotidiane e istituzionali: dall’assunzione in azienda all’erogazione di servizi pubblici, dalla selezione del credito alle diagnosi mediche, fino alla moderazione dei contenuti online. Ma chi decide ciò che è moralmente accettabile per un algoritmo? E quali strumenti abbiamo per garantire equità, trasparenza e responsabilità? Forse l’etica non basta se non è affiancata da regole, controlli e governance.
L’algoritmo “è neutrale?”
Gli algoritmi non sono semplici strumenti: riflettono le scelte di chi li disegna, i dati con cui sono addestrati e i modelli culturali che li informano. Senza una cornice etica chiara, l’IA può amplificare disuguaglianze socio-economiche e discriminazioni già esistenti.
Pensiamo a un sistema di selezione automatizzato che biasima candidati provenienti da specifiche regioni o background: anche se tecnicamente preciso, risulta eticamente inaccettabile. Serve invece un approccio sistemico che superi la performance tecnica e metta al centro i diritti umani.
Etica sì, ma anche regole e legalità
Dunque l’etica non basta. È necessario un presidio legale robusto e regole chiare come quelle del GDPR, l’AI Act e il Data Governance Act.
L’AI Act UE, entrato in vigore il 1° agosto 2024, categorizza le applicazioni IA in quattro livelli di rischio (inaccettabile, alto, limitato, minimo). Le applicazioni rischiose – come il recruiting o l’analisi giudiziaria automatica – sono soggette a obblighi stringenti di trasparenza, controllo e conformità.
Chi stabilisce cosa è “giusto”?
L’etica diventa geopolitica: definire valori etici negli algoritmi è una scelta di visione collettiva. Occorre decidere se adottare modelli per esempio americani centrati sull’individuo o approcci europei orientati ai diritti fondamentali. Assumere chi decide non dovrebbe spettare solo alle aziende tecnologiche: serve autonomia scientifica, cooperazione internazionale (ad esempio tramite la Framework Convention on AI del Consiglio d’Europa) e coinvolgimento di esperti indipendenti, autorità pubbliche e società civile.
I Principi europei: affidabilità, trasparenza, controllo umano
L’UE ha adottato linee guida etiche grazie all’High-Level Expert Group on AI (AI HLEG) già dal 2019, con lo scopo di promuovere un’IA human-centric, affidabile e rispettosa dei valori comuni, oggi integrate nel sistema normativo europeo, tra cui l’AI Act e il recente Framework Convention on AI. I quattro principi fondamentali:
- Human agency and oversight [l’essere umano deve mantenere il controllo].
- Technical robustness and safety [sistemi affidabili, resilienti e sicuri].
- Transparency [le decisioni automatizzate devono essere spiegabili].
- Diversity, non‑discrimination, fairness [proteggere i soggetti vulnerabili].
Il diritto di spiegazione: spiegabilità e responsabilità
Nel mondo giuridico è emersa la nozione del diritto a una spiegazione per decisioni automatizzate individualmente rilevanti: per esempio, un prestito può essere rifiutato da un algoritmo. Il GDPR all’articolo 22 prevede questa facoltà, anche se la sua applicabilità resta dibattuta.
Da qui deriva la necessità di Explainable AI (XAI): tecnologie e modelli progettati per rendere trasparente il processo decisionale, evitando la “scatola nera” dell’ML non interpretabile.
Voci morali nella governance digitale
Anche il dibattito etico-scientifico assume rilevanza geopolitica. Uno dei protagonisti è il frate Paolo Benanti, esperto dell’etica della tecnologia, che rappresenta il Vaticano a livello globale nella discussione sull’IA. Benanti sostiene la necessità di trattare l’IA come uno strumento al servizio del bene comune, non come un’entità neutra e incontrollata. Parallelamente, il Parlamento europeo e il Consiglio d’Europa guidano iniziative per un contesto normativo internazionale di tutela, puntando a includere la società civile, gruppi vulnerabili e comunità diverse nella definizione di principi etici.
- Bias e discriminazioni: Senza dati neutrali, gli algoritmi possono riflettere o rafforzare disuguaglianze. rischi reputazionali e legali sono reali, specialmente in ambito giustizia, finanza, HR.
- Governance della AI generativa: Con l’ascesa del generative AI si profilano nuove sfide. controllo dei contenuti, tutela della privacy, proprietà dei dati generati. Serve un robusto sistema di valutazione e conformità.
- Divario tra paesi: While EU builds robust norms, alcune nazioni (come Stati Uniti e UK) restano più reticenti, come evidenziato dalle consultazioni internazionali all’AI Summit di Parigi.
Concludiamo
Chi decide cosa è giusto in un mondo governato dagli algoritmi? La risposta non può ridursi a una scelta tecnica o aziendale. Serve un’integrazione complessa tra
Principi etici solidi; Strumenti legislativi forti; Controlli indipendenti; Diritto individuale alla spiegazione; Partecipazione democratica.
