Sappiamo che il bias algoritmico è un problema serio. Ma cosa possiamo fare concretamente per affrontarlo? La risposta è che non esiste una soluzione magica, ma esistono approcci che, combinati, possono ridurre significativamente il rischio. Si dividono in tre categorie: interventi sui dati, interventi sull'algoritmo e interventi sul processo.
Gli interventi sui dati mirano a correggere le distorsioni nel dataset di addestramento. Questo può significare bilanciare la rappresentazione dei diversi gruppi, rimuovere variabili che fungono da proxy per caratteristiche protette (come la razza o il genere), o applicare tecniche di "data augmentation" che generano dati sintetici per i gruppi sotto-rappresentati. Questi interventi sono necessari ma non sufficienti: i dati sono sempre un riflesso imperfetto della realtà.
Gli interventi sull'algoritmo includono le cosiddette "fairness constraints" — vincoli matematici che impongono al modello di produrre risultati equi secondo una definizione specifica. Esistono decine di metriche di equità: demographic parity (proporzioni uguali per ogni gruppo), equalized odds (stesso tasso di errori per ogni gruppo), calibration (stessa accuratezza delle previsioni per ogni gruppo). Come abbiamo visto, queste definizioni possono essere incompatibili. Scegliere quale applicare è una decisione etica, non tecnica.
Ma gli interventi più importanti sono quelli sul processo. L'audit algoritmico — un'analisi sistematica e indipendente degli output di un sistema — è lo strumento fondamentale per identificare e documentare il bias. Organizzazioni come l'Algorithmic Justice League, fondata da Joy Buolamwini al MIT, hanno dimostrato attraverso audit che i sistemi di riconoscimento facciale di Amazon, Microsoft e IBM avevano tassi di errore fino al 34,7% per le donne dalla pelle scura, contro meno dell'1% per gli uomini dalla pelle chiara.
Il design partecipativo è un altro approccio fondamentale: coinvolgere le comunità colpite nella progettazione dei sistemi che le riguardano. Non come "utenti test" alla fine del processo, ma come co-progettisti dall'inizio. Chi vive le conseguenze della discriminazione algoritmica ha una conoscenza che nessun ingegnere, per quanto brillante, possiede.
Infine, la trasparenza e la responsabilità. Le aziende che sviluppano e implementano sistemi di AI dovrebbero pubblicare "model cards" e "datasheets" che documentano come il modello è stato costruito, su quali dati, per quale scopo, con quali limitazioni note. E dovrebbero essere legalmente responsabili quando i loro sistemi causano danni. Senza conseguenze, non c'è incentivo al cambiamento.