Il bias algoritmico non resta nel backend: emerge nell'interfaccia. Un sistema di raccomandazione che favorisce certi gruppi si vede in cosa appare in homepage. Un modello di rischio che discrimina si traduce in messaggi, limiti e opzioni diverse per utenti diversi — spesso senza spiegazione.
I filtri "intelligenti" in hiring, dating, credito o sanità possono escludere in modo opaco. Il designer che progetta questi flussi — cosa mostrare, come formulare un rifiuto, se offrire ricorso — determina se l'esclusione è visibile e contestabile o silenziosa.
L'onboarding ottimizzato da AI può sembrare un miglioramento UX: meno passaggi, personalizzazione, completion rate più alto. Ma se ottimizza su utenti maggioritari (giovani, urbani, tech-savvy), chi devia dal profilo "medio" trova ostacoli invisibili — form che non capiscono il suo contesto, richieste di dati impossibili, linguaggio esclusivo.
Le interfacce di riconoscimento — volto, voce, documenti — hanno tassi di errore diversi per etnia, genere, età, accenti. Progettare fallback umani, messaggi di errore non colpevolizzanti e percorsi alternativi non è optional: è inclusività di base.
Il designer può chiedere dati di equità per segmento: tassi di completamento onboarding per età/disabilità/lingua, errori di riconoscimento per demografia, distribuzione di raccomandazioni. Senza metriche, il bias resta invisibile finché non esplode in uno scandalo mediatico.
Case study: i filtri Snapchat che alteravano tratti afro-americani ("blackface filters"), o i sistemi di selezione CV che penalizzavano candidati donne. In entrambi i casi, l'interfaccia ha reso normale una discriminazione algoritmica. Il designer avrebbe potuto — doveva — segnalare e redesignare.