Non ogni problema guadagna dall'IA. A volte una regola esplicita, un flusso guidato o un operatore umano è più giusto, più chiaro e più economico. Il designer dovrebbe partecipare attivamente a questa valutazione, non aspettare che le scelte tecniche siano già chiuse.
Usa l'IA quando aggiunge valore misurabile e i rischi sono gestibili: personalizzazione non manipolatoria, assistenza che riduce carico cognitivo, sintesi di grandi volumi di feedback con revisione umana, accessibilità (es. descrizioni automatiche con controllo qualità). In questi casi, progetta trasparenza e controllo utente fin dall'inizio.
Evita o rifiuta l'IA quando la decisione impatta diritti fondamentali senza possibilità di ricorso umano: salute, giustizia, welfare, credito, immigrazione. Evitala quando non hai dati rappresentativi o non puoi spiegare l'output agli utenti. Evitala quando l'unico motivo è "perché lo fa la concorrenza".
Il concetto di "human-in-the-loop" va progettato, non aggiunto a posteriori. Significa: punti di escalation visibili, possibilità di correggere un output AI, tempi di risposta umana definiti, fallback quando il modello fallisce. Un chatbot che non ammette mai di sbagliare e non offre contatto umano è un problema di design, non solo di tecnologia.
Chiediti sempre: cosa succede al worst case? Se il modello discrimina, allucina o viene usato in modo imprevisto, l'interfaccia lo rende visibile? L'utente può segnalarlo? Il team ha un percorso per disattivare la feature rapidamente?
Dire no all'IA può essere la proposta di design più matura. Presentala come alternativa: "Possiamo risolvere lo stesso problema con un flusso trasparente a step, che testiamo in due settimane e che non richiede compliance AI Act". Spesso il team accetta — e l'utente ne esce vincitore.