La ricerca UX con l'IA può risparmiare tempo: trascrizione automatica, sintesi di interviste, tagging di feedback, clustering di pain point. Ma introduce rischi etici che molti team ignorano: consenso, rappresentatività, confidenzialità e verità dei dati presentati.
Regola base: i dati delle persone reali — interviste, recording, survey — non vanno caricati in tool AI senza consenso esplicito e policy chiara su cosa succede ai dati (addestramento, storage, condivisione). Molti tool SaaS usano input utente per migliorare modelli. Informare i partecipanti alla ricerca è obbligatorio.
I persona e le user journey generate da LLM non sono ricerca — sono fiction plausibile. Utili per warm-up creativo o esplorazione iniziale, pericolosissimi se presentati in stakeholder meeting come "i nostri utenti". Etichettali sempre: "Ipotesi da validare", non "Insight da ricerca".
Gli "utenti sintetici" — agenti AI che simulano comportamento utente — sono dibattuti. Possono stress-testare ipotesi, ma replicano bias del modello e non catturano contesto culturale, emozione, vincoli materiali. Non sostituiscono nemmeno 5 interviste con persone reali del target.
La sintesi automatica di interviste può omologare voci diverse, perdere sfumature, enfatizzare ciò che il modello considera "normale". Il researcher deve leggere le trascrizioni originali, specialmente per gruppi sottorappresentati i cui pattern il modello potrebbe sminuire.
Participatory e co-design restano gold standard per prodotti AI che impattano comunità vulnerabili. Coinvolgere rappresentanti di chi sarà classificato, escluso o sorvegliato dal sistema non è buona coscienza — produce insight che nessun dataset cattura e previene danni pre-lancio.