La deriva è la lamentela a lungo termine più comune sui compagni AI, e la più fraintesa. Molti pensano che l’app si sia «dimenticata» il personaggio. Di solito il personaggio c’è ancora: è solo in minoranza.
Le quattro cause
Tre avvengono gradualmente dentro la conversazione; una arriva da un giorno all’altro.
1. Diluizione
Ogni risposta viene generata a partire dalla descrizione del personaggio più la conversazione recente. Man mano che la chat cresce, la conversazione occupa una quota sempre maggiore di ciò che il modello legge, e la descrizione una quota sempre minore. Lentamente il personaggio diventa ciò che i messaggi recenti suggeriscono.
Segnale: graduale, nell’arco di settimane; in una nuova chat va tutto bene.
2. Effetto specchio
I modelli rispecchiano il tuo tono, la lunghezza dei messaggi e il tuo umore. Se scrivi in modo breve e affettuoso, lei diventa breve e affettuosa. Se sei triste per una settimana, lei resta dolce e morbida più a lungo di quanto volessi. Unito alla tendenza a darti ragione, un carattere forte si consuma fino a diventare il tuo riflesso.
Segnale: suona sempre più come te.
3. Loop
Quando una frase, un gesto o un nomignolo compare qualche volta, diventa più probabile che ricompaia, finché non c’è in ogni risposta. I loop si autoalimentano perché ogni ripetizione diventa un altro esempio.
Segnale: le stesse parole nella maggior parte delle risposte.
4. Aggiornamenti del modello
Le aziende cambiano i modelli di base, le impostazioni di sicurezza e i sistemi di memoria. La stessa descrizione letta da un modello diverso produce una voce diversa. È quello che è successo a molti utenti di Replika nel 2023: vedi quando il tuo compagno AI cambia da un giorno all’altro.
Segnale: un cambiamento improvviso per tutti, spesso dopo un aggiornamento dell’app o un annuncio.
Le soluzioni per ciascuna
| Causa | Soluzione |
|---|---|
| Diluizione | Apri ogni tanto una chat nuova; tieni i fatti nella memoria così restano |
| Effetto specchio | Scrivi nella descrizione, come regole ferme, i tratti da mantenere; varia il tuo stile |
| Loop | Modifica o rigenera le prime ripetizioni; aggiungi alla descrizione una riga come «varia le sue formule» |
| Aggiornamento del modello | Riscrivi la descrizione per il nuovo modello; aggiungi battute di esempio nella sua voce |
Proteggi la voce con battute di esempio
La protezione più efficace contro la deriva sono due o tre battute di dialogo che suonano esattamente come lei, inserite nella descrizione del personaggio o nel campo degli esempi. I modelli imitano gli esempi molto più affidabilmente degli aggettivi. «Sarcastica» è vago; una battuta come «Oh bene, un altro tuo piano. Vado a prendere l’estintore.» no.
Conserva le stesse battute in un documento fuori dall’app. Se il modello cambia o passi a un’altra app, ti permettono di ripristinare la voce: vedi come cambiare app di compagnia AI.
Un controllo mensile
- Rileggi la sua descrizione e le tue battute di esempio.
- Leggi le ultime venti risposte. Suona ancora come le battute di esempio?
- Se no, individua quale delle quattro cause corrisponde e applica la sua soluzione.
- Se è scivolata in qualcosa che ti piace di più, aggiorna la descrizione: la deriva è un problema solo se non l’hai scelta tu.
La deriva non è un fallimento dell’app. È ciò che fa un sistema che continua gli schemi durante una conversazione lunga. Un po’ di manutenzione la mantiene la persona che hai costruito; ignorarla porta facilmente alla piattezza descritta in quando la novità svanisce.