Il mercato dei compagni di fantasia vende personaggi. Il mercato dei cloni vende persone, o meglio modelli che suonano come loro. L’idea è commercialmente ovvia, e il primo esperimento di alto profilo è un caso di studio utile su tutto ciò che può andare storto.
La storia di CarynAI
Meno di un anno dal lancio alla chiusura.
Nel maggio 2023 l’influencer Caryn Marjorie ha lanciato CarynAI, un chatbot vocale realizzato da un’azienda chiamata Forever Voices. Era stato addestrato su più di 2.000 ore dei suoi contenuti video e costava 1 US$ al minuto: secondo le notizie, nella prima settimana ha incassato oltre 70.000 US$, con migliaia di persone in lista d’attesa. Gli utenti ci parlavano tramite Telegram.
I problemi sono arrivati subito:
- È andato dove lei non voleva. Gli utenti sono diventati sessualmente aggressivi e il clone li ha assecondati, e a volte ha iniziato lui stesso conversazioni esplicite. Marjorie ha dichiarato di essere rimasta sconvolta.
- È sparito dall’oggi al domani. Nell’ottobre 2023 il chatbot è andato offline dopo l’arresto dell’amministratore delegato dell’azienda che lo gestiva; gli utenti hanno perso l’accesso senza alcun preavviso.
- La versione successiva non ha risolto nulla. Una seconda versione, con un’altra azienda, era pensata per essere più amichevole che romantica. Gli utenti l’hanno spinta comunque verso il sesso e Marjorie l’ha chiusa all’inizio del 2024, dicendo di non sentirsi più in controllo del suo io artificiale.
Perché i cloni sono più difficili dei personaggi
| Aspetto | Personaggio di fantasia | Clone di una persona reale |
|---|---|---|
| Consenso | Non serve | Serve quello della persona per ogni uso della sua immagine |
| Cosa può dire | Le regole dell’app | Le regole dell’app e la reputazione della persona |
| Aspettative dell’utente | «È un personaggio» | «È quasi lei»: un legame parasociale più forte |
| Esposizione legale | Regole sui contenuti | Anche diritti all’immagine, privacy e leggi sui deepfake |
| Se va storto | Un problema di prodotto | Il nome di una persona vera ci resta attaccato |
Il legame parasociale è la differenza chiave. Le persone sentono già di conoscere gli influencer; un clone che risponde in modo personale, ti ricorda e usa la voce della persona rafforza molto quella sensazione. Il meccanismo è spiegato in perché ci si affeziona ai chatbot.
Cloni autorizzati e non autorizzati
I cloni autorizzati nascono con l’accordo della persona e di solito ne dividono i ricavi con lei. Lei può fissare dei limiti, anche se, come ha mostrato CarynAI, il modello può non rispettarli.
I cloni non autorizzati usano nome, foto o voce di una persona reale senza consenso. Nei casi più lievi violano le regole delle piattaforme e i diritti sull’immagine. Nei casi più gravi, quelli con contenuti sessuali, sono un abuso. I deepfake sessuali di persone reali sono reato in molti Paesi: in Italia se ne occupa l’art. 612-quater c.p., in vigore dal 10 ottobre 2025, mentre negli Stati Uniti il TAKE IT DOWN Act ha reso la loro pubblicazione un reato federale nel 2025. La nostra guida al consenso nelle chat AI NSFW spiega dove passano i confini.
Prima di pagare per chattare con un clone
- Verifica che sia autorizzato. La persona dovrebbe linkarlo dai propri account verificati. Un clone promosso solo da un sito sconosciuto o da un bot di messaggistica probabilmente non lo è.
- Verifica chi lo gestisce. Un’azienda con un nome, un’informativa sulla privacy e una cassa: non un canale Telegram con pagamenti in criptovalute.
- Verifica il modello di prezzo. La tariffa al minuto nella voce si accumula in fretta: sappi qual è il tuo tetto.
- Ricorda cosa è. La persona non legge i tuoi messaggi. Ciò che dice il clone riflette un modello, non le sue opinioni né i suoi sentimenti per te.
- Aspettati che non duri. I servizi di clonazione sono stati di breve durata. Valgono le stesse precauzioni di qualsiasi app: vedi quando il tuo compagno AI cambia da un giorno all’altro.
La direzione futura
I cloni si stanno diffondendo oltre gli influencer: coach, autori e persone comuni che creano «gemelli digitali» di sé stesse. La tecnologia diventa sempre più facile; i problemi che pone no. Il modello più duraturo sarà probabilmente quello che a CarynAI mancava: il consenso chiaro della persona, limiti fermi che il sistema rispetti davvero e utenti che non abbiano mai dubbi di parlare con un software.