La Chat che ti conosce

OpenAI integra una nuova funzione di "memoria a lungo termine" nel suo chatbot, che memorizza le informazioni sugli utenti e le considera nelle successive conversazioni.

Internet è stata costantemente caratterizzata dalla promessa di possedere una memoria superiore alla nostra, fungendo da archivio permanente di informazioni ed eventi al di là delle capacità di conservazione del nostro cervello. Negli ultimi tempi, le aziende nel settore tecnologico hanno proposto l'implementazione di assistenti virtuali e chatbot che avrebbero preso parte al nostro carico cognitivo, registrando le nostre comunicazioni.

La società di intelligenza artificiale ha infatti iniziato ad implementare una memoria a lungo termine all'interno di ChatGPT, permettendo al chatbot di ricordare chi siete, come lavorate e gli argomenti di vostro interesse. Denominata semplicemente "Memory", questa nuova funzionalità potenzia lo strumento delle "istruzioni personalizzate" introdotto da OpenAI lo scorso luglio. Tramite queste istruzioni, un utente poteva condividere con ChatGPT informazioni personali specifiche, chiedendo al sistema di tenerle in considerazione nelle risposte future all'interno di una conversazione.

IL FUNZIONAMENTO DI MEMORY: UNA PANORAMICA

Ora, la funzione Memory di ChatGPT si estende a più conversazioni, permettendo al servizio di memorizzare le informazioni personali degli utenti senza richiedere istruzioni personalizzate o richieste esplicite al chatbot di ricordare qualcosa. ChatGPT sarà in grado di raccogliere e conservare le informazioni inserite durante le conversazioni, sia nella versione gratuita (ChatGPT 3.5) che in quella a pagamento (ChatGPT 4).

In una dimostrazione eseguita prima del lancio ufficiale, Joanne Jang, responsabile del comportamento dei modelli di OpenAI, ha effettuato alcune query di prova. In un caso, Jang ha chiesto a ChatGPT di scrivere un post per annunciare su i social media l'apertura di un bar chiamato Catio il giorno di San Valentino; il chatbot ha eseguito il compito senza problemi. In un'altra conversazione, Jang ha scritto che sarebbe stata lei a inaugurare il bar. Accedendo alla sezione Memory dalle impostazioni di ChatGPT, la responsabile di OpenAI ha notato che il chatbot aveva memorizzato questa informazione. In un altro esempio, durante una consulenza sulla programmazione, Jang ha indicato Python come suo linguaggio preferito. ChatGPT ha memorizzato questa preferenza e la terrà presente in tutte le future conversazioni con Jang, riaffrontando l'argomento quando lo riterrà opportuno, senza bisogno di riferimenti diretti.

LE POSSIBILI PROBLEMATICHE 

OpenAI comunica che la funzione di memoria di ChatGPT è attivata in modo predefinito su base ott-in, il che significa che gli utenti devono disattivarla se non desiderano utilizzarla. Le informazioni memorizzate possono essere eliminate in qualsiasi momento, sia tramite le impostazioni che mediante una richiesta al chatbot. Una volta che la memoria di ChatGPT viene cancellata, i dati non saranno più utilizzati per addestrare i modelli di intelligenza artificiale di OpenAI. Tuttavia, non è chiaro quante di queste informazioni personali vengano utilizzate per l'addestramento dell'IA durante le conversazioni degli utenti con il chatbot. È importante sottolineare che disattivare la funzione di memoria non impedisce completamente l'uso delle chat per il training del modello di OpenAI: per farlo, è necessario selezionare un'opzione separata.

L'azienda assicura che non verranno memorizzate informazioni sensibili degli utenti nella memoria di ChatGPT. Ad esempio, se si comunica la propria password a ChatGPT (cosa che non si dovrebbe fare), il sistema non la memorizzerà. Joanne Jang aggiunge che OpenAI sta raccogliendo feedback dagli utenti per valutare se anche altre informazioni personali, come l'etnia di una persona, siano troppo sensibili per essere acquisite automaticamente. 

ALTRI ESPERIMENTI RIGUARDANTI LA MEMORIA DELL' INTELLIGENZA ARTIFICIALE

OpenAI non è la prima azienda a esplorare l'implementazione della memoria nel campo dell' intelligenza artificiale generativa. Google ha messo in evidenza la tecnologia "multi-turn" nel suo modello linguistico di grandi dimensioni (Llm), Gemini 1.0, che nella versione Pro dell'IA consente agli utenti di far sì che il chatbot "ricordi" il contesto dei messaggi precedenti.

Un'altra azienda nel settore, chiamata LangChain, ha sviluppato un modulo di memoria che aiuta gli Llm a memorizzare le interazioni passate tra un utente finale e il modello. "Dotare gli Llm di una memoria a lungo termine può essere estremamente efficace nel creare esperienze personalizzate: il chatbot può iniziare a adattare le sue risposte in base alle informazioni che possiede sull'utente", afferma Harrison Chase, co-fondatore e CEO della società. L'assenza di memoria a lungo termine può rendere l'esperienza fastidiosa poiché comporta la costante ripetizione delle proprie informazioni.

Questa tecnologia è talvolta denominata "conservazione del contesto" o "contesto persistente" (context retention o persistent context in inglese) anziché "memoria", ma l'obiettivo finale rimane il medesimo: rendere l'interazione uomo-computer così fluida e naturale da far dimenticare all'utente ciò che il chatbot potrebbe ricordare. Potenzialmente, ciò potrebbe rappresentare un notevole vantaggio per le aziende che utilizzano questi chatbot e desiderano mantenere un rapporto continuativo con i clienti. "Si può pensare a queste memorie come a una serie di token che vengono aggiunti alle conversazioni", spiega il ricercatore di OpenAI, Liam Fedus. "Il bot, con una certa intelligenza di fondo, esamina le memorie e dice: "Queste due cose sembrano correlate; uniamole".

Sia Fedus che Jang enfatizzano che la memoria di ChatGPT non si avvicina minimamente alle capacità del cervello umano. Tuttavia, Fedus spiega che la nuova funzione di ChatGPT è limitata a “qualche migliaio di token”.

Ci troviamo di fronte all'assistente virtuale iper-vigile promesso ai consumatori di prodotti tecnologici nell'ultimo decennio, o stiamo assistendo a un ulteriore sistema di raccolta dati che utilizza le vostre preferenze, gusti e dati personali per soddisfare gli interessi di un'azienda tecnologica piuttosto che quelli degli utenti? Forse entrambe le cose, anche se OpenAI non la vede così: "Credo che gli assistenti del passato non avessero l'intelligenza necessaria", ha dichiarato Fedus, "e ora stiamo facendo progressi in questa direzione".