LOGIN
In Breve (TL;DR)
- Project Lily usa revisori umani per valutare alcune conversazioni di ChatGPT e migliorare accuratezza, neutralità e comportamento del modello.
- Gli utenti possono impedire l’uso delle nuove chat per il miglioramento dei modelli disattivando “Migliora il modello per tutti” oppure usando le Chat Temporanee.
L'addestramento e il perfezionamento dei modelli di intelligenza artificiale continuano a fare affidamento su una componente fondamentale, il giudizio umano.
In uno scenario del genere, emerge Project Lily, un programma interno attraverso cui OpenAI impiega centinaia di persone con il compito di analizzare ed esaminare conversazioni reali generate dagli utenti su ChatGPT.
L'obiettivo dell'operazione supera la semplice moderazione dei contenuti e i revisori hanno il compito di valutare la qualità delle risposte per insegnare al sistema come comportarsi in modo più efficace.
Tra i compiti principali figurano la correzione dell'eccessiva compiacenza dell'AI verso l'utente e la mitigazione della tendenza del modello ad antropomorfizzarsi.
Come funziona la revisione umana delle chat di ChatGPT
Il processo di analisi dietro Project Lily trasforma le interazioni quotidiane degli utenti in “materiale didattico” per addestrare e ottimizzare gli algoritmi.
Il funzionamento è abbastanza immediato e, per prima cosa, i revisori ricevono estratti di testo o intere sequenze di messaggi. Il loro compito consiste nel giudicare l'accuratezza, la pertinenza e la sicurezza dell'output prodotto da ChatGPT, avendo cura di segnalare errori logici o risposte imprecise.
Le linee guida del progetto, inoltre, istruiscono gli operatori a penalizzare il modello quando utilizza un linguaggio che simula sentimenti o autocoscienza, sottolineando la natura esclusivamente artificiale del sistema.
Infine i contractor intervengono anche quando ChatGPT tende ad assecondare acriticamente le tesi dell'utente (cosa che accade anche quando queste sono errate), spingendo il modello a mantenere un atteggiamento oggettivo e neutrale.
Quali chat possono essere usate e come proteggere la privacy
La presenza di operatori umani nell'analisi delle conversazioni riaccende il tema della privacy e della gestione dei dati personali negli ambienti di AI generativa.
Stando a quello che sappiamo i nomi degli account vengono nascosti prima di inoltrare le varie conversazioni ai team di valutazione; tuttavia le informazioni inserite spontaneamente dall'utente all'interno del corpo del testo (come contesti lavorativi, nomi propri o dettagli privati) potrebbero arrivare ai contractor se non intercettate dai filtri di anonimizzazione.
Importante ricordare che i termini di servizio di OpenAI prevedono che le chat degli account consumer possano essere impiegate per il miglioramento dei modelli di default.
Comunque è possibile impedire che le proprie conversazioni vengano analizzate o usate per l'addestramento, e per farlo basta accedere a Impostazioni, selezionare Controlli dei dati e disattivare l'opzione Migliora il modello per tutti. In alternativa, si possono utilizzare le Chat Temporanee che garantiscono che la sessione non venga memorizzata nello storico né impiegata per le attività di revisione di Project Lily.
Per saperne di più: Come funziona ChatGPT e a cosa serve
Domande frequenti (FAQ)
-
Come funziona la revisione umana delle chat di ChatGPT?Il processo di analisi dietro Project Lily trasforma le interazioni quotidiane degli utenti in “materiale didattico” per addestrare e ottimizzare gli algoritmi.
-
Qual è l'obiettivo di Project Lily di OpenAI?L'obiettivo dell'operazione supera la semplice moderazione dei contenuti e i revisori hanno il compito di valutare la qualità delle risposte per insegnare al sistema come comportarsi in modo più efficace.
-
Quali chat possono essere usate e come proteggere la privacy?La presenza di operatori umani nell'analisi delle conversazioni riaccende il tema della privacy e della gestione dei dati personali negli ambienti di AI generativa.
