LOGIN
In Breve (TL;DR)
- OpenAI ha annunciato nuove misure di sicurezza su ChatGPT, tra cui filtri più rigorosi e un linguaggio empatico per gestire utenti in situazioni di vulnerabilità, con blocchi automatici delle conversazioni potenzialmente pericolose.
- Verrà introdotto un sistema di parental control che permetterà ai genitori di monitorare l’uso di ChatGPT da parte dei minori, con l’eventuale aggiunta di un contatto di emergenza per intervenire in caso di necessità.
L’intelligenza artificiale è una tecnologia dalle grandi potenzialità, che permette agli utenti di ricercare informazioni, eseguire diverse attività con minori difficoltà, trovare rapidamente risorse e tanto altro ancora. Nasconde, però, anche numerosi pericoli e, nel recente passato, ci sono stati casi di cronaca che l’hanno dimostrato. Tra le aziende più attive nel campo dell’AI c’è OpenAI, che ha lanciato uno dei servizi più utilizzati e apprezzati del web, ChatGPT, e che ha particolarmente a cuore la sicurezza, in particolare dei più fragili.
Proprio in quest’ottica, negli scorsi giorni OpenAI ha annunciato di voler incrementare la sicurezza di ChatGPT, introducendo nuovi strumenti e funzionalità di tutela, molte delle quali pensate per poter proteggere gli adolescenti. Una necessità avvertita, quindi, non solo dagli utenti, ma anche dalle aziende.
Scopriamo quali sono le novità annunciate in materia di sicurezza e tutela dei minori da OpenAI e come funzionerà il parental control su ChatGPT.
Tutte le misure di sicurezza previste da OpenAI su ChatGPT
In una nota ufficiale OpenAI ha riconosciuto le potenzialità di ChatGPT e ha sottolineato come questo strumento venga utilizzato non solo per ricerche, programmazione e scrittura, ma anche per questioni personali. Gli utenti ricercano attraverso il chatbot AI consigli su come affrontare la vita, sostegno morale e supporto.
Tutto ciò può rappresentare un rischio, soprattutto se l’interlocutore si trova in un momento di particolare fragilità o di grave crisi. OpenAI, consapevole di ciò, con la guida di esperti, ha deciso di introdurre delle nuove misure di sicurezza.
Queste misure si attivano quando il chatbot percepisce uno stato di vulnerabilità e una potenziale situazione di rischio. Il chatbot è addestrato a non assecondare attività di autolesionismo, ad utilizzare un linguaggio empatico e ad indirizzare l’utente verso forme di aiuto concreto. Conversazioni pericolose e in contrasto con questo approccio vengono immediatamente individuate, grazie a dei filtri, e bloccate e ciò avviene in maniera ancora più stringente se si interagisce senza login o se l’interlocutore è un minore.
Le misure di sicurezza sono state rafforzate anche nelle conversazioni lunghe, dove prima erano più carenti. Il meccanismo di blocco dei contenuti pericolosi è stato perfezionato. Inoltre, in futuro, OpenAI vuole migliorare la capacità di GPT-5 di agire per ridimensionare le situazioni di rischio e di indirizzare le persone verso risorse utili, come contatti ai servizi di emergenza.
Come funzionerà il parental control su ChatGPT
Gli adolescenti e i minori restano gli utenti che hanno maggiore bisogno di attenzioni: OpenAI integrerà una forma di parental control, che consentirà ai genitori e ai tutori di sapere come i ragazzi utilizzano ChatGPT.
L’azienda sta valutando anche la possibilità di inserire un contatto di emergenza di fiducia per gli account minorenni, che può essere utilizzato in momenti di grave disagio.
Per saperne di più: ChatGPT, cos'è l'intelligenza artificiale generativa
Domande frequenti (FAQ)
-
Come OpenAI ha deciso di incrementare la sicurezza di ChatGPT?OpenAI ha introdotto nuovi strumenti e funzionalità di tutela, in particolare per proteggere gli adolescenti, rafforzando le misure di sicurezza e addestrando il chatbot a individuare situazioni di rischio.
-
Quali sono le misure di sicurezza previste da OpenAI su ChatGPT?Le misure includono il riconoscimento di stati di vulnerabilità, l'utilizzo di un linguaggio empatico, il blocco di conversazioni pericolose, il potenziamento dei filtri e il miglioramento della capacità di indirizzare le persone verso risorse utili.
-
In che modo OpenAI protegge gli utenti più fragili durante le interazioni con ChatGPT?OpenAI blocca conversazioni pericolose, soprattutto se l'utente è un minore o interagisce senza login, addestra il chatbot a non supportare attività di autolesionismo e a indirizzare l'utente verso aiuto concreto.
-
Quali sono le novità annunciate da OpenAI per il parental control su ChatGPT?OpenAI integrerà una forma di parental control per consentire ai genitori e ai tutori di monitorare l'uso di ChatGPT da parte degli adolescenti, valutando anche l'inserimento di un contatto di emergenza per gli account minorenni.
