La piattaforma Character.AI sta implementando significative modifiche per garantire la sicurezza degli utenti adolescenti. È stata annunciata l’introduzione di nuove funzionalità destinate a proteggere i ragazzi e a fornire maggiore controllo ai genitori. Queste innovazioni includono strumenti progettati per bloccare contenuti inappropriati e migliorare l’esperienza complessiva degli utenti giovani.
Modifiche al LLM per gli utenti minorenni
Character.AI ha creato un modello di linguaggio separato esclusivamente per gli utenti al di sotto dei 18 anni. Questo sistema è in grado di identificare e bloccare risposte inadeguate, in particolare su argomenti delicati come relazioni romantiche e autolesionismo. In caso di contenuti potenzialmente dannosi, la piattaforma mostrerà un messaggio specifico per indirizzare gli utenti verso i servizi della National Suicide Prevention Lifeline.
In aggiunta, il sistema ha interrotto la possibilità per gli utenti minorenni di modificare le risposte dei chatbot. Questa limitazione è parte della strategia per prevenire l’inserimento di contenuti inappropriati nelle conversazioni.
Motivazioni per le nuove misure di sicurezza
L’implementazione di queste modifiche è considerata necessaria per tutelare i giovani da discussioni nocive, creando uno spazio più sicuro per un pubblico più giovane. Le nuove funzionalità sono sviluppate in collaborazione con esperti di sicurezza online per adolescenti, inclusi membri dell’organizzazione ConnectSafely.
Inoltre, verranno introdotti controlli parentali che consentiranno ai genitori di monitorare il tempo trascorso dai loro figli su Character.AI e quali chatbot di intelligenza artificiale utilizzano maggiormente. Questi strumenti saranno disponibili nel primo trimestre del 2025.
La piattaforma prevede di introdurre una funzione di limitazione del tempo, che avviserà gli utenti dopo un’ora di utilizzo di prendere una pausa. Questo intervento è finalizzato a prevenire la dipendenza dalla piattaforma e a promuovere abitudini di utilizzo sane.
Character.AI ha dichiarato l’impegno a mantenere un ambiente sicuro per tutti gli utenti, affermando che l’approccio alla sicurezza deve evolversi insieme alla tecnologia che sostiene la piattaforma, per consentire la creatività e l’esplorazione senza compromettere la sicurezza.
Lascia un commento