Character.AI si è affermato come uno dei pionieri nel settore dei servizi di chatbot alimentati da intelligenza artificiale, sfruttando l’ondata innovativa generata da ChatGPT. Nel corso del tempo, La piattaforma ha adottato misure più rigorose riguardo a determinati tipi di contenuti. Recentemente, Character.AI ha introdotto una nuova funzionalità dedicata a facilitare la supervisione parentale.
modifiche in risposta alle preoccupazioni dei genitori
Le recenti modifiche apportate a Character.AI sono una risposta diretta alle preoccupazioni espresse dai genitori riguardo all’uso della piattaforma da parte dei propri figli. Fin dalla sua introduzione, Character.AI ha riscosso un notevole successo tra i giovani utenti. Inizialmente, il servizio era piuttosto permissivo con contenuti classificati come NSFW e aveva ricevuto indicazioni da Apple e Google per implementare filtri più severi. Oggi, la piattaforma presenta protezioni più robuste contro contenuti sensibili.
preoccupazioni sulle interazioni giovanili
Nonostante le migliorie, persistono timori riguardo alle interazioni tra i giovani e i personaggi presenti sulla piattaforma. Sono state segnalate lamentele relative alla visualizzazione di contenuti legati all’autolesionismo; in alcuni casi, i genitori di ragazzi deceduti per suicidio hanno collegato l’uso della piattaforma a tali tragedie. Di conseguenza, l’azienda ha lavorato attivamente allo sviluppo di nuove opzioni per il controllo parentale e il monitoraggio dei contenuti.
introduzione della funzione “Parental Insights”
Nell’ambito delle novità introdotte, la piattaforma sta ricevendo la funzione “Parental Insights”. Questa opzione consente agli utenti di Character.AI di inviare ai propri genitori un rapporto con dati chiave sull’utilizzo della piattaforma, con l’obiettivo di semplificare la supervisione parentale.
caratteristiche del rapporto
Sebbene non si tratti di un rapporto completo—poiché non include il contenuto delle conversazioni—il documento fornisce parametri fondamentali come:
- Tempo medio giornaliero di utilizzo (sia su web che su app mobile)
- I personaggi con cui gli utenti interagiscono maggiormente
- Un riepilogo del tempo trascorso in chat con ciascun personaggio
Tali informazioni possono risultare utili ai genitori per monitorare meglio l’utilizzo della piattaforma da parte dei propri figli. Vi è un aspetto negativo: è necessario che il giovane attivi questa opzione, il che potrebbe rappresentare un ostacolo poiché molti adolescenti potrebbero essere riluttanti ad abilitarla.
restrizioni d’età e misure aggiuntive
È importante notare che Character.AI non permette l’accesso agli utenti sotto i 13 anni in molti paesi; in Europa, invece, tale limite è fissato a 16 anni. Nonostante ciò, risulta relativamente semplice dichiarare un’età falsa durante la registrazione. Attualmente, il servizio non dispone di un sistema robusto per la verifica dell’età.
L’azienda sostiene di aver riprogettato Character.AI per affrontare le preoccupazioni dei genitori; alcune delle misure adottate includono:
- Spostamento degli utenti sotto i 18 anni verso un modello AI addestrato per evitare output “sensibili”
- Aumento della visibilità delle notifiche che ricordano agli utenti che i personaggi non sono reali
Lascia un commento