Filtro volgarità per una chat MMO

Stiamo sviluppando un MMO utilizzando Smartfox Server. Il pubblico di riferimento è costituito da bambini dai 7 ai 12 anni.

Esiste un'opzione di chat globale in questo MMO.
Qualunque cosa l'utente digiti in una casella di testo, viene visualizzato accanto all'avatar degli utenti dopo aver premuto invio.

Vorremmo filtrare linguaggio offensivo / volgarità da questa chat.
Potremmo catturare la chat e leggere il testo. Il problema è ottenere l'elenco delle volgarità stesse.

Le nostre domande sono

1. Dove si otterrà un elenco completo di tutte le volgarità?
2. Quale metodo viene adottato in uno scenario simile per filtrare questi?

Non farlo.

I filtri non funzionano. Almeno, solo i filtri non funzionano. Whitelist, blacklist, non importa. Nessuno di questi impedirà mai ai bambini di molestarsi a vicenda. L'unico modo per farlo funzionare sarebbe non filtrare la chat, ma fornire blocchi di grandi dimensioni per le frasi. Ad esempio, un bambino potrebbe selezionare "Vuoi ..." e le opzioni per "Vai a ..." e "Scambia ..." verrebbero visualizzate. Selezionando "vai a ..." si aprirà un elenco di luoghi nel gioco.

La Disney decise di usare questo metodo per il loro MMO "Toontown", dopo che il loro quattordicenne testista della whitelist decise di "attaccare la [sua] giraffa dal collo lungo sul [loro] soffice coniglietto bianco". In poche parole, non è possibile inserire nella blacklist o nella whitelist parole sufficienti per prevenire gli abusi.

Detto questo, se stessi progettando un MMO per bambini, in realtà implementerei un rigoroso filtro blacklist, ma solo come seconda linea di difesa. La tua prima linea di difesa dovrebbe essere sempre i moderatori e la capacità di denunciare gli abusi. Vorrei ponderare le parole nella lista nera, con ogni utente che ottiene un punteggio segreto di quanto siano profani.

È probabile che qualsiasi utente che tenterà di eludere il filtro lo attiverà per primo. Le volgarità più ovvie, (al contrario di quelle oscure o superate), o i tentativi di volgarità più ripetuti, le mettono in una lista di controllo per i moderatori, o in una sorta di lista di ban . In questo modo, i moderatori possono concentrarsi sugli utenti che sembrano tentare di molestare gli altri invece di perdere tempo a leggere i commenti di bambini ancora innocenti.

In risposta a persone che dicono di non fornire il filtro, direi che si deve fornire un filtro, per nessun altro motivo che per coprire il proprio culo rispetto ai genitori del vostro pubblico previsto. Assicurati solo che possa essere disabilitato dall'utente. Implementando un filtro volgarità (sebbene imperfetto e totalmente facoltativo), puoi dire di aver fatto tutto ciò che ti aspettavi per proteggere la sensibilità del tuo pubblico più giovane.

Rendendo possibile la disabilitazione, scoraggi gli utenti dal tentativo di aggirarlo usando la punteggiatura o la sostituzione intelligenti, poiché le persone che prediligono quel tipo di linguaggio disabiliteranno immediatamente il filtro sul proprio computer e avranno da tempo dimenticato che esiste persino un filtro .

Con questa comprensione, non preoccuparti così tanto dell'implementazione. Non ha bisogno di essere infallibile (il che è buono, perché non può essere infallibile), ma dovrebbe essere relativamente completo e il più intrusivo possibile. Cioè, non devi assicurarti di non fare l '" errore cluttetico ".

L'implementazione può essere estremamente semplice: ottieni un elenco di parole e sostituisci qualsiasi parola trovata nell'elenco con asterischi o qualcosa di simile. Meglio cercare solo parole intere.

Per quanto riguarda un elenco di parole, è facile: http://www.google.com/search?q=profanity+word+list

Ricorda, non deve essere tutto compreso, deve solo essere rappresentativo di un valoroso sforzo da parte tua per proteggere i bambini.

Vorrei provare a implementare una soluzione che consenta una lista nera e una lista bianca, in cui è possibile aggiungere "fica" alla lista nera e "scunthorpe" nella lista bianca, ad esempio.

Non credo che potresti mai implementare una soluzione di sicurezza, quindi proverei a ottenere le parole più "popolari" nel tuo dizionario e renderebbe il più semplice possibile aggiungere nuove parole agli elenchi.

La ragione di ciò è che le lingue, in particolare l'inglese, si evolvono costantemente e qualcosa che è stato inoffensivo per decenni potrebbe diventare offensivo nel giusto contesto.

Cerca di ottenere il maggior numero di parole possibili e vai da lì, fai rapidi tempi di reazione quando le persone si lamentano e mostrano che questo è generalmente un problema e dubito che tu abbia dei problemi.

Sarebbe una buona idea sapere esattamente quali sono le linee guida per la censura negli Stati Uniti: MBNL! (non essere un avvocato!)

Come ho commentato, filtrare tutte le parole offensive è davvero difficile, ma potresti capovolgerle e utilizzare una lista bianca di parole consentite . Facendo una ricerca su Google, sembra abbastanza comune per i giochi per bambini limitare ciò che possono digitare a un elenco. Ad esempio, Lego Universe utilizza una whitelist.

Vedi anche: Lista bianca per chat di gioco . E nota che le whitelist possono essere eluse . Non esiste una soluzione garantita.

Considerando che è per i bambini piccoli e l'ortografia potrebbe essere un problema - a seconda dell'interfaccia client, potresti considerare il completamento automatico delle parole . Man mano che i giocatori iniziano a digitare le lettere, offri un elenco di parole possibili e consenti loro di selezionare quella corretta.

C'è una risposta dai programmatori che descrive un sistema per la creazione di un filtro volgarità. Non spiega come l'abbia effettivamente realizzato nei minimi dettagli, ma dovrebbe essere sufficiente per farsi un'idea per l'implementazione.

Questo è un problema meglio risolto dagli esseri umani e dal design sociale piuttosto che dal codice.

La tua migliore fonte per un elenco esaustivo è un essere umano vivo presente nel gioco e che controlla il flusso della chat. Metti le persone nel tuo gioco e lascia che siano il tuo filtro finale.

Passa un po 'di tempo a esaminare le idee e le filosofie di Lane Merrifield alla base del Club Penguin e a fornire un servizio. Qui ci sono due commenti dalla sua presentazione all'Austin GDC del 2008. L'ho visto e ricordo di essere rimasto molto colpito dal suo stile di risoluzione dei problemi umani con gli umani e non dal codice.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Soprattutto perché il tuo gioco è rivolto ai bambini, è molto più che semplici filtri giurati a cui devi pensare. Dovrai preoccuparti delle persone che si presentano come bambini che possono o meno avere cattivi motivi. Dovrai assicurare ai genitori che i loro figli sono al sicuro. Dovrai assicurare ai bambini che anche loro sono al sicuro.

Un altro vantaggio per gli umani è che capiranno il contesto. Non vuoi che un bambino dica "Mia madre ha il cancro al seno" e viene preso a calci.

Semplice soluzione al problema:

1. Rimuovi tutti gli spazi e la punteggiatura dal tuo input.
2. Aggiungi alla blacklist tutto nel Dizionario urbano .
3. Lista nera di tutti gli omofoni ecc
4. Nella lista nera tutto ciò che potrebbe essere usato come eufamismo.
5. Scrivi il tuo software per capire il contenuto, l'intenzione e il tono di ciò che resta.
6. Butta via il gioco e vai sul mercato con la creazione senziente e onnisciente dal passaggio 5.

Alcuni MMO per bambini sostituiscono semplicemente la chat con un elenco predefinito di emote e frasi e semplicemente non consentono la chat in formato libero. Forse il gioco potrebbe essere progettato per adattarlo.