Un cliente vuole che proiettiamo macchine da lavoro per la pornografia. È possibile?

Un cliente di vecchia data ci ha chiesto di aiutare a schermare le loro macchine di lavoro per la pornografia. Sono preoccupati per la responsabilità se vengono trovati materiali sensibili. Le loro principali preoccupazioni (per ovvie ragioni) sono i file video, audio e di immagine. Se possibile, vorrebbero anche scansionare documenti basati su testo per contenuti inappropriati. Hanno una gerarchia di contenuti non lavorativi a partire da palesemente illegale (non devo elencare i dettagli), passando a ovviamente offensivo e includendo anche cose che potrebbero essere offensive per alcuni - pensa agli annunci di lingerie, alle carte scherzose che caratterizzano incrinature di testa e tutto ciò che riguarda Howie Mandel.

Le mie domande sono:

• Questo è etico? Penso che sia dal momento che ogni dipendente concorda legalmente che la sua macchina di lavoro appartiene all'azienda ed è soggetta alla ricerca. Le proiezioni non devono avvenire su macchine personali messe al lavoro.
• È fattibile? Ho fatto molta elaborazione / indicizzazione delle immagini, ma questo sembra un nuovo mondo di complessità.
• Qualche riferimento a tecniche di successo per scoprire il porno?
• È appropriato per me archiviare i risultati quando viene scoperto qualcosa?

Puoi farlo con 90% di Headology , 10% di software.

Innanzitutto, esegui la scansione silenziosa dei computer dei dipendenti, crea un database di file e dimensioni per ciascun dipendente.

Quindi lascia perdere un promemoria in base al quale tutti i PC verranno scansionati alla ricerca di contenuti discutibili, ovvero i capi hanno un programma simile a Shazam in grado di identificare il porno ecc.

Quindi un paio di giorni dopo, esegui nuovamente la scansione dei computer per individuare file e dimensioni. Guarda i file cancellati, sono file di film o immagini? Quindi quelli sono i dipendenti che devi tenere d'occhio.

Esegui regolarmente la scansione di quei PC dei dipendenti alla ricerca di immagini e filmati e controllali manualmente per contenuti discutibili.

Questo è un ovvio compito di rete neurale. Per prima cosa hai bisogno di una vasta serie di immagini di formazione selezionate da esperti della tua azienda .....

Una soluzione più efficace è annunciare che controllerai la macchina di tutti per il porno SUCCESSIVA settimana / mese / qualunque cosa, quindi scrivi una semplice app che esercita semplicemente il disco. Garantisco che le macchine saranno state pulite da allora.

ps - Un paio di punti "seri" - in realtà non vuoi trovare nulla.

Se trovi un paio di immagini in una cache del browser, forse colpiscono un link errato o un popup ingannevole - ricordi l'insegnante licenziato su whitehouse.com? Se li licenzi / li disciplina per questo, ci sarà un contraccolpo da parte dei lavoratori / sindacato. Come funzionerebbe la tua azienda se ogni clic dovesse essere sottoposto all'approvazione legale prima che i tuoi dipendenti cercassero una domanda o controllassero un prezzo online?

Se trovi una pila di porno su una macchina, come dimostrerai che è stata messa lì da quel dipendente? Hai il tipo di sistemi di sicurezza e di controllo che potrebbero resistere in tribunale? Usi (o conosci anche) un sistema operativo in cui un amministratore di sistema non è in grado di metterli lì e farlo apparire come i file dell'utente?

Inoltre, nella mia esperienza, le posizioni più comuni per le scorte di pornografia sono sui laptop di CxO e VP senior.

È molto meglio fare in modo che i file svaniscano in anticipo.

Questo approccio al controllo è sicuramente doloroso sia per i dipendenti che per le persone IT. Una volta che qualcosa entra nella macchina dei dipendenti, non c'è modo sicuro di rilevarla. Devi prima impedirlo di entrare nella macchina.
La pratica più nota per questo è ovviamente il controllo sui siti / domini che possono essere visitati. Tale elenco deve essere disponibile da qualche parte in rete. Oltre a questo, puoi anche tenere traccia del numero di immagini, video scaricati dal dipendente e da dove proviene.
È possibile che il materiale provenga da un sito diverso dal Web, ad esempio da un disco rigido esterno. Potrebbe esserci una scansione casuale del sistema una volta al mese in cui è possibile selezionare casualmente alcuni dei video e delle immagini e controllarlo manualmente. Non sono sicuro di come si possa fare. Ma automatizzare il controllo delle immagini e dei video è certamente fuori portata e sicuramente sarà errato.
In realtà non sono molto d'accordo con l'idea di impedire ai dipendenti di fare cose personali. Per questo dovresti fidarti dei tuoi dipendenti. I tuoi dipendenti dovrebbero essere abbastanza occupati in ufficio in modo da non avere tempo per questo. Più sono le preoccupazioni se il dipendente non sta facendo il suo lavoro giusto? O ha installato un software crackato o compromesso?

Esistono numerosi prodotti sul mercato che eseguono il "filtro dei contenuti" di varie forme. (Una ricerca su Google su alcuni termini ovvi fa emergere alcuni candidati ovvi.) Probabilmente è una migliore idea usare uno di questi prodotti piuttosto che costruire un sacco di software di scansione / filtro da zero. Un'altra opzione è quella di guardare solo ai confini; ad es. monitorando e-mail esterne e traffico web. Ancora una volta ci sono prodotti che fanno questo tipo di cose.

Sebbene non vi siano dubbi sul fatto che sia etico per un'azienda scansionare i propri computer alla ricerca di "elementi negativi", ciò non significa che non vi siano problemi.

Prima edizione:

• Determinare ciò che è e ciò che non è "contenuto discutibile" è soggettivo.
• Il software per rilevare immagini, video contenenti (diciamo) "rappresentazioni del corpo nudo" è (AFAIK) probabilmente non affidabile, con conseguenti falsi positivi e falsi negativi.

Quindi ... questo significa che qualcuno nell'organizzazione del cliente deve rivedere gli "hit". Ciò costa denaro.

Secondo problema: può esserci una spiegazione innocente. Il file potrebbe essere stato scaricato per errore o potrebbe essere stato creato da un collaboratore vendicativo. Se esiste una spiegazione innocente, l'organizzazione del cliente deve fare attenzione a ciò che fa / dice. (OK, questo non è davvero il tuo problema, ma potresti fare un po 'di backwash.)

Terzo problema: nonostante l'azienda abbia il diritto di monitorare materiale discutibile, molti dipendenti lo troveranno sgradevole. E se troppo lontano, questo avrà un impatto sul morale dei dipendenti. Alcuni dipendenti "cammineranno". Altri possono intraprendere azioni di protesta ... ad esempio, cercando di creare molti falsi positivi. (Ancora una volta, non proprio il tuo problema, ma ...)

Quarto problema: le persone possono nascondere materiale discutibile crittografandolo, inserendolo su supporti portatili o rimovibili, ecc. Le persone possono falsificare i metadati per far sembrare che qualcun altro sia responsabile.

A proposito di aspetti legali, in Francia:

Il capo possiede i computer e la connessione a Internet: può fare qualunque cosa gli piaccia.

MA, la privacy dei dipendenti non può essere violata. Se una directory sul computer è etichettata PERSONAL, il boss non è autorizzato a scansionarla.

L'unico modo per aggirare questo è quello di ottenere elementi di prova che il dipendente immagazzina materiale illegale e di ottenere un tribunale richiedere una scansione del computer (Nota che la pornografia non è illegale in Francia.)

Se i dipendenti hanno concordato che la loro macchina di lavoro appartiene all'azienda ed è soggetta alla ricerca, allora sì, questo è legale. Per la prova, molto probabilmente sarebbe necessario l'archiviazione dei file.

Per quanto riguarda come trovare effettivamente il materiale. Potresti:

1. Innanzitutto, scansiona i nomi dei file per un certo insieme di parole (porno, lesbiche, ecc.)
2. Scansione di documenti di testo per lo stesso set di parole
3. Per le immagini, potresti trovare il colore medio dell'immagine e se quel colore si trova all'interno di un intervallo che la maggior parte si riferirebbe come 'carne' colorato, quindi contrassegna l'immagine (probabilmente sarà necessario qualcuno che ricontrolla queste immagini contrassegnate ). Non vorrei denunciare qualcuno per un'immagine che finisce per essere una foto di famiglia dalla spiaggia.

Se esegui la scansione dei file mentre entrano nel computer (ad esempio, il programma è caricato su ogni macchina di lavoro e registri i casi contrassegnati su un database centrale), non penso che sarebbe troppo invadente (a parte la sfacciata sfiducia nel il datore di lavoro ha chiaramente per i loro dipendenti).

Con i file video, non ne sono sicuro al 100%. Probabilmente un approccio simile a quello della scansione delle immagini (scegliere cornici casuali e scansionare per un certo livello di colore 'carne').

La scansione dei file audio sembra che entrerebbe nel riconoscimento vocale, che è un'intera lattina di worm. La scansione del nome del file, tuttavia, sarebbe semplice e potrebbe essere eseguita come per i documenti, le immagini e il video.

Come ha detto @Ryan, l'analisi delle immagini può concentrarsi sull'analisi del colore.

Fattibilità? Mia sorella lavora in una zona del governo dove ogni anno ricevono una qualche forma di audit, e una volta era per il porno. Lei (geofisica) aveva diversi falsi positivi (rocce rosa).

Esistono ricerche significative e recenti sul rilevamento della pornografia utilizzando metodi di classificazione convenzionali. Gli esempi sono disponibili qui e qui .

• Questo è etico?

Dipende dall'attuazione e dalle ragionevoli aspettative dei dipendenti. Ad esempio, se il tuo software esegue la scansione di qualsiasi macchina connessa alla rete, allora c'è un requisito aggiuntivo che l'infrazione deve impedire a macchine non autorizzate di collegarsi. (Forse dovrebbe essere ovvio, ma è spesso trascurato sulle reti che ho visto.)

• È fattibile? Ho fatto molta elaborazione / indicizzazione delle immagini, ma questo sembra un nuovo mondo di complessità.

È possibile sottoporre a test antidroga ogni dipendente? Forse è così, ma metto in dubbio il suo valore. Lo randomizzerei. Fai sapere ai dipendenti che le loro macchine possono essere scansionate per contenuti inappropriati in qualsiasi momento.

• Qualche riferimento a tecniche di successo per scoprire il porno?

Non sto toccando questo. Non credo di poter controllare il mio senso dell'umorismo. Ma fai attenzione a The Scunthorpe Problem durante la ricerca di testo.

• È appropriato per me archiviare i risultati quando viene scoperto qualcosa?

Questo mi preoccupa di più e vorrei chiedere a un avvocato. Sospetto che se trovi contenuti illegali potresti essere legalmente obbligato a divulgarli. Questo è un male, soprattutto se l'utente è stato esposto per colpa sua. Tu (cliente) avrai bisogno di una vera consulenza legale su come gestirlo. Coinvolgi le risorse umane e gli avvocati.

Da un punto di vista puramente tecnico: sembra un problema di riconoscimento della categoria di oggetti. Non ho mai fatto nulla del genere, ma da quello che ho letto, i sistemi di riconoscimento delle categorie all'avanguardia funzionano così:

• Per prima cosa cerchi un gran numero di punti di interesse (ad es. Usando un Harris Corner Detector, punti estremi di filtri LoG / DoG nello spazio della scala; alcuni autori suggeriscono addirittura di selezionare punti casuali)
• Quindi applichi una trasformazione di funzione a ciascun punto (qualcosa come SIFT, SURF, GLOH o molti altri)
• Combina tutte le funzioni che hai trovato in un istogramma (Bag-Of-Features)
• Utilizzare algoritmi di apprendimento automatico standard (come i computer di supporto vettoriale) per apprendere la distinzione tra categorie di oggetti utilizzando un gran numero di immagini di addestramento.

Il sistema operativo del computer di tutti è stato probabilmente installato da un'immagine del disco.

1. iniziare con l'immagine del disco e ottenere un elenco di file che probabilmente non è necessario sottoporre a scansione.
2. ottenere un elenco di tutti gli altri file su ciascun PC.
3. estrarre i file effettivi da 10-20 macchine casuali e utilizzarli come banco di prova
4. cerca elementi in un linguaggio volgare e discutibile (bellezze, brocche, dizionario "a malapena legale", barzelletta, ecc.)
5. Guarda il video - qualcuno dovrebbe avere qualche video?
6. Guarda le foto
7. Qualsiasi file video o di immagine che sia discutibile può essere utilizzato per cercare altre macchine

Ci vorranno uno o due dipendenti per essere scoperti prima che qualcuno metta qualcosa sul proprio computer di lavoro.

Carica una quantità oscena di denaro per questo servizio. Sarò Zappos non lo farebbe mai ai propri dipendenti.

Supponendo che tu sia un amministratore di dominio sulla rete.

1. C $ nel computer desktop di ciascun utente.
2. Copia i file porno nella condivisione privata personale.
3. Elimina dalla posizione originale.
4. Prepara i popcorn.
5. Analisi dettagliata completa di tutte le "prove".

Volevo solo commentare, ma ho solo 1 rappresentante, quindi non posso.

Nel caso di Gravatar, è possibile aggiungere una funzione per filtrare da un elenco di siti puliti nelle posizioni della cache di Internet. IE Gravatar e altri siti da cui non desideri falsi positivi. Puoi anche filtrare cose come lo sfondo del desktop. Se stanno visualizzando porno sul desktop, penseresti che le persone lo noterebbero al di fuori del tuo controllo.

Queste cose non funzionano mai in modo affidabile. È possibile utilizzare un elenco di blocco per bloccare i domini in base al nome o all'inclusione in alcuni elenchi (una pratica comune). Ma questi elenchi non sono mai completi e il blocco in base al nome in base a criteri può portare a molti falsi positivi.

Puoi bloccare le parole che compaiono nel testo dei siti, ma di nuovo questo può portare a falsi positivi (e diventa molto lento poiché devi analizzare ogni singolo bit di dati che passa attraverso la tua rete per rilevare "bit cattivi").

puoi bloccare le immagini (e forse i siti che le contengono) che mostrano più di una certa percentuale di skin. Ma di nuovo porta a molti falsi positivi. Un dipartimento medico universitario che blocca un'enciclopedia medica con immagini di arti e torsi che mostrano ferite e condizioni della pelle ne è un esempio ben noto. E ovviamente sarebbe razzista in quanto bloccherebbe solo alcuni skintones. Se blocchi i colori corrispondenti alla pelle caucasica, ad esempio c'è sempre porno che utilizza attori neri.

Meglio fidarsi dei propri dipendenti e avere politiche in atto per quando quella fiducia viene interrotta.

Non lo so, ci deve essere una risposta intermedia, che non è così invasiva, ma risolve il vero problema, RESPONSABILITÀ.

Invitali a firmare una rinuncia, che libera la compagnia da qualsiasi responsabilità per materiale illegale trovato su PC da lavoro, che non è legato al lavoro.

1. dire all'utente che un URL è considerato adulto - lo fa il proxy bluecoat .
2. Licenza cosa fa Google nella ricerca di immagini http://code.google.com/apis/safebrowsing/ http://www.google.com/search?q=google+image+recognition+api
3. scansiona il computer alla ricerca di elementi non presenti in un elenco prestabilito.

Analisi di immagini e contenuti per determinare le differenze tra una fotografia di buon gusto di una persona, una fotografia di costume da bagno, una fotografia di nudo, rappresentazioni di pornografia ... per quanto ne so non è affatto abbastanza sofisticato da fare solo nel software.

Fortunatamente il crowdsourcing dovrebbe essere utile qui, come suggerito da @ammoQ in un commento. Tuttavia, non credo che i membri di 4chan o di qualsiasi altro forum apprezzerebbero il vasto numero di immagini non- corporative, come la grafica web generica per pulsanti, cornici, pubblicità, ecc. Che vengono pubblicati.

La mia raccomandazione sarebbe quella di esaminare le soluzioni di crowdsourcing esistenti, come Amazon Mechanical Turk . (Tuttavia, i termini di servizio possono proibire esplicitamente il coinvolgimento di contenuti pornografici, quindi tieni presente che potresti dover trovare un'altra soluzione o implementare la tua.)

Per rendere possibile il crowdsourcing, il tuo software dovrebbe essere pronto a eseguire alcune o tutte le seguenti operazioni:

• Memorizza le informazioni che collegano il contenuto al computer da cui proviene
• Identifica i duplicati esatti nell'intero inventario e rimuovili (ma le informazioni sull'origine vengono conservate)
• Eseguire il downsampling delle immagini in una dimensione, forse 320x200, che è sufficiente per identificare il contenuto dell'immagine senza conservare i dettagli non necessari e sprecare spazio di archiviazione / larghezza di banda
• Crea immagini fisse di contenuti video a intervalli regolari e applica la stessa regola di downsampling

Infine, il database di immagini ridotte che rappresentano l'immagine originale e i contenuti video viene controllato dagli utenti (o da un team designato se si dispone delle risorse) in base al codice di condotta della propria azienda. Il programma o l'interfaccia potrebbe mostrare una singola immagine alla volta o una schermata di miniature, qualunque cosa tu ritenga meglio per ottenere informazioni accurate.

L'identità del computer da cui provengono le immagini dovrebbe essere assolutamente segreta e sconosciuta alle persone che valutano i dati. Inoltre, dovrebbe essere casuale e ogni immagine probabilmente controllata più di una volta per rimuovere la distorsione.

La stessa tecnica potrebbe essere utilizzata per il testo, ma prima il contenuto potrebbe essere valutato con classifiche di parole chiave che rimuovono la maggior parte del testo dalla revisione del crowdsource. La classificazione di un lungo documento richiederà ovviamente più tempo rispetto alla classificazione di un'immagine.