Come dovrebbe essere applicata l'etica nella scienza dei dati

C'è stato un recente furore con la sperimentazione di Facebook sui loro utenti per vedere se potevano alterare le emozioni dell'utente e ora okcupid .

Anche se non sono uno scienziato di dati professionale, ho letto sull'etica della scienza dei dati dal libro "Doing Data Science" di Cathy O'Neill e vorrei sapere se questo è qualcosa a cui i professionisti vengono insegnati a livello accademico (mi aspetterei così) o qualcosa che viene ignorato o applicato leggermente nel mondo professionale. Soprattutto per coloro che hanno finito per fare scienza dei dati per caso .

Mentre l'articolo collegato ha toccato l'integrità dei dati, il libro ha anche discusso dell'etica morale alla base della comprensione dell'impatto dei modelli di dati creati e dell'impatto di quei modelli che possono avere effetti negativi se usati in modo inappropriato (a volte inconsapevolmente) o quando i modelli sono impreciso, producendo ancora risultati negativi.

L'articolo discute un codice di pratica e menziona il Codice di condotta dell'Associazione Data Science , è qualcosa che è in uso? La regola 7 è di particolare interesse (citata dal loro sito Web):

(a) Una persona che consulta uno scienziato di dati sulla possibilità di stabilire una relazione cliente-scienziato di dati su una questione è un potenziale cliente.

(b) Anche quando non sussiste alcuna relazione di scienziato dati-cliente, uno scienziato di dati che ha appreso informazioni da un potenziale cliente non deve utilizzare o rivelare tali informazioni.

(c) Uno scienziato di dati soggetto al paragrafo (b) non deve fornire servizi di scienza dei dati professionali per un cliente con interessi sostanzialmente avversi a quelli di un potenziale cliente nello stesso settore o in un settore sostanzialmente correlato se lo scienziato di dati ha ricevuto informazioni dal potenziale cliente che potrebbe essere significativamente dannoso per quella persona in questione

È qualcosa che viene praticato professionalmente? Molti utenti accettano ciecamente che otteniamo un servizio gratuito (posta, social network, hosting di immagini, piattaforma di blog, ecc.) E accettano un EULA per ricevere pubblicità.

Infine, come viene regolato, leggo spesso che gli utenti sono in armi quando cambiano i termini di un servizio, ma sembra che richieda un'organizzazione di libertà, un'azione di classe o un senatore per reagire a tali cose prima che accada qualcosa.

A proposito, non sto esprimendo alcun giudizio qui o dicendo che tutti i data scientist si comportano in questo modo, sono interessato a ciò che viene insegnato accademicamente e praticato professionalmente.

Penso che l'etica nella scienza dei dati sia importante. Esiste una differenza fondamentale nell'utilizzo dei dati degli utenti per migliorare la loro esperienza e mostrare annunci pertinenti e nell'utilizzare i dati degli utenti per indurre le persone a fare clic sugli annunci per motivi di profitto monetario. Personalmente mi piacciono le pubblicità che mi danno informazioni pertinenti come offerte su cose che vorrei comprare comunque. Tuttavia, mostrarmi annunci di perdita di peso perché sono stato scaricato è inquietante e non etico. Come dice sempre il mio amico Peter, "non essere inquietante con i dati".

Non sembra esserci alcuna etica speciale nella scienza dei dati: sfruttare il dolore di qualcun altro per fare un dollaro è semplicemente sbagliato. Quindi sta rubando le loro informazioni per fare un dollaro. Non è come essere un medico e decidere se spingere il paziente verso un intervento chirurgico con una possibilità esterna di lavorare quando è quello che vogliono, ma sai che il loro coniuge e i loro figli vogliono solo sfruttare il più delle volte che potrebbero avere insieme. Finora queste cose sembrano poco insegnate, ma se è necessario qualcosa è assistenza riconoscere quando le persone vengono sfruttate ingiustamente.