數(shù)據(jù)科學的希波克拉底誓言我們將滿足于更多的數(shù)據(jù)素養(yǎng)

我發(fā)誓Hypatia，Lovelace，圖靈，費舍爾(和/或貝葉斯)，以及所有統(tǒng)計學家和數(shù)據(jù)科學家，讓他們成為我的見證人，我將根據(jù)我的能力和判斷，執(zhí)行這一誓言和這個契約。

這可能是數(shù)學家和數(shù)據(jù)科學家的“希波克拉底誓言”的第一行嗎?倫敦大學學院城市數(shù)學副教授Hannah Fry認為，數(shù)學家和數(shù)據(jù)科學家需要這樣的誓言，就像醫(yī)生只是為了病人的最佳利益而發(fā)誓。

“在醫(yī)學方面，你從一開始就學習道德。在數(shù)學方面，它充其量只是一個例子。它必須從第一天開始，并且在你采取的每一步中始終處于思想的最前沿，“弗萊爭辯道。

但真正需要希波克拉底誓言的科技版嗎?在醫(yī)學上，這些誓言在不同的機構(gòu)之間有所不同，并且在其近2500年的歷史中有了很大的發(fā)展。事實上，關(guān)于誓言是否仍然與執(zhí)業(yè)醫(yī)生相關(guān)，尤其是因為它是法律，而不是一套古希臘原則，他們必須最終遵守這些原則。

數(shù)據(jù)科學如何達到道德承諾被認為必要的程度?當然，有許多算法會造成傷害 -例如，量刑算法已被證明不成比例地建議低收入和少數(shù)民族被送進監(jiān)獄。

類似的危機導致了以前提出的道德承諾。在2008年全球金融危機之后，金融工程師伊曼紐爾·德曼(Emanuel Derman)和保羅威爾莫特(Paul Wilmott)的一份宣言懇請經(jīng)濟建模者發(fā)誓不要“讓使用我模型的人對其準確性給予誤報。相反，我會明確其假設(shè)和疏忽。“

正如偏見可以像孩子一樣學習，這些算法的偏見是他們訓練的結(jié)果。這些算法的一個共同特征是使用黑盒(通常是專有的)算法，其中許多算法使用統(tǒng)計偏差數(shù)據(jù)進行訓練。

就刑事司法而言，該算法的不公正結(jié)果源于這樣一個事實，即在歷史上，少數(shù)群體在監(jiān)獄人口中的比例過高(很可能是由于長期存在的人類偏見)。因此，該偏差被復制并且可能被算法加劇。

機器學習算法是針對數(shù)據(jù)進行訓練的，并且只能期望產(chǎn)生限于這些數(shù)據(jù)的預測。偏見，偏見。

承諾，承諾

采取道德承諾是否有助于這些算法的設(shè)計者?或許，但對統(tǒng)計偏差的更多認識可能就足夠了。抽樣中無偏見的問題長期以來一直是統(tǒng)計學的基石，這些主題的培訓可能導致設(shè)計者退后一步并質(zhì)疑其預測的有效性。

Fry自己過去一直在評論這個問題，并表示人們必須“關(guān)注你對數(shù)據(jù)的偏見如何能夠最終反饋到你正在進行的分析”。

但是，盡管無偏見的代表性問題在統(tǒng)計數(shù)據(jù)中并不新鮮，但在爭議領(lǐng)域越來越多地使用高性能算法使“數(shù)據(jù)素養(yǎng)”變得比以往更加重要。

問題的一部分是機器學習算法易于應用，使得數(shù)據(jù)素養(yǎng)不再是數(shù)學和計算機科學家特有的，而是廣大公眾。廣泛的基本統(tǒng)計和數(shù)據(jù)素養(yǎng)將有助于提高對統(tǒng)計偏差問題的認識，并且是防止不當使用算法的第一步。