數(shù)據(jù)科學(xué)的希波克拉底誓言我們將滿足于更多的數(shù)據(jù)素養(yǎng)

我發(fā)誓Hypatia，Lovelace，圖靈，費(fèi)舍爾(和/或貝葉斯)，以及所有統(tǒng)計(jì)學(xué)家和數(shù)據(jù)科學(xué)家，讓他們成為我的見證人，我將根據(jù)我的能力和判斷，執(zhí)行這一誓言和這個契約。

這可能是數(shù)學(xué)家和數(shù)據(jù)科學(xué)家的“希波克拉底誓言”的第一行嗎?倫敦大學(xué)學(xué)院城市數(shù)學(xué)副教授Hannah Fry認(rèn)為，數(shù)學(xué)家和數(shù)據(jù)科學(xué)家需要這樣的誓言，就像醫(yī)生只是為了病人的最佳利益而發(fā)誓。

“在醫(yī)學(xué)方面，你從一開始就學(xué)習(xí)道德。在數(shù)學(xué)方面，它充其量只是一個例子。它必須從第一天開始，并且在你采取的每一步中始終處于思想的最前沿，“弗萊爭辯道。

但真正需要希波克拉底誓言的科技版嗎?在醫(yī)學(xué)上，這些誓言在不同的機(jī)構(gòu)之間有所不同，并且在其近2500年的歷史中有了很大的發(fā)展。事實(shí)上，關(guān)于誓言是否仍然與執(zhí)業(yè)醫(yī)生相關(guān)，尤其是因?yàn)樗欠?，而不是一套古希臘原則，他們必須最終遵守這些原則。

數(shù)據(jù)科學(xué)如何達(dá)到道德承諾被認(rèn)為必要的程度?當(dāng)然，有許多算法會造成傷害 -例如，量刑算法已被證明不成比例地建議低收入和少數(shù)民族被送進(jìn)監(jiān)獄。

類似的危機(jī)導(dǎo)致了以前提出的道德承諾。在2008年全球金融危機(jī)之后，金融工程師伊曼紐爾·德曼(Emanuel Derman)和保羅威爾莫特(Paul Wilmott)的一份宣言懇請經(jīng)濟(jì)建模者發(fā)誓不要“讓使用我模型的人對其準(zhǔn)確性給予誤報。相反，我會明確其假設(shè)和疏忽。“

正如偏見可以像孩子一樣學(xué)習(xí)，這些算法的偏見是他們訓(xùn)練的結(jié)果。這些算法的一個共同特征是使用黑盒(通常是專有的)算法，其中許多算法使用統(tǒng)計(jì)偏差數(shù)據(jù)進(jìn)行訓(xùn)練。

就刑事司法而言，該算法的不公正結(jié)果源于這樣一個事實(shí)，即在歷史上，少數(shù)群體在監(jiān)獄人口中的比例過高(很可能是由于長期存在的人類偏見)。因此，該偏差被復(fù)制并且可能被算法加劇。

機(jī)器學(xué)習(xí)算法是針對數(shù)據(jù)進(jìn)行訓(xùn)練的，并且只能期望產(chǎn)生限于這些數(shù)據(jù)的預(yù)測。偏見，偏見。

承諾，承諾

采取道德承諾是否有助于這些算法的設(shè)計(jì)者?或許，但對統(tǒng)計(jì)偏差的更多認(rèn)識可能就足夠了。抽樣中無偏見的問題長期以來一直是統(tǒng)計(jì)學(xué)的基石，這些主題的培訓(xùn)可能導(dǎo)致設(shè)計(jì)者退后一步并質(zhì)疑其預(yù)測的有效性。

Fry自己過去一直在評論這個問題，并表示人們必須“關(guān)注你對數(shù)據(jù)的偏見如何能夠最終反饋到你正在進(jìn)行的分析”。

但是，盡管無偏見的代表性問題在統(tǒng)計(jì)數(shù)據(jù)中并不新鮮，但在爭議領(lǐng)域越來越多地使用高性能算法使“數(shù)據(jù)素養(yǎng)”變得比以往更加重要。

問題的一部分是機(jī)器學(xué)習(xí)算法易于應(yīng)用，使得數(shù)據(jù)素養(yǎng)不再是數(shù)學(xué)和計(jì)算機(jī)科學(xué)家特有的，而是廣大公眾。廣泛的基本統(tǒng)計(jì)和數(shù)據(jù)素養(yǎng)將有助于提高對統(tǒng)計(jì)偏差問題的認(rèn)識，并且是防止不當(dāng)使用算法的第一步。