學生小組探討了人工智能的倫理維度

多年來，科技行業(yè)采取了一種快速和突破性的方法，很少有人會想到市場上出現(xiàn)了一波驚人的通信和導航世界的新工具。

現(xiàn)在，隨著對假新聞傳播，個人數(shù)據(jù)濫用以及機器學習算法大規(guī)模歧視的可能性日益增加的擔憂，人們正在評估該行業(yè)的破產(chǎn)情況。三個麻省理工學院的學生，Irene Chen， Leilani Gilpin和 Harini Suresh，他們是新麻省理工學院人工智能倫理閱讀小組的創(chuàng)始人， 進入這個清算時刻 。

這三個人都是電氣工程和計算機科學系(EECS)的研究生，他們在硅谷工作過，他們親眼目睹了如何以良好的意愿開發(fā)技術(shù)可能會出現(xiàn)嚴重錯誤。

“人工智能很酷，”陳在最近一個早晨在大堂7聊天時說。“它太強大了。但有時它會嚇到我。“

創(chuàng)始人曾在課堂上和朋友之間就人工智能的承諾和風險進行了辯論，但他們在9月份 在劍橋機器學習研討會上獲得了谷歌贊助的 公平性。在那里，麻省理工學院的一位教授提出了一個倫理論壇的想法，并讓這三個女人保持聯(lián)系。

當麻省理工學院上個月宣布計劃創(chuàng)建麻省理工學院斯蒂芬A.施瓦茨曼計算機學院時，他們啟動了 麻省理工學院人工智能倫理閱讀組。在施瓦茨曼宣布之后的熱情中，超過60人參加了他們的第一次會面。

其中一位是麻省理工學院斯隆管理學院碩士生Sacha Ghebali 。他在麻省理工學院的金融課程中參加了必修的道德課程，并渴望了解更多信息。

“我們正在構(gòu)建具有很大杠桿作用的工具，”他說。“如果你沒有正確地構(gòu)建它們，你可能會造成很大的傷害。你需要不斷思考道德。“

在最近的一個晚上，Ghebali回到了第二晚的討論之中。他們在空蕩蕩的教室里圍著一堆披薩盒聚集在一起，因為吉爾平在去年春天重新開始致命的撞車事件而開始了會議，其中一輛自駕車的優(yōu)步撞上了行人。吉爾平問道，誰應該承擔責任，編程汽車的工程師或車輪后面的人?

隨后進行了熱烈的辯論 然后，當談話轉(zhuǎn)向道德應該如何教授時，學生們分成小組：要么作為一個獨立的課程，要么整合到整個課程中。他們考慮了兩種模式：哈佛，它將哲學和道德推理融入其計算機科學課程，以及硅谷的圣克拉拉大學，它在其入門數(shù)據(jù)科學課程中提供基于案例研究的倫理學模塊。

“在CS課程中教授道德很難，所以也許應該有單獨的課程，”一名學生提出。其他人認為道德應該整合到每個技術(shù)培訓層面。

“當你學習編碼時，你將學習一個設計過程，”EECS研究生Natalie Lao說，他幫助為K-12學生開發(fā)人工智能課程。“如果你將道德規(guī)范納入你的設計實踐，你就會學會將道德規(guī)范內(nèi)化為你工作流程的一部分。”

學生們還討論了是否應考慮最終用戶以外的利益相關(guān)者。Suresh告訴小組說：“當我正在建立與所有會影響的人交談時，我從未接受過教育。” “這可能非常有用。”

1922年的計算機科學與電子工程教授Abelson說，該研究所應該如何在麻省理工學院施瓦茨曼計算機學院教授倫理學，他幫助啟動了該小組并參加了兩次會議。“這真的只是一個開始，”他說。“五年前，我們甚至沒有談論人們關(guān)閉汽車的方向盤。”

隨著人工智能的不斷發(fā)展，安全和公平問題仍將是最重要的問題。在麻省理工學院的研究中，倫理閱讀小組的創(chuàng)始人同時開發(fā)工具來解決小組中提出的困境。

吉爾平正在創(chuàng)建方法和工具，以幫助自動駕駛汽車和其他自動機器解釋自己。她說，要讓這些機器真正安全且受到廣泛信任，他們需要能夠解釋自己的行為并從錯誤中吸取教訓。

Suresh正在開發(fā)算法，使人們更容易負責任地使用數(shù)據(jù)。在與Google的暑期實習期間，她研究了在Google新聞和其他基于文本的數(shù)據(jù)集上訓練的算法是如何學習某些功能以學習偏見的關(guān)聯(lián)的。她說，識別數(shù)據(jù)管道中的偏見來源是避免下游應用程序中更嚴重問題的關(guān)鍵。

Chen，以前是DropBox的數(shù)據(jù)科學家和參謀長，負責開發(fā)用于醫(yī)療保健的機器學習工具。在一篇新論文“ 為什么我的分類器歧視”中，她認為AI預測的公平性應該通過收集更多數(shù)據(jù)來衡量和糾正，而不僅僅是通過調(diào)整模型。她下個月在世界上最大的機器學習會議神經(jīng)信息處理系統(tǒng)上發(fā)表論文。

“Dropbox的許多問題，以及現(xiàn)在我在麻省理工學院的研究，都是全新的，”她說。“沒有劇本。處理人工智能的一部分樂趣和挑戰(zhàn)是你隨時都在努力。“

人工智能小組于11月28日和12月12日舉行了本學期的最后兩次會議。