教授今天的AI學(xué)生成為明天的道德領(lǐng)袖：張焱訪談錄

一些最偉大的科學(xué)家和未來(lái)的發(fā)明家現(xiàn)在坐在高中課堂上，通過(guò)微積分微笑，熱切地等待世界頂尖大學(xué)的一年級(jí)學(xué)生。他們可能已經(jīng)贏得了數(shù)學(xué)奧林匹克運(yùn)動(dòng)會(huì)或發(fā)明了聰明的新互聯(lián)網(wǎng)應(yīng)用程序。我們知道這些學(xué)生很聰明，但他們是否準(zhǔn)備負(fù)責(zé)任地指導(dǎo)技術(shù)的未來(lái)?

開發(fā)安全和有益的技術(shù)需要的不僅僅是技術(shù)專業(yè)知識(shí) - 它需要全面的教育和理解其他觀點(diǎn)的能力。但是，由于數(shù)學(xué)和理科學(xué)生必須花費(fèi)大量時(shí)間從事技術(shù)工作，他們往往缺乏理解他們的發(fā)明如何影響社會(huì)所需的技能和經(jīng)驗(yàn)。

這些教育差距可能會(huì)成為問(wèn)題，因?yàn)槿斯ぶ悄茉谖覀兊纳钪邪缪葜匾慕巧斯ぶ悄苎芯空谀贻p的計(jì)算機(jī)科學(xué)家中蓬勃發(fā)展，這些學(xué)生需要了解他們的創(chuàng)新所帶來(lái)的復(fù)雜的道德，治理和安全挑戰(zhàn)。

SPARC

2012年，一群人工智能研究人員和安全倡導(dǎo)者--Paul Christiano，Jacob Steinhardt，Andrew Critch，Anna Salamon和Yan Zhang--創(chuàng)建了應(yīng)用理性與認(rèn)知暑期課程(SPARC)，以解決數(shù)量眾多的青少年問(wèn)題。 ，包括AI中的教育差距問(wèn)題。正如所有技術(shù)一樣，他們解釋說(shuō)，人工智能社區(qū)越是由思想敏捷，聰明，寬廣的推理者組成，人工智能就越有可能以安全和有益的方式發(fā)展。

每年夏天，SPARC創(chuàng)始人都會(huì)邀請(qǐng)30-35名數(shù)學(xué)天才的高中生參加他們?yōu)槠趦芍艿恼n程。SPARC的主任張解釋說(shuō)：“我們的目標(biāo)是建立一個(gè)強(qiáng)大的社區(qū)，讓這些學(xué)生接觸到他們不會(huì)在課堂上得到的想法 - 成為當(dāng)今世界中數(shù)量上強(qiáng)大的青少年的盲點(diǎn)，如移情和社會(huì)動(dòng)態(tài)。總的來(lái)說(shuō)，我們希望讓他們成為能夠?yàn)槭澜鐜?lái)積極變化的更強(qiáng)大的人。“

為了幫助學(xué)生產(chǎn)生積極影響，SPARC講師教授有效利他主義(EA)的核心思想。“我們有很多關(guān)于EA的談話，但我們不會(huì)讓學(xué)生成為EA，”張說(shuō)。“我們向他們展示好的想法，我認(rèn)為這是一種更健康的指導(dǎo)方式。”

SPARC還向?qū)W生展示機(jī)器學(xué)習(xí)，人工智能安全和存在風(fēng)險(xiǎn)。在2016年和2017年，他們就這些主題舉辦了10多個(gè)課程，包括：Jacob Steinhardt教授的“機(jī)器學(xué)習(xí)”和“Tensorflow”，Paul Christiano教授的“不負(fù)責(zé)任的未來(lái)主義”和“有效的做好”，“優(yōu)化”由John Schulman和Michael Webb教授的“人工智能和自動(dòng)化的長(zhǎng)期思考”。

但是，SPARC教練也沒(méi)有將學(xué)生推向AI路徑。相反，他們鼓勵(lì)學(xué)生應(yīng)用SPARC的整體培訓(xùn)，以在任何領(lǐng)域產(chǎn)生更積極的影響。

關(guān)于保證金的思考：社會(huì)技能的作用

要產(chǎn)生最積極的影響，需要考慮邊際問(wèn)題，并要求：哪一個(gè)額外的知識(shí)單元最有助于產(chǎn)生積極影響?對(duì)于這些學(xué)生來(lái)說(shuō)，他們中的大多數(shù)都贏得了數(shù)學(xué)和計(jì)算奧林匹克運(yùn)動(dòng)會(huì)，通常不會(huì)有更多的數(shù)學(xué)。

“許多具有數(shù)學(xué)頭腦的學(xué)生的弱點(diǎn)是社交技能或與人有充分的爭(zhēng)論，”張說(shuō)。“因?yàn)橐杏绊懥Γ阈枰愕亩考寄?，但你也需要能夠與人交往。”

為了應(yīng)對(duì)這種弱點(diǎn)，他教授社交技巧和信號(hào)方面的課程，并偶爾引領(lǐng)即興游戲。SPARC仍然教授大量的數(shù)學(xué)知識(shí)，但張更有興趣解決這些學(xué)生的教育盲點(diǎn) - 教師們自己作為學(xué)生的盲點(diǎn)。“什么會(huì)讓我們更具有影響力的個(gè)人，而且在很多方面也會(huì)更加完整和更加人性化?”他問(wèn)道。

與非數(shù)學(xué)學(xué)生一起工作可以提供幫助，因此張和他的同事們已經(jīng)嘗試將優(yōu)秀的作家和原創(chuàng)思想家?guī)朐撚?jì)劃。“我們一直與這些學(xué)生取得了非常好的成績(jī)，因?yàn)樗麄儙?lái)了數(shù)學(xué)奧林匹克運(yùn)動(dòng)員孩子所沒(méi)有的東西，”張說(shuō)。

SPARC還通過(guò)開放慈善項(xiàng)目，OpenAI，Dropbox和Quora等學(xué)術(shù)界和組織的嘉賓發(fā)言人拓寬了學(xué)生的視野。在一次演講中，Dropbox工程師Albert Ni向SPARC學(xué)生講述了“數(shù)學(xué)人在以后的生活中嘗試做事時(shí)常犯的錯(cuò)誤”。

在另一個(gè)成功的實(shí)驗(yàn)中，SPARC校友Ofer Grossman現(xiàn)在是一名工作人員，SPARC在2017年將所有課程中的一半選為可選課程。由于學(xué)生對(duì)文化的欣賞，課程仍然很緊張。創(chuàng)始人還同意課后的談話往往比課堂更有影響力，因此一對(duì)一時(shí)間和課堂討論進(jìn)行了一致。他們?cè)谶吘壦伎紩r(shí)問(wèn)道：“學(xué)校里有什么令人難忘的東西?有什么好的部分?我們可以做更多這些而不是其他的嗎?“

最重要的是，SPARC培養(yǎng)了一種開放，好奇和責(zé)任感的文化。該項(xiàng)目固有的“認(rèn)知消除” - 了解選擇偏差和確認(rèn)偏差等常見偏差，并對(duì)其進(jìn)行糾正。“我們非常明確地在彼此的互動(dòng)中做了大量的去偏見，”張說(shuō)。“我們也有關(guān)于認(rèn)知偏見的課程，但文化是更重要的部分。”

AI研究和未來(lái)領(lǐng)導(dǎo)者

設(shè)計(jì)安全和有益的技術(shù)需要技術(shù)專業(yè)知識(shí)，但在SPARC看來(lái)，培養(yǎng)整體研究文化同樣重要。今天的優(yōu)秀學(xué)生可能會(huì)在未來(lái)取得一些最重要的人工智能突破，他們的價(jià)值觀，教育和氣質(zhì)將在確保高級(jí)人工智能安全部署和共同利益方面發(fā)揮關(guān)鍵作用。

“這在人工智能之外也很重要，”張解釋道。“SPARC官方的立場(chǎng)是讓這些學(xué)生成為他們社區(qū)的未來(lái)領(lǐng)導(dǎo)者，無(wú)論是AI，學(xué)術(shù)界，醫(yī)學(xué)還是法律。然后，這些領(lǐng)導(dǎo)人可以互相交談，成為盟友，而不是擁有一堆分散的，狹隘的紀(jì)律。“

隨著SPARC接近第7年，一些校友已經(jīng)開始產(chǎn)生影響。一些面向AI的校友最近成立了AlphaSheets--一個(gè)用于融資的協(xié)作式可編程電子表格，不易出錯(cuò) - 而其他學(xué)生正在與硅谷的人們一起領(lǐng)導(dǎo)一個(gè)“黑客之家”。此外，SPARC啟發(fā)了ESPR的創(chuàng)建，ESPR是一個(gè)明確專注于AI風(fēng)險(xiǎn)的類似歐洲計(jì)劃。

但大多數(shù)影響都不那么明顯。“對(duì)不同事物感興趣的不同人群一直在與SPARC的資源合作，他們正在組建許多社會(huì)團(tuán)體，”張解釋說(shuō)。“這就像一堆小小的火花，我們不知道它們會(huì)變成什么樣，但我對(duì)未來(lái)五年的表現(xiàn)非常興奮。”