Salesforce談?wù)撈溆糜诮鹑诜?wù)

Salesforce的Allison Witherspoon與TechRepublic討論了新的行業(yè)特定的愛因斯坦分析產(chǎn)品以及旨在幫助開發(fā)人員解決AI偏見的新Trailhead模塊。在TrailheaDX 2019年，Salesforce的Allison Witherspoon與TechRepublic討論了新的行業(yè)特定的愛因斯坦分析產(chǎn)品和新的Trailhead模塊，旨在幫助開發(fā)人員解決AI中的偏見問題。以下是訪談的編輯記錄。

Bill Detwiler：告訴我一些關(guān)于愛因斯坦分析的新公告和新發(fā)展。

Allison Witherspoon：愛因斯坦分析，無論您的角色，部門或行業(yè)如何，我們都非常注重為每個(gè)用戶提供量身定制的洞察力。自從我們在2014年推出分析以提供這些特定于角色的特定目的建立的見解以來，我們真的一直在這個(gè)旅程中。我們首先為每個(gè)角色 - 銷售分析，服務(wù)分析，B2B營銷分析構(gòu)建一種分析。

在過去的幾年里，我們采用了一種轉(zhuǎn)換方式，為行業(yè)提供同樣的心態(tài)，以便我們采取垂直方法。我們推出分析產(chǎn)品的第一個(gè)行業(yè)是金融服務(wù)，這樣每個(gè)財(cái)富顧問，每個(gè)零售銀行家都可以看到他們關(guān)心的事情，即金融服務(wù)云。因此，您可以看到諸如存款，貸款，費(fèi)用，客戶目標(biāo)，提款，管理資產(chǎn)等所有內(nèi)容......所有這些都非常非常適合金融服務(wù)。

Bill Detwiler：通過分析，有很多不同的類型，對吧?你有規(guī)范分析，你有預(yù)測分析。稍微談?wù)効蛻艨梢詮膼垡蛩固蛊脚_(tái)獲得哪些類型的分析。

艾莉森威瑟斯彭：因此，對于金融服務(wù)的愛因斯坦分析，它是全方位的分析，從描述性和診斷(發(fā)生了什么，為什么會(huì)發(fā)生?)到預(yù)測性和規(guī)范性(將會(huì)發(fā)生什么，我應(yīng)該怎么做)它?)。這真的要?dú)w功于我們的分析平臺(tái)注入人工智能的見解。因此，當(dāng)您購買愛因斯坦分析時(shí)，您將獲得該產(chǎn)品的愛因斯坦發(fā)現(xiàn)。這就是我們的智能數(shù)據(jù)發(fā)現(xiàn)工具。因此，您可以在上下文中利用所有這些預(yù)測和建議。因此，例如，愛因斯坦分析公司對于金融服務(wù)的看法可能就是現(xiàn)在的財(cái)富顧問，而零售業(yè)銀行家可以做預(yù)測流失的事情。哪些客戶最容易流失?哪些客戶最有可能擁有大額存款并增加其管理資產(chǎn)?這些人的非常具體的預(yù)測見解。

Bill Detwiler：客戶獲得這些見解后，采取什么行動(dòng)才能采取行動(dòng)?

Allison Witherspoon：愛因斯坦分析有一個(gè)非常豐富的行動(dòng)框架，我們稱之為內(nèi)置于平臺(tái)，所以從任何儀表板，從洞察力，你可以采取行動(dòng)回到Salesforce。您可以執(zhí)行諸如記錄任務(wù)，創(chuàng)建事件，發(fā)布到Chatter，進(jìn)行通信等操作。因此，從洞察力回到Salesforce，真正增加了協(xié)作和溝通。

Bill Detwiler：這可以自動(dòng)化嗎?例如，如果你是經(jīng)紀(jì)人，如果你是經(jīng)紀(jì)人，并且你得到的信息說：“嘿看，這個(gè)客戶可能會(huì)離開這個(gè)行為，把錢花在別處，因?yàn)槟硞€(gè)事件或者因?yàn)槠脚_(tái)預(yù)測到“然后是一個(gè)動(dòng)作......然后他們會(huì)自動(dòng)提示采取行動(dòng)，對嗎?因此，Salesforce，管理員和開發(fā)人員可以設(shè)置系統(tǒng)，以便然后提示經(jīng)紀(jì)人和代理人自動(dòng)采取行動(dòng)，對嗎?

Allison Witherspoon：全面的分析 - 從描述到規(guī)范 - 所以我們可以在他們應(yīng)該采取什么行動(dòng)的背景下提出建議。我們希望將這種決定保留給用戶。但我們確實(shí)在Salesforce平臺(tái)中內(nèi)置了工具，例如Process Builder，這種工作流程自動(dòng)化工具允許您根據(jù)所獲得的洞察力設(shè)置這些觸發(fā)器。因此，由于分析是基于Salesforce平臺(tái)構(gòu)建的，因此您可以訪問Salesforce平臺(tái)的所有優(yōu)點(diǎn)。

Bill Detwiler：當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，你早一點(diǎn)提到它，談?wù)撨@是允許它做很多決策的原因。請與我討論一下AI如何構(gòu)建到分析計(jì)劃中。

Allison Witherspoon：AI現(xiàn)在帶有分析平臺(tái)。就像我提到的那樣，當(dāng)你購買愛因斯坦分析時(shí)，你會(huì)得到開箱即用的人工智能。而我們對客戶的看法是，分析與AI之間的界限在BI和AI之間變得非常模糊。它真的變成了這種智能體驗(yàn)。而這正是我們用愛因斯坦分析所追求的一個(gè)用戶界面，一個(gè)用戶體驗(yàn)，您可以從中獲得智能體驗(yàn)，無論您是在查看帶有各種歷史信息或預(yù)測或建議的儀表板，還是那種自動(dòng)化并排。借助我們的智能數(shù)據(jù)發(fā)現(xiàn)工具愛因斯坦探索，我們將更多的歷史性學(xué)習(xí)與預(yù)測和建議并駕齊驅(qū)。

Bill Detwiler：如果有人將AI整合到愛因斯坦平臺(tái)，那么它面臨多大的挑戰(zhàn)呢?通過分析，是否總是計(jì)劃將AI添加到其中?談?wù)剬I納入愛因斯坦平臺(tái)的問題。

Allison Witherspoon：是的，所以我們采用有機(jī)和無機(jī)方法結(jié)合我們考慮建立AI的方式。因此，我們已經(jīng)有了一個(gè)數(shù)據(jù)科學(xué)家團(tuán)隊(duì)，他們在過去大約四年左右的時(shí)間里一直在構(gòu)建愛因斯坦平臺(tái)以及許多人工智能和機(jī)器學(xué)習(xí)模型。但是我們也一直在進(jìn)行一些收購，我相信你已經(jīng)知道了，這讓我們在我們自己的團(tuán)隊(duì)不工作之前在我們可能沒想過的空間里成長特別是在深度學(xué)習(xí)等方面。因此能夠獲取非結(jié)構(gòu)化數(shù)據(jù)并執(zhí)行圖像識(shí)別，自然語言處理以及現(xiàn)在通過愛因斯坦語音進(jìn)行語音到文本的操作。所以'

愛因斯坦分析，特別是愛因斯坦發(fā)現(xiàn)，從這個(gè)領(lǐng)域的收購中找到了我們。因此，一旦我們從客戶那里聽到他們想要的東西，我們就能夠?qū)⒅悄軘?shù)據(jù)發(fā)現(xiàn)功能添加到我們的分析平臺(tái)。因?yàn)槲覀冊俅纬蔀橐患以诳蛻舴答伔矫媾畈l(fā)展的公司，我們從客戶那里聽說他們并不真正關(guān)心他們是使用分析還是人工智能或機(jī)器學(xué)習(xí)還是深度學(xué)習(xí) - 這只是這種術(shù)語的海洋給他們。

Bill Detwiler：告訴我一些關(guān)于你通過人工智能建立愛因斯坦平臺(tái)的新信任計(jì)劃。

Allison Witherspoon：Salesforce的信任是第一價(jià)值，因此我們對AI產(chǎn)品采取同樣的心態(tài)也就不足為奇了。大約一個(gè)月前，我們在我們的愛因斯坦產(chǎn)品中推出了一系列功能，這些功能真正有助于強(qiáng)化信任的信息。這意味著它需要透明。所以我們需要向AI展示最終消費(fèi)者，為什么預(yù)測就是這樣，我們稱之為預(yù)測因素。因此能夠暴露預(yù)測因素并能夠暴露模型的基礎(chǔ)R代碼，如果用戶想要擅長并且有點(diǎn)看得見。所以第一件就是透明度。

第二部分是負(fù)責(zé)任的AI。因此，這意味著能夠在很早的時(shí)候防止偏差進(jìn)入模型，無論是潛伏在模型本身還是潛入模型中的數(shù)據(jù)。所以我們做的事情就像是偏見保護(hù)的標(biāo)志。當(dāng)使用我們的工具之一的AI構(gòu)建者正在構(gòu)建模型時(shí)，我們?nèi)绾胃嬖V他們哪些數(shù)據(jù)字段可能會(huì)導(dǎo)致偏差?

然后第三個(gè)支柱是一種負(fù)責(zé)任的人工智能。這就是正在發(fā)生這種反饋循環(huán)的想法，以及我們?nèi)绾卧谌魏螘r(shí)候展示模型的執(zhí)行情況，在模型記分卡中公開模型指標(biāo)，以便用戶可以確定他們是否想要實(shí)際轉(zhuǎn)變該模型on，部署它，并將預(yù)測公開給最終用戶?

所以這就是受信任的AI的想法，我們實(shí)際上在愛因斯坦產(chǎn)品中提供了很多這些功能。就在本周，我們啟動(dòng)了負(fù)責(zé)任的AI Trailhead創(chuàng)建，因?yàn)槲覀冋娴南嘈?，無論您使用愛因斯坦的技能，我們實(shí)際上都能讓公民數(shù)據(jù)科學(xué)家建立AI，以構(gòu)建自定義AI。因此，如果您沒有數(shù)據(jù)科學(xué)博士學(xué)位，那么您如何開始構(gòu)建沒有偏見的AI模型，這些模型是公平的，值得信賴的，符合道德標(biāo)準(zhǔn)的?因此，這條小路是一個(gè)開始了解什么是人工智能的好地方，這種偏見可以潛伏在哪里，以及培養(yǎng)自己的技能，以便建立真正公平和值得信賴的模型。

Bill Detwiler：所以大多數(shù)人工智能，大多數(shù)算法，都與你輸入的數(shù)據(jù)一樣好。很多組織都有遍布各地的數(shù)據(jù)。它是完全不同的，它不干凈。因此，許多組織在實(shí)施人工智能項(xiàng)目時(shí)，需要進(jìn)行比他們想象的更多的數(shù)據(jù)清理，數(shù)據(jù)管理和數(shù)據(jù)組織。愛因斯坦有哪些工具可以幫助組織做到這一點(diǎn)，或者是集成商幫助他們在將產(chǎn)品部署到客戶時(shí)這樣做?這部分過程如何運(yùn)作?

Allison Witherspoon：借助愛因斯坦分析平臺(tái)，我們可以從任何來源引入數(shù)據(jù)。我們有一個(gè)連接器庫，可以讓您輕松連接到第三方數(shù)據(jù)源，因?yàn)槲覀兪冀K從客戶那里聽到他們的數(shù)據(jù)不僅存在于Salesforce中 - 它存在于ERP系統(tǒng)，人力資源系統(tǒng)，財(cái)務(wù)系統(tǒng)中 - 所以我們需要讓他們很容易將數(shù)據(jù)帶入Salesforce。這是第一步。

第二步是數(shù)據(jù)準(zhǔn)備過程，并真正創(chuàng)建一種智能數(shù)據(jù)準(zhǔn)備工具，以便我們的Salesforce管理員或數(shù)據(jù)分析師，無論是誰使用愛因斯坦分析，無論是誰，他們都可以實(shí)際清理他們的數(shù)據(jù)，清理他們的數(shù)據(jù)，轉(zhuǎn)換他們的數(shù)據(jù)一種人工智能的建議。所以我們將AI帶到了數(shù)據(jù)準(zhǔn)備過程，在那里我們實(shí)際上會(huì)進(jìn)行連接并非常智能地填充缺少的字段和所有類型的東西，以使該過程更加順暢。

Bill Detwiler：好的。當(dāng)你談?wù)撊斯ぶ悄艿牡赖率褂煤头匠讨袃?nèi)置的偏見時(shí)，工具中的觸發(fā)器是什么?但除此之外，工具中是否有標(biāo)記和觸發(fā)器可以幫助他們知道，“好的，當(dāng)您引入此數(shù)據(jù)集時(shí)，它可能會(huì)為您提供所需的信息”，例如，但它也可能導(dǎo)致意外偏差也進(jìn)入系統(tǒng)?那么系統(tǒng)如何做到這一點(diǎn)超出了你在訓(xùn)練方面對新的Trailhead所做的事情呢?

艾莉森威瑟斯彭：而且我很高興你提到這一點(diǎn)，因?yàn)槲掖_實(shí)認(rèn)為這是一種雙管齊下的方法。我們必須進(jìn)行教育，但我們還必須將這些觸發(fā)器構(gòu)建到產(chǎn)品中，而這正是我們正在做的事情。借助愛因斯坦分析中的愛因斯坦偏差保護(hù)，當(dāng)您構(gòu)建可能導(dǎo)致潛在偏見的模型時(shí)，我們實(shí)際上可以標(biāo)記字段。因此，無論是管理員還是分析師，該模型的構(gòu)建者實(shí)際上會(huì)設(shè)置他們認(rèn)為可能導(dǎo)致偏見的字段，如郵政編碼，如性別，如種族。然后愛因斯坦發(fā)現(xiàn)將實(shí)際查看所有這些字段并找到相似字段，相關(guān)字段可能是已經(jīng)被用戶標(biāo)記的字段的代理。你呢'

Bill Detwiler：對于金融服務(wù)，金融服務(wù)系統(tǒng)中已經(jīng)存在很多偏見。

Allison Witherspoon：是的。

Bill Detwiler：你提到了郵政編碼。

Allison Witherspoon：是的。

Bill Detwiler：可能總是使用郵政編碼的客戶或他們的客戶如何來自地理位置周圍的特定郵政編碼或特定郵政編碼，或者是否屬于國家?因此，說服客戶不要依賴過去那些曾經(jīng)預(yù)測過的那些領(lǐng)域是多么困難，這些領(lǐng)域過去曾以純粹的投資回報(bào)率或純粹的財(cái)務(wù)狀況或純粹的底線為他們服務(wù)但是還在系統(tǒng)中加入了偏見?

Allison Witherspoon：這是一個(gè)很好的例子，因?yàn)樵诮鹑诜?wù)方面，我們看到很多這種偏見在模型中長期存在，尤其是郵政編碼，而不是向某些個(gè)人提供貸款，因?yàn)樗鼈儊碜脏]政編碼。回到這兩個(gè)軌道的這一點(diǎn)，我們可以對Trailhead進(jìn)行教育，我們可以將這些提示放在產(chǎn)品中，但我們不能強(qiáng)迫人們以某種??方式建立模型而我們永遠(yuǎn)不會(huì)去。

我們所能做的最好的事情就是使用我們的平臺(tái)，使用Trailhead等途徑教育我們的客戶。我們在Salesforce有一位出色的，令人驚嘆的同事叫Kathy Baxter，她是我們道德AI的架構(gòu)師。因此她對此充滿熱情，但是將這些提示構(gòu)建到產(chǎn)品中，對Trailhead上的人進(jìn)行教育，但不是那種會(huì)自動(dòng)為他們建立模型的Big Brother，會(huì)自動(dòng)取出某些永遠(yuǎn)不會(huì)善良的領(lǐng)域我們的立場。