Nvidia滿(mǎn)足了對(duì)自然語(yǔ)言處理的需求

隨著對(duì)聊天機(jī)器人和人工智能交互的自然語(yǔ)言處理需求的增長(zhǎng)，越來(lái)越多的公司需要能夠提供它的系統(tǒng)。Nvidia表示其平臺(tái)可以處理它。Nvidia在對(duì)話自然語(yǔ)言處理(NLP)培訓(xùn)和推理方面擁有突破，可以在客戶(hù)和聊天機(jī)器人之間實(shí)現(xiàn)更復(fù)雜的交換，并立即做出響應(yīng)。

Juniper Research的數(shù)據(jù)顯示，預(yù)計(jì)這種技術(shù)的需求將增長(zhǎng)，因?yàn)轭A(yù)計(jì)未來(lái)四年內(nèi)僅數(shù)字語(yǔ)音助理將從25億增加到80億，而Gartner預(yù)測(cè)，到2021年，所有客戶(hù)服務(wù)互動(dòng)的比例將達(dá)到15%。 AI將完全處理，比2017年增加400%。該公司表示其DGX-2 AI平臺(tái)在不到一個(gè)小時(shí)的時(shí)間內(nèi)培訓(xùn)了BERT-Large AI語(yǔ)言模型，并在2+毫秒內(nèi)完成了AI推理，使得開(kāi)發(fā)人員可以使用最先進(jìn)的語(yǔ)言理解 - 規(guī)模應(yīng)用。“

變形金剛的BERT或雙向編碼器表示是一種基于Google的AI語(yǔ)言模型，許多開(kāi)發(fā)人員認(rèn)為在一些性能評(píng)估中，它比人類(lèi)具有更高的準(zhǔn)確性。這一切都在這里討論。

Nvidia設(shè)置自然語(yǔ)言處理記錄

總而言之，Nvidia聲稱(chēng)擁有三張NLP記錄：

1.培訓(xùn)：運(yùn)行最大版本的BERT語(yǔ)言模型，Nvidia DGX SuperPOD配備92個(gè)運(yùn)行1,472 V100 GPU的Nvidia DGX-2H系統(tǒng)，可將培訓(xùn)時(shí)間從幾天縮短到53分鐘。單個(gè)DGX-2系統(tǒng)的大小與塔式PC相當(dāng)，在2.8天內(nèi)訓(xùn)練了BERT-Large。

應(yīng)用深度學(xué)習(xí)研究副總裁Bryan Catanzaro在一份聲明中說(shuō)：“我們可以越快地訓(xùn)練模型，我們可以訓(xùn)練的模型越多，我們對(duì)問(wèn)題的了解就越多，結(jié)果就越好。”

2.推論：在其TensorRT深度學(xué)習(xí)推理平臺(tái)上使用Nvidia T4 GPU，Nvidia在2.2毫秒內(nèi)對(duì)BERT-Base SQuAD數(shù)據(jù)集進(jìn)行了推斷，遠(yuǎn)低于許多實(shí)時(shí)應(yīng)用的10毫秒處理閾值，遠(yuǎn)遠(yuǎn)領(lǐng)先于40使用高度優(yōu)化的CPU代碼測(cè)量的毫秒數(shù)。

3.型號(hào)：Nvidia表示其新的定制模型，稱(chēng)為Megatron，擁有83億個(gè)參數(shù)，比BERT-Large大24倍，是世界上最大的基于變形金剛的語(yǔ)言模型，變形金剛是用于BERT和其他自然語(yǔ)言AI的構(gòu)建模塊楷模。

為了讓FOSS的擁護(hù)者感到高興，Nvidia也通過(guò)GitHub提供了大量的源代碼。

使用PyTorch的NVIDIA GitHub BERT培訓(xùn)代碼

TensorFlow的NGC模型腳本和檢查點(diǎn)

TensorRT在GitHub上優(yōu)化了BERT樣本

更快的Transformer：C ++ API，TensorRT插件和TensorFlow OP

MXNet Gluon-NLP，支持AMP的BERT(培訓(xùn)和推理)

AI Hub上的TensorRT優(yōu)化BERT Jupyter筆記本

Megatron-LM：用于訓(xùn)練大型變壓器模型的PyTorch代碼

并不是說(shuō)這很容易消耗掉。我們正在談?wù)摲浅Ｏ冗M(jìn)的AI代碼。很少有人能夠做出正面或反面。但這種姿態(tài)是積極的。