NVIDIA的高效能AI旗艦機DGX-2的賣點

高效能AI受到重視，NVIDIA剛發表專為AI打造的DGX-2，正好做為明天到臺大醫院演講以及下次上課的教案。

DGX-2幾乎是以暴力法解決我們從HGX-1上面看到的一些問題，沒有太大的意外。姑且假裝我是NVIDIA的銷售人員，來述說DGX-2的厲害之處:

- 一台機器8張GPU不夠嗎? 沒問題，一台放進16張。

- 每張GPU只有16GB記憶體太少? 那就加倍給你32GB。

- 這麼多張GPU在交換資料時不會大塞車嗎? 啊，您真是內行人，沒關係，我們用12個NVSwitches打造一秒可讓這些GPU互傳4TB的超高速網路，看您有多少資料要傳都行!

- 嫌一台16張GPU還是不夠力嗎? 太好了，請多買幾台! 每台DGX-2上有8條高速網路通道，比DGX-1還多一倍，而且是Infiniband/Ethernet兩用的喔，不用擔心多台機器之間會塞車了!

- 您說即使GPU很強，CPU不夠力也是枉然? 不好意思，我們特別選了Intel最快的Xeon Platinum 系列，夠誠意了吧? (吐槽技術人員: GPU都加倍了，為什麼只放兩顆CPU，不給四顆呢? 機器都這麼貴了，省這幹嘛? 是做不出來嗎?)

- 不費話，給您兩倍的主記憶體... 雖然現在記憶體很貴，不過貴公司應該負擔得起1.5TB的成本，不過只是60萬台幣上下而已。

- 機器這麼強，硬碟存取的速度跟得上嗎? 哎呀，我們早就不用硬碟，直接給您超快的NVMe SSD陣列，讓你放常用的30TB資料，不夠的話，可以增加到60TB喔。

- 當然，做大數據的您，應該會嫌這60TB太小，不過剛剛才跟您說過每台機器上有8條高速網路通道，請以此連接您資料中心的高速儲存系統，相信做大數據的貴公司，應該有無比強大的儲存系統，對嗎?

- 關於價錢嘛，不貴啦，這台如此強大，比前代賣台幣450萬元的DGX-1快十倍，但是定價不到台幣1200萬元，真的是佛心來著... 提醒您，我們的GPU都賣到缺貨，趕快下訂，買到賺到喔!

- 喔，對了，不要小看這台機器，體積有點大，而且很會吃電，請準備好10000瓦的電力來供養它，最好預先提撥未來幾年的電費...

但是NVIDIA黃總裁和旗下的銷售人員不會告訴你，Google的TPU還有其他公司針對深度學習所研發的晶片，可能比GPU的效率高出十倍以上，Intel也正在急起直追。

不過我想，NVIDIA在市場上，還會領先一陣子。

對了，非NVIDIA經銷商的我，必須提醒大家，比DGX-1快十倍的說法，指的是某個測試程式。以極速(peak performance)來論，DGX-2約略是DGX-1的兩倍，怎麼會高十倍呢? 這就給大家自己想了...

參考資料:

[1] https://www.anandtech.com/show/12581/nvidia-develops-nvlink-switch-nvswitch-18-ports-for-dgx2-more
[2] https://www.inside.com.tw/2018/03/28/jensen-huang-unveils-nvidia-dgx-2-gpu-supercomputer-and-cards
[3] https://news.xfastest.com/nvidia/47580/nvidia-has-announced-dgx-2-and-quadro-gv100/