好人勿用™

 大叔不自量力蹭AI網誌,
兆元大神的兆級參數的浪漫 - NVIDIA GB200


適用於即時一兆參數推論的 NVIDIA GB200 NVL72
https://www.nvidia.com/zh-tw/data-center/grace-cpu/

Nvidia推出採用最新Blackwell架構的GB200 NVL72資料中心機架系統
https://www.ithome.com.tw/news/161835


TSMC N4P製程技術

https://pr.tsmc.com/chinese/news/2874

導體分析師陸行之在臉書點出輝達GTC，其中的幾項技術關鍵數字：
https://www.businesstoday.com.tw/article/category/183015/post/202403190027/

1. Blackwell 100 有 2080億電晶體 比 Hopper 100 的 800億電晶體多1280億電晶體；

2. B100跟H100相同，都是用台積電4nm, 但是把兩個晶片用封裝結合，不是用微縮來加倍運算速度；

3. GB200 Superchip 把2顆B100及 72顆 ARM Neoverse V2 CPU cores 一起包起來，如果賣的好，Intel/AMD 的AI server CPU 就不用玩了；
4. 不懂為何兩顆B100(192+192=384HBM3e)+一顆 Grace CPU 的GB200 Superchip 怎麼 HBM3e突然暴增到864GB? 理論上 CPU應該配LPDDR, 
     但Nvidia 說兩組GB200有1.7TB HBM3e，是不是做ppt的小朋友搞錯了哈；

5. 要建立32000顆 B100 GPU 的AI datacenter，能提供645 exaFLOPS 的AI performance, 大概要花12億美元在B100 GPU上, 3億美元系統，
   3-5億 ARM CPU, 還要近890顆的NVlink switch 晶片，也是用台積電4nm來製造，感覺20億美元以上跑不掉。

GTC March 2024 Keynote with NVIDIA CEO Jensen Huang


 六年級大叔說過這篇為不自量力的網誌...

生活的目的，在增進人類全體之生活；
生命的意義，在創造宇宙繼起之生命。

「AI巨浪」席捲全球。近日黃仁勳在一次於矽谷的聚會上提及，
這波浪潮的起源，其實多虧了台灣，外界可能會以為自己一直提到台灣，救了台灣的股市，但事實上「是台灣救了我」。



碳基生物 (Carbon-based life)  // 血肉之軀

https://zh.wikipedia.org/zh-tw/%E7%A2%B3%E5%9F%BA%E7%94%9F%E7%89%A9

矽基生物 (Silicon-based life)   // AI所驅

https://zh.wikipedia.org/wiki/%E7%A1%85%E5%9F%BA%E7%94%9F%E7%89%A9


能否用AI的算力,
找出反重力元素115 (Mc), 還有大叔想知道算bitcoin的威力!!!

Address: 1L3EuimbzuP2kDEvkkNQdBNVcaiC6MXC77 (blockchain.com)

《路透》指出，Blackwell B200預計售價約在3萬美元（約新台幣95.3萬元）至4萬美元（約新台幣127萬元）之間，
而Blackwell平台的研發預算約為100億美元（約新台幣3177.3億元）。
輝達 B200 售價恐達 4 萬美元毛利率破八成，但黃仁勳想賣整機 | TechNews 科技新報

AMD Instinct™ AI 解決方案 // 路人甲乙丙丁?
                                  


 

@ 愛搞電的港都狼仔  Facebook
1. GB200超級晶片包含1個300W Grace 72核心ARM CPU及2個1200W Blackwell GPU，
    搭載480GB LPDDR5及384GB HBM3e記憶體，每個GB200超級晶片可提供40 petaFLOPS FP4運算能力 (10¹⁵)

2. 每個1U單元內含2個Grace-Blackwell GB200超級晶片 (1U = 2x GB200 = 80 petaFLOPS FP4 (10¹⁵))

2. Nvidia DGX GB200 NVL72單機櫃，每個機櫃FP4總運算能力可達1.44 exaFLOPS (10¹⁸)


NVLink資訊交換單元內部




NVLink資訊交換單元，用來連接18個運算單元


機櫃冷卻液管路，依照設計規格，在每秒2公升的流量下，冷卻液體出口溫度將高於入口溫度20度

GB200超級晶片使用DTC(Direct-To-Chip，冷卻液體直接接觸晶片散熱)



Nvidia DGX SuperPOD by 8x Nvidia DGX GB200 NVL72機櫃


GB200 NVL72 | NVIDIA
適用於企業部署的人工智慧基礎架構 | NVIDIA

比特幣全網算力(2013/5) : 1 EFLOPS
比特幣全網算力(2018/5) : 35 EFLOPS

BTC(Bitcoin)比特幣全網算力:
https://mining.btcfans.com/zh-tw/calculator/bitcoin

                                                 大叔的浪漫

                             Tera = 兆級 = 1000 000 000 000 = 10¹²