法國(guó)施耐德模塊CPUPC-A984-120

法國(guó)施耐德模塊CPUPC-A984-120

在人工智能以及針對(duì)各種截然不同的終端市場(chǎng)和系統(tǒng)而設(shè)計(jì)的機(jī)器學(xué)習(xí)芯片快速發(fā)展的推動(dòng)下，人們可選擇的存儲(chǔ)器/體系架構(gòu)數(shù)量呈現(xiàn)爆炸式增長(zhǎng)。

在這些系統(tǒng)中，某些系統(tǒng)的模型參數(shù)大小可能在100億到1000億之間，并且芯片或應(yīng)用之間的差異可能會(huì)非常大。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理是當(dāng)今復(fù)雜的工作負(fù)載之一，這使得很難找到的存儲(chǔ)解決方案。這些系統(tǒng)消耗了大量的計(jì)算資源（主要是使用乘法累加運(yùn)算）以及大量?jī)?nèi)存帶寬。系統(tǒng)任何一個(gè)環(huán)節(jié)的減速都可能對(duì)整個(gè)系統(tǒng)產(chǎn)生影響。

這給內(nèi)存開(kāi)發(fā)人員帶來(lái)了巨大的壓力，要求他們以的功耗、面積和成本提供盡可能多的帶寬。這一趨勢(shì)當(dāng)前并沒(méi)有減弱的跡象。神經(jīng)網(wǎng)絡(luò)模型規(guī)模逐年增長(zhǎng)，為了訓(xùn)練這些模型，數(shù)據(jù)集也在不斷增長(zhǎng)。

“這些模型的規(guī)模和訓(xùn)練集的大小每年都以大約一個(gè)數(shù)量級(jí)的速度增長(zhǎng)，”來(lái)自Rambus公司的杰出發(fā)明家、研究員StevenWoo說(shuō)。“今年年初，當(dāng)?shù)淖匀徽Z(yǔ)言處理模型問(wèn)世時(shí)，它具有大約170億個(gè)參數(shù)，這個(gè)數(shù)字夠大了吧，但是，今年夏天又出現(xiàn)了一個(gè)更新的版本，參數(shù)的數(shù)量居然上升到了1750億。也就是說(shuō)，大約七個(gè)月的時(shí)間，參數(shù)的數(shù)量就增加了整整10倍。”

20世紀(jì)80年代和90年代初的神經(jīng)網(wǎng)絡(luò)模型大約有100到1，000個(gè)參數(shù)。“如果我有一個(gè)更大的模型，我需要更多的樣本來(lái)訓(xùn)練它，因?yàn)槊總€(gè)參數(shù)都必須調(diào)整，”StevenWoo說(shuō)。“對(duì)于那些在技術(shù)領(lǐng)域缺乏耐心的人來(lái)說(shuō)，當(dāng)您擁有更多數(shù)據(jù)時(shí)，您不想再在訓(xùn)練上等待那么長(zhǎng)的時(shí)間。的出路是是擁有更多帶寬。您必須能夠更快地將這些數(shù)據(jù)推送到系統(tǒng)中，并更快地將其提取出來(lái)。帶寬是頭等大事。”

另一個(gè)問(wèn)題是能源。Woo表示：“如果您要做的只是將性能提高一倍，同時(shí)所消耗的電量也增加一倍，那么，生活就會(huì)很美好。但是，這不是它的運(yùn)作方式，您實(shí)際上需要非常在乎功率問(wèn)題，因?yàn)槟鷫ι系碾娫床遄荒艹惺苓@么大的功率。事實(shí)是，人們確實(shí)希望將性能提高X倍，但同時(shí)他們希望能將能源效率提高2X倍，這就是讓事情變得困難的地方。”

這種權(quán)衡在AI推理應(yīng)用方面更加困難。“今天，AI/ML的訓(xùn)練和推理之間的鴻溝越來(lái)越大，”CadenceIP集團(tuán)產(chǎn)品市場(chǎng)部總監(jiān)MarcGreenberg指出。“訓(xùn)練需要大的內(nèi)存帶寬，并且通常是在功能強(qiáng)大的服務(wù)器類(lèi)型的機(jī)器或非常的GPU卡上進(jìn)行的。在訓(xùn)練領(lǐng)域中，我們發(fā)現(xiàn)，高階訓(xùn)練使用HBM內(nèi)存，而低階訓(xùn)練使用GDDR6內(nèi)存。HBM存儲(chǔ)器特別擅長(zhǎng)以的單bit能量提供的帶寬。HBM2/2E內(nèi)存可以在AI/ML處理器與每個(gè)存儲(chǔ)器堆棧之間提供高達(dá)每秒3.2/3.6TB的內(nèi)存帶寬，而即將發(fā)布的HBM3標(biāo)準(zhǔn)則有望提供更高的帶寬。”

成本權(quán)衡

這種性能當(dāng)然是有代價(jià)的。Greenberg指出：“HBM作為一種解決方案，有一個(gè)與之匹配的高價(jià)格自然無(wú)可厚非，這意味著HBM可能會(huì)繼續(xù)部署在服務(wù)器機(jī)房和其他應(yīng)用中。GDDR6技術(shù)有助于降低成本，當(dāng)今的器件可以通過(guò)技術(shù)以16Gbps的數(shù)據(jù)速率提供每秒512Gbit/s的速度，而且將來(lái)會(huì)出現(xiàn)更快的數(shù)據(jù)速率。用戶(hù)將其中多個(gè)器件并行放置也很常見(jiàn)。例如，某些圖形卡可以并行使用10個(gè)或更多GDDR6部件，以達(dá)到5Tbps速度甚至更高的帶寬。”

 石屹公司涉及產(chǎn)品廣泛擁有:

PLC、電力電纜、變頻器、人機(jī)界面、CPU、調(diào)速器、觸摸屏，伺服，電源、電機(jī)、數(shù)控、低壓配電,接觸器、按鈕、傳感器、斷路器,繼電器、傳感器、溫控器、軟啟動(dòng)、儀器儀表, 以及其他電工電器自動(dòng)化設(shè)備。

同時(shí)本公司還專(zhuān)業(yè)銷(xiāo)售:美國(guó)羅克韋爾AB（Rockwell-Automation Allen-Bradley）、丹麥丹佛斯（Danfoss)、法國(guó)施耐德(Schneider Electric)、德國(guó)西門(mén)子（SIEMENS)、瑞士ABB、美國(guó)通用GE、日本法那克FANUC、日本安川YASKAWA、德國(guó)庫(kù)卡KUKA、日本OTC、日本松下Panasonic、美國(guó)NI, 德國(guó)SEW, 德國(guó)西克SICK,美國(guó)摩托羅拉MOTOMAN、德國(guó)菲尼克斯PHOENIX、德國(guó)魏德米勒Weidmuller、日本三菱 MITSUBISHI、美國(guó)伊頓EATON、美國(guó)阿美特克AMETEK、德國(guó)阿*ATLAS、美國(guó)HP/Agilent、德國(guó)阿爾法Alpha, 德國(guó)Bosch Rexroth博世力士樂(lè)、日本CKD、日本SMC日本康泰克CONTEC、美國(guó)卡特拉-漢莫CUTLER HAMMER、日本富士FUJI、德國(guó)倍加福P+F、美國(guó) MKS、美國(guó)福克斯波羅 Foxboro Invensys(英維思) 、日本歐姆龍OMRON、德國(guó)德瑪格DEMAG、德國(guó)費(fèi)斯托FESTO、德國(guó)巴魯夫BALLUFF、德國(guó)圖爾克TURCK、等等的高低壓電器及工業(yè)自動(dòng)化控制元件。

 1747-AENTR

1747-BA

1747-BAJMPR

1747-C10

1747-C11

1747-C13

1747-C20

1747-CP3

1747-DU501

1747-FC

1747-KY1

1747-L531

1747-L532

1747-L541

1747-L542

1747-L543

1747-L551

1747-L552

1747-L553

1747-M13

1747-M15

1747-OS302

1747-OS401

1747-RL302

1747-SDN

1747-SN

1747-UIC