Faster Transformer v1.0源碼詳解

寫在前面：本文將對 Nvidia BERT 推理解決方案 Faster Transformer 源碼進行深度剖析，詳細分析作者的優(yōu)化意圖，并對源碼中的加...

2023-09-08 標簽：NVIDIAgpu源碼 1423 0

超高清時代的編解碼處理方案

在技術選型方面，正是CPU不可替代的優(yōu)點讓騰訊云決定摒棄硬件方案的選型，轉為純CPU編碼器的處理。那么，第四代至強是如何助力騰訊云4k/8k超高清解碼的？

2023-09-06 標簽：編碼器cpugpu 1346 0

李德毅院士等：機器認知四要素說

認知的能力是學習的能力（即解釋、解決預設問題的能力），以及解釋、解決現(xiàn)實問題的能力[7]。所謂預設問題，通常來自現(xiàn)實問題，并已經被形式化，證明有了行之有...

2023-09-05 標簽：gpu機器智能ChatGPT 1060 0

AI芯片之xPU技術架構分析

CPU 和GPU 均具有通用性，但以頻繁的內存訪問導致資源消耗為代價。CPU 和 GPU 都是通用處理器，可以支持數(shù)百萬種不同的應用程序和軟件。

2023-09-05 標簽：fpgacpugpu 3055 0

全球最大的FPGA——VP1902

在 Hot Chips 2023 上，我們獲得了有關 AMD Versal Premium VP1902 FPGA 的更多信息。我們之前在文章《世界上最...

2023-09-05 標簽：fpgaamdcpu 2653 0

谷歌Gemini被曝算力達GPT-4五倍，手握TPU王牌碾壓OpenAI

根據(jù)Patel和Nishball的說法，此前屢屢被爆料將成為GPT-4大殺器的谷歌Gemini，已經開始在新的TPUv5 Pod上進行訓練了，算力高達~...

2023-09-04 標簽：gpu算力OpenAI 1194 0

國內外主流GPGPU產品性能對比 國內外主流ASIC產品性能對比

GPU 市場方面，海外龍頭占據(jù)壟斷地位，國產廠商加速追趕。當前英偉達、AMD、英特爾三巨頭霸占全球 GPU 芯片市場的主導地位。集成 GPU 芯片一般在...

2023-09-04 標簽：芯片英特爾gpu 9100 10

高通驍龍8295芯片什么水平

由于高通在推動 第四代驍龍座艙平臺，逐步落地，大概率這代芯片會拉平很多車企的響應，也就是說芯片會讓車載系統(tǒng)的性能都得到很大的提高。SoC芯片和相應安卓系...

2023-09-04 標簽：芯片高通gpu 1.7萬 0

CPU+xPU的異構方案解析 cpu和gpu有啥區(qū)別

CPU+xPU 的異構方案成為大算力場景標配，GPU為應用最廣泛的 AI 芯片。目前業(yè)內廣泛認同的AI 芯片類型包括GPU、FPGA、NPU 等。由于 ...

2023-09-03 標簽：cpugpuAI芯片 2705 0

GPUGPU主要用途及相關API標準

GPU可以加速三維圖形的渲染，使得復雜的三維場景可以以流暢的幀率顯示在屏幕上；也能支持多種圖形效果，如陰影、反射、抗鋸齒等，可以提高圖像的真實感和美觀度。

2023-09-03 標簽：gpuAPIOpenGL 2004 0

FPGA加速語言模型如何重塑生成式人工智能

大語言模型的構建通常需要一個大規(guī)模的系統(tǒng)來執(zhí)行該模型，這個模型會持續(xù)變大，在其發(fā)展到一定程度后，僅靠在CPU上的運行就不再具有成本、功耗或延遲的優(yōu)勢了。

2023-08-31 標簽：fpga加速器gpu 1667 0

PyTorch IO DataPipes可用性、性能和功能

培訓大型深層學習模式需要大型數(shù)據(jù)集。亞馬遜簡單存儲服務(Amazon S3)是用于儲存大型培訓數(shù)據(jù)集的可縮放云點存儲服務。 機器學習(ML)實踐者需要高...

2023-09-04 標簽：數(shù)據(jù)gpu亞馬遜 647 0

RPP「六邊形戰(zhàn)士」處理器：融合NPU與GPU優(yōu)勢，兼具高效與實時性的AI新星

? 在科技江湖中，處理器家族群英薈萃，各展神通，從DSP到NPU再到GPGPU，每款處理器優(yōu)劣各異，各有所長。正是這些處理器的優(yōu)點，使它們在特定的市場領...

2023-08-31 標簽：處理器fpgagpu 1607 0

華為Mate 60 Pro突襲開售，華為Mate60都用了哪些芯片

華為在衛(wèi)星通信領域再次突破，Mate60Pro成為全球首款支持衛(wèi)星通話的大眾智能手機，即使在沒有地面網絡信號的情況下，也可以從容撥打、接衛(wèi)星電話。

2023-08-30 標簽：傳感器gpu衛(wèi)星電話 8648 0

大型語言模型對數(shù)據(jù)存儲的影響是什么

OceanStor A310深度學習數(shù)據(jù)湖存儲，主要面向基礎/行業(yè)大模型數(shù)據(jù)湖場景，實現(xiàn)從數(shù)據(jù)歸集、預處理到模型訓練、推理應用的AI全流程海量數(shù)據(jù)管理。

2023-08-23 標簽：gpu數(shù)據(jù)存儲AI 769 0

新一代計算架構超異構計算技術是什么 異構走向超異構案例分析

超異構計算架構是一種將不同類型和規(guī)模的硬件資源，包括CPU、GPU、FPGA等，進行異構集成的方法。它通過獨特的軟件和硬件協(xié)同設計，實現(xiàn)了計算資源的靈活...

2023-08-23 標簽：fpgacpugpu 1169 0