主流大模型推理框架盤點(diǎn)解析

vLLM是一個(gè)開源的大模型推理加速框架，通過PagedAttention高效地管理attention中緩存的張量，實(shí)現(xiàn)了比HuggingFace Tra...

2023-10-10 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)gpu服務(wù)器 6743 0

虛擬機(jī)VMware使用教程

沒有用過虛擬機(jī)軟件VMWare Workstation的還是建議先看前面兩篇。 **1、基礎(chǔ)設(shè)置 ** **①、內(nèi)存** VMwar...

2023-02-14 標(biāo)簽：處理器內(nèi)存虛擬機(jī) 6665 0

高頻率內(nèi)存有哪些優(yōu)勢(shì)？虛擬內(nèi)存是什么

我們每天都在同內(nèi)存打交道，但大家對(duì)內(nèi)存真的了解嗎？上篇文章中，我們對(duì)服務(wù)器內(nèi)存以及服務(wù)器內(nèi)存技術(shù)有所介紹，為增進(jìn)大家對(duì)內(nèi)存的認(rèn)識(shí)，本文將為大家介紹高頻率...

2020-12-06 標(biāo)簽：內(nèi)存C語(yǔ)言DDR4 6642 0

總結(jié)常見的電腦藍(lán)屏的原因和解決措施

今天我們來聊一聊關(guān)于電腦藍(lán)屏的事。只要你坐在電腦前閱讀我這篇文章，那么你一定經(jīng)歷過電腦藍(lán)屏的情況。

2020-09-09 標(biāo)簽：內(nèi)存電腦藍(lán)屏 6613 0

CPU和內(nèi)存之間究竟是如何工作的

我們知道CPU是中央處理器，它是控制處理中心，我們的電腦、手機(jī)等電子產(chǎn)品都離不開CPU。那么，CPU內(nèi)部到底是如何工作的呢？我們一起來看看。

2021-01-01 標(biāo)簽：cpu內(nèi)存 6478 0

內(nèi)存架構(gòu)演進(jìn)：CXL與RDMA的協(xié)同發(fā)展

隨著第一代芯片的發(fā)布，圍繞CXL的早期炒作逐漸被現(xiàn)實(shí)的性能期望所取代。與此同時(shí)，關(guān)于內(nèi)存分層的軟件支持正在不斷發(fā)展，借鑒了NUMA和持久內(nèi)存方面的先前工...

2023-08-22 標(biāo)簽：芯片cpu服務(wù)器 6460 0

DDR1/2/3數(shù)據(jù)預(yù)取技術(shù)原理詳解

時(shí)鐘頻率：可通過倍頻技術(shù)升級(jí)的核心頻率。時(shí)鐘頻率可以理解為IO Buffer的實(shí)際工作頻率，DDR2中時(shí)鐘頻率為核心頻率的2倍，DDR3 DDR4中時(shí)鐘...

2023-12-25 標(biāo)簽：DDR3帶寬內(nèi)存 6315 0

如何避免內(nèi)存泄漏的方法和原則

本文向讀者介紹了如何避免內(nèi)存泄漏的方法和原則，在細(xì)節(jié)和大體方向上均給出一些可行性方案。讀者可以嘗試文中提出的方法，改進(jìn)自己的代碼，大大減少內(nèi)存泄漏的可能性。

2020-10-21 標(biāo)簽：內(nèi)存內(nèi)存泄漏 6216 0

linux內(nèi)核主流的內(nèi)存壓縮技術(shù)介紹

zSwap是在memory與flash之間的一層“cache”,當(dāng)內(nèi)存需要swap出去磁盤的時(shí)候，先通過壓縮放到zSwap中去，zSwap空間按需增長(zhǎng)。

2020-09-18 標(biāo)簽：cpuLinux內(nèi)存 6192 0

段式存儲(chǔ)管理和頁(yè)式存儲(chǔ)管理的區(qū)別

段式存儲(chǔ)管理和頁(yè)式存儲(chǔ)管理是操作系統(tǒng)中兩種常見的內(nèi)存管理技術(shù)，它們?cè)谖锢韮?nèi)存的分配和管理上有著顯著的區(qū)別。本文將對(duì)這兩種存儲(chǔ)管理技術(shù)進(jìn)行詳細(xì)的比較和分析...

2023-12-30 標(biāo)簽：內(nèi)存存儲(chǔ)管理物理內(nèi)存 6152 0

DDR2和DDR3內(nèi)存的創(chuàng)新電源方案

從那時(shí)起，采用DDR2、甚至最新的DDR3 SDRAM的新設(shè)計(jì)讓DDR SDRAM技術(shù)黯然失色。DDR內(nèi)存主要以IC或模塊的形式出現(xiàn)。如今，DDR4雛形...

2011-07-11 標(biāo)簽：電源DDR3內(nèi)存 6061 0