TCP發(fā)展受阻的原因是什么呢？RDMA和Linux TCP技術(shù)解析

在考慮今天如何開始時，我回顧了一下這兩天關(guān)于硬件和軟件之間分歧的主題演講。主要探討了擁塞控制如何在這個不斷發(fā)展的領(lǐng)域中增長和演變。

2024-02-20 標(biāo)簽：加速器LinuxTCP 1570 0

探索LangChain：構(gòu)建專屬LLM應(yīng)用的基石

LangChain通過Loader加載外部的文檔，轉(zhuǎn)化為標(biāo)準(zhǔn)的Document類型。Document類型主要包含兩個屬性：page_content 包含...

2024-01-30 標(biāo)簽：ChatGPTLLM 1003 0

Continous Batching大模型推理關(guān)鍵技術(shù)

TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長輸入Batchin...

2024-01-23 標(biāo)簽：gpuGPTnlp 1052 0

如何用Rust過程宏魔法簡化SQL函數(shù)呢？

這是 RisingWave 中一個 SQL 函數(shù)的實現(xiàn)。只需短短幾行代碼，通過在 Rust 函數(shù)上加一行過程宏，我們就把它包裝成了一個 SQL 函數(shù)。

2024-01-23 標(biāo)簽：SQL生成器Rust 2642 0

不同算力芯片的特點與區(qū)別

AMD 推出數(shù)據(jù)中心 APU Instinct MI300。AMD 推出數(shù)據(jù)中心APU（加速處理器）Instinct MI300，其旨在幫助數(shù)據(jù)中心處理...

2024-01-22 標(biāo)簽：gpu數(shù)據(jù)中心人工智能 2839 0

教您如何精調(diào)出自己的領(lǐng)域大模型

BERT和 GPT-3 等語言模型針對語言任務(wù)進(jìn)行了預(yù)訓(xùn)練。微調(diào)使它們適應(yīng)特定領(lǐng)域，如營銷、醫(yī)療保健、金融。在本指南中，您將了解 LLM 架構(gòu)、微調(diào)過程...

2024-01-19 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)nlpChatGPT 1850 0

如何利用ChatGPT快速實現(xiàn)一個控制臺進(jìn)度條小工具？

控制臺程序執(zhí)行一些耗時任務(wù)時，需要向用戶顯示當(dāng)前任務(wù)執(zhí)行的進(jìn)度，以提供清晰的感知。比如一個下載程序，通過進(jìn)度條便能告知用戶當(dāng)前的下載進(jìn)度。

2024-01-18 標(biāo)簽：ASCIIC++語言python 1444 0

基于生成式人工智能的工業(yè)軟件自主創(chuàng)新路徑分析

當(dāng)前，以ChatGPT 為代表的預(yù)訓(xùn)練大模型 展現(xiàn)出自主學(xué)習(xí)、跨模態(tài)理解、推理抽象思維和人類社會理解等特征優(yōu)勢，正引發(fā)新一輪人工智能范式革命

2024-01-17 標(biāo)簽：人工智能ai技術(shù)ChatGPT 2006 0

深度解析大語言模型內(nèi)部運行原理

許多早期的機器學(xué)習(xí)算法需要人工標(biāo)記訓(xùn)練示例。例如，訓(xùn)練數(shù)據(jù)可能是帶有人工標(biāo)簽（"狗"或"貓"）的狗或貓的照片。人...

2024-01-16 標(biāo)簽：人工智能神經(jīng)元機器學(xué)習(xí) 896 0

ChatGPT算力芯片如何做算力輸出

算力卡的核心當(dāng)然還是計算芯片，會搭配大容量高帶寬的內(nèi)存、緩存，以及搭載CPU用于調(diào)度，為了幫助數(shù)據(jù)傳輸，便會使用高速通道，這便是PCIe（高速串行計算機...

2024-01-11 標(biāo)簽：cpuPCIe人工智能 868 0

13個精選創(chuàng)意應(yīng)用案例！協(xié)作機器人與智慧生活的融合！

2023年，大象機器人協(xié)作機器人產(chǎn)品年出貨量超1萬臺，銷往海內(nèi)外50+國家，獲國內(nèi)外超500+所高校、企業(yè)的認(rèn)可和應(yīng)用。

2024-01-10 標(biāo)簽：機械臂協(xié)作機器人樹莓派 6590 0

一文解析PPO算法原理

Reward Model的初始化：6B的GPT-3模型在多個公開數(shù)據(jù)（(ARC, BoolQ, CoQA, DROP, MultiNLI, OpenBo...

2024-01-09 標(biāo)簽：ChatGPT 7867 0

大語言模型推斷中的批處理效應(yīng)

隨著開源預(yù)訓(xùn)練大型語言模型（Large Language Model, LLM ）變得更加強大和開放，越來越多的開發(fā)者將大語言模型納入到他們的項目中。其...

2024-01-04 標(biāo)簽：語言模型機器學(xué)習(xí)LoRa 1056 0

如何設(shè)計一款好的電源產(chǎn)品？

電氣化社會下電源無處不在，不同種類的電源技術(shù)在最初的發(fā)電側(cè)到終端芯片都扮演著重要的角色，一款高度集成的電子產(chǎn)品中電源系統(tǒng)的設(shè)計甚至占到了總設(shè)計量的50%...

2024-01-04 標(biāo)簽：adi電源技術(shù)電源產(chǎn)品 936 0

四種微調(diào)大模型的方法介紹

全微調(diào)（Full Fine-tuning）：全微調(diào)是指對整個預(yù)訓(xùn)練模型進(jìn)行微調(diào)，包括所有的模型參數(shù)。在這種方法中，預(yù)訓(xùn)練模型的所有層和參數(shù)都會被更新和優(yōu)...

2024-01-03 標(biāo)簽：gpu深度學(xué)習(xí)ChatGPT 2.6萬 0

ChatGPT是一個好的因果推理器嗎？

因果推理能力對于許多自然語言處理（NLP）應(yīng)用至關(guān)重要。最近的因果推理系統(tǒng)主要基于經(jīng)過微調(diào)的預(yù)訓(xùn)練語言模型（PLMs），如BERT [1] 和RoBER...

2024-01-03 標(biāo)簽：ChatGPT 1194 0

AIGC的基礎(chǔ)及各行業(yè)應(yīng)用拆解

文本類最熱門的AI工具無非是ChatGPT，我們可以把它當(dāng)作是一個聊天機器人，可以直接輸入問題或者與它進(jìn)行自然語言對話。

2024-01-02 標(biāo)簽：AIpython聊天機器人 1312 0

認(rèn)識一下AI算力應(yīng)用中的光模塊產(chǎn)品

以ChatGPT為代表的AI大模型應(yīng)用普及將推動算力需求快速增長，服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一，AI計算的普及將推動服務(wù)器產(chǎn)業(yè)鏈光模塊向800G...

2023-12-29 標(biāo)簽：交換機光模塊GPU芯片 1513 0