完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > 大模型
以大模型作為基礎模型支撐AI產(chǎn)業(yè)應用邏輯已經(jīng)被證明實用性，AI大模型為AI落地應用提供了一種通用化的解決方案；各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務的“大模型”也陸續(xù)發(fā)布，大模型已經(jīng)成為整個AI 界追逐的寵兒，AI大模型有效果好、泛化性強、研發(fā)流程標準化程度高等特點。
文章：3101個 瀏覽：4066次 帖子：20個
本文將分享如何將最新的端側大語言模型部署到超高性價比SoC上，向業(yè)界對端側大模型部署的開發(fā)者提供一種新的思路。
這是任何RAG流程的最后一步——基于我們仔細檢索的所有上下文和初始用戶查詢生成答案。最簡單的方法可能是將所有獲取到的上下文（超過某個相關性閾值的）連同查...
這個方法之所以有效，是因為均勻分布幫助我們將Mq(x)提供的“封包”縮放到p(x)的概率密度函數(shù)。另一種看法是，我們?nèi)狱cx0的概率。這與從g中取樣x0...
TaD：任務感知解碼技術（Task-aware Decoding，簡稱TaD），京東聯(lián)合清華大學針對大語言模型幻覺問題提出的一項技術，成果收錄于IJCA...
英偉達 H100 vs 蘋果M2 大模型訓練，哪款性價比更高？
訓練和微調(diào)大型語言模型對于硬件資源的要求非常高。目前，主流的大模型訓練硬件通常采用英特爾的CPU和英偉達的GPU。然而，最近蘋果的M2 Ultra芯片和...
Rust目前在GPU編程生態(tài)方面的現(xiàn)狀和前景
各種 GL API 的純軟實現(xiàn)，當沒有可用的硬件時，它可以提供純軟件的 GL API 的實現(xiàn)； 它可以用于 Linux/Windows/Mac 等...
internal feedback：使用LLM去預測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點類似Alpha...
在之前的內(nèi)容中，我們已經(jīng)介紹過流水線并行、數(shù)據(jù)并行（DP，DDP和ZeRO）。 今天我們將要介紹最重要，也是目前基于Transformer做大模型預訓練...
2023-05-31 標簽：數(shù)據(jù)API模型 3447 0
一般而言，越復雜的任務，越充裕的資源，應該是各自用更加專業(yè)的方案來做各自的上限才會比較高，大模型能提供的，是一個基礎的、快速的、zero shot或者f...
首先C-eval本身題目是公開的離線測試，答案是不可見在線提交的形式來評測，這樣能一定程度上規(guī)避泄漏的問題。
用DeepSeek-R1實現(xiàn)自動生成Manim動畫
? 作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 前面我們分享了在本地運行能與OpenAI-o1 能力相媲美的DeepSeek-R1 模型。本文將介紹如何使...
近期，openEuler A-Tune SIG在openEuler 23.09版本引入llama.cpp&chatglm-cpp兩款應用，以支持...
數(shù)據(jù)標注（Data Annotations）是指對收集到的、未處理的原始數(shù)據(jù)或初級數(shù)據(jù)，包括語音、圖片、文本、視頻等類型的數(shù)據(jù)進行加工處理，并轉換為機器...
對于Decoder-only的模型，計算量(Flops), 模型參數(shù)量, 數(shù)據(jù)大小(token數(shù))，三者滿足:。(推導見本文最后) 模型的最終性能...
什么是大模型的badcase？如何修復大模型的badcase呢？
首先我們定義什么是大模型的badcase，大模型badcase是指在應用場景中，出現(xiàn)不符合預期的答復。但實際上不符合預期的答復可能多種多樣，原因也各不相...
最早的算力引擎。是人類的大腦，后來演變成草繩、石頭、算籌（一種用于計算的小棍子）、算盤。到了20世紀40年代，世界上第一臺數(shù)字式電子計算機ENIAC誕生...
大模型時代下算力芯片的背后——高速互連技術會成為性能突破口？
相信資深的PC玩家大概率都聽說過“四路泰坦”的傳說，這是指在配備四個PCIe插槽的主板上使用了四塊“泰坦”顯卡（這是當時最強的旗艦級顯卡型號），通過英偉...
由于本文以大語言模型 RLHF 的 PPO 算法為主，所以希望你在閱讀前先弄明白大語言模型 RLHF 的前兩步，即 SFT Model 和 Reward...
近年來，隨著人工智能、大數(shù)據(jù)和高性能計算的飛速發(fā)展，自動駕駛技術正迎來前所未有的變革浪潮。在這一變革中，端到端自動駕駛技術憑借其“從傳感器到控制指令”的...
2025-02-21 標簽：神經(jīng)網(wǎng)絡端到端自動駕駛 3113 0
換一批
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
