完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > LLM
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：323個 瀏覽：832次 帖子：3個
NVIDIA Blackwell GPU優(yōu)化DeepSeek-R1性能 打破DeepSeek-R1在最小延遲場景中的性能紀錄
本文將探討 NVIDIA TensorRT-LLM 如何基于 8 個 NVIDIA Blackwell GPU 的配置，打破 DeepSeek-R1 在...
使用NVIDIA Triton和TensorRT-LLM部署TTS應用的最佳實踐
針對基于 Diffusion 和 LLM 類別的 TTS 模型，NVIDIA Triton 和 TensorRT-LLM 方案能顯著提升推理速度。在單張...
隨著 AI 使用場景不斷擴展（從文檔摘要到定制化軟件代理），開發(fā)者和技術愛好者正在尋求以更 快、更靈活的方式來運行大語言模型（LLM）。
在當今人工智能領域，大型語言模型（LLM）的開發(fā)已經(jīng)成為一個熱門話題。這些模型通過學習大量的文本數(shù)據(jù)，能夠生成自然語言文本，完成各種復雜的任務，如寫作、...
2025年，如何提升大型語言模型（LLM）的推理能力成了最熱門的話題之一，大量優(yōu)化推理能力的新策略開始出現(xiàn)，包括擴展推理時間計算、運用強化學習、開展監(jiān)督...
樹莓派秒變編程助手：Ollama+Continue的簡易搭建教程！
以下是如何在RaspberryPi上運行大型語言模型(LLM)的方法。本文的目標是找出在RaspberryPi上運行LLM是否是ChatGPT和GitH...
2025-03-27 標簽：Raspberry Pi樹莓派LLM 261 0
基于DBFP與DB-Attn的算法硬件協(xié)同優(yōu)化方案
本文討論了LLM推理過程對計算資源需求急劇攀升的背景下，現(xiàn)有量化和剪枝技術、新數(shù)據(jù)格式存在的不足，提出動態(tài)塊浮點數(shù)（DBFP）及其配套算法-硬件協(xié)同框架...
內(nèi)部業(yè)務支撐&前瞻技術布局 One4All下一代生成式推薦系統(tǒng)
作者：京東零售 申磊 自LLM在自然語言處理等領域取得了矚目成就之后，學術界積極探索生成式模型對搜廣推系統(tǒng)的增強或改進方式[1]，現(xiàn)有工作大體可以分為兩...
隨著 DeepSeek、 GPT 和 Llama 等大語言模型（LLMs）不斷推動人工智能的邊界，它們在高效部署方面也帶來了重大挑戰(zhàn)。這些模型在生成類似...
推薦系統(tǒng)的主要任務在于根據(jù)用戶的過往行為預測其潛在興趣點，并據(jù)此推薦相應的商品。在傳統(tǒng)的推薦系統(tǒng)中，當處理用戶請求時，會觸發(fā)多個召回模塊，例如熱門商品召...
2025-03-05 標簽：NVIDIA模型推薦系統(tǒng) 794 0
近日，北京后摩智能科技有限公司與北京大學集成電路學院孫廣宇長聘副教授團隊、上海交通大學張宸助理教授團隊、香港科技大學謝源講席教授團隊、東南大學司鑫副教授...
Qualys TotalAI 降低 Gen AI 和 LLM 工作負載的風險
“在AI時代，最大的風險不是不去創(chuàng)新，而是在沒有穩(wěn)固基礎的情況下創(chuàng)新?！?生成式人工智能 （Gen AI） 和大語言模型 （LLM） 正在革新各行各業(yè)，...
全新NVIDIA AI Blueprint推動電信網(wǎng)絡配置自動化
該藍圖為電信公司提供了構建自主網(wǎng)絡的方案，借助基于代理式 AI 的框架大幅提高網(wǎng)絡性能和效率。
2025-06-19 標簽：NVIDIA電信網(wǎng)絡LLM 481 0
? ? 在京東零售技術團隊中，有很多年輕的算法工程師，他們大多是95后，在加入京東的短短幾年內(nèi)，用實力“啃”下了一個個硬骨頭。 從大模型訓練的效率優(yōu)化、...
-Arya.ai推出MCP應用程序，將通用LLM轉(zhuǎn)化為特定領域?qū)＜?印度孟買和紐約2025年5月13日?/美通社/ -- Arya.ai今天宣布推出AP...
新品 | Module LLM Kit，離線大語言模型推理模塊套裝
●●●PART.01產(chǎn)品簡介ModuleLLMKit是一款專注于離線AI推理與數(shù)據(jù)通信接口應用的智能模塊套件，整合了ModuleLLM與Module13...
英偉達GTC2025亮點：電信行業(yè)領先企業(yè)啟用代理式AI優(yōu)化網(wǎng)絡運維
Amdocs、BubbleRAN、ServiceNow、軟銀集團與 Tech Mahindra 基于 NVIDIA AI Enterprise 開發(fā)大型...
作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 一，簡介 AnythingLLM 是一個功能強大且靈活的工具，專為在本地環(huán)境中部署和管理知識庫而設計。它支持多...
大模型基礎能力越來越高，各行各業(yè)都希望運用AIGC降本增收，卻面臨如何結(jié)合自身業(yè)務場景優(yōu)化的難題。為了幫助客戶快速打造符合其業(yè)務需求的AIGC應用，足下...
你有沒有想過，人類真的能做出完全隨機的選擇嗎？答案可能出乎你的意料。事實上，人類天生就不擅長“隨機”，我們總能在看似無序的事物中發(fā)現(xiàn)規(guī)律，甚至在本該隨機...
換一批
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
