完善資料讓更多小伙伴認識你，還能領(lǐng)取20積分哦，立即完善>
標簽 > 語言模型
文章：546個 瀏覽：10788次 帖子：4個
AI Agents的框架構(gòu)成以及LLMs的基礎(chǔ)知識
智能代理（AI Agents）長期以來都被視為通往人工通用智能（AGI）的一條希望途徑，預(yù)期中其能夠通過自主規(guī)劃和指令來自動完成相關(guān)任務(wù)。然而，早期的代...
隨著 Prompting 技術(shù)的大火，我們一直在思考，Prompt 究竟能夠帶來什么？我們都說，Prompt 本質(zhì)上是一種激發(fā)語言模型中知識的手段。因此...
GPT系列的“高仿” 最大可達GPT-3大小 自主訓(xùn)練
雖然GPT-3沒有開源，卻已經(jīng)有人在復(fù)刻GPT系列的模型了。 例如，慕尼黑工業(yè)大學(xué)的Connor Leahy，此前用200個小時、6000RMB，復(fù)現(xiàn)了...
GPT-4 的模型結(jié)構(gòu)和訓(xùn)練方法
在 GPT-4 的發(fā)布報道上，GPT-4 的多模態(tài)能力讓人印象深刻，它可以理解圖片內(nèi)容給出圖片描述，甚至能在圖片內(nèi)容的基礎(chǔ)上理解其中的隱喻或推斷下一時刻的發(fā)展。
2023-05-22 標簽：數(shù)據(jù)模型語言模型 3065 0
大語言模型目前已經(jīng)成為學(xué)界研究的熱點。我們統(tǒng)計了arXiv論文庫中自2018年6月以來包含關(guān)鍵詞"語言模型"以及自2019年10月以...
在自然語言處理（NLP）領(lǐng)域，Transformer模型以其卓越的性能和廣泛的應(yīng)用前景，成為了近年來最引人注目的技術(shù)之一。Transformer模型由谷...
2024-07-10 標簽：語言模型Transformer自然語言處理 3009 0
以ChatGPT為代表的大語言模型（Large Language Models, LLM）在機器翻譯（Machine Translation, MT）任...
效果怎么樣呢？PaLI-3 在需要視覺定位文本理解和目標定位的任務(wù)上實現(xiàn)了新的 SOTA，包括 RefCOCO 數(shù)據(jù)集上的 8 個視覺定位文本理解任務(wù)和...
中文信息處理實驗室提出工具學(xué)習(xí)新框架ToolAlpaca
受 Alpaca 通過微調(diào)讓小模型學(xué)會通用指令遵循啟發(fā)，中文信息處理實驗室的研究人員探索了通過在通用工具使用數(shù)據(jù)集上微調(diào)較小規(guī)模的語言模型，讓它們獲得通...
2023-06-15 標簽：框架語言模型數(shù)據(jù)集 2772 0
基于預(yù)訓(xùn)練語言模型的行業(yè)搜索的應(yīng)用和研究
sparse retrieval：傳統(tǒng)的基于字或基于詞去建立倒排索引，同時基于此去構(gòu)建很多查詢理解的一系列的能力，包括一些文本相關(guān)性排序等；
圖文多模態(tài)領(lǐng)域典型任務(wù)如img-text retrieval、VQA、captioning、grounding等，目前的學(xué)術(shù)設(shè)定難度尚可。但是， 一旦知...
2022-09-01 標簽：語言模型數(shù)據(jù)集nlp 2757 0
使用Alpaca-Lora進行參數(shù)高效模型微調(diào)
在推理時，將左右兩部分的結(jié)果加到一起即可，h=Wx+BAx=(W+BA)x，所以，只要將訓(xùn)練完成的矩陣乘積BA跟原本的權(quán)重矩陣W加到一起作為新權(quán)重參數(shù)替...
最新綜述！當大型語言模型（LLM）遇上知識圖譜：兩大技術(shù)優(yōu)勢互補
LLM 是黑箱模型，缺乏可解釋性，因此備受批評。LLM 通過參數(shù)隱含地表示知識。因此，我們難以解釋和驗證 LLM 獲得的知識。此外，LLM 是通過概率模...
然而，讓小編翻開他們的paper，發(fā)現(xiàn)每一個上面都寫著四個大字：“弱者退散”，到底該怎么將這些頂尖工具用到我的模型里呢，Hugging Face 的大神...
解讀ChatGPT背后的技術(shù)重點：RLHF、IFT、CoT、紅藍對抗
我們先來看看基于語言模型的會話代理的全景。ChatGPT 并非首創(chuàng)，事實上很多組織在 OpenAI 之前就發(fā)布了自己的語言模型對話代理 (dialog ...
除了AI業(yè)內(nèi)關(guān)心他們?nèi)绾沃С终Z料稀缺的冷門語言，以及如何在BLEU基準測試上提高7個點以外。也有來自西非的網(wǎng)友認為，語言障礙正是全球互聯(lián)網(wǎng)用戶數(shù)量進一步...
2022-07-21 標簽：語言模型機器翻譯數(shù)據(jù)集 2517 0
基于OpenAI的GPT-2的語言模型ProtGPT2可生成新的蛋白質(zhì)序列
人類語言與蛋白質(zhì)有很多共同點，至少在計算建模方面。這使得研究團隊將自然語言處理（NLP）的新方法應(yīng)用于蛋白質(zhì)設(shè)計。其中，德國Bayreuth大學(xué)Birt...
LLaMA論文研讀：小參數(shù)+大數(shù)據(jù)的開放、高效基礎(chǔ)語言模型閱讀筆記
這些努力都是基于這樣的假設(shè)：更多的參數(shù)會帶來更好的性能。然而，Hoffmann等人（2022）最近的工作表明，在給定的計算預(yù)算下，最好的性能不是由最大的...
2023-03-03 標簽：語言模型數(shù)據(jù)集大數(shù)據(jù) 2507 0
基準數(shù)據(jù)集(CORR2CAUSE)如何測試大語言模型(LLM)的純因果推理能力
? 因果推理是人類智力的標志之一。因果關(guān)系NLP領(lǐng)域近年來引起了人們的極大興趣，但其主要依賴于從常識知識中發(fā)現(xiàn)因果關(guān)系。本研究提出了一個基準數(shù)據(jù)集(CO...
2023-06-20 標簽：編碼語言模型數(shù)據(jù)集 2414 0
現(xiàn)代計算機視覺和自然語言模型在能力越來越強大的同時，模型尺寸也隨之顯著增大。由于當前進行一次單模態(tài)模型的預(yù)訓(xùn)練既耗費資源又昂貴，因此端到端視覺語言預(yù)訓(xùn)練...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術(shù)開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
