在RTX 4090被限制的時代下，讓大模型使用RLHF更高效的方法來了

今年，以 ChatGPT 為首的大語言模型（Large Language Models, LLMs) 在各個方面大放光彩，由此引發(fā)了學(xué)術(shù)界和商業(yè)界對 G...

2023-10-22 標(biāo)簽：語言模型ChatGPT大模型 766 0

大語言模型Fine-tuning踩坑經(jīng)驗(yàn)分享

當(dāng)然 MPT-7B-StoryWriter-65k+ [5] 模型也有較長的外推能力，主要在于，注意力這塊使用了 ALIBI [6]。要擁有什么樣的長度...

2023-10-26 標(biāo)簽：gpu數(shù)據(jù)處理ChatGPT 764 0

基于LLaMA的多語言數(shù)學(xué)推理大模型

MathOctopus在多語言數(shù)學(xué)推理任務(wù)中，表現(xiàn)出了強(qiáng)大的性能。MathOctopus-7B 可以將LLmMA2-7B在MGSM不同語言上的平均表現(xiàn)從...

2023-11-08 標(biāo)簽：多語言ChatGPT大模型 758 0

ChatGPT漲不動了？CVP架構(gòu)崛起

全球最火的開源向量數(shù)據(jù)庫項(xiàng)目 Milvus 在 Github 的標(biāo)星已經(jīng)突破 2 萬，官方顯示，目前 Milvus 已經(jīng)擁有超過 1000+ 中大型企業(yè)用戶。

2023-07-05 標(biāo)簽：ChatGPTAIGC 697 0

用chatgpt插件Code Interpreter寫碼

最近c(diǎn)hatgpt的 Code Interpreter開放了，不管它行不行，先薅進(jìn)來搜哈一把。

2023-07-11 標(biāo)簽：ROMRAMHDL語言 677 0

淺談Rambus對DDR5市場趨勢的前瞻見解

Rambus預(yù)計服務(wù)器DDR5將在2023年出現(xiàn)強(qiáng)勁增長。市場調(diào)研機(jī)構(gòu)IDC的數(shù)據(jù)顯示，DDR5的拐點(diǎn)可能會在2024年上半年出現(xiàn)。

2023-05-06 標(biāo)簽：DDR5ChatGPT 673 0

深入解析AI自主意識與芯片封裝布局優(yōu)化

封裝可行性審查應(yīng)在封裝開發(fā)初期進(jìn)行，審查結(jié)果需要提交給芯片和產(chǎn)品設(shè)計人員做進(jìn)一步反饋。完成可行性研究后，須向封裝制造商下訂單，并附上封裝、工具、引線框架...

2024-04-08 標(biāo)簽：芯片AI芯片封裝 669 0

自然語言處理范式正在變遷

最近幾天被OpenAI推出的ChatGPT[1]刷屏了，其影響已經(jīng)不僅局限于自然語言處理（NLP）圈，就連投資圈也開始蠢蠢欲動了，短短幾天ChatGPT...

2023-02-22 標(biāo)簽：nlpOpenAIChatGPT 668 0

編程雜談-代碼review

先梳理下程序員日常的工作需要那些東西，首先就是參考各種手冊，技術(shù)文檔，讀代碼了解框架，然后制定方案，進(jìn)行編碼實(shí)現(xiàn)。這其中一方面是對于技術(shù)手冊的掌握經(jīng)驗(yàn)，...

2023-10-30 標(biāo)簽：編程代碼ChatGPT 660 0

性能媲美同時成本降低98%，斯坦福提出FrugalGPT，研究卻惹爭議

這項(xiàng)研究提出的思想和發(fā)現(xiàn)為可持續(xù)高效地使用 LLM 奠定了基礎(chǔ)。如果能夠在不增加預(yù)算的情況下采用更高級的 AI 功能，這可能會推動人工智能技術(shù)在各個行業(yè)...

2023-06-08 標(biāo)簽：APIGPTChatGPT 658 0

RISC-V跑大模型（一）

在我寫本文時，剛好是WAIC 2023舉行的時候，感覺無處不是大模型。

2023-07-10 標(biāo)簽：gpuRISC-VOpenAI 653 0