2016-2022 All Rights Reserved.平安財經網.復制必究 聯系QQ 備案號：
本站除標明“本站原創”外所有信息均轉載自互聯網 版權歸原作者所有。
郵箱：toplearningteam#gmail.com (請將#換成@)
Groq芯片的創新意義（關于Groq芯片的簡介）
2024-03-04 14:37:22
編輯：郭園芝
來源：
導讀 前一段時間Groq芯片每秒生成速度接近500tok/s，遠超GPT-4 40tpk/s的計算能力引起人們關注。后來Groq被曝光他們的LPU芯片去掉了HBM，只依靠...
前一段時間Groq芯片每秒生成速度接近500tok/s，遠超GPT-4 40tpk/s的計算能力引起人們關注。后來Groq被曝光他們的LPU芯片去掉了HBM，只依靠SRAM計算，引起了人們的質疑，不過Groq芯片也有其進步意義。
1.Groq極高的計算速度是建立在有限的單卡吞吐能力上面，這樣的條件下想要達到和H100相同的吞吐量，就需要更多的芯片，這造成了實際上Groq的搭建成本并不低，甚至達成一定規模以后，單位投資下的收益遠遠不如H100。
2.Groq面向的是大模型推理場景，它是一款推理用的ASIC加速芯片，只能在特定的模型中使用，因此性價比并不算很高，在實際搭建過程中，可能要花費比使用英偉達芯片更高的投資。
3.Groq的LPU只能適用于Mixtral和Llama 2，其他的大模型公司想要使用Groq的產品，需要確定需求和規格，之后進行功能驗證，最后生產出的產品才可以使用這一芯片。
4.LPU推理引擎是Groq創建的一種新型的端到端處理單元系統，能為具有順序組件的計算密集型應用程序提供最快的推理能力。
5.Groq在可擴展計算架構方面做出了創新，相比于傳統的GPU，這種芯片的編程模型更加簡化，能夠在計算當中體現出更高的響應速度和可靠的執行效率，它擁有許多個具有特色的組件，比如數據交換器、指令控制、SRAM內存等，這使其具備強大的計算能力與靈活性。
6.Groq的出現讓人們看到了突破英偉達壟斷地位的可能性，雖然它的使用范圍相對來說收窄許多，卻讓人們看到了其他公司敢于對英偉達亮劍的精神和勇氣。英偉達并不是大模型的唯一選擇，現在其他公司也在研發新的芯片，嘗試適用于其他的開發場景。
免責聲明：本文由用戶上傳，如有侵權請聯系刪除！
猜你喜歡
- Groq芯片的創新意義（關于Groq芯片的簡介）
- 吃到VR/AR紅利的HTC正在準備做什么（關于HTC新動作的簡介）
- 天涯社區發布“自救”計劃（關于天涯社區自救的簡介）
- 愛奇藝持續發力加大AI投入（關于愛奇藝動作的簡介）
- 生成式人工智能短時難取代人類（關于人工智能的簡介）
- MWC彰顯中國AI力量（關于中國AI的簡介）
- 俞永福卸任阿里本地生活集團董事長（關于俞永福的簡介）
- 網易營收破千億（關于網易營收的簡介）
- 英偉達如何崛起為AI霸主（關于英偉達的簡介）
- 藍牙HiFi的時代可能快要結束（關于藍牙HIFI的簡介）
- Figure AI獲貝索斯OpenAI等投資近7億美元（關于Figure AI的簡介）
- 優愛騰芒決戰「喜劇」之巔（關于愛優騰芒競爭的簡介）
最新文章
- Groq芯片的創新意義（關于Groq芯片的簡介）
- 國際油價創近四個月新高（關于國際油價創新高的簡介）
- 吃到VR/AR紅利的HTC正在準備做什么（關于HTC新動作的簡介）
- 雅詩蘭黛“漲價”難以解決困境（關于雅詩蘭黛的簡介）
- 和府撈面上市AB面（關于和府撈面上市AB面的簡介）
- 打贏9塊9 瑞幸面臨新戰場（關于瑞幸9塊9的簡介）
- 天涯社區發布“自救”計劃（關于天涯社區自救的簡介）
- 長安汽車回應車輛出4S店自燃（關于車輛自燃的簡介）
- 愛奇藝持續發力加大AI投入（關于愛奇藝動作的簡介）
- 生成式人工智能短時難取代人類（關于人工智能的簡介）
- 春秋創始人王正華交班（關于春秋創始人王正華的簡介）
- 茶飲品牌開年激戰（關于茶飲品牌開年激戰的簡介）
- G社鏡頭下的楊超越：黑色連衣裙搭配精致美瞳，令人目不轉睛
- 韓國醫生集體離崗引發危機，政府考慮吊銷執照和逮捕調查
- 應用場景加速落地 AI助力投資煥新（關于AI助力投資煥新簡介）
- 碳酸鋰、尿素漲近4% 集運指數跌超7%（關于國內期貨收盤的簡介）
- 棉價跌回過年前 內外盤走勢緣何分化（關于棉價 內外盤走勢的簡介）
- 美聯儲逆回購工具使用規模跌破5,000億美元（關于美聯儲相關的簡介）
- 美國PCE數據符合預期 黃金繼續看多頭延續（關于美黃金行情的簡介）
- 蘋果iOS17.4發布：開啟AI時代新篇章
- 大學生網絡游戲防沉迷：代表的呼聲與網友的反饋
- 華中科技大學2024年保送錄取優秀運動員名單發布：足球運動員韋世豪加盟引熱議
- 馬來西亞政府宣布恢復MH370失事航班搜索工作
- 老年人怎樣吃水果（關于老年人怎樣吃水果的簡介）
精彩推薦
- 豪車相撞：蘇州交通事故引發網友熱議，涉及5000萬元布加迪與寶馬
- 男子商店購買“農藥”飲料：店家拒賠，面臨法律訴訟
- 【夏日清涼傳統】探尋大暑三伏天的飲茶習俗和古老智慧
- 冷漠無助！女子高鐵上被男孩燙傷，家長拒絕道歉引爭議
- 男性防曬：21歲小伙因“撐傘羞恥”中度曬傷
- 【食客含蟑螂敲詐商家被拘】北京餐飲行業不良事件引關注
圖文推薦
點擊排行
- 1 G社鏡頭下的楊超越：黑色連衣裙搭配精致美瞳，令人目不轉睛
- 2 韓國醫生集體離崗引發危機，政府考慮吊銷執照和逮捕調查
- 3 蘋果iOS17.4發布：開啟AI時代新篇章
- 4 大學生網絡游戲防沉迷：代表的呼聲與網友的反饋
- 5 華中科技大學2024年保送錄取優秀運動員名單發布：足球運動員韋世豪加盟引熱議
- 6 馬來西亞政府宣布恢復MH370失事航班搜索工作
- 7 華語樂壇四位天王重聚：周杰倫、王力宏、林俊杰送花籃祝福陶喆
- 8 楊冪的極致氣質：韓國攝影師鏡頭下的時尚魅力
- 9 梅西生涯聯賽500球，創歷史紀錄
- 10 新規推動快遞員業務量激增，社會各界關注影響及解決方案