新型AI芯片將大語言模型能耗減半-紫荊網

新型AI芯片將大語言模型能耗減半

日期:2025-05-15 來源:科技日報 瀏覽量: 字號:
分享到
用微信掃描二維碼

美國俄勒岡州立大學科研團隊研發出一種新型AI芯片,成功將大語言模型的能耗降低50%。這項成果於近期在波士頓舉行的IEEE定製集成電路會議上發布,是半導體領域的重大突破,有望成為解決大語言模型高能耗問題的“綠色鑰匙”。

當前,以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型,因海量參數使得算力需求激增,進而導致能源需求急速飆升。

研究團隊指出,問題的關鍵在於數據中心銅基通信鏈路的數據傳輸。高速數據交換不僅會產生誤差,更會帶來巨大的能源浪費。傳統均衡器雖能糾錯,但其自身就是“電老虎”。一種解決方案是開發更高效的有線通信芯片。

他們開發的新芯片能夠藉助AI技術,通過訓練其上的分類器識別並糾正錯誤,以更智能高效的方式恢復數據,從而降低能耗。與傳統設計相比,新芯片能使大語言模型消耗的能源減半。

研究團隊已着手開發下一代芯片,預計將帶來更驚人的能效表現。隨着全球AI算力需求持續飆升,這項技術或將成為綠色計算的重要推手。

來源:科技日報

掃描二維碼分享到手機

編輯:孫藝寧 校對:江心雨 監製:連振海
五一假期開啟返程模式 全國鐵路、公路進入返程高峰
投資界春晚來襲!2025巴菲特股東大會五大焦點全梳理
陳茂波:致力打造新海濱 推動無處不旅遊
外籍遊客、外語導遊、外國博主……多視角講述“China travel”獨特記憶
紫荊雜誌
影響有影響力的人