最新發布
2025年5月28日,賽輪思AI (Cerence Inc., NASDAQ:CRNC)宣布與Arm達成戰略合作,賽輪思AI將借助Arm? Kleidi?軟件庫,提升其CaLLM? Edge多模態汽車端側(SLM)模型的能力與性能。
隨著汽車制造商競相為駕駛者引入由AI驅動的功能,他們面臨著多項挑戰,其中包括構建足夠的算力來處理如大語言模型(LLMs)這類高強度工作負載的需求。汽車制造商及其合作伙伴需要簡便的方法來優化CPU性能和計算力最大化,從而更輕松地為駕駛者提供生成式AI的優勢。賽輪思AI和Arm正在攜手合作以填補這一空白。全球94%的汽車制造商在其最新車型中采用了Arm技術。Arm汽車解決方案為整車的AI功能提供了基礎的算力架構。Kleidi旨在加速機器學習進程,并優化基于Arm設備的神經網絡運算,從而在端側實現更高效、更強大的實時語言處理能力。
賽輪思AI與Arm攜手合作,在CPU和GPU之間靈活分配并并行處理生成式AI的計算負載,為CaLLM Edge帶來更快的速度和更優的性能,與此同時還支持增強的隱私保護與數據安全。除了其他片上系統(SoC),CaLLM Edge可在經Kleidi優化的基于Arm的芯片組上以智能體化模式運行。即便車載語言模型面臨算力有限、體積龐大以及處理需求高等挑戰,它依然展現出了行業領先的性能。因此,即使在沒有云端連接的情況下,汽車制造商也能夠為駕駛者提供快速、智能的用戶體驗。
我們很高興能夠與Arm合作,將CaLLM Edge提升至全新高度,為車載邊緣計算的性能與效率樹立新標桿。通過將我們在AI驅動語言模型方面的專長與Arm的創新軟件庫相結合,我們正持續推進汽車領域語音優先體驗和新一代AI應用的革新進程,致力于為消費者打造更智能、更迅捷、響應更靈敏的汽車助理。
—— Nils Schanz
賽輪思AI產品與技術執行副總裁
AI正在定義下一代先進的車載功能,因此我們必須利用一切可能的優化措施,確保AI能夠在端側無縫運行。賽輪思AI通過利用Arm Kleidi取得了顯著的性能提升。我們期待繼續合作,在車內快速落地全新的、創新的特定應用AI模型。
—— Suraj Gajendra
Arm汽車業務線汽車產品和軟件解決方案副總裁
來源:賽輪思AI