3月26日,浪潮信息與英特爾正式宣布,浪潮信息"源2.0係列基礎大模型"已和最新的英特爾® 酷睿™ Ultra處理器平台完成適配,本地推理速度提升100%。企業可以在全新的英特爾商用客戶端AI PC上,使用AI PC大模型效率工具"YuanChat"快速本地化部署和運行"源2.0"大模型, 以更快的訪問速度、更高的性能和更好的數據安全控製,輕鬆完成自動編程、商業數據計算、公文寫作等任務,釋放大模型在企業應用場景中的生產力和創新力。

安全靈活高效,YuanChat基於英特爾® 酷睿™ Ultra 處理器打造商用AI PC效率工具
2024年是 "大模型落地應用的元年",AI PC(星空人工智能個人電腦),作為一種能夠在本地運行大模型及AIGC應用的PC終端,已經成為AI實現規模化擴展及應用落地的重要載體。英特爾基於酷睿 Ultra 處理器強悍的 CPU+GPU+NPU 三大 AI 引擎,為商用客戶端AI PC提供強勁性能,滿足經濟、物理、數據保密這三大生成式AI on AI PC 法則,可支持200億規模大語言模型的本地化運行,加速大模型應用落地。
浪潮信息與英特爾合作,針對"源2.0係列基礎大模型",實現酷睿Ultra AI PC平台推理優化,並推出為AI PC而生的大模型效率工具"YuanChat"。浪潮信息"源2.0係列基礎大模型"作為首個全麵開源的千億參數模型,包含1026億、518億、21億等三種參數規模。"YuanChat"是基於"源2.0係列基礎大模型"設計的應用工具,旨在以對話形式調用大模型,幫助用戶完成數據計算、公文寫作、編程設計、知識問答、會議紀要、文本總結與摘要等任務導向型應用,真正實現重塑工作模式,提高生產力水平。

基於酷睿 Ultra AI PC上所部署的"YuanChat",用戶能夠流暢地使用"源2.0-2B模型(Yuan2-2B-Februa-hf)"。作為業界最強的小規模語言模型,"源2.0-2B模型"具有領先的自動編程、數值計算和邏輯推理能力,在Python編程測試(Humanevals)、數學計算測試(GSM8K)中展現出超越ChatGPT3.5及其他百億(>10B)參數模型的評測結果,已成為最具競爭力的開源可商用模型。
在編程方麵,"YuanChat"提供強大的自動編程、代碼分析、代碼優化與測試用例生成能力,支持Python、C++、Java等多種編程語言,每分鍾可生成50+行參考代碼,10分鍾即可開發出小型軟件項目;在數據分析領域,"YuanChat"同樣可以完成複雜的數學計算與問題推理,能夠滿足企業在不同場景下的複雜數據計算需求;在文本創作領域,"YuanChat"支持十餘種公文寫作,可協助完成智能問答、會議紀要、文本摘要等高級文本處理任務,這意味著 "YuanChat" 不僅能夠生成標準的公文,還能夠理解和處理複雜的文本信息,提取關鍵信息,大大提高了文本創作的效率和質量。
基於英特爾商用客戶端AI PC強大的獨立運算能力,"YuanChat"能解決數據傳輸過程中的延遲問題與泄露風險,能夠實現更高的數據安全性、性能和控製權。同時,"YuanChat"支持離線狀態下的自主操作,這使得終端用戶能夠擺脫網絡限製,在任何時間、任何地點都能夠進行創造性的工作,享受更靈活的大模型交互體驗。
在英特爾商用客戶端AI PC上,可以基於BigDL-LLM大模型加速庫實現對"YuanChat"的模型量化處理,進一步提高模型的可移植性並加快計算速度,減少資源占用,彌合終端有限的算力與對高精度模型和實時智能應用的需求之間的差距。實測數據顯示,在處理複雜任務時,"YuanChat"在保證精度的同時,本地推理效率及性能提升達到100%,進一步降低了企業應用大模型的成本。
共建AI PC 應用,惠及千行百業智能變革
未來,浪潮信息與英特爾將持續攜手構建活躍的AIPC生態。雙方將聯合基於英特爾® 酷睿™ Ultra處理器平台進行"源2.0係列基礎大模型"的進一步適配與優化,不斷完善"YuanChat"應用係統,將大模型和商用平台的生產力、安全性、可管理性和穩定性有機結合,開拓商用 AI PC 更多的新應用、新場景、新形態,幫助企業用戶在PC端打造更加安全、流暢、易用的大模型效率工具,惠及企業提升效率,賦能世界的智能化變革。
星空人工智能91视频免费观看網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題,煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com91视频免费播放將及時溝通與處理。!:首頁 > 供應鏈 » 浪潮信息“源2.0“大模型YuanChat支持英特爾最新商用AI PC
開普雲榮獲“中國AI大模型創新企業
Midjourney、文心一格、WHEE等五款
與NVIDIA深度參與GTC,向量數據庫大
昇思MindSpore 2.3全新發布 | 昇思
智領,萬象新生:智譜AI推動大模型商業
東風猛士與華為正式簽署戰略合作協
商湯科技日日新SenseNova 4.0發布:
芯動力RPP-R8芯片與Llama2大模型係