9月25日，2024百度雲智大會在北京召開。

為幫助企業更快、更好、更省地使用大模型，百度智能雲分別針對算力、模型、AI應用，全麵升級百舸AI異構計算平台4.0、千帆大模型平台3.0兩大AI基礎設施，並升級代碼助手、智能客服、數字人三大AI原生應用產品。

百度智能雲事業群總裁沈抖表示，大模型以及配套的算力管理平台、模型和應用開發平台，正在迅速成為新一代基礎設施。

“2024年大模型的產業落地正在加速，目前在千帆大模型平台上，文心大模型日均調用量超過7億次，累計幫助用戶精調了3萬個大模型，開發出70多萬個企業級應用。過去一年，文心旗艦大模型降價幅度超過90%，主力模型全麵免費，最大限度降低了企業創新試錯的成本。”沈抖說。

百度智能雲事業群總裁沈抖

升級百舸4.0

模型訓練有效時長達99.5%

可高效管理十萬卡集群

大算力是大模型落地的基礎條件。為滿足企業落地大模型從集群創建、開發實驗，到模型訓練、推理的全旅程算力需求，應對超大規模GPU集群高成本、難運營兩大挑戰，百度智能雲升級發布百舸AI異構計算平台4.0，麵向萬卡、十萬卡集群全麵升級算力管理能力。

集群創建階段：企業通常需要進行大量複雜、瑣碎的算力配置和調試工作。百舸4.0預置了主流的大模型訓練工具，能夠實現工具層麵的秒級部署，並將萬卡集群運行準備時間從幾周縮減至1小時，極大地提升部署效率，縮短業務上線周期。

百度百舸AI異構計算平台4.0

開發實驗階段：企業需要針對業務目標對不同架構、參數的模型進行多次測試，進而製定最佳模型訓練策略，保障後續訓練的性能和效果。百舸4.0全新升級的可觀測大盤，能夠對多芯適配、集群效能、任務自動容錯等方麵進行全方位監測，提供直觀決策依據，幫助用戶更好地把控整體項目。

模型訓練階段：穩定和高效是衡量GPU集群水平的“金指標”、“硬通貨”。

在穩定性方麵，一張GPU出現故障就會導致集群整體停擺，大量時間、成本浪費在故障恢複和數據回滾上。百舸4.0能夠自動篩查集群狀態，並基於對GPU故障的精準預測，及時轉移工作負載，降低故障發生頻次。此外，百舸獨有的故障秒級感知定位、Flash Checkpoint模型任務狀態回滾等91视频免费观看，能夠大幅減少集群故障處置時間，實現接近無損的集群容錯。

目前，百舸在萬卡集群上實現了有效訓練時長占比99.5%以上，業界領先，極大地節約了客戶算力與時間成本。此外，百舸4.0通過集群設計、任務調度、並行策略、顯存優化等一係列創新，大幅提升了集群的模型訓練效率，整體性能相比業界平均水平提升高達30%。

在模型推理環節，百舸則通過架構分離、KV Cache、負載分配等一係列加速方法，實現了模型推理的降本提效，尤其在長文本推理方麵，推理效率提升超過1倍。

麵向未來，沈抖認為，大模型的Scaling Law將在一段時間內持續有效，很快就會有更多的十萬卡集群出現，但是管理十萬卡的難度與管理萬卡有著天壤之別。

首先，在物理空間方麵，十萬卡集群需要占據大概10萬平方米空間，相當於14個標準足球場的麵積；在能耗方麵，每天則要消耗大約300萬千瓦時的電力，相當於北京市東城區一天的居民用電量。這種對於空間和能源的巨大需求，遠遠超過了傳統機房部署方式的承載能力，跨地域機房部署又會給網絡通信帶來巨大挑戰。此外，十萬卡集群中的GPU故障將會非常頻繁，有效訓練時長也將迎來新的挑戰。

針對這些難題，百舸4.0已經構建了十萬卡級別的超大規模無擁塞HPN高性能網絡、10ms級別超高精度網絡監控，以及麵向十萬卡集群的分鍾級故障恢複能力。

“百舸4.0正是為部署十萬卡大規模集群而設計的。今天的百舸4.0，已經具備了成熟的十萬卡集群部署和管理能力，就是要突破這些新挑戰，為整個產業提供持續領先的算力平台。”沈抖說。

生數科技 | 生數科技作為國內領先的多模態大模型廠商，基於百舸平台開發出國內首款全麵對標OpenAI Sora的視頻大模型“Vidu”。會上，生數科技聯合創始人兼CEO唐家渝宣布，即日起Vidu將通過百度智能雲千帆大模型平台麵向開發者、企業用戶開放API服務。

對於自建智算中心的客戶，百舸4.0此番還對“一雲多芯”能力進行了升級。在萬卡規模集群上，多芯混合訓練效能高達95%，保持業界領先。“要建設更大的集群，同時確保供應鏈的安全和彈性，勢必會存在不同芯片混合使用的情況，也就是說，對於自建智算中心的客戶來說，一雲多芯是必然選擇。”沈抖說。

中國郵政儲蓄銀行 | 2023年，為加速大模型應用落地，郵儲銀行新增大量來自不同廠商的GPU資源，基於大模型為18個核心業務係統、30多家分行的金融業務提供AI賦能。在百舸的支持下，郵儲銀行順利完成了不同型號GPU資源的部署、上線；同時，也實現了GPU、CPU算力的規劃重組，有力保障了300多個大小模型、6000多次訓練任務。模型迭代時間也從過去的一個半月大幅縮短至半天，並實現了更好的模型效果。

長安汽車 | 長安汽車執行副總裁張曉宇表示，基於百舸平台，百度智能雲與長安汽車合作探索開發了整套自動駕駛模型訓練的最佳實踐方案，實現了GPU資源的精細化管理與調度。雙方緊密配合，在數據加載、計算效率、通信方式等維度進行聯合優化，使得算力總體平均使用率提升到90%以上，綜合資源利用率提升了50%。

發布千帆3.0，三大服務全麵升級

一句話即可生成企業級應用

為了滿足企業客戶對模型調用、模型開發、應用開發的需求，百度智能雲發布千帆大模型平台3.0。

模型調用方麵：升級後的千帆平台，不但可以調用包括文心係列大模型在內的近百個國內外大模型，還支持調用語音、視覺等各種傳統的小模型。在擴大模型種類的同時，百度智能雲持續降低模型調用成本。過去一年，文心旗艦大模型降價幅度超過90%、主力模型全麵免費，最大限度降低企業創新試錯的成本。

模型開發方麵：對於需要定製、微調專屬模型的客戶，千帆3.0不僅提供了最完善的大模型工具鏈，還支持CV、NLP、語音等傳統模型的開發，並實現數據、模型、算力等資源的統一納管和調度，為企業提供一站式的大、小模型開發服務。

模型投入使用後，千帆平台還支持企業將應用中產生的數據，經過采樣評估、人工標注、對齊或微調等方式反饋給模型，形成數據飛輪，持續優化模型效果，放大模型在特定場景下的優勢。

應用開發方麵：針對企業落地大模型的高頻應用場景，千帆3.0從檢索效果、檢索性能、存儲擴展、調配靈活性四方麵對企業級檢索增強生成（RAG）進行了全麵升級；針對企業級Agent的開發，千帆3.0增加了業務自主編排、人工編排、知識注入、記憶能力以及百度搜索等80多個官方組件支持。

此外，本次大會還發布了智能化低代碼應用開發平台“AI速搭”，通過自然語言對話就能進行企業級應用開發，一句話就可以完成應用創建。

沈抖在大會現場還演示了如何通過對話，在AI速搭平台上開發一個資產管理應用。隻需一句話描述對目標係統的需求，包含資產信息、資產入庫、資產領用、資產維修、資產報廢等功能模塊，大模型就可以清晰地理解需求並生成應用。過去，這樣一個應用即使用低代碼方式開發也需要幾天的時間，現在隻需幾分鍾就能完成。

工具平台的不斷完善，也促進了過去一年大模型產業落地的爆發式增長。目前，在千帆平台上，文心大模型日均調用量超過7億次，千帆平台累計幫助用戶精調了3萬個大模型，開發出70多萬個企業級應用。

三星電子 | 三星電子大中華區總裁崔勝植表示，2024年初，三星在全球市場推出Galaxy AI，並與百度智能雲達成戰略合作，基於千帆平台、百度識圖為中國用戶帶來國際領先的Galaxy AI本地化功能，包括即圈即搜、筆記助手、轉錄助手、聊天助手、瀏覽助手等移動AI體驗。

獵聘 | 在招聘領域，獵聘基於千帆平台，通過調用文心大模型，結合自身豐富的行業know-how，能夠對企業崗位需求和求職者簡曆內容進行語義理解分析，並實現智能化的簡曆篩選功能，人崗匹配準確率相比業界平均水平的70%高出15個百分點，高達85%，並提升招聘效率50%以上。

考試寶 | 在教育領域，考試寶作為一款職業教育在線學習App，過去主要依賴人工為會員提供試題解析服務，速度慢、成本高，有些試題甚者需要等待一天以上才能得到解析結果。如今，通過提示詞工程和調用文心大模型，考試寶實現了試題的智能化解析，隻需上傳試題就能秒級得到解析結果，單條試題解析成本也從過去的1.5元降到3厘，降幅高達98%，用戶付費意願也增長了一倍以上。

此外，千帆行業增強版提供了體係化的工具和組件，支持行業客戶、合作夥伴在千帆通用底座上不斷添加行業特色，從而更方便地開發適合自己的行業應用。目前，千帆平台上已經沉澱了包括製造、能源、交通，政務、金融、汽車、教育、互聯網在內的八大行業解決方案。

南方電網 | 南方電網數字電網研究院副總經理胡榮表示，去年九月，南方電網發布了行業垂直領域首個自主可控的大模型“大瓦特”。“大瓦特”既是大模型、小模型及智能體構成的模型體係，也是開放共享的平台與生態體係。平台上，南方電網基於百度智能雲千帆平台構建了電力調度值班助手。在應對突發事件時，電力調度值班助手可以秒級生成處置方案，極大地增強了調度員的應急響應能力。

代碼助手、智能客服、數字人全麵升級

隨著大模型產業落地逐漸走向深水區，AI原生應用也將迎來爆發式增長，為了滿足企業直接選購成熟AI應用的需求，百度智能雲麵向數字人、智能客服、代碼提效三大領域，升級了三大AI原生應用產品。

◎ 基於文心大模型重構的AI原生智能客服應用“客悅”：

在用戶複雜意圖理解、多模態信息交流等方麵實現了大幅提升，讓智能客服變得更聰明、更擬人。“問題自助解決率”是智能客服領域最關鍵的考核指標，當前業內平均水平是80%，升級後，客悅將這一指標提升至92%，實現業界領先。目前，客悅已累計幫助企業客戶服務超過1.5億人次，交互超過5億次。

◎ 基於大模型能力，新升級的曦靈數字人4.0：

支持根據文字快速生成不同妝造、不同行業特色的3D數字人形象和視頻。本次大會期間，曦靈平台宣布：將3D超寫實數字人的價格從萬元大幅降價至199元，達到業內最低價。

全新升級的4D（3D+時間維度）自動綁定91视频免费观看和創新模態遷移91视频免费观看，還解決了傳統2D數字人動作僵硬的問題，可以實現人物在不同角度、形體、表情的高度一致，即使是麵部微表情也能做到自然、逼真。

◎ 全新升級的全流程AI代碼提效工具“文心快碼”：

聚焦研發全生命周期的業務流，實現了從項目接手到最終交付，全流程編碼開發效率與質量的雙重提升。

本次大會，文心快碼業界首發「企業級代碼架構解釋」、「企業級代碼審查」兩項全新功能。企業級代碼架構解釋能在項目接手初期，實現工程架構的智能解讀，幫工程師快速理解業務邏輯；而企業級代碼審查則能傳承資深工程師的編碼經驗，智能輔助程序員查缺補漏。

此外，針對市麵上通用代碼助手缺乏對企業曆史代碼庫的理解的痛點，文心快碼全新升級的「企業級代碼輔助能力」能夠深度理解企業代碼庫，快速學習企業過往的代碼與規範，讓生成的代碼更貼近企業的要求。

目前，文心快碼已經服務超過1萬家企業客戶，幫助數百萬中國開發者提升編碼效率，整體研發效率提升20%。

繼續閱讀：大模型   星空人工智能

星空人工智能91视频免费观看網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com91视频免费播放將及時溝通與處理。！：首頁 > 星空人工智能產業 > AI大模型 » 百舸AI異構計算平台4.0、千帆大模型平台3.0兩大AI基礎設施全麵升級