為滿足對企業級生成式AI日益增長的需求,JFrog Platform 集成了NVIDIA NIM,以提供 GPU 優化的AI模型服務
2024年9月18日 ——流式軟件公司、JFrog軟件供應鏈平台的締造者JFrog(納斯達克股票代碼:FROG),現已通過收購 Qwak AI將業務擴展至涵蓋統一 MLOps 平台,近期宣布與NVIDIA NIM 微服務(NVIDIA AI Enterprise 軟件平台的一部分)進行新的產品集成。將JFrog Artifactory模型注冊和NVIDIA NIM集成至JFrog Platform,有望實現在端到端軟件供應鏈工作流中將GPU優化、預獲批的AI模型與集中式DevSecOps流程相結合,使企業能夠以極快的速度將安全的機器學習(ML)模型和大語言模型(LLM)投入生產,並提高透明度、可追溯性和信任度。
JFrog戰略執行副總裁Gal Marder表示:“ 隨著企業快速采用AI91视频免费观看,落實確保效率和安全性的實踐,並以負責任的方式采用AI至關重要。通過NVIDIA NIM微服務,將DevOps、安全和MLOps流程集成至端到端軟件供應鏈工作流中,客戶將能夠高效地將安全模型投入生產,同時在整個流水線中保持高度的可視性、可追溯性和可控性。”
隨著AI在軟件應用中的興起和市場需求的快速增長,數據科學家和ML工程師在企業環境中擴展ML模型部署時麵臨著多樣化的挑戰。碎片化的資產管理、安全漏洞、合規性問題和性能瓶頸,再加上將AI工作流與現有軟件開發流程集成的複雜性,以及在各種環境中靈活、安全部署的應用需求,使問題變得更加複雜。這種複雜性的疊加可能導致部署周期漫長且成本高昂,甚至許多情況下會導致AI應用計劃的失敗。
NVIDIA 企業戰略合作夥伴副總裁Pat Lee表示:“隨著企業擴大生成式AI的部署規模,中央存儲庫可以幫助他們快速選擇和部署已獲準開發的模型。將NVIDIA NIM微服務集成到JFrog Platform,可以幫助開發人員快速獲得完全合規、性能優化的模型,並迅速投入生產。”
JFrog Artifactory提供了一種單一解決方案,該方案適用於存儲和管理整個軟件供應鏈中使用的所有製品、二進製文件、軟件包、文件、容器和組件。JFrog Platform與NVIDIA NIM的集成有望將容器化AI模型作為軟件包納入現有的軟件開發工作流。通過將NVIDIANGC(一個GPU優化深度學習、ML和HPC模型的中心)與JFrog Platform和JFrog Artifactory模型注冊中心相結合,企業將能夠為所有軟件包和AI模型維護單一事實來源,同時利用企業DevSecOps最佳實踐來獲得對整體軟件供應鏈的可視性、管理和控製。
JFrog Platform與NVIDIA NIM的集成有望帶來多項優勢,包括
● 統一管理:在 JFrog Artifactory(作為模型注冊表)中,對所有資產(包括專有製品和開源軟件依賴項)以及 NIM 微服務容器進行集中訪問控製和管理,實現與現有 DevSecOps 工作流的無縫集成。
● 全麵的安全性和完整性:在開發的每個環節(包括容器和依賴項)進行持續掃描,通過 JFrog 審計和使用情況統計來提供對 NIM 微服務的上下文洞察,從而促進合規性。
● 卓越的模型性能和可擴展性:利用NVIDIA加速計算基礎設施來優化AI應用性能,提供低延遲和高吞吐量,以便在大規模生產環境中實現具有可擴展性的LLM部署。
● 靈活部署:通過 JFrog Artifactory 提供靈活的部署選項,包括自托管、多雲和離線部署選項。
###
關於JFrog
JFrog Ltd.(納斯達克股票代碼:FROG)的使命是創造一個從開發人員到設備之間暢通無阻的軟件交付世界。秉承“流式軟件”的理念,JFrog軟件供應鏈平台是統一的記錄係統,幫助企業快速安全地構建、管理和分發軟件,確保軟件可用、可追溯和防篡改。集成的安全功能還有助於發現和抵禦威脅和漏洞並加以補救。JFrog 的混合、通用、多雲平台可以作為跨多個主流雲服務提供商的自托管和SaaS服務。全球數百萬用戶和7200多名客戶,包括大多數財富100強企業,依靠JFrog解決方案安全地開展數字化轉型。一用便知!如欲了解更多信息,請訪問jfrogchina.com或者關注91视频免费播放的微信官方賬號:JFrog捷蛙。
星空人工智能91视频免费观看網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題,煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com91视频免费播放將及時溝通與處理。!:首頁 > 星空人工智能產業 > AI大模型 » JFrog與NVIDIA合作,利用NVIDIA NIM提供安全的AI模型