本站點使用Cookies,繼續瀏覽表示您同意我們使用Cookies。
Cookies和隱私政策>
浪潮信息致力于構建全球化的智慧計算生態,愿與合作伙伴從業務、資源、戰略上全面聚合,共同推動客戶數字化轉型。
查找當地經銷商聯系方式或者提交需求表單與經銷商聯系溝通。
即時進行合作伙伴公司認證查詢、學員認證證書查詢,了解培訓考試達標進展。
7月9日,在“元腦中國行”全國巡展濟南站上,浪潮信息發布「AIStation 人工智能開發平臺全新V5版本」。全新升級的AIStation具備全面的大模型流程支持能力,幫助企業用戶低門檻構建大模型微調任務,提供標準、安全的大模型推理服務,并針對大模型業務資源需求優化了集群管理功能,助力各行業客戶快速開展大模型業務創新與落地,獲得穩定、高效、易用、高精度的大模型服務。
隨著大模型技術的快速迭代與產業化發展,企業用戶在大模型開發和應用的過程中面臨諸多新的挑戰。一方面,用戶在大模型微調過程通常會遇到環境算法配置復雜、模型結構多樣適配繁瑣、算力資源管理難等問題,模型精度難以提升;另一方面,在部署本地化、私有化大模型時,會面臨部署經驗不足、性能優化瓶頸、算力資源利用不合理等挑戰,難以在保障數據與業務隱私的條件下構建和使用本地化大模型應用。
AIStation V5版本功能全面升級,支持端到端的大模型開發流程,新增適配50+大模型結構,內置10+微調數據集和20+可配置參數項,提供低代碼大模型微調能力,讓用戶一鍵提交任務、統一管理任務,低門檻構建大模型微調任務、優化模型性能。同時,針對大模型算力資源占用高、訓練穩定性難保障的問題,AIStation V5在傳統AI算力集群治理能力的基礎上,升級了針對大模型訓練與微調的分布式任務構建優化、斷點續訓能力,幫助用戶高效、穩定地進行大模型微調。
AIStation V5集成了高性能推理服務框架,可將大模型批量推理服務速度提升1-3倍。通過對算力、服務、業務訪問的全方位治理,以及多樣化的推理服務部署機制,AIStation V5可以滿足不同場景下用戶自研模型的部署需求,讓用戶能夠在大規模集群內更加細粒度的分配調度算力,部署和使用不同來源、不同結構、不同規模的大模型推理服務,就像在本地部署單個大模型、傳統AI應用與服務一樣簡單。
此外,AIStation V5針對大模型業務特點持續優化集群管理核心功能,大幅提升數據導入、調度、處理效率,模型訓練部署效率進一步提升;優化升級算力池化與分配策略,將算力資源利用率進一步提升20%;實現多團隊開發人員共用流程、共享環境,開發者與算力高效協同,助力企業客戶提升各類AI創新業務的整體效率。
浪潮信息AIStation是面向企業級訓練與推理場景開發的人工智能開發平臺,實現從模型開發、訓練、部署、測試、發布、服務的全流程一站式高效交付。通過統一管理計算資源、數據資源、深度學習軟件棧資源,以及支持大模型業務全鏈條,AIStation能夠為企業用戶提供敏捷高效的一體化AI平臺,加快AI開發應用創新落地。