全鏈路專業(yè)服務(wù)，讓大模型從可用到好用 · 6大階段30+專業(yè)服務(wù)，覆蓋大模型建設(shè)全流程，加速政企落地大模型 · 創(chuàng)新運營服務(wù)模式，實現(xiàn)全場景模型經(jīng)驗沉淀、全流程運營賦能產(chǎn)業(yè)，快速孵化大模型場景化應(yīng)用 大模型混合云十大創(chuàng)新技術(shù) 大模型混合云十大創(chuàng)新技術(shù) 了解詳情 十大創(chuàng)新技術(shù) 加速構(gòu)建企業(yè)專屬大模型
盤古NLP大模型 盤古NLP大模型 優(yōu)秀的模型結(jié)構(gòu)，完善的工程化能力，最貼合行業(yè)落地的NLP大模型 超大參數(shù)規(guī)模，最貼合行業(yè)落地的NLP大模型 重磅發(fā)布盤古NLP 718B深度思考模型，多專家+大稀疏比的MOE新架構(gòu)，昇騰親和設(shè)計，高效訓(xùn)推 專家咨詢 ModelArts Studio控制臺
使用預(yù)置算法構(gòu)建模型 使用自定義算法構(gòu)建模型 查看全部 即刻領(lǐng)取 免費試用 產(chǎn)品 開啟您的大模型之旅 企業(yè)免費試用 您可能感興趣的產(chǎn)品 您可能感興趣的產(chǎn)品 大模型開發(fā)平臺ModelArts Studio 一站式大模型工具鏈平臺 ModelArts 面向開發(fā)者的AI平臺
盤古大模型 PanguLargeModels 盤古大模型 PanguLargeModels 盤古大模型是面向B端行業(yè)的大模型，包含L0中5類基礎(chǔ)大模型、L1行業(yè)大模型及L2場景模型三層架構(gòu) 盤古大模型是面向B端行業(yè)的大模型，包含L0中5類基礎(chǔ)大模型、L1行業(yè)大模型及L2場景模型三層架構(gòu)
化區(qū)域的基礎(chǔ)大模型。 全球模型 提供高精度的全球模型，無需定制和訓(xùn)練，直接訂閱即可推理 多種部署形態(tài) 支持公有云、混合云、邊緣多種形態(tài)，滿足不同需求 文檔與學(xué)習(xí)成長 盤古大模型 盤古大模型 什么是盤古大模型 盤古科學(xué)計算大模型能力與規(guī)格 盤古大模型用戶指南 如何調(diào)用盤古大模型API
古多模態(tài)大模型為基座，持續(xù)優(yōu)化萬興天幕音視頻大模型2.0，構(gòu)建其音視頻垂類能力。 廣汽集團 廣汽借助華為云盤古多模態(tài)大模型，打造業(yè)界首個支持點云生成的大模型，為其端到端仿真高效迭代提供強有力支撐。 文檔與學(xué)習(xí)成長 盤古大模型 盤古大模型 什么是盤古大模型 盤古多模態(tài)大模型能力與規(guī)格
大模型混合云TOP N 場景 大模型混合云TOP N 場景 1對1咨詢 了解華為云Stack 大模型行業(yè)場景落地三要素 大模型行業(yè)場景落地三要素 場景是大模型行業(yè)落地的關(guān)鍵所在，而在場景落地過程中，數(shù)據(jù)、經(jīng)驗和生態(tài)是核心要素，數(shù)據(jù)的數(shù)量和質(zhì)量決定模型效果上限；經(jīng)驗就像“名師指導(dǎo)”
多語種內(nèi)容審核，平臺全面保護 一站式大模型開發(fā)平臺 一站式大模型開發(fā)平臺 ModelArts Studio大模型開發(fā)平臺是集數(shù)據(jù)管理、模型訓(xùn)練、模型部署于一體的綜合平臺，專為開發(fā)和應(yīng)用大模型而設(shè)計，旨在為開發(fā)者提供簡單、高效的大模型開發(fā)和部署方式 為什么選擇大模型開發(fā)平臺ModelArts
大模型安全護欄 ModelArts Guard 大模型安全護欄 ModelArts Guard 大模型安全護欄（ModelArts Guard），做配套大模型的內(nèi)容安全防線 大模型安全護欄（ModelArts Guard），做配套大模型的安全防線，開放兼容，適用盤古大模型和三方大模型
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息 方便
湘江鯤鵬目前在人工智能大模型領(lǐng)域擁有算力、數(shù)據(jù)、算法三大關(guān)鍵要素的經(jīng)驗積累，構(gòu)建了大模型三個方面的差異化競爭力，盤古大模型AI專業(yè)服務(wù)覆蓋從前期咨詢、規(guī)劃設(shè)計，到數(shù)據(jù)工程、模型訓(xùn)練，再到應(yīng)用工程及模型運維的完整流程。基于華為盤古提供的AI專業(yè)服務(wù)包，致力于為企業(yè)提供一站式人工智能解決方案
等，以及整體的規(guī)劃設(shè)計（需求、思路、方案、架構(gòu)、落地周期、預(yù)算等）。3. 數(shù)據(jù)的咨詢、治理和梳理，數(shù)據(jù)的采集（各業(yè)務(wù)系統(tǒng)中的多種業(yè)務(wù)模型、網(wǎng)絡(luò)等等），數(shù)據(jù)的標注，關(guān)聯(lián)關(guān)系的定義，以及數(shù)據(jù)導(dǎo)入。4. 基于具體任務(wù)和對應(yīng)的數(shù)據(jù)分布，設(shè)計適合的微調(diào)訓(xùn)練框架和方案；使用不同的調(diào)參策略和技
，滿足企業(yè)在不同地點的工作需求。5、我們保證了業(yè)務(wù)的高質(zhì)量數(shù)據(jù)供給。我們的工作站擁有強大的數(shù)據(jù)處理能力，可以提供高質(zhì)量的數(shù)據(jù)，幫助企業(yè)做出更好的決策?？偟膩碚f，太杉天尊大模型AIGC場景解決方案具備功能強大、安全可靠、易于使用的特點，是政府的得力助手，企業(yè)的重要伙伴。1、數(shù)據(jù)私有化；
%+，能夠為客戶提供定制化的解決方案。 公司集成了世界領(lǐng)先的底層大模型，具備打通跨模型和工具鏈的平臺能力，采用最新的人工智能技術(shù)和算法，能夠基于業(yè)務(wù)場景，支持大規(guī)模數(shù)據(jù)處理和復(fù)雜的模型訓(xùn)練，根據(jù)客戶的特定需求調(diào)整模型參數(shù)和功能，確保為客戶提供高效、可靠的技術(shù)服務(wù)，以滿足業(yè)務(wù)目標。
擇和技術(shù)方案設(shè)計。?提供NLP/CV等大模型的訓(xùn)練集數(shù)據(jù)標準設(shè)計指導(dǎo)。2. 規(guī)劃設(shè)計：?提供需求調(diào)研服務(wù)，基于盤古大模型的能力進行科學(xué)合理的方案設(shè)計和模型選擇。?完成需求調(diào)研報告和方案設(shè)計報告的輸出及交付。?提供L0盤古大模型服務(wù)部署方案的規(guī)劃設(shè)計及部署實施服務(wù)。3. 數(shù)據(jù)工程：
注&撰寫根據(jù)大模型微調(diào)數(shù)據(jù)標注規(guī)范，通過配套工具進行數(shù)據(jù)標注。 八、數(shù)據(jù)轉(zhuǎn)換與導(dǎo)入 完成數(shù)據(jù)格式的轉(zhuǎn)換，可進行跨網(wǎng)絡(luò)環(huán)境的數(shù)據(jù)導(dǎo)入。 九、調(diào)優(yōu)方案設(shè)計 根據(jù)大模型訓(xùn)練及調(diào)優(yōu)工具和平臺，輸出大模型調(diào)優(yōu)方案。 十、模型訓(xùn)練實施1. 基于大模型訓(xùn)練所需的云服務(wù)，完成大模型訓(xùn)練及微調(diào)。2
、安全的工作環(huán)境。1、我們特別注重數(shù)據(jù)私有化。我們采用最新的數(shù)據(jù)加密技術(shù)，確保企業(yè)的數(shù)據(jù)安全。每一個工作站都擁有獨立的存儲空間，企業(yè)的數(shù)據(jù)不會被未經(jīng)授權(quán)的第三方訪問。2、我們提供了場景定制的服務(wù)。我們的工作站可以根據(jù)企業(yè)的具體需求，進行個性化設(shè)計，以滿足企業(yè)在不同場景下的工作需求
出門問問大模型“序列猴子”是一款具備多模態(tài)生成能力的大語言模型，模型以語言為核心的能力體系涵蓋“知識、對話、數(shù)學(xué)、邏輯、推理、規(guī)劃”六個維度，能夠同時支持文字生成、圖片生成、3D內(nèi)容生成、語言生成和語音識別等不同任務(wù)。出門問問大模型“序列猴子”是一款具備多模態(tài)生成能力的大語言模型，模
深厚的行業(yè)積累，分層解耦的架構(gòu)，多樣化的部署模式 深厚的行業(yè)積累，分層解耦的架構(gòu)，多樣化的部署模式 技術(shù)扎根 全棧技術(shù)創(chuàng)新，極致算力加速大模型開發(fā)，打造世界AI另一極 全棧技術(shù)創(chuàng)新，極致算力加速大模型開發(fā)，打造世界AI另一極 開放同飛 打造云原生應(yīng)用平臺AppArts，成立大模型高質(zhì)量數(shù)據(jù)聯(lián)盟
安全云腦_自定義告警模型 安全云腦的威脅運營功能提供豐富的威脅檢測模型，幫助您從海量的安全日志中，發(fā)現(xiàn)威脅、生成告警；同時，提供豐富的安全響應(yīng)劇本，幫助您對告警進行自動研判、處置，并對安全防線和安全配置自動加固。 威脅運營中的智能建模支持利用模型對管道中的日志數(shù)據(jù)進行掃描，如果不在模型設(shè)置范圍內(nèi)容，將產(chǎn)生告警提示。
ModelArts提供了模型訓(xùn)練的功能，方便您查看訓(xùn)練情況并不斷調(diào)整您的模型參數(shù)。您還可以基于不同的數(shù)據(jù)，選擇不同規(guī)格的資源池用于模型訓(xùn)練。除支持用戶自己開發(fā)的模型外，ModelArts還提供了從AI Gallery訂閱算法，您可以不關(guān)注模型開發(fā)，直接使用AI Gallery的算法，通過算法參數(shù)的調(diào)整，得到一個滿意的模型。
當(dāng)前ModelArts推理基礎(chǔ)鏡像使用的python的logging模塊，采用的是默認的日志級別Warnning，即當(dāng)前只有warning級別的日志可以默認查詢出來。如果想要指定INFO等級的日志能夠查詢出來，需要在代碼中指定logging的輸出日志等級為INFO級別。 在推理代碼所在的py文件中，指定
py”結(jié)尾的文件。 文件數(shù)（含文件、文件夾數(shù)量）不超過1024個。 文件總大小不超過5GB。 ModelArts訓(xùn)練好后的模型如何獲取？ 使用自動學(xué)習(xí)產(chǎn)生的模型只能在ModelArts上部署上線，無法下載至本地使用。 使用自定義算法或者訂閱算法訓(xùn)練生成的模型，會存儲至用戶指定的OBS路徑中，供用戶下載。
用戶創(chuàng)建Notebook時所選用的鏡像是經(jīng)過多次保存的自定義鏡像或用戶自行注冊的鏡像，基于該鏡像所創(chuàng)建的Notebook已經(jīng)無法再執(zhí)行鏡像保存的操作了。 解決方法 使用公共鏡像或其他的自定義鏡像來創(chuàng)建Notebook，完成鏡像保存操作。 ModelArts-產(chǎn)品相關(guān)介紹 更快的普惠AI平臺 ModelArts產(chǎn)品文檔
的實時監(jiān)控和分析，以及生產(chǎn)計劃的優(yōu)化和調(diào)整。又壹MES的服務(wù)特點包括：高度定制化、靈活可擴展、易于集成、可靠穩(wěn)定。他們的團隊擁有豐富的行業(yè)經(jīng)驗和技術(shù)實力，能夠根據(jù)客戶的需求和現(xiàn)有的生產(chǎn)環(huán)境，提供量身定制的解決方案。他們的系統(tǒng)可以根據(jù)企業(yè)的需求進行靈活的擴展和定制，以適應(yīng)不同規(guī)模和
同的訪問權(quán)限，以達到不同員工之間的權(quán)限隔離，通過IAM進行精細的權(quán)限管理。 VPC和子網(wǎng) 虛擬私有云（Virtual Private Cloud， VPC）為云數(shù)據(jù)庫構(gòu)建隔離的、用戶自主配置和管理的虛擬網(wǎng)絡(luò)環(huán)境，提升用戶云上資源的安全性，簡化用戶的網(wǎng)絡(luò)部署。您可以在VPC中定義安
助您安全的控制華為云資源的訪問。 如果華為云賬號已經(jīng)能滿足您的要求，不需要創(chuàng)建獨立的IAM用戶進行權(quán)限管理，您可以跳過本章節(jié)，不影響您使用GaussDB服務(wù)的其它功能。 通過IAM，您可以在華為云賬號中給員工創(chuàng)建IAM用戶，并授權(quán)控制他們對華為云資源的訪問范圍。例如您的員工中有負
ai大模型的定義
搜索大模型插件通過模型服務(wù)將AI能力集成到Elasticsearch集群中，實現(xiàn)語義向量搜索、語義排序等高級功能。其核心流程是基于業(yè)務(wù)需求（如語義搜索、智能推薦）定義模型類型（Embedding/Rerank等），并綁定對應(yīng)的AI服務(wù)地址，確保上層應(yīng)用能通過向量索引正確調(diào)用服務(wù)接口。
- 語義搜索：依賴Embedding模型服務(wù)，將文本轉(zhuǎn)換為向量，實現(xiàn)相似性檢索。
- 智能推薦：組合使用Embedding模型服務(wù)（生成用戶/物品向量）和Rerank模型服務(wù)，優(yōu)化推薦結(jié)果排序。
前提條件
確認Elasticsearch集群已啟用搜索大模型插件，操作指導(dǎo)請參見開啟搜索大模型插件。
支持的模型服務(wù)
搜索大模型插件支持接入多種模型服務(wù)，具體支持的模型服務(wù)清單如表1 支持的模型服務(wù)所示。
獲取獨享版集群的訪問地址
- 登錄 云搜索服務(wù) 管理控制臺。
- 在左側(cè)導(dǎo)航欄，選擇“集群管理 > Elasticsearch”。
- 在集群列表，單擊目標集群名稱，進入集群詳情頁。
- 選擇“依賴服務(wù)管理”頁簽，進入依賴服務(wù)列表。
- 在依賴服務(wù)列表，選擇目標服務(wù)，單擊操作列的“查看詳情”跳轉(zhuǎn)到獨享版集群的基本信息頁面。
- 獲取“內(nèi)網(wǎng)訪問IPv4地址”即獨享版集群的訪問地址，后續(xù)配置模型服務(wù)需要使用。
圖1 獲取集群訪問地址
登錄Kibana
登錄Kibana進入命令執(zhí)行頁面。Elasticsearch集群支持多種客戶端訪問，本文僅以 CSS 服務(wù)集成的Kibana為例介紹配置指導(dǎo)。
- 登錄 云搜索 服務(wù)管理控制臺。
- 在左側(cè)導(dǎo)航欄，選擇“集群管理 > Elasticsearch”。
- 在集群列表，選擇目標集群，單擊操作列的“Kibana”，登錄Kibana。
- 在Kibana左側(cè)導(dǎo)航欄選擇“Dev Tools”，進入操作頁面。
控制臺左側(cè)是命令輸入框，其右側(cè)的三角形圖標為執(zhí)行按鈕，右側(cè)區(qū)域則顯示執(zhí)行結(jié)果。
配置模型服務(wù)
當(dāng)模型創(chuàng)建完成后，根據(jù)業(yè)務(wù)需要配置模型服務(wù)。下面介紹了各類模型服務(wù)的配置指導(dǎo)。
管理模型服務(wù)
搜索大模型插件深度集成Kibana命令行界面（CLI），支持對模型服務(wù)進行更新、監(jiān)控、擴縮容等全生命周期管理。如表4所示，可以通過標準CLI命令執(zhí)行更新（update）、刪除（delete）等核心操作管理模型服務(wù)。
|
操作類型 |
API命令 |
請求示例 |
響應(yīng)示例 |
|---|---|---|---|
|
更新模型服務(wù) |
POST _inference/model_service/{service_name}/update |
更新Embedding模型服務(wù)： POST _inference/model_service/pangu_vector/update
{
"description": "搜索大模型-語義向量化模型更新",
"service_config": {
"semantic_vector": {
"service_urls": ["http://{endpoint}/app/search/v1/vector"],
"timeout_ms": 60000
}
}
} |
返回更新后的模型服務(wù)信息： {
"service_name" : "pangu_vector",
"service_type" : "remote",
"description" : "搜索大模型-語義向量化模型更新",
"create_time" : 1747966388508,
"service_config" : {
"semantic_vector" : {
"embedding_type" : "query2doc",
"service_urls" : [
"http://{endpoint}/app/search/v1/vector"],
"method" : "POST",
"timeout_ms" : 60000,
"max_conn" : 200,
"security" : false,
"dimension" : "768",
"algorithm" : "GRAPH",
"metric" : "inner_product"
}
}
} |
|
檢查模型服務(wù)連通性 |
GET _inference/model_service/{service_name}/check |
檢查Embedding模型服務(wù)的連通性： GET _inference/model_service/pangu_vector/check |
{
"acknowledged" : true
} |
|
查看模型服務(wù) |
|
查看Embedding模型服務(wù)的配置信息： GET _inference/model_service/pangu_vector |
返回模型服務(wù)信息： {
"count" : 1,
"model_service_configs" : [
{
"service_name" : "pangu_vector",
"service_type" : "remote",
"description" : "搜索大模型-語義向量化模型",
"create_time" : 1747966388508,
"service_config" : {
"semantic_vector" : {
"embedding_type" : "query2doc",
"service_urls" : ["http://{endpoint}/app/search/v1/vector"],
"method" : "POST",
"timeout_ms" : 60000,
"max_conn" : 200,
"security" : false,
"dimension" : "768",
"algorithm" : "GRAPH",
"metric" : "inner_product"
}
}
}
]
} |
|
刪除模型服務(wù)配置（刪除后，索引將無法使用該模型服務(wù)） |
DELETE _inference/model_service/{service_name} |
刪除Embedding模型服務(wù)配置： DELETE _inference/model_service/pangu_vector |
{
"acknowledged" : true
} |
|
設(shè)置模型服務(wù)的數(shù)量上限（最多支持創(chuàng)建幾個模型服務(wù)） |
PUT _cluster/settings
{
"transient": {
"pg_search.inference.max_inference_model_service": 100 //最大值是1000，最小值是1，默認值是100。
}
} |
設(shè)置模型服務(wù)的數(shù)量上限為10： PUT _cluster/settings
{
"transient": {
"pg_search.inference.max_inference_model_service": 10
}
} |
{
"acknowledged" : true,
"persistent" : { },
"transient" : {
"pg_search" : {
"inference" : {
"max_inference_model_service" : "10"
}
}
}
} |
ai大模型的定義常見問題
更多常見問題 >>-
盤古大模型致力于深耕行業(yè)，打造金融、政務(wù)、制造、礦山、氣象、鐵路等領(lǐng)域行業(yè)大模型和能力集，將行業(yè)知識know-how與大模型能力相結(jié)合，重塑千行百業(yè)，成為各組織、企業(yè)、個人的專家助手。
-
模型轉(zhuǎn)換，即將開源框架的網(wǎng)絡(luò)模型（如Caffe、TensorFlow等），通過ATC（Ascend Tensor Compiler）模型轉(zhuǎn)換工具，將其轉(zhuǎn)換成昇騰AI處理器支持的離線模型。
-
OBS使用PUT操作為桶設(shè)置自定義域名,設(shè)置成功之后,用戶訪問桶的自定義域名就能訪問到桶。必須保證此自定義域名通過DNS能夠正確解析到OBS服務(wù)。
-
OBS使用DELETE操作來刪除桶的自定義域名。
-
本次Serverless應(yīng)用中心上線文生圖應(yīng)用，用戶無需下載源代碼、了解各種安裝部署知識、安裝復(fù)雜的依賴，通過華為云Serverless應(yīng)用中心即可一鍵創(chuàng)建AI文生圖應(yīng)用，體驗 “0” 構(gòu)建門檻、“0” 資源閑置并具備極致彈性的Serverless AI繪圖能力。
-
在自然語言處理（NLP）領(lǐng)域中，使用語言模型預(yù)訓(xùn)練方法在多項NLP任務(wù)上都獲得了不錯的提升，廣泛受到了各界的關(guān)注。本課程將簡單介紹一下預(yù)訓(xùn)練的思想，幾個代表性模型和它們之間的關(guān)系。
