五月婷婷丁香性爱|j久久一级免费片|久久美女福利视频|中文观看在线观看|加勒比四区三区二|亚洲裸女视频网站|超碰97AV在线69网站免费观看|有码在线免费视频|久久青青日本视频|亚洲国产AAAA

[快速入門(mén)]ai大模型如何生成小模型
盤(pán)古NLP大模型

文檔與學(xué)習(xí)成長(zhǎng) 盤(pán)古模型 盤(pán)古模型 什么是盤(pán)古模型 盤(pán)古NLP模型能力與規(guī)格 盤(pán)古模型快速入門(mén) 如何調(diào)用盤(pán)古模型API 查看全部 AI Gallery百模千態(tài)社區(qū) AI Gallery百模千態(tài)社區(qū) 優(yōu)質(zhì)昇騰云AI模型專區(qū) 幾行代碼自由部署AI應(yīng)用 豐富多樣的AI訓(xùn)練數(shù)據(jù)集 場(chǎng)景化AI案例,助力AI賦能千行百業(yè)

盤(pán)古大模型 panguLM

盤(pán)古模型 PanguLargeModels 盤(pán)古模型 PanguLargeModels 盤(pán)古模型是面向B端行業(yè)的模型,包含L0中5類基礎(chǔ)模型、L1行業(yè)大模型及L2場(chǎng)景模型三層架構(gòu) 盤(pán)古模型是面向B端行業(yè)的模型,包含L0中5類基礎(chǔ)模型、L1行業(yè)大模型及L2場(chǎng)景模型三層架構(gòu)

大模型混合云

全鏈路專業(yè)服務(wù),讓模型從可用到好用 · 6階段30+專業(yè)服務(wù),覆蓋模型建設(shè)全流程,加速政企落地大模型 · 創(chuàng)新運(yùn)營(yíng)服務(wù)模式,實(shí)現(xiàn)全場(chǎng)景模型經(jīng)驗(yàn)沉淀、全流程運(yùn)營(yíng)賦能產(chǎn)業(yè),快速孵化模型場(chǎng)景化應(yīng)用 模型混合云十創(chuàng)新技術(shù) 模型混合云十創(chuàng)新技術(shù) 了解詳情 十創(chuàng)新技術(shù) 加速構(gòu)建企業(yè)專屬大模型

盤(pán)古預(yù)測(cè)大模型

文檔與學(xué)習(xí)成長(zhǎng) 盤(pán)古模型 盤(pán)古模型 什么是盤(pán)古模型 盤(pán)古預(yù)測(cè)模型能力與規(guī)格 盤(pán)古模型快速入門(mén) 如何調(diào)用盤(pán)古模型API 查看全部 AI Gallery百模千態(tài)社區(qū) AI Gallery百模千態(tài)社區(qū) 優(yōu)質(zhì)昇騰云AI模型專區(qū) 幾行代碼自由部署AI應(yīng)用 豐富多樣的AI訓(xùn)練數(shù)據(jù)集 場(chǎng)景化AI案例,助力AI賦能千行百業(yè)

盤(pán)古多模態(tài)大模型

古多模態(tài)模型為基座,持續(xù)優(yōu)化萬(wàn)興天幕音視頻模型2.0,構(gòu)建其音視頻垂類能力。 廣汽集團(tuán) 廣汽借助華為云盤(pán)古多模態(tài)模型,打造業(yè)界首個(gè)支持點(diǎn)云生成模型,為其端到端仿真高效迭代提供強(qiáng)有力支撐。 文檔與學(xué)習(xí)成長(zhǎng) 盤(pán)古模型 盤(pán)古模型 什么是盤(pán)古模型 盤(pán)古多模態(tài)模型能力與規(guī)格

盤(pán)古科學(xué)計(jì)算大模型

提供高精度的全球模型,無(wú)需定制和訓(xùn)練,直接訂閱即可推理 多種部署形態(tài) 支持公有云、混合云、邊緣多種形態(tài),滿足不同需求 文檔與學(xué)習(xí)成長(zhǎng) 盤(pán)古模型 盤(pán)古模型 什么是盤(pán)古模型 盤(pán)古科學(xué)計(jì)算模型能力與規(guī)格 盤(pán)古模型用戶指南 如何調(diào)用盤(pán)古模型API 查看全部 AI Gallery百模千態(tài)社區(qū)

大模型安全護(hù)欄 ModelArts Guard

模型安全護(hù)欄 ModelArts Guard 模型安全護(hù)欄 ModelArts Guard 模型安全護(hù)欄(ModelArts Guard),做配套模型的內(nèi)容安全防線 模型安全護(hù)欄(ModelArts Guard),做配套模型的安全防線,開(kāi)放兼容,適用盤(pán)古模型和三方模型

ModelArts Studio大模型開(kāi)發(fā)平臺(tái)

多語(yǔ)種內(nèi)容審核,平臺(tái)全面保護(hù) 一站式模型開(kāi)發(fā)平臺(tái) 一站式模型開(kāi)發(fā)平臺(tái) ModelArts Studio模型開(kāi)發(fā)平臺(tái)是集數(shù)據(jù)管理、模型訓(xùn)練、模型部署于一體的綜合平臺(tái),專為開(kāi)發(fā)和應(yīng)用模型而設(shè)計(jì),旨在為開(kāi)發(fā)者提供簡(jiǎn)單、高效的模型開(kāi)發(fā)和部署方式 為什么選擇模型開(kāi)發(fā)平臺(tái)ModelArts

大模型混合云十大場(chǎng)景

模型混合云TOP N 場(chǎng)景 模型混合云TOP N 場(chǎng)景 1對(duì)1咨詢 了解華為云Stack 模型行業(yè)場(chǎng)景落地三要素 模型行業(yè)場(chǎng)景落地三要素 場(chǎng)景是模型行業(yè)落地的關(guān)鍵所在,而在場(chǎng)景落地過(guò)程中,數(shù)據(jù)、經(jīng)驗(yàn)和生態(tài)是核心要素,數(shù)據(jù)的數(shù)量和質(zhì)量決定模型效果上限;經(jīng)驗(yàn)就像“名師指導(dǎo)”

[相關(guān)產(chǎn)品]ai大模型如何生成小模型
生成式人工智能(大模型)備案

100%包通過(guò),不通過(guò),全額退款,全國(guó)可辦理!生成人工智能備案,模型備案

AI大模型 算法備案

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確,具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息  方便

AI大模型專業(yè)服務(wù)

湘江鯤鵬目前在人工智能模型領(lǐng)域擁有算力、數(shù)據(jù)、算法三關(guān)鍵要素的經(jīng)驗(yàn)積累,構(gòu)建了模型三個(gè)方面的差異化競(jìng)爭(zhēng)力,盤(pán)古模型AI專業(yè)服務(wù)覆蓋從前期咨詢、規(guī)劃設(shè)計(jì),到數(shù)據(jù)工程、模型訓(xùn)練,再到應(yīng)用工程及模型運(yùn)維的完整流程。基于華為盤(pán)古提供的AI專業(yè)服務(wù)包,致力于為企業(yè)提供一站式人工智能解決方案

大模型及AI應(yīng)用配套服務(wù)

angChain等流行的模型開(kāi)發(fā)框架,構(gòu)建企業(yè)級(jí)AI應(yīng)用;團(tuán)隊(duì)擁有成熟的軟件工程技術(shù)和管理能力。6. 模型使用的技術(shù)支持,用戶使用模型平臺(tái),解答用戶使用過(guò)程遇到的問(wèn)題;模型與應(yīng)用對(duì)接集成,以及進(jìn)行日常巡檢、故障處理、模型升級(jí)等服務(wù)。4. 工業(yè)數(shù)據(jù)模型(CAD模型、CAE模

天尊大模型AIGC場(chǎng)景解決方案

太杉天尊模型AIGC場(chǎng)景解決方案是以AI場(chǎng)景解決方案為核心的全棧Maas綜合方案,助力政企客戶靈活部署(可公有可私有部署)。具備自研的行業(yè)模型能力,主要用于政府/公安/教育等行業(yè)的數(shù)據(jù)處理、文本處理以及多模態(tài)處理等多場(chǎng)景。太杉天尊模型AIGC場(chǎng)景解決方案,是一款專為滿足政府企

盤(pán)古大模型專家服務(wù)

. 模型更新后,將新模型部署至相應(yīng)環(huán)境。 十一、模型評(píng)測(cè)1. 設(shè)計(jì)模型評(píng)測(cè)方案,對(duì)模型各類指標(biāo)進(jìn)行評(píng)測(cè)。2. 能夠按評(píng)測(cè)標(biāo)準(zhǔn)對(duì)模型各項(xiàng)能力進(jìn)行打分,輸出模型評(píng)測(cè)報(bào)告。 十二、Agent開(kāi)發(fā)1. 基于場(chǎng)景,設(shè)計(jì)并開(kāi)發(fā)Agent工具。2. 基于langchain等模型框架,完

序列猴子大模型

出門(mén)問(wèn)問(wèn)模型“序列猴子”是一款具備多模態(tài)生成能力的語(yǔ)言模型,模型以語(yǔ)言為核心的能力體系涵蓋“知識(shí)、對(duì)話、數(shù)學(xué)、邏輯、推理、規(guī)劃”六個(gè)維度,能夠同時(shí)支持文字生成、圖片生成、3D內(nèi)容生成、語(yǔ)言生成和語(yǔ)音識(shí)別等不同任務(wù)。出門(mén)問(wèn)問(wèn)模型“序列猴子”是一款具備多模態(tài)生成能力的語(yǔ)言模型,模

智慧監(jiān)控AI模型

智慧監(jiān)控AI模型綜合集成了人臉識(shí)別模型、安全帽識(shí)別模型、口罩佩戴識(shí)別模型、車牌識(shí)別模型、車輛占道識(shí)別模型5種AI模型。一,人臉識(shí)別服務(wù) 人臉識(shí)別模型目前提供授權(quán)認(rèn)證、模型加載、人臉注冊(cè)、人臉識(shí)別、人臉刪除、特征提取六個(gè)接口服務(wù)。 授權(quán)認(rèn)證:需先進(jìn)行授權(quán)認(rèn)證,才能夠正常使用人臉識(shí)別服務(wù);

人工智能AI大模型技術(shù)研發(fā)定制服務(wù)

公司集成了世界領(lǐng)先的底層模型,具備打通跨模型和工具鏈的平臺(tái),提供從需求分析、數(shù)據(jù)收集、模型設(shè)計(jì)、訓(xùn)練優(yōu)化、評(píng)估、系統(tǒng)集成、用戶界面設(shè)計(jì)、部署維護(hù)、合規(guī)性檢查、技術(shù)支持、性能監(jiān)控、擴(kuò)展性設(shè)計(jì)、定制服務(wù)到持續(xù)研發(fā)一站式AI模型定制研發(fā)服務(wù)。光啟慧語(yǔ)是一家圍繞模型全棧開(kāi)展技術(shù)研發(fā)和產(chǎn)

[相似文章]ai大模型如何生成小模型
華為云盤(pán)古大模型_華為云AI大模型_盤(pán)古人工智能

華為云盤(pán)古模型 華為云盤(pán)古模型 AI for Industries 模型重塑千行百業(yè) AI for Industries 模型重塑千行百業(yè) 盤(pán)古模型致力于深耕行業(yè),打造金融、政務(wù)、制造、礦山、氣象、鐵路等領(lǐng)域行業(yè)大模型和能力集,將行業(yè)知識(shí)know-how與模型能力相結(jié)合

ModelArts模型訓(xùn)練_模型訓(xùn)練簡(jiǎn)介_(kāi)如何訓(xùn)練模型

ModelArts模型訓(xùn)練 ModelArts模型訓(xùn)練簡(jiǎn)介 ModelArts模型訓(xùn)練,俗稱“建模”,指通過(guò)分析手段、方法和技巧對(duì)準(zhǔn)備好的數(shù)據(jù)進(jìn)行探索分析,從中發(fā)現(xiàn)因果關(guān)系、內(nèi)部聯(lián)系和業(yè)務(wù)規(guī)律,為商業(yè)目的提供決策參考。訓(xùn)練模型的結(jié)果通常是一個(gè)或多個(gè)機(jī)器學(xué)習(xí)或深度學(xué)習(xí)模型,模型可以應(yīng)用到新的數(shù)據(jù)中,得到預(yù)測(cè)、評(píng)價(jià)等結(jié)果。

ModelArts推理部署_模型_AI應(yīng)用來(lái)源-華為云

ModelArts支持本地準(zhǔn)備模型包,編寫(xiě)模型配置文件和模型推理代碼,將準(zhǔn)備好的模型包上傳至對(duì)象存儲(chǔ)服務(wù)OBS,從OBS導(dǎo)入模型創(chuàng)建為AI應(yīng)用。 制作模型包,則需要符合一定的模型包規(guī)范。模型包里面必需包含“model”文件夾,“model”文件夾下面放置模型文件,模型配置文件,模型推理代碼文件。

GaussDB數(shù)據(jù)庫(kù)模型_GaussDB是什么_高斯數(shù)據(jù)庫(kù)模型

端口。 高斯數(shù)據(jù)庫(kù)模型-應(yīng)用場(chǎng)景 金融核心交易 ERP/CRM 政企OA/辦公 金融核心交易 金融核心交易 適用于各類銀行核心交易系統(tǒng)分布式改造,數(shù)據(jù)庫(kù)的原生分布式能力可以極大的降低改造和遷移工作量。兩地三中心等極致高可用能力,可以為核心業(yè)務(wù)保駕護(hù)航。 優(yōu)勢(shì) 容量高擴(kuò)展:支持T

ModelArts模型訓(xùn)練_創(chuàng)建訓(xùn)練作業(yè)_如何創(chuàng)建訓(xùn)練作業(yè)

ModelArts是什么_AI開(kāi)發(fā)平臺(tái)_ModelArts功能 ModelArts AI Gallery_市場(chǎng)_資產(chǎn)集市 ModelArts推理部署_服務(wù)_訪問(wèn)公網(wǎng)-華為云 ModelArts模型訓(xùn)練_模型訓(xùn)練簡(jiǎn)介_(kāi)如何訓(xùn)練模型 ModelArts推理部署_AI應(yīng)用_部署服務(wù)-華為云 Mode

DeepSeek-R1蒸餾模型部署及體驗(yàn)

這些DeepSeek模型在多項(xiàng)能力上與OpenAI的o1-mini相當(dāng),為開(kāi)發(fā)者提供了強(qiáng)大的AI能力。 在MaaS平臺(tái)上,DeepSeek-R1蒸餾模型已經(jīng)部署上線,開(kāi)發(fā)者可以通過(guò)在線體驗(yàn)或API調(diào)用來(lái)使用這些模型。為了幫助開(kāi)發(fā)者快速驗(yàn)證和開(kāi)發(fā)創(chuàng)新的AI應(yīng)用,平臺(tái)還提供了200

華為云CodeArts API_API設(shè)計(jì)支持公共模型

護(hù)。 安全模型 安全模型提供“http”、“apikey”、“oauth2”、“openIdConnect”四種類型。選擇不同類型的安全模型后,需要在方案內(nèi)容中填寫(xiě)必要的配置信息,然后用于API設(shè)計(jì)中“安全方案”的引用。此外,每個(gè)安全模型的文檔頁(yè)面展示了所有引用該模型的API清單,便于后期維護(hù)。

ModelArts推理部署_OBS導(dǎo)入_模型包規(guī)范-華為云

擇的元模型需要符合模型包規(guī)范。 模型包規(guī)范 ModelArts推理部署,模型包里面必需包含“model”文件夾,“model”文件夾下面放置模型文件,模型配置文件,模型推理代碼文件。 • 模型文件:在不同模型包結(jié)構(gòu)中模型文件的要求不同,具體請(qǐng)參見(jiàn)模型包結(jié)構(gòu)示例。 • 模型配置文件

安全云腦_自定義告警模型-華為云

安全云腦購(gòu)買(mǎi)指南 購(gòu)買(mǎi)安全云腦 購(gòu)買(mǎi)增值包 增加資產(chǎn)配額 通過(guò)安全云腦掌握安全態(tài)勢(shì) 態(tài)勢(shì)總覽 綜合態(tài)勢(shì)屏 安全報(bào)告 任務(wù)中心

ai大模型如何生成小模型

操作場(chǎng)景

客服系統(tǒng)是企業(yè)與消費(fèi)者溝通的重要橋梁,然而傳統(tǒng)的人工客服存在著人工成本高昂、數(shù)據(jù)收集和分析困難、難以24小時(shí)提供服務(wù)等痛點(diǎn)。

隨著AI大模型的崛起,如何利用先進(jìn)的大語(yǔ)言模型構(gòu)建AI智能客服系統(tǒng),提供更加自然、流暢的對(duì)話體驗(yàn),提高用戶使用效率,實(shí)現(xiàn)24*7的無(wú)間斷服務(wù),降低企業(yè)在客服場(chǎng)景下的投入成本,提升用戶滿意度成為企業(yè)和用戶關(guān)注的熱門(mén)領(lǐng)域。

DeepSeek系列模型是由深度求索(DeepSeek)公司推出的大語(yǔ)言模型。通過(guò)使用DeepSeek構(gòu)建智能聊天機(jī)器人,開(kāi)發(fā)者能夠借助其強(qiáng)大的語(yǔ)言理解與生成能力,為用戶提供更加智能、精準(zhǔn)且個(gè)性化的交互服務(wù)。

基于開(kāi)源框架Dify構(gòu)建智能對(duì)話助手,系統(tǒng)支持用戶直接調(diào)用DeepSeek大模型進(jìn)行開(kāi)放式問(wèn)答,適用于智能客服、知識(shí)庫(kù)問(wèn)答、個(gè)性化推薦等多種業(yè)務(wù)場(chǎng)景。MaaS集成了DeepSeek大模型,基于昇騰AI云服務(wù)進(jìn)行全面適配和優(yōu)化,使得精度和性能顯著提升。

本文介紹如何使用MaaS(大模型即服務(wù)平臺(tái))的免費(fèi)DeepSeek-R1 API接入Dify(開(kāi)源Agent平臺(tái)),快速構(gòu)建AI對(duì)話機(jī)器人并將其嵌入在網(wǎng)頁(yè)中。

方案架構(gòu)

圖1 方案架構(gòu)
  1. 用戶通過(guò)Dify搭建的客服機(jī)器人界面提交問(wèn)題請(qǐng)求。
  2. Dify將請(qǐng)求發(fā)送給MaaS DeepSeek。
  3. MaaS DeepSeek大語(yǔ)言模型處理請(qǐng)求后將結(jié)果返回給Dify。
  4. Dify將結(jié)果優(yōu)化處理后通過(guò)客服機(jī)器人界面返回給用戶。

計(jì)費(fèi)影響

本文使用MaaS的免費(fèi)模型服務(wù),您也可以開(kāi)通預(yù)置服務(wù)中的商用服務(wù)或部署為我的服務(wù)付費(fèi)使用。更多信息請(qǐng)參見(jiàn)計(jì)費(fèi)說(shuō)明。

約束限制

僅“西南-貴陽(yáng)一”區(qū)域支持本解決方案,所以部署Dify平臺(tái)的區(qū)域與MaaS體驗(yàn)?zāi)P偷膮^(qū)域都必須在“西南-貴陽(yáng)一”。

步驟一:基于 云服務(wù)器 單機(jī)部署Dify平臺(tái)

Dify是一個(gè)能力豐富的開(kāi)源AI應(yīng)用開(kāi)發(fā)平臺(tái),為大型語(yǔ)言模型(LLM)應(yīng)用的開(kāi)發(fā)而設(shè)計(jì)。它巧妙地結(jié)合了后端即服務(wù)(Backend as Service)和LLMOps的理念,提供了一套易用的界面和API,加速了開(kāi)發(fā)者構(gòu)建可擴(kuò)展的生成式AI應(yīng)用的過(guò)程。

  1. 基于 Flexus云服務(wù) 器X實(shí)例快速部署Dify平臺(tái)。具體操作,請(qǐng)參見(jiàn)快速搭建Dify-LLM應(yīng)用開(kāi)發(fā)平臺(tái)云服務(wù)器單機(jī)部署方式。

    部署Dify平臺(tái)的區(qū)域要與MaaS體驗(yàn)?zāi)P偷膮^(qū)域一致,本文選擇在“西南-貴陽(yáng)一”區(qū)域部署Dify平臺(tái)。

  2. 部署完成后,登錄Dify。

    首次登錄需注冊(cè)管理員賬號(hào),依次填寫(xiě)郵箱、賬號(hào)、密碼后,單擊“設(shè)置”進(jìn)行保存后,即可登錄使用。

    圖2 注冊(cè)管理員賬戶

步驟二:獲取MaaS平臺(tái)的DeepSeek對(duì)接信息

  1. 創(chuàng)建API Key,用于調(diào)用MaaS DeepSeek模型服務(wù)時(shí)的鑒權(quán)認(rèn)證。

    最多可創(chuàng)建30個(gè)密鑰。每個(gè)密鑰僅在創(chuàng)建時(shí)顯示一次,請(qǐng)確保妥善保存。如果密鑰丟失,無(wú)法找回,需要重新創(chuàng)建API Key以獲取新的訪問(wèn)密鑰。

    1. 登錄 ModelArts Studio(MaaS)控制臺(tái),在頂部導(dǎo)航欄選擇“西南-貴陽(yáng)一”區(qū)域。
    2. 在左側(cè)導(dǎo)航欄,單擊“API Key管理”。
    3. “API Key管理”頁(yè)面,單擊“創(chuàng)建API Key”,填寫(xiě)標(biāo)簽和描述信息后,單擊“確定”。

      標(biāo)簽和描述信息在創(chuàng)建完成后,不支持修改。

      表1 創(chuàng)建API Key參數(shù)說(shuō)明

      參數(shù)

      說(shuō)明

      標(biāo)簽

      自定義API Key的標(biāo)簽。標(biāo)簽具有唯一性,不可重復(fù)。僅支持大小寫(xiě)英文字母、數(shù)字、下劃線、中劃線,長(zhǎng)度范圍為1~100個(gè)字符。

      描述

      自定義API Key的描述,長(zhǎng)度范圍為1~100個(gè)字符。

    4. “您的密鑰”對(duì)話框,復(fù)制密鑰并保存至安全位置。
    5. 保存完畢后,單擊“關(guān)閉”。

      單擊“關(guān)閉”后將無(wú)法再次查看密鑰。

  2. 選擇常駐模型API,獲取API地址和模型名稱。
    1. ModelArts Studio(MaaS)控制臺(tái)左側(cè)導(dǎo)航欄,單擊“在線推理”
    2. “在線推理”頁(yè)面的“預(yù)置服務(wù)”頁(yè)簽,單擊“免費(fèi)服務(wù)”頁(yè)簽,在免費(fèi)模型服務(wù)右側(cè),單擊“調(diào)用說(shuō)明”。
    3. “調(diào)用說(shuō)明”頁(yè)面,可以查看調(diào)用該服務(wù)需要的基礎(chǔ)API地址和模型名稱信息。

步驟三:在Dify平臺(tái)對(duì)接DeepSeek模型服務(wù)

  1. 在Dify平臺(tái)右上角,單擊用戶頭像,選擇“設(shè)置”
  2. “設(shè)置”頁(yè)面左側(cè)導(dǎo)航欄,單擊“模型供應(yīng)商”。
  3. “模型供應(yīng)商”頁(yè)面,找到“OpenAI-API-compatible”供應(yīng)商并單擊“添加模型”
  4. “添加 OpenAI-API-compatible”對(duì)話框,參照下表配置相關(guān)參數(shù),然后單擊“保存”。
    圖3 配置Dify模型供應(yīng)商
    表2 添加OpenAI-API-compatible參數(shù)說(shuō)明

    參數(shù)

    說(shuō)明

    模型類型

    DeepSeek模型。本案例選擇“LLM”。

    模型名稱

    DeepSeek模型服務(wù)的模型名稱。步驟2顯示的模型名稱。

    API Key

    DeepSeek模型服務(wù)的API Key,用于調(diào)用MaaS DeepSeek模型服務(wù)時(shí)的鑒權(quán)認(rèn)證。步驟1創(chuàng)建的貴陽(yáng)一區(qū)域的API Key。

    API Endpoint URL

    DeepSeek模型服務(wù)的Open API地址。步驟2獲取的MaaS服務(wù)的基礎(chǔ)API地址,需要去掉地址尾部的“/chat/completions”后填入。

    Function calling

    當(dāng)前MaaS預(yù)置服務(wù)中僅Qwen2.5-72B-32K-1128、Qwen2.5-72B-Instruct-1128、Qwen2.5-7B-Instruct-1128可以配置Function calling為“Tool Call”,其余服務(wù)暫不支持。

    在模型列表可以查看接入的DeepSeek。

    圖4 Dify查看接入的DeepSeek

步驟四:在Dify中創(chuàng)建客服機(jī)器人

如果想讓智能客服能夠基于企業(yè)內(nèi)部的知識(shí)文檔進(jìn)行問(wèn)答,可以在Dify中創(chuàng)建一個(gè)知識(shí)庫(kù)。Dify能夠協(xié)助進(jìn)行數(shù)據(jù)的分段和清理工作。

Dify提供兩種索引方式:高質(zhì)量和經(jīng)濟(jì)。兩種索引的區(qū)別如下表所示。本文使用經(jīng)濟(jì)索引進(jìn)行演示。

表3 高質(zhì)量索引與經(jīng)濟(jì)索引的區(qū)別

比較項(xiàng)目

高質(zhì)量索引

經(jīng)濟(jì)索引

索引原理

通過(guò)嵌入模型將文本塊轉(zhuǎn)換為數(shù)字向量,進(jìn)行精確匹配,可使用向量檢索、全文檢索、混合檢索。

每個(gè)文本塊僅使用10個(gè)關(guān)鍵詞,采用倒排索引方法選擇相關(guān)文本塊。

檢索精度

精度高,可使用重排模型等優(yōu)化結(jié)果。

相對(duì)較低。

資源消耗

啟用重排模型等功能會(huì)消耗模型Tokens,對(duì)系統(tǒng)資源要求較高。

不消耗Tokens,對(duì)資源要求低。

適用場(chǎng)景

適用于對(duì)檢索準(zhǔn)確性和結(jié)果質(zhì)量要求高的場(chǎng)景,例如專業(yè)知識(shí)查詢、科研文獻(xiàn)檢索等自然語(yǔ)言文本場(chǎng)景。

適用于對(duì)檢索速度要求較高、對(duì)精度要求相對(duì)較低的一般性場(chǎng)景,例如快速瀏覽大量文檔獲取大致信息。

檢索設(shè)置

有向量檢索、全文檢索、混合檢索三種檢索設(shè)置,可配置Rerank模型等。

只提供倒排索引方法,無(wú)復(fù)雜檢索設(shè)置和參數(shù)配置。

  1. 在Dify中創(chuàng)建知識(shí)庫(kù)。
    1. 在Dify平臺(tái)左側(cè)導(dǎo)航欄,單擊“知識(shí)庫(kù)”,選擇“創(chuàng)建知識(shí)庫(kù)”。
    2. 在“選擇數(shù)據(jù)源”頁(yè)面,上傳知識(shí)文檔(可以同時(shí)上傳多個(gè)文本文件),“索引方式”選擇“經(jīng)濟(jì)”,配置其他信息,單擊“保存并處理”。
      圖5 創(chuàng)建知識(shí)庫(kù)
  2. 創(chuàng)建并調(diào)試客服機(jī)器人。
    1. 在“工作室”頁(yè)簽,單擊“創(chuàng)建空白應(yīng)用”“應(yīng)用類型”選擇“Agent”,輸入名稱和描述,進(jìn)入AI的編排頁(yè)面。
    2. 進(jìn)行AI人設(shè)設(shè)置,在左上角“提示詞”處輸入Prompt ,設(shè)定該AI與用戶交談時(shí)的語(yǔ)氣和風(fēng)格。

      Prompt,即智能客服機(jī)器人提示詞,指導(dǎo)模型生成合適的回答。Prompt示例:你是一個(gè)友好的智能客服助手,負(fù)責(zé)解答用戶提出的關(guān)于產(chǎn)品的問(wèn)題、處理訂單、提供技術(shù)支持。當(dāng)用戶提出的問(wèn)題你沒(méi)有找到合適答案的時(shí)候,要回答不知道。

    3. 在“上下文”處添加上一步驟創(chuàng)建的知識(shí)庫(kù),讓AI基于內(nèi)部知識(shí)回答問(wèn)題。
    4. 單擊右下角功能的“管理”打開(kāi)功能開(kāi)關(guān),配置開(kāi)場(chǎng)白,即用戶進(jìn)入界面后AI的開(kāi)場(chǎng)問(wèn)候語(yǔ),例如:您好,有什么可以幫到您的?
    5. “添加功能”處開(kāi)啟“下一步問(wèn)題建議配置”功能,基于業(yè)務(wù)場(chǎng)景設(shè)置AI對(duì)于用戶問(wèn)題的指引,例如提供常見(jiàn)問(wèn)題選項(xiàng)或引導(dǎo)用戶進(jìn)一步說(shuō)明問(wèn)題。
    6. 完成以上配置后,單擊右上角“發(fā)布”菜單中“更新”保存設(shè)置。您可以在頁(yè)面右側(cè)窗口輸入Prompt進(jìn)行效果調(diào)試。
      圖6 創(chuàng)建與調(diào)試客服機(jī)器人
  3. 將客服機(jī)器人嵌入網(wǎng)頁(yè)前端頁(yè)面。
    1. 在Dify平臺(tái)完成客服機(jī)器人的創(chuàng)建與調(diào)試后,單擊“發(fā)布”,選擇“嵌入網(wǎng)站”。
    2. 選擇嵌入方式。本文以第二種“懸浮窗式”為例,將下方的代碼復(fù)制到您網(wǎng)站<head>或<body> 標(biāo)簽中,更新網(wǎng)站頁(yè)面,即可與該客服機(jī)器人進(jìn)行對(duì)話。

      Dify支持全屏界面式、懸浮窗式、瀏覽器插件式三種嵌入方式,請(qǐng)您根據(jù)需求選擇合適的方式。

      圖7 選擇嵌入方式

常見(jiàn)問(wèn)題

  • 在ModelArts Studio(MaaS) 創(chuàng)建API Key后需要等待多久才能生效?

    MaaS API Key在創(chuàng)建后不會(huì)立即生效,通常需要等待幾分鐘才能生效。

  • MaaS如何接入Cherry Studio、Chatbox?

    MaaS集成了DeepSeek大模型,支持對(duì)接多個(gè)平臺(tái)進(jìn)行AI開(kāi)發(fā),詳情請(qǐng)參見(jiàn)使用ModelArts Studio(MaaS) DeepSeek API搭建AI應(yīng)用。

ai大模型如何生成小模型常見(jiàn)問(wèn)題

更多常見(jiàn)問(wèn)題 >>
  • 盤(pán)古大模型致力于深耕行業(yè),打造金融、政務(wù)、制造、礦山、氣象、鐵路等領(lǐng)域行業(yè)大模型和能力集,將行業(yè)知識(shí)know-how與大模型能力相結(jié)合,重塑千行百業(yè),成為各組織、企業(yè)、個(gè)人的專家助手。

  • ModelArts模型訓(xùn)練旨在提升開(kāi)發(fā)者模型訓(xùn)練的開(kāi)發(fā)效率及訓(xùn)練性能。提供了可視化作業(yè)管理、資源管理、版本管理等功能,基于機(jī)器學(xué)習(xí)算法及強(qiáng)化學(xué)習(xí)的模型訓(xùn)練自動(dòng)超參調(diào)優(yōu);預(yù)置和調(diào)優(yōu)常用模型,簡(jiǎn)化模型開(kāi)發(fā)和全流程訓(xùn)練管理。

  • 模型轉(zhuǎn)換,即將開(kāi)源框架的網(wǎng)絡(luò)模型(如Caffe、TensorFlow等),通過(guò)ATC(Ascend Tensor Compiler)模型轉(zhuǎn)換工具,將其轉(zhuǎn)換成昇騰AI處理器支持的離線模型。

  • 離線模型生成:以卷積神經(jīng)網(wǎng)絡(luò)為例,在深度學(xué)習(xí)框架下構(gòu)造好相應(yīng)的網(wǎng)絡(luò)模型,并且訓(xùn)練好原始數(shù)據(jù),再通過(guò)離線模型生成器進(jìn)行算子調(diào)度優(yōu)化、權(quán)重?cái)?shù)據(jù)重排和壓縮、內(nèi)存優(yōu)化等,最終生成調(diào)優(yōu)好的離線模型。離線模型生成器主要用來(lái)生成可以高效執(zhí)行在昇騰AI處理器上的離線模型。

  • 在自然語(yǔ)言處理(NLP)領(lǐng)域中,使用語(yǔ)言模型預(yù)訓(xùn)練方法在多項(xiàng)NLP任務(wù)上都獲得了不錯(cuò)的提升,廣泛受到了各界的關(guān)注。本課程將簡(jiǎn)單介紹一下預(yù)訓(xùn)練的思想,幾個(gè)代表性模型和它們之間的關(guān)系。

  • 在訓(xùn)練模型后,用戶往往需要通過(guò)測(cè)試數(shù)據(jù)集來(lái)評(píng)估新模型的泛化能力。通過(guò)驗(yàn)證測(cè)試數(shù)據(jù)集上的平均損失,可以評(píng)估模型對(duì)未知數(shù)據(jù)的預(yù)測(cè)能力。模型評(píng)價(jià)指標(biāo)是評(píng)估模型泛化能力的標(biāo)準(zhǔn),不同的指標(biāo)往往會(huì)導(dǎo)致不同的評(píng)判結(jié)果。 ModelArts模型評(píng)估/診斷功能針對(duì)不同類型模型的評(píng)估任務(wù),提供相應(yīng)的評(píng)估指標(biāo)。在展示評(píng)估結(jié)果的同時(shí),會(huì)根據(jù)不同的數(shù)據(jù)特征對(duì)模型進(jìn)行詳細(xì)的評(píng)估,獲得每個(gè)數(shù)據(jù)特征對(duì)評(píng)估指標(biāo)的敏感度,并給出優(yōu)化建議。模型評(píng)估/診斷功能幫助用戶可以全面了解模型對(duì)不同數(shù)據(jù)特征的適應(yīng)性,使得模型調(diào)優(yōu)可以做到有的放矢。

更多相關(guān)專題