準備工作

為確保有可用的NLP大模型，請先完成NLP大模型部署操作，詳見《用戶指南》“開發(fā)盤古NLP大模型 > 部署NLP大模型 > 創(chuàng)建NLP大模型部署任務”。

操作流程

創(chuàng)建AI研讀研究助手Agent的流程見表1。

創(chuàng)建語文題庫知識庫

1. 在Agent開發(fā)平臺，單擊左側導航欄“工作臺”按鈕，在“知識庫”頁簽，單擊右上角“創(chuàng)建知識庫”按鈕。
   圖1 創(chuàng)建知識庫入口

   

2. 在知識庫創(chuàng)建界面填寫基礎信息、向量精排模型配置、解析切分策略配置。
   • 基本信息：配置知識庫圖標，填寫名稱、描述。
   • 模型配置：選擇向量及精排模型。
   • 解析配置：配置文檔解析。
   • 拆分配置：配置文檔拆分。
   圖2 創(chuàng)建知識庫

   

3. 單擊確定后，上傳文檔。

   在知識文檔頁簽下單擊上傳。文件上傳成功后，單擊“確定”，完成知識庫的創(chuàng)建。

   圖3 上傳文檔
   
4. 單擊右上角“命中測試”。
   圖4 命中測試

   

5. 在文本框中輸入問題，單擊“命中測試”，頁面下方將根據(jù)不同的檢索方式，展示多條匹配的內容，并按照匹配分值降序排列。

   用戶可以根據(jù)分值與匹配到的信息數(shù)量來評估當前知識庫是否滿足需求。

   圖5 命中測試
   

創(chuàng)建并配置工作流

1. 登錄 ModelArts Studio大模型開發(fā)平臺首頁，單擊“AGENT開發(fā)”，將跳轉至Agent開發(fā)平臺。
   圖6 ModelArts Studio首頁
   
2. 在Agent開發(fā)平臺，單擊左側導航欄“工作臺”按鈕，在“工作流”頁簽，單擊右上角“創(chuàng)建工作流”按鈕。
   圖7 創(chuàng)建工作流入口
   
3. 選擇“對話型工作流”，輸入工作流名稱、英文名稱及描述，單擊“確定”，進入工作流編排頁面。
   圖8 創(chuàng)建工作流

   

4. 在工作流編排頁面，平臺已預先編排了開始、大模型與結束節(jié)點。

   單擊節(jié)點右上角的，可以對當前節(jié)點執(zhí)行重命名、復制、刪除操作。開始和結束節(jié)點為必選節(jié)點，無法刪除。

   圖9 節(jié)點的重命名、復制、刪除操作
   
5. 配置“開始”節(jié)點。單擊“開始”節(jié)點，該節(jié)點已默認配置query參數(shù)，表示用戶輸入的內容。當前場景下無需新增參數(shù)，單擊“確定”。
   圖10 配置開始節(jié)點
   
6. 配置“大模型”節(jié)點，從用戶輸入中進行問題提取，解析出用戶的問題，并用json格式輸出。
   1. 鼠標拖動左側“大模型”節(jié)點至編排頁面，連接“開始”節(jié)點和“大模型”節(jié)點。
      圖11 連接“開始”節(jié)點和“大模型”節(jié)點

      

   2. 單擊“大模型”節(jié)點，參考圖12和圖13完成參數(shù)配置，單擊“確定”。
      圖12 “大模型”節(jié)點配置
      
      圖13 模型配置
      
7. 配置“知識檢索”節(jié)點，從預先上傳的語文題庫中檢索用戶的問題，并返回匹配到的信息。
   1. 鼠標拖動左側“知識檢索”節(jié)點至編排頁面，連接“大模型”節(jié)點（生成問題）和“知識檢索”節(jié)點。
      圖14 連接“大模型”節(jié)點（生成問題）和“知識檢索”節(jié)點

      

   2. 單擊“知識檢索”節(jié)點，參考圖15和圖16完成參數(shù)配置，單擊“確定”。
      • 輸入?yún)?shù)

        參數(shù)名稱：默認參數(shù)名稱為query。

        類型、值：選擇“引用>question”。question為“生成問題-大模型節(jié)點”的輸出變量值。

      • 知識庫可直接選擇創(chuàng)建語文題庫知識庫章節(jié)創(chuàng)建的“語文知識庫”。
      圖15 “知識檢索”節(jié)點配置
      
      圖16 知識庫設置
      
8. 配置“判斷”節(jié)點，判定是否從預置的題庫中檢索到匹配的題目。
   1. 鼠標拖動左側“判斷”節(jié)點至編排頁面，連接“知識檢索”節(jié)點和“判斷”節(jié)點。
      圖17 連接“知識檢索”節(jié)點和“判斷”節(jié)點

      

   2. 單擊“判斷”節(jié)點，參考圖18完成參數(shù)配置，單擊“確定”。
      第一個分支，參數(shù)是“知識檢索”節(jié)點輸出的output_list，比較條件是“長度大于”，比較對象是“輸入”，值為0。

      圖18 “判斷”節(jié)點配置
      
9. 配置“大模型”節(jié)點，對知識庫檢索到的結果進行潤色，給出一個豐富的解答輸出。
   1. 鼠標拖動左側“大模型”節(jié)點至編排頁面，連接“判斷”節(jié)點的第一個分支和“大模型”節(jié)點，這表明如果知識檢索的召回數(shù)大于0的時候，將運行到該大模型節(jié)點。
      圖19 連接“判斷”節(jié)點的第一個分支和“大模型”節(jié)點

      

   2. 單擊“大模型”節(jié)點，參考圖20和圖21完成參數(shù)配置，單擊“確定”。
      輸入?yún)?shù)：

      • 參數(shù)名稱：默認參數(shù)名稱為input。
      • 類型、值：選擇“引用>output_list”。output_list為“知識檢索”節(jié)點的輸出變量值。
      圖20 “大模型”節(jié)點配置
      
      圖21 模型配置
      
10. 配置“AI輸出”大模型節(jié)點。對用戶的問題直接給出一份豐富的解答輸出，并注明“（此回答由AI生成）”。
    1. 鼠標拖動左側“大模型”節(jié)點至編排頁面，連接“判斷”節(jié)點的第二個分支和“大模型”節(jié)點，這表明如果知識檢索沒到召回任何答案的時候，將運行到該大模型節(jié)點。
       圖22 連接“判斷”節(jié)點的第二個分支和“大模型”節(jié)點

       

    2. 單擊“大模型”節(jié)點，參考圖23和圖24完成參數(shù)配置，單擊“確定”。

       輸入?yún)?shù)：

       • 參數(shù)名稱：默認參數(shù)名稱為input。
       • 類型、值：選擇“引用>question”。question為“生成問題”節(jié)點的輸出變量值。
       圖23 “大模型”節(jié)點配置
       
       圖24 模型配置
       
11. 配置“代碼”節(jié)點，對“大模型節(jié)點-潤色輸出”節(jié)點和“大模型節(jié)點-AI輸出”節(jié)點的輸出字符串使用代碼，進行格式化處理。
    1. 鼠標拖動左側“代碼”節(jié)點至編排頁面，連接“潤色輸出”大模型節(jié)點和“AI輸出”大模型節(jié)點到代碼節(jié)點。單擊“代碼”節(jié)點進行配置。編寫代碼，根據(jù)輸入變量來生成返回值。
       圖25 連接“潤色輸出”大模型節(jié)點和“AI輸出”大模型節(jié)點到代碼節(jié)點
       
    2. 單擊“代碼”節(jié)點，參考圖26完成參數(shù)配置，單擊“確定”。
       • 在“參數(shù)配置”中，配置兩個輸入?yún)?shù){{str1}}和{{str2}}。

         表2 輸入?yún)?shù)

         參數(shù)名稱	類型	值
         str1	引用	“潤色輸出”大模型節(jié)點的輸出
         str2	引用	“AI輸出”大模型節(jié)點的輸出

       • 在“代碼配置”中，編寫python代碼對輸入變量進行處理。需要定義一個main函數(shù)。代碼節(jié)點里面有個main函數(shù)的代碼模板，在此基礎上編寫自己的代碼。輸入變量的獲取需要使用arg.get方法。

         該工作流中，使用代碼節(jié)點對上兩個節(jié)點的輸出進行合并和格式化。

       圖26 “代碼”節(jié)點配置
       
12. 配置“結束”節(jié)點，輸出最終結果。
    1. 連接“代碼”節(jié)點到“結束”節(jié)點。
       圖27 連接“代碼”節(jié)點到“結束”節(jié)點
       
    2. 單擊“結束節(jié)點”，如圖28配置輸入?yún)?shù)和回復。
       圖28 “結束節(jié)點”配置
       
13. 編排完成的工作流如下圖所示。
    圖29 工作流
    

調試與發(fā)布工作流

1. 工作流編排完成后，單擊右上角“試運行”。

   檢查節(jié)點設置是否有誤，常見節(jié)點報錯可參考典型問題進行解決。

   圖30 試運行
   
2. 在試運行過程中，可以單擊右上角“”查看調試結果，包括運行結果與調用詳情。
   圖31 運行結果
   
   圖32 調用詳情
   
3. 必要時也可以針對工作流中的某個節(jié)點單獨進行調試，以保證節(jié)點的成功運行。
   1. 在工作流編排頁面，單擊“AI輸出”節(jié)點的“”，進入節(jié)點的調試頁面。
      圖33 調試單節(jié)點

      

   2. 在節(jié)點的“配置信息”輸入請求參數(shù)的值，單擊“開始運行”。
      圖34 配置節(jié)點調試任務
      
   3. 單節(jié)點調試成功后，將在該節(jié)點顯示“運行成功”字樣及其運行時間。
      圖35 單節(jié)點調試結果