推理服務(wù)訪問(wèn)公網(wǎng)
應(yīng)用場(chǎng)景
ModelArts推理服務(wù)訪問(wèn)公網(wǎng)地址的場(chǎng)景，如：
- 輸入圖片，先進(jìn)行公網(wǎng)OCR服務(wù)調(diào)用，然后進(jìn)行NLP處理；
- 進(jìn)行公網(wǎng)文件下載，然后進(jìn)行分析；
- 分析結(jié)果回調(diào)給公網(wǎng)服務(wù)終端。
方案設(shè)計(jì)
從ModelArts推理服務(wù)的算法實(shí)例內(nèi)部，訪問(wèn)公網(wǎng)服務(wù)地址的方案。如下圖所示：
操作事項(xiàng)
-
收起
ModelArts：資源池網(wǎng)絡(luò)設(shè)置 收起
專屬資源池的作業(yè)類型需包含推理部署，選擇的網(wǎng)絡(luò)需打通VPC網(wǎng)絡(luò)。
-
收起
用戶VPC：代理安裝和配置 收起
在安裝正向代理前，需要先購(gòu)買一臺(tái)彈性云服務(wù)器ECS（鏡像可選擇Ubuntu最新版本），并配置好彈性EIP，然后登陸ECS進(jìn)行正向代理Squid的安裝和配置。
-
收起
算法鏡像：DNS設(shè)置和公網(wǎng)地址調(diào)用 收起
在代碼中設(shè)置代理指向代理服務(wù)器私有IP和端口，進(jìn)行公網(wǎng)地址調(diào)用。
ModelArts：資源池網(wǎng)絡(luò)設(shè)置
專屬資源池的創(chuàng)建作業(yè)類型包含推理服務(wù)，選擇的網(wǎng)絡(luò)需打通VPC網(wǎng)絡(luò)。打通VPC可實(shí)現(xiàn)ModelArts資源池和用戶VPC的網(wǎng)絡(luò)打通。
用戶VPC：正向代理安裝和配置
ModelArts推理服務(wù)訪問(wèn)公網(wǎng)打通網(wǎng)絡(luò)后，需要設(shè)置代理。在安裝正向代理前，需要先購(gòu)買一臺(tái)彈性云服務(wù)器ECS（鏡像可選擇Ubuntu最新版本），并配置好彈性EIP，然后登陸ECS進(jìn)行正向代理Squid的安裝和配置，步驟如下：
1、若沒(méi)有安裝Docker，執(zhí)行以下命令進(jìn)行Docker安裝
2、拉取Squid鏡像
3、創(chuàng)建主機(jī)目錄，配置whitelist.conf和squid.conf
· 先創(chuàng)建主機(jī)目錄：mkdir –p /etc/squid/
· 添加whitelist.conf配置文件，內(nèi)容為安全控制可訪問(wèn)的地址，如：.apig.cn-east-3.huaweicloudapis.com
· 添加squid.conf配置文件內(nèi)，容如下：
· 設(shè)置主機(jī)目錄和配置文件權(quán)限命，令如下：chmod 640 -R /etc/squid
4、啟動(dòng)squid實(shí)例
5、如果whitelist.conf或squid.conf有更新，則進(jìn)入容器刷新squid
算法鏡像：代理設(shè)置和公網(wǎng)地址調(diào)用
ModelArts推理服務(wù)訪問(wèn)公網(wǎng)，正向代碼安裝和配置完成后，開(kāi)始設(shè)置代理。
1、設(shè)置代理
在代碼中設(shè)置代理指向代理服務(wù)器私有IP和端口，如下所示：
服務(wù)器私有IP獲取如下圖所示：
2、地址調(diào)用
在推理代碼中，使用服務(wù)URL進(jìn)行業(yè)務(wù)請(qǐng)求，如：https://e8a048ce25136addbbac23ce6132a.apig.cn-east-3.huaweicloudapis.com
將模型導(dǎo)入ModelArts中，部署為服務(wù)，對(duì)服務(wù)進(jìn)行調(diào)用，完成推理服務(wù)訪問(wèn)公網(wǎng)的能力。
常見(jiàn)問(wèn)題
常見(jiàn)問(wèn)題
精選文章推薦
更多相關(guān)文章精選推薦，帶您了解更多華為云產(chǎn)品