該解決方案有何用途?
該解決方案基于華為云Flexus云服務(wù)器X實例幫助您快速部署EvalScope模型性能評測應(yīng)用。EvalScope 是一個開源模型評測與性能基準(zhǔn)測試框架,專為多樣化模型評估需求設(shè)計。它支持多種類型的模型評測,包括大語言模型(LLM)、多模態(tài)模型、Embedding 模型、Reranker 模型和 CLIP 模型等,適用于端到端 RAG 評測、競技場模式、模型推理性能壓測等多種評測場景。
方案架構(gòu)
該解決方案幫助您在華為云Flexus云服務(wù)器X實例(彈性云服務(wù)器 ECS)上快速搭建EvalScope模型性能評測平臺。
快速搭建EvalScope模型性能評測平臺
版本:1.1.0????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
上次更新日期:2025年4月
來源:由華為云構(gòu)建
部署:預(yù)計10分鐘
卸載:預(yù)計5分鐘
架構(gòu)描述
架構(gòu)描述
-
創(chuàng)建一個彈性公網(wǎng)IP EIP,用于提供訪問公網(wǎng)和被公網(wǎng)訪問能力
-
創(chuàng)建一臺Flexus云服務(wù)器X實例(彈性云服務(wù)器 ECS),用于搭建EvalScope模型性能評測平臺
-
創(chuàng)建一個安全組,通過配置安全組規(guī)則,為云服務(wù)器提供安全防護(hù)