name: ai-resource-master description: 大模型伺服器資源評估。用於醫療行業大模型應用場景的算力資源需求評估和測算,根據門診/住院診療量和大模型應用場景數推導GPU算力需求。使用場景:使用者詢問大模型算力評估、AI伺服器資源配置、GPU算力需求測算等。
本技能用於評估醫療行業大模型應用場景的算力資源需求,根據門診/住院診療量和大模型應用場景推導GPU算力需求。
如果使用者未提供以下資訊,必須詢問:
必備資訊: 1. 地區門診年診療次數(單位:萬人次/年) 2. 地區住院年診療次數(單位:萬人次/年) 3. 大模型應用場景列表(從以下選項中選擇)
可選資訊: - 各場景覆蓋率(如無提供,使用預設值) - 計劃使用的GPU型號(如無提供,預設按910B3顯示卡測算)
| 場景名稱 | 型別 | 單次佔用時間 | 預設覆蓋範圍 |
|---|---|---|---|
| 知識問答 | 對話 | 24秒/次 | 按需配置 |
| 問診 | 對話 | 24秒/次 | 按需配置 |
| 報告解讀 | 對話 | 24秒/次 | 門診5% |
| 導醫導診 | 對話 | 24秒/次 | 門診30% |
| 病史採集 | 對話 | 24秒/次 | 按需配置 |
| AI陪診 | 對話 | 24秒/次 | 按需配置 |
| 智慧隨訪 | 對話 | 24秒/次 | 按需配置 |
| 病歷生成-門診 | 生成 | 30秒/次 | 門診100% |
| 病歷生成-住院 | 生成 | 50秒/次 | 住院100% |
| 輔助診斷 | 分析 | 50秒/次 | 門診100% |
| 病歷質控-門診 | 質控 | 40秒/次 | 門診100% |
| 病歷質控-住院 | 質控 | 60秒/次 | 住院100% |
| 診療推薦-門診 | 推薦 | 30秒/次 | 門診100% |
| 診療推薦-住院 | 推薦 | 40秒/次 | 住院100% |
| 報告解讀-專用 | 分析 | 20秒/次 | 門診5% |
| 患者畫像提取 | 分析 | 120秒/次 | 門診+住院100% |
對話類場景(單次24秒): - 知識問答、問診、報告解讀(對話類) - 導醫導診、病史採集 - AI陪診、智慧隨訪
生成類場景: - 病歷生成-門診:30秒/次 - 病歷生成-住院:50秒/次
分析類場景: - 輔助診斷:50秒/次 - 病歷質控-門診:40秒/次 - 病歷質控-住院:60秒/次 - 診療推薦-門診:30秒/次 - 診療推薦-住院:40秒/次 - 報告解讀-專用:20秒/次 - 患者畫像提取:120秒/次
日門診量 = 年門診量(萬人次)× 10000 ÷ 365 日住院量 = 年住院量(萬人次)× 10000 ÷ 365
某場景日佔用時間(秒)= 日呼叫量 × 單次佔用時間(秒) 某場景日佔用時間(小時)= 日佔用時間(秒)÷ 3600
總佔用時間(小時)= 所有場景佔用時間之和
7w4.net提供免費和付費技能下載。
總顯示卡需求(卡)= 總佔用時間(小時)÷ 80小時/卡
如使用者需要總算力(P): - 單臺華為一體機(8卡910B3)算力:2.5P - 總算力 = 一體機臺數 × 2.5P
X. 算力資源
X.X 區域大模型算力資源需求評估
X.X.X 模型引擎處理能力測算
服務場景需求背景:
XX地區年均門診量約XXXX萬人次,住院人數約XX萬人次。主要服務場景包括:XXX、XXX、XXX等。
日均呼叫量測算:
(1)場景一名稱
- 覆蓋率:XX%
- 日呼叫量:X.XX萬次
- 佔用時間:X.XX萬×XX秒=XXX萬秒≈XXX.X小時
(2)場景二名稱
- 覆蓋率:XX%
- 日呼叫量:X.XX萬次
- 佔用時間:X.XX萬×XX秒=XXX萬秒≈XXX.X小時
[繼續列出所有場景...]
X.X.X 總佔用時間彙總
各場景佔用時間累加:
XXX.X + XXX.X + ... = XXXX.X小時
X.X.X 算力資源配置
- 單卡處理能力(XX顯示卡):
- 每卡支援X路併發
- 單卡日處理時間:X×X = XX小時
- 總顯示卡需求:
- XXXX.X小時/XX小時≈XX.X卡
- 例項配置:XX.X/X≈X.X 臺一體機
- 向上取整 X臺一體機
- 總算力(如需要):
- 單臺一體機(X卡)提供X.XP算力
- X臺×X.XP=XX.XP
詳細的推導引數和示例請參考: - references/calculation-params.md - 計算引數詳細說明 - references/example-output.md - 輸出示例
這個 Skill 文件質量較好,提供了醫療場景算力評估的完整指南和示例,內容專業易懂。主要優點是場景覆蓋全面、計算公式清晰、示例豐富;不足之處是純文件形式,沒有互動功能,無法自動計算結果。如果需要實際使用,可能需要額外開發支援。