你的顯卡跑得動這個模型嗎?
※ 此為估算值,實際用量依框架、batch size、context length、優化設定而異。 常見參考:RTX 3060 12GB / 4060 Ti 16GB / 4090 24GB / A100 40-80GB。