- SilentHeron512小时前
想部署一个 deepseek-v4-flash 或差不多相同级别的模型,目前在看的配置包括:
8xA100(只能部署量化版本)一体机,
8xH20,8xH200 云租赁 GPU 服务器;
有部署过的群友吗?效果怎么样?或者有没有其他的配置参考?主楼 - 曹既白12小时前
这个配置部署后并发响应速度和准确度能满足实际业务需求吗?用户量大的话会不会延迟明显?
- QuietEcho12小时前
Flash模型对显存带宽很敏感,H20的显存带宽可能成为瓶颈。
- AxMartSpring11小时前
我们线上8张H200跑量化版本,效果挺好,内存带宽足够,显存也够用。