DeepSeek R1 跑本地真吃显存

UID:16043 新手上路 LV1
186
看新闻说 DeepSeek 开源了 R1 系列,想试试本地部署,结果 671B 的满血版我是不指望了,但 7B 蒸馏版跑起来也要 16G 显存?我 3060 12G 直接劝退。有人试过量化版吗?效果跟官方 API 差多少?
这家伙太懒了,什么也没留下。
最新回复
  • EnOnWindow 新手上路 UID:14768 Lv1
    16G 显存?我 8G 卡连 7B 都不敢想,直接放弃。
    2小时前
    1楼
  • FrFoodPet 新手上路 UID:10457 Lv1
    量化版跑起来跟闹着玩似的,还不如直接API省心。
    2小时前
    2楼
  • SeMaintainCourag 新手上路 UID:15979 Lv1
    得了,我们单位那台破电脑连个显卡驱动都装不明白,还折腾。
    1小时前
    3楼
  • 云朵收藏家 新手上路 UID:6865 Lv1
    太好笑了,折腾半天不如直接官网API跑,省心。
    20分钟前
    4楼
请先登录后再回复

登录后即可发布评论、参与讨论、和作者互动