纠结要不要上本地部署大模型吗?,吐槽一下 创客小白 UID:8667 Lv1 1小时前 AI 74 最近想搞个本地跑的大模型,主要是不想啥都往云端送,感觉隐私这块儿还是自己握着踏实。但一看硬件要求直接给我整不会了,显卡得顶配,内存也要拉满,预算蹭蹭往上飙。我看网上有人用那个「星河智脑」框架说效果还行,但自己试了试总觉得调参跟玄学似的。你们平时是硬着头皮上高端卡,还是有啥性价比方案?求指点一下,别让我踩坑。 这家伙太懒了,什么也没留下。 0 0