8G 显存逆天逆袭！老神卡 RTX 3070 强啃 Qwen3.6-35B
兄弟们，好久不见！最近后台和群里天天有兄弟私信我：“博主 out 了吧？现在大模型动不动就 35B（350亿参数），没个 24G 显存的显卡连碰都不敢碰，咱们手里的老硬件是不是只能看戏了？”
今天我就用实际行动给各位“云股东”们开开眼！谁说 8G 显存不能玩大模型？今天咱就用一张老当益壮的 RTX 3070 8G，把最新的 Qwen3.6-35B-A3B 多模态大模型 给哥们儿硬跑起来！不仅能跑，而且长上下文、Flash Attention、本地网页 UI 全都安排上，甚至连视觉识图（多模态）都顺畅无比。
别急着说不可能，华强北背包客从不玩虚的，直接看底层逻辑和硬核干货！
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 极客的赛博空间 | 专注 AI 与技术分享！
相关推荐
2026-05-23
llama.cpp 史诗级更新：Windows 一键盲滚 GGUF 无审查模型
llama.cpp 史诗级更新：Windows 本地一键盲滚 GGUF 无审查模型，告别 CUDA 版本冲突、dll 报错与 CMake 编译翻车，显卡全员起飞！
2026-07-16
MiniCPM5-1B 部署教程：10 亿参数小钢炮，支持 128K
MiniCPM5-1B 部署教程：OpenBMB 开源轻量级语言模型，仅 10 亿参数却在综合测试中表现惊人，支持 128K 超长上下文与双模式推理，低配设备也能本地运行。
2026-05-26
OpenAI Codex 接入本地 AI Agent 开发新范式：Ollama
OpenAI Codex 接入本地 AI Agent：Ollama v0.24 正式支持接入 Codex App，本地运行大模型实现无需联网、零 Token 消耗的全自动编程 Agent。
2026-05-24
显存自由：本地部署 Qwen3.6-35B-A3B 终极无审查多模态大模型
本地部署 Qwen3.6-35B-A3B 终极无审查多模态大模型：llama.cpp 搭建私有 AI 中心，移除系统提示词限制，带多模态视觉能力，显存自由方案。
2026-07-23
Qwen 3.8 Max Preview 全面测评：2.4 万亿参数、1M 上下文
Qwen3.8-Max-Preview 全面测评：基于 2.4 万亿参数的超大规模国产开源模型，1M 超长上下文，代码生成、WebGL 开发与 Agent 架构表现亮眼，新标杆实至名归。
2026-05-23
8G 显存也能玩转无审查 AI 视频？开源模型 Sulphur 2
8G 显存也能本地部署开源无审查 AI 视频模型 Sulphur 2，被称为开源白嫖版 Sora。本文提供 ComfyUI 部署全攻略与显存优化方案，含安装包与升级方法。
2025-08-28
Ollama 本地大模型框架：好用实用，值得收藏
Ollama 本地大模型框架：在本地运行大型语言模型的开源工具，支持 Docker Compose 部署（CPU/GPU），浏览器访问管理界面，配合其他应用可搭出美观 UI。
2026-06-27
Qwythos-9B：Claude Mythos 风格推理模型，4GB 显存即可本地部署
Qwythos-9B 开源推理模型：融合 Claude Mythos 与 Fable 风格的后训练模型，仅 4GB 显存即可本地部署，本地 AI 社区高性能推理利器。
2026-08-17
Qwen3.8-27B 越狱无审查模型本地部署完整指南
Qwen3.8-27B 越狱无审查模型本地部署完整指南：阿里巴巴通义千问开源，27B 稠密多模态，原生 262K 上下文可扩展至 1M，编程办公 Agent 任务表现大幅提升。
评论
