llama.cpp 部署 Gemma 4 12B MTP 指南
提供基于原生 llama.cpp 部署 Gemma 4 12B Unified 架构与多 Token 预测 (MTP) 投机采样的实战调优方案。
每当遇到不爽的事,第一反应就是“能不能搞定它”。这里分享的都是经过验证的实战方案。
忍受不了臃肿和繁琐,所以我喜欢寻找甚至开发轻量级工具,让工作流更顺畅。
从修耳机到科学养宠,生活中的每个小问题都是一场有趣的实验,不仅要解决,还要优雅地解决。
最近的折腾记录和思考
提供基于原生 llama.cpp 部署 Gemma 4 12B Unified 架构与多 Token 预测 (MTP) 投机采样的实战调优方案。
在 IDE 中使用 Antigravity 这类自治 AI 编程助手时,很多开发者最常抱怨的往往是:AI 自动提交了有问题的代码、偷偷改了单元测试断言来“假装通过”,或者模型配额太快耗尽,不得不等待漫长的冷却时间。 实际上,解决这些问题的核心在于夺回控制权。我们可以通过在 IDE 中进行拦截配置、善...
每次屏幕脏了都很难受,尤其是沾上指纹、灰尘。于是我被大模型忽悠,花一下午“清理出”了一个网页小工具,来帮我快速定位和清理屏幕上的脏污。 许愿编程的“意外收获” 最初,我只是通过大语言模型进行“许愿式编程”,我的原始需求极其简单: “帮我写一个纯色的全屏网页,能够点击切换黑白底色,方便我把屏幕调亮来找...
自制的小工具,解决特定场景下的痛点