有些代码不能出网。客户源码、带密钥的配置文件、还没上线的项目——喂给云端AI总有顾虑。本地部署一个代码模型,不联网、不扣费、没有速率限制,代码就在自己机器上跑。以前这事门槛高,现在Ollama把部署简化到一条命令。
Ollama是当前最省事的本地模型运行工具,一条命令装好,一条命令拉模型。代码场景首选DeepSeek-Coder系列:6.7B参数版大约4GB,8GB内存的机器就能跑,日常补全、写函数、解释代码都够用;33B版约20GB,适合32GB内存的机器,效果更好。装好之后跑一句测试命令,能出代码就是成功。
# 1. 安装Ollama(Linux)
curl -fsSL https://ollama.com/install.sh | sh
# Windows直接去ollama.com下载安装包
# 2. 拉取代码模型
ollama pull deepseek-coder:6.7b # 约4GB,8GB内存可跑
# ollama pull deepseek-coder:33b # 约20GB,推荐32GB内存
# 3. 测试
ollama run deepseek-coder:6.7b "用PHP写一个生成随机密码的函数,要求包含大小写字母和数字,长度12位"
模型跑起来只是第一步,接入编辑器才算真正能用。VS Code装Continue扩展,配置指向本地Ollama,就能获得类似Copilot的体验:写代码时Tab补全、选中代码问问题、Ctrl+L解释代码。配置就一个JSON文件,改两处模型名即可。
# ~/.continue/config.json
{
"models": [
{
"title": "DeepSeek-Coder 6.7B",
"provider": "ollama",
"model": "deepseek-coder:6.7b",
"apiBase": "http://localhost:11434"
}
],
"tabAutocompleteModel": {
"title": "DeepSeek-Coder 补全",
"provider": "ollama",
"model": "deepseek-coder:6.7b",
"apiBase": "http://localhost:11434"
}
}
内存不够的优化手段:默认16K上下文窗口很吃显存/内存,日常补全根本用不了那么大。用Modelfile把上下文压到4096,显存占用能降一半。做法是先写个Modelfile,再用ollama create生成一个定制版本。
# Modelfile
FROM deepseek-coder:6.7b
PARAMETER num_ctx 4096
# 构建定制版并运行
ollama create deepseek-coder-4k -f Modelfile
ollama run deepseek-coder-4k "写一个PHP防SQL注入的查询函数"
说句实话,6.7B的本地模型跟云端旗舰模型比,复杂多文件重构还是有差距,但日常的补全、写脚本、改bug、解释代码,已经能顶八九成。对站长来说,最值钱的场景是:跑在服务器上的批处理脚本、客户现场的代码、不想让第三方看到的业务逻辑——这些用本地模型,心里踏实。配置好之后开个飞行模式试试,代码补全照样跑,这就是本地模型的意义。
数据来源:Ollama官方模型库
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
