使用 Ollama 进行本地 AI 编程

将 Ollama 用作 Andromity 的模型提供商，即可在你的电脑上运行推理。本地推理可以避免云端模型 API 费用，但硬件、模型下载和电力仍有成本，任务表现取决于模型和可用内存。

安装 Ollama 并下载模型复制标题链接

安装 Ollama，然后下载一个支持工具调用的模型。本示例使用 Ollama 工具调用文档中展示的 Qwen3 系列模型：

ollama pull qwen3:8b
ollama list
curl http://localhost:11434/api/tags

在 Windows PowerShell 中，可以使用 Invoke-RestMethod http://localhost:11434/api/tags 检查服务。如果端点拒绝连接，请启动 Ollama 应用程序或运行 ollama serve。

请选择你的硬件能够流畅运行的模型。上下文长度和量化方式会影响内存占用；仅凭模型大小并不能保证它能完成仓库任务。

在 Andromity 中选择模型复制标题链接

在终端中使用 /model，或在 VS Code 中使用模型控件，即可打开模型选择器。选择 Ollama，以及 ollama list 中列出的确切的已下载标签。默认端点为 http://localhost:11434。

如需持久保存该选择，请将以下设置合并到你现有的配置中：

[default]
provider = "ollama"
model = "qwen3:8b"
profile = "builder"
permission_mode = "safe"

[[providers]]
name = "ollama"
type = "ollama"
base_url = "http://localhost:11434"

配置文件位于 ~/.andromity/config.toml（macOS/Linux）或 %APPDATA%\andromity\config.toml（Windows），除非 ANDROMITY_CONFIG_DIR 覆盖了该目录。编辑文件时，请保留现有的提供商条目。

用一个小型编程任务进行验证复制标题链接

在启用仓库工具之前，先信任一个由你掌控的仓库。从 SAFE 模式开始，只涉及一个 bug、一个文件和一个测试：

Find the function that handles an empty search query. Propose a minimal fix, add one regression test, and run the relevant test. Ask before adding dependencies.

审查拟定的方案、工具输出和差异 (diff)。能够回答代码问题的模型，在使用工具时仍可能表现不佳。应将通过的测试视为其所检查的特定行为的证据，而不是整个补丁正确的证明。

故障排查复制标题链接

• 连接被拒绝： 确认 Ollama 正在运行，且端点可以访问。
• 找不到模型： 将所选标签与 ollama list 的输出进行比对，然后下载或选择正确的标签。
• 没有工具调用： 检查模型的工具调用能力，并简化任务。更改权限并不会增加模型的能力。
• 输出缓慢或内存耗尽： 改用更小的模型、减少上下文，并检查可用的系统内存。

本地推理与网络访问复制标题链接

选择本地 Ollama 端点后，模型推理会保留在该端点上。初次下载需要访问互联网。Web 工具、远程 MCP 服务器、软件包安装、遥测或选择其他提供商时，仍可能使用网络。在将整个工作流视为离线之前，请先查阅配置与遥测。

如需完整的首个任务工作流，请阅读本地编程智能体演练，或返回快速入门。

其余文档页面仅提供英文版。 浏览英文文档