最流行的本地大模型运行工具,一条命令下载并运行 Llama、Qwen、DeepSeek 等开源模型,提供 OpenAI 兼容 API。
官网下载安装后,ollama run qwen2.5 即可本地跑模型,默认监听 11434 端口。
信息整理自官方渠道,接口变更频繁,请以官方文档为准。