ollama本地部署模型后如何查看调用情况

先说重点:原生Ollama本身没有内置调用历史面板、没有自带数据库保存prompt,日志只会记录请求、模型、耗时,默认不保存完整提问和回答内容

一、查看原生日志(最简单,优先用)

Windows

路径:%LOCALAPPDATA%\Ollama\server.log

# 实时跟踪日志
Get-Content "$env:LOCALAPPDATA\Ollama\server.log" -Wait

资源管理器直接打开:explorer %LOCALAPPDATA%\Ollama

MacOS

# 查看日志
cat ~/.ollama/logs/server.log
# 实时跟踪
tail -f ~/.ollama/logs/server.log

Linux systemd 安装(主流)

# 实时滚动看日志(推荐)
journalctl -u ollama -f
# 查看全部历史
journalctl -u ollama --no-pager

手动 ollama serve 启动的,日志直接输出在当前终端窗口

日志里能看到:访问IP、请求接口、模型名称、加载耗时、报错;看不到原始prompt

二、原生metrics指标接口(统计指标:请求数、延迟)

Ollama自带 /metrics,给Prometheus采集:

curl [http://127.0.0.1:11434/metrics](http://127.0.0.1:11434/metrics)

可以拿到:ollama_request_duration_seconds、请求计数、模型维度指标,适合做监控大盘

三、API返回自带token指标(每次调用拿到token消耗)

调用 /api/generate 非流式返回里自带字段:

{
  "prompt_eval_count": 输入token,
  "eval_count": 输出token,
  "total_duration": 总耗时(ns)
}

👉 缺点:需要你自己写代码接收、入库保存,ollama不会帮你存历史记录

四、可视化监控方案(想要面板、调用记录、token统计)

1. ollama-mtop(终端TUI,轻量,看GPU+实时推理)

pip install ollama-mtop
ollama-mtop

实时看正在跑的模型、显存、tok/s、推理进程

2. 代理层(最推荐,自动记录prompt+回答+token)

  • Open WebUI(原Ollama WebUI):自带对话历史、token统计、用户会话,直接对接ollama 11434,图形化看每一次调用记录,日常首选
  • Langfuse / LLM-Observer:可观测平台,做链路追踪、统计报表、多客户端调用记录,适合开发对接多Agent场景

3. 自建反向代理(Nginx / mitmproxy)

抓11434流量,记录POST请求体,适合审计;注意:流式返回会分包,解析麻烦。

五、补充:清空调用记录/日志

  1. 日志文件:直接删除 server.log,Ollama会自动重建
  2. Open WebUI:在WebUI内删除对话记录
  3. Ollama原生没有“调用记录数据库”,不存在一键清空ollama内部调用记录;它本身不存对话历史

六、快速区分

  • 只想看谁在调用、有没有报错:journalctl -u ollama -f / tail server.log
  • 想要图形界面+保存对话:装 Open WebUI
  • 想要监控指标大盘:Prometheus + Grafana 对接 /metrics
  • 终端实时看推理速度显存:ollama-mtop
上一篇 EasyShare是一套可私有化部署的文件共享与传输平台