跳到主要内容

Miner Agent 配置

本文档描述 miner-agent 的配置方式。Agent 通过环境变量进行配置。

必要变量

变量必填说明
MAIN_API_BASE_URLmain-api 基础 URL,agent 会追加矿工 API path
MINER_PUBLIC_IP注册时上报的推理入口公网 IP
MINER_TARGET_MODEL建议期望运行时服务的 Hugging Face model id
危险

实现中 MINER_PUBLIC_IP 默认是 127.0.0.1,生产环境应显式设置真实公网 IP。

支持变量

变量默认值用途
LOG_LEVELinfo日志级别
MAIN_API_BASE_URLmain-api 基础 URL
MINER_TOKEN矿工 API 共享 token
MINER_TOKEN_HEADERX-Miner-TokenMINER_TOKEN 使用的 header 名
MINER_NAMEhostname注册时上报的矿工展示名
MINER_PUBLIC_IP127.0.0.1注册时上报的公网 IP
MINER_REGION可选 region
MINER_RUNTIME_TYPEvllm注册时上报的运行时类型
MINER_VERSION包版本上报的 agent 版本
MINER_HOME/root/.miner容器内的持久化身份目录
MINER_HTTP_HOST127.0.0.1本地诊断 API 绑定地址
MINER_HTTP_PORT8080本地诊断 API 端口
MINER_HEARTBEAT_INTERVAL_SECONDS30后台心跳间隔
MINER_REQUEST_TIMEOUT_SECONDS10探测和控制面请求超时
MINER_TARGET_MODEL期望运行时服务的模型 id
MINER_VLLM_BASE_URLhttp://127.0.0.1:8000本地模型运行时 base URL
MINER_DCGM_METRICS_URLhttp://dcgm-exporter:9400/metricsDCGM 指标地址
MODELDOCK_INFERENCE_BASE_URLMINER_VLLM_BASE_URL 回退值
MODELDOCK_DCGM_EXPORTER_URLMINER_DCGM_METRICS_URL 回退值
MODELDOCK_DEPLOYMENT_NAMElocal上报的部署名
备注

显式 MINER_* 探测 URL 优先于 MODELDOCK_* 回退 URL。

Docker Sidecar 示例

miner-cli 配置的 miner_client 块中使用:

miner_client:
enabled: true
image: bttinfergrid/miner-client:latest
listen_host: 127.0.0.1
listen_port: 8080
public_ip: miner.example.com
volumes:
- /data/minerhome:/root/.miner
environment:
LOG_LEVEL: info
MAIN_API_BASE_URL: https://main-api.example.com
MINER_TOKEN: replace-me
MINER_TARGET_MODEL: Qwen/Qwen2.5-72B-Instruct
MINER_HOME: /root/.miner

volumes 左侧的宿主机目录应使用 /data/minerhome 这类稳定、由运维账号管理的目录,不建议使用 /root。右侧容器内路径可以保持 /root/.miner,这是镜像内默认的 MINER_HOME

提示

当相关 sidecar 启用时,miner-cli 会自动注入 MINER_VLLM_BASE_URLMINER_DCGM_METRICS_URL 等运行时本地默认值。

鉴权 Header

设置 MINER_TOKEN 后,agent 会在每次控制面请求中发送:

X-Miner-Token: <MINER_TOKEN>

如果控制面需要不同 header 名,可通过 MINER_TOKEN_HEADER 修改。

相关文档