系统设置

设置面板主要分为以下几个模块:通用下载存储API日志等。

通用设置 (General)

此页面主要用于配置软件运行所需的核心目录路径。建议将这些目录设置在剩余空间较大的磁盘分区中,以免模型文件占用过多 C 盘空间。

  • 模型目录 (Model Directory)

    • 默认路径C:/Users/1/.herdsman/models
    • 说明:用于存放下载的大语言模型文件(如 .gguf 文件)
    • 建议:模型文件通常很大(几 GB 到几十 GB),强烈建议修改此路径到非系统盘(如 D 盘或 E 盘)
  • 运行时目录 (Runtime Directory)

    • 默认路径C:/Users/1/.herdsman/runtimes
    • 说明:存放软件运行所需的依赖环境(如 Python 环境、推理引擎等)
  • 临时目录 (Temp Directory)

    • 默认路径C:/Users/1/.herdsman/tmp
    • 说明:用于存放下载过程中的临时文件或解压文件

Snipaste_2026-05-20_17-21-06

下载设置 (Download)

此页面用于优化模型下载的策略,特别是在网络不稳定或下载超大模型时非常有用。

  • 并发下载数 (Concurrent Downloads)

    • 默认值3
    • 说明:允许同时进行的下载任务数量
    • 建议:保持默认即可。如果网络带宽较小,建议改为 1
  • 最大重试次数 (Max Retries)

    • 默认值3
    • 说明:当下载任务失败时,自动重新尝试的次数
  • 超时时间 (Timeout)

    • 默认值86400 秒(即 24 小时)
    • 说明:单个下载任务允许的最大持续时间
    • 建议:大模型下载很慢,保持较大的超时时间可以防止下载中途因"超时"而中断
  • 分块大小 (Chunk Size)

    • 默认值5242880(约为 5 MB)
    • 说明:下载文件时每次请求的数据块大小
    • 注意:截图显示单位为 MB,但数值 5242880 实际上是字节数(5 * 1024 * 1024 Bytes = 5 MB)。这是正常的分块大小

Snipaste_2026-05-20_17-21-12

存储设置 (Storage)

此页面用于配置数据根目录和缓存目录,管理软件的数据存储位置。

  • 数据目录 (Data Directory)

    • 默认路径C:/Users/1/.herdsman
    • 说明:软件的主数据目录,存放配置文件、数据库等核心数据
  • 缓存目录 (Cache Directory)

    • 默认路径C:/Users/1/.cache/herdsman
    • 说明:用于存放从 HuggingFace 或其他源下载时的缓存文件。清理此目录可以释放空间,但可能导致下次下载变慢

Snipaste_2026-05-20_17-21-21

API 设置

此页面用于配置软件对外提供服务的接口,允许其他设备连接。

  • 局域网访问 (LAN Access)

    • 开关:允许局域网内其他设备访问
    • 说明:开启后,同一 WiFi 下的手机、平板或其他电脑可以通过 IP 地址访问此软件提供的模型服务
    • 建议:如果只需要本机使用,建议关闭以节省资源并提高安全性
  • 端口 (Port)

    • 默认值8080
    • 说明:服务监听的端口号
    • 注意:如果开启局域网访问,其他设备访问的地址格式通常为 http://[本机IP]:8080。如果端口被占用,可修改为其他端口(如 8081)

Snipaste_2026-05-20_17-21-28

日志设置 (Log)

此页面用于配置软件运行日志的记录方式,主要用于排查故障。

  • 日志级别 (Log Level)

    • 默认值info
    • 选项:通常包含 debug(调试)、info(信息)、warning(警告)、error(错误)
    • 建议:日常使用保持 info。如果遇到软件报错或崩溃,可改为 debug 以记录更详细的信息
  • 日志格式 (Log Format)

    • 默认值text
    • 说明:日志文件的存储格式。text 适合人类阅读,json 适合程序分析
  • 文件路径 (File Path)

    • 说明:指定日志文件保存的具体位置。留空则使用默认位置
  • 最大大小 (MB) (Max Size)

    • 默认值1 MB
    • 说明:单个日志文件的最大体积。达到此大小后会生成新文件
  • 最大备份数 (Max Backup Count)

    • 默认值1
    • 说明:保留的历史日志文件数量。防止日志文件无限增长占满硬盘

Snipaste_2026-05-20_17-21-34

其他菜单项

  • 关于 (About):查看软件版本、开发者信息
  • 开源库声明:查看软件使用的第三方开源组件及其许可证

Snipaste_2026-05-20_17-21-43

Snipaste_2026-05-20_17-21-50


常见配置建议 (Best Practices)

  1. 修改模型路径 — 安装后第一件事,建议在 通用设置 中,将"模型目录"修改到空间充足的硬盘(如 D:\AI_Models),避免 C 盘爆满
  2. 开启局域网 — 如果你想用 iPad 或手机连接电脑跑模型,请在 API 设置 中打开"局域网访问"开关,并确保防火墙允许该端口通过
  3. 下载大模型 — 如果下载经常断开,可以在 下载设置 中适当增加"最大重试次数"或检查网络代理设置