oMLX 内置模型下载器完全指南一键搜索下载 HuggingFace MLX 模型【免费下载链接】omlxLLM inference server with continuous batching SSD caching for Apple Silicon — managed from the macOS menu bar项目地址: https://gitcode.com/GitHub_Trending/om/omlxoMLX 是一款专为 Apple SiliconM1M5打造的本地 LLM 推理服务器支持连续批处理与 SSD 分层 KV 缓存并能直接从 macOS 菜单栏管理。它的内置模型下载器让你无需打开终端在管理面板里直接搜索 HuggingFace 上的 MLX 模型、查看模型卡与文件大小然后一键下载到你的模型目录下载完成即被服务器自动识别加载。本文带你从入门到进阶完整掌握这个功能。认识 oMLX 管理面板 ️oMLX 启动后在浏览器打开http://localhost:8000/admin即可进入 Web 管理面板这里集成了实时状态监控、模型管理、内置聊天、性能基准测试等功能。模型下载器就藏在Models模型页面中。三步打开模型下载器第一步启动 oMLX 服务。无论是 macOS App、Homebrew 服务还是命令行任选其一omlx start # 后台服务方式 # 或 omlx serve --model-dir ~/models # 前台方式第二步打开管理面板。浏览器访问http://localhost:8000/admin点击左侧导航的Models → Downloader模型 → 下载器标签页。第三步选择下载源。面板顶部提供HuggingFace与ModelScope两个来源切换按钮默认使用 HuggingFace中国大陆网络环境可切换到 ModelScope 镜像源。搜索模型关键词 排序 筛选进入下载器后你可以像逛应用商店一样浏览模型。搜索功能由omlx/admin/hf_downloader.py中的 HFDownloader 类实现支持三种组合方式能力说明 关键词搜索输入 Qwen3、Llama、Mistral 等即可 排序按趋势、下载量、创建时间、更新时间、参数量大小、文件体积大小排序 筛选按参数量区间如 7B32B、按磁盘体积区间过滤搜索结果默认只展示MLX 格式模型即 HuggingFace 上的 MLX 生态模型并自动显示每个模型的体积与参数量方便你判断自己的 Mac 能不能装得下。如果你需要浏览非 MLX 来源也可以手动输入所有者/模型名格式的仓库 ID如mlx-community/Llama-3-8B-4bit直接下载。推荐模型自动匹配你的内存 第一次不知道下载什么下载器提供Recommended推荐列表Trending热门当前社区最受关注的模型Popular流行累计下载量最高的模型更贴心的是推荐列表会根据你 Mac 的物理内存自动过滤——只有体积小于你系统内存的模型才会出现在推荐中避免你下载到装不下的模型。相关逻辑位于 get_recommended_models它按safetensors元数据精确计算每个模型的磁盘占用。一键下载进度条、断点续传与暂停点击模型旁的Download下载按钮即可开始后台会创建下载任务并实时反馈状态。这个体验背后有几个工程细节值得一提真实进度条系统先做一次dry run预扫描得出准确的总大小再轮询目标目录的实际落盘体积进度显示非常真实防卡死检测如果 5 分钟内没有任何字节落盘任务会被标记为失败并提示重试而不是无限转圈一键取消随时可停止下载已完成的文件分片会保留在磁盘上断点续传失败或取消后点击 Retry重试会自动跳过已下载的分片从断点继续去重下载如果仓库同时提供 PyTorch 格式权重下载器会自动跳过.bin冗余文件只拉取 safetensors互斥队列同一时间只运行一个下载任务其余排队避免带宽争抢下载完成后模型会保存到模型目录下的{所有者}/{模型名}结构例如~/models/mlx-community/xxx与 LM Studio 等工具兼容并且服务器会自动刷新模型池无需重启模型立即可用。受限模型与 HF Token 部分模型如 Meta 的 Llama 系列属于受限仓库Gated Repo需要先申请访问权限并登录 HuggingFace 获取 Token在 HuggingFace 网站上申请该模型的访问许可进入个人设置生成访问 Token在下载器输入框中填入仓库 ID并在HF Token可选输入框粘贴 Token点击下载下载器会携带 Token 完成鉴权如果下载失败提示 Repository not found通常就是遇到了受限模型若提示 gated则说明 Token 缺少对应权限。网络不好配置 HuggingFace 镜像端点下载器内置了镜像源支持适合网络受限地区。有三种配置方式优先级从高到低方式操作命令行omlx serve --model-dir ~/models --hf-endpoint 镜像地址环境变量设置OMLX_HF_ENDPOINT管理面板在Settings中修改huggingface.endpoint配置项配置保存在~/.omlx/settings.json中。一个隐藏福利系统会自动探测并跟随镜像的跨域重定向解决某些镜像探测成功但下载失败的坑。如果你在中国大陆直接切换ModelScope下载源由 MSDownloader 驱动通常更省心。相关文件速查 模块说明omlx/admin/hf_downloader.pyHuggingFace 下载器核心搜索、推荐、下载任务管理omlx/admin/ms_downloader.pyModelScope 镜像下载器omlx/admin/routes.py管理面板 API 路由/api/hf/download等omlx/settings.py镜像端点、缓存目录等全局设置docs/images/downloader_omlx.png下载器界面截图小结oMLX 的内置模型下载器把找模型—看详情—下载—加载这条链路压缩成了几次点击推荐列表帮你避开装不下的模型真实进度条与断点续传让大模型下载不再焦虑自动识别机制让下载完成的那一刻就是可用的那一刻。如果你正想在 Mac 上跑一个顺手的本地大模型这就是最快的起点。【免费下载链接】omlxLLM inference server with continuous batching SSD caching for Apple Silicon — managed from the macOS menu bar项目地址: https://gitcode.com/GitHub_Trending/om/omlx创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考