- 统一内存模型：数组存储于共享内存，可在 CPU/GPU 上直接操作，无需数据搬运。
- 熟悉的 API：Python API 贴近 NumPy，mlx.nn 与 mlx.optimizers 仿照 PyTorch，上手成本低。
- 惰性计算：结果按需物化，优化内存占用与运行性能。
- 动态计算图：支持自动微分、自动向量化与计算图优化等函数变换。
- 多语言支持：提供 Python、Swift、C++、C 四套 API，Python 与 Swift 还包含高级包。
- LLM 工具链（MLX LM）：命令行与 Python API，一行命令完成文本生成、量化、微调与部署。
- 原生量化：支持 Int8、4-bit 等精度压缩，显著减小模型体积、加速推理。
- 多设备运行：支持 CPU、GPU，并可扩展到多机分布式推理与训练。

安装：在 macOS 上执行 pip install mlx 即可；如需大语言模型工具链，再执行 pip install mlx-lm。Swift 开发者可通过 Swift Package Manager 集成。

快速上手：MLX 的 Python API 与 NumPy 高度一致，可直接创建张量、执行运算；用 mlx.nn 搭建神经网络，用 mlx.optimizers 进行训练。

运行 LLM：在终端执行 mlx_lm.generate --model "mlx-community/Mistral-7B-Instruct-v0.3-4bit" --prompt "你好"，模型会自动从 Hugging Face 下载并在本机生成文本。

进阶操作：用 mlx_lm.convert 下载并量化模型，用 mlx_lm.lora 在本地数据上微调，用 mlx_lm.fuse 将适配器融合回基础模型。官方 examples 仓库还提供 Transformer 训练、Stable Diffusion、Whisper 等完整示例。

原生性能：深度调用 Metal 与统一内存，在 Apple Silicon 上发挥最佳算力，本地 LLM 推理的持续生成吞吐量领先。

上手门槛低：API 与 NumPy、PyTorch 高度相似，机器学习工程师可快速迁移，几乎无需学习新范式。

隐私与本地化：模型完全在本地运行，数据不出设备，特别适合处理隐私敏感或离线场景。

端侧一体化：通过 Swift API，可将大语言模型能力直接集成进 iOS、macOS、iPadOS 应用，实现从研究到产品的无缝衔接。

完全开源：从高层 API 到底层 Metal 内核全部开放，研究者可自由定制内核、扩展框架、改进性能。

与 PyTorch（MPS 后端）相比：MLX 专为统一内存设计，CPU/GPU 间无需拷贝数据，在 Mac 上推理吞吐更高、大模型内存压力更小；PyTorch 则生态庞大、跨平台支持更广。

与 llama.cpp 相比：两者都擅长本地 LLM 推理，但 MLX 提供训练、微调、量化、融合一体化工具链，并支持 Swift 原生集成；llama.cpp 更强调极简与跨平台兼容。

与 MLC-LLM 相比：综合评测（如 arXiv:2511.05502）显示，MLX 在 Apple Silicon 上取得最高持续生成吞吐量，MLC-LLM 则在部分场景下首字延迟更低、开箱即用特性更丰富。

选择建议：若主要硬件是 Mac 且追求最佳本地性能，MLX 是首选；若需要在 Windows、Linux 或 CUDA GPU 上跨平台运行，PyTorch 或 llama.cpp 更合适。

Q1: MLX 只能在苹果设备上运行吗？
A1: 是。MLX 专为 Apple Silicon 设计，主要在搭载 M 系列芯片的 Mac 上运行；官方也提供了 Linux 版（支持 CPU 与 CUDA）。Intel Mac 和 Windows 设备无法使用 MLX。
Q2: MLX 与 PyTorch 有何区别，需要切换框架吗？
A2: 两者定位不同：PyTorch 是跨平台通用框架，MLX 是专为 Apple Silicon 优化的框架。工作负载主要在 Mac 上时，MLX 通常更快、更省内存；需要跨平台部署或依赖 PyTorch 生态时可继续使用 PyTorch，两者 API 相似，迁移成本低。
Q3: 如何在本地运行大语言模型？
A3: 安装 mlx-lm 后，运行 mlx_lm.generate --model "mlx-community/Mistral-7B-Instruct-v0.3-4bit" --prompt "..." 即可，模型会自动从 Hugging Face 下载并在本地完成推理，数据不会上传。
Q4: MLX 支持模型量化与微调吗？
A4: 支持。mlx_lm.convert 可一步完成模型下载、量化与保存；mlx_lm.lora 支持 LoRA 低秩适配器微调，甚至可在量化模型上训练；mlx_lm.fuse 可将微调后的适配器融合回基础模型，便于部署与分享。
Q5: MLX 是免费开源的吗？
A5: 是的。MLX 由 Apple 机器学习研究团队开源，采用宽松的开源许可，从高层 API 到 Metal 内核全部开放，可自由使用、修改，并支持商用。