Show HN: UATC – 一种防止GPU内存溢出的闭环控制器
UATC（闭环控制器）是一个用于防止GPU内存溢出（OOM）的开源工具。它通过实时监测GPU内存使用情况并动态调整资源分配，在内存接近极限时主动触发保护机制，从而避免训练或推理过程中的崩溃。该项目适用于深度学习场景，帮助开发者更稳定地利用GPU资源。
背景速读
- GPU OOM（显存耗尽）是机器学习开发者的常见痛点：当模型或批处理大小超出显卡显存时，训练或推理进程直接崩溃，往往在跑了几小时甚至几天后报错。
- 传统做法靠人工估算显存用量并手动调小 batch size，或者用“试错法”边跑边看——效率低且浪费 GPU 资源。
- UATC 是一个闭环控制（closed-loop controller）系统，能实时监控显存使用率，自动动态调整作业负载（如批次大小），在显存接近上限时主动降载，防止 OOM 崩溃。
- 项目作者将其开源在 GitHub 上，属于“Show HN”类别——这是 Hacker News 上开发者展示自己作品的常见帖子前缀，意味着这是一个可直接使用的原型或工具，而非论文或概念探讨。
- 对依赖 GPU 云服务或共享集群的团队尤其有用：自动防崩溃 = 省钱 + 省心，无需手动干预。