OpenBMB 工具信息
OpenBMB 是什么？
OpenBMB是一个开源大模型平台，提供高性能的开源大模型、技术创新和高效工具，并推动全球200个大模型的研究和对齐。
OpenBMB 有哪些功能？
- BMTrain：大模型训练工具
- BMCook：大模型压缩工具
- BMInf：低成本大模型推理工具
OpenBMB 怎么使用？
通过BMTrain进行大模型训练，BMCook压缩模型以提高效率，BMInf在消费级设备上推理。OpenPrompt简化提示学习方法，OpenDelta实现参数高效微调。
OpenBMB 的使用案例
- 自定义大模型预训练和微调
- 对现有模型进行高效压缩以在资源受限设备上使用
- 在消费级显卡上进行高性能推理计算
- 快速部署提示学习方法提升特定任务表现
- 实现参数高效微调减少训练成本
相关文章
暂无相关文章
