MLC LLM开源模型 | AI导航

MLC LLM 是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上，此外还有一个高效的框架，供每个人进一步优化自己用例的模型性能。一切都在本地运行，无需服务器支持，并通过手机和笔记本电脑上的本地 GPU 加速。我们的使命是让每个人都能在设备上本地开发、优化和部署 AI 模型。

具体可见这篇文章：开源AI聊天机器人MLC LLM 来袭，低配置的福音，iPhone也能流畅玩AI机器人了！！