🥳感谢分享,@MLBoy_DaisukeMajima 🚀 MiniCPM-V 4.6 在设备上以这样的速度运行,实在令人印象深刻——尤其是在 Apple Core AI 上以不到 2B 参数跑出。 干得漂亮,推动高效多模态 AI 向前发展。🫡
社区把 MiniCPM-V 4.6 搬上 iPhone 17 Pro,跑出 51 tok/s,还给了代码和模型,做端侧多模态的可以直接跑起来了。
🥳感谢分享,@MLBoy_DaisukeMajima 🚀
MiniCPM-V 4.6 在设备端以这样的速度运行真是令人印象深刻——尤其是在 Apple Core AI 上参数量不到 2B 的情况下。
在推动高效多模态 AI 发展方面做得非常出色。🫡
[引用 @JackdeS11]:📸 MiniCPM-V 4.6 —— 参数量不到 2B 的最强视觉模型之一 —— 现在通过 Apple Core AI 在 iPhone 17 Pro 上以约 51 tok/s 的速度运行。
🤗 http://huggingface.co/mlboydaisuke/MiniCPM-V-4.6-CoreAI
🛠️ http://github.com/john-rocky/coreai-model-zoo
📸 MiniCPM-V 4.6 —— 2B 参数以下最强的视觉模型之一 —— 现在通过 Apple Core AI 在 iPhone 17 Pro 上以约 51 tok/s 运行。 🤗 http://huggingface.co/mlboydaisuke/MiniCPM-V-4.6-CoreAI 🛠️ http://github.com/john-rocky/coreai-model-zoo
原文
📸 MiniCPM-V 4.6 — one of the strongest vision models under 2B params — now runs at ~51 tok/s on iPhone 17 Pro via Apple Core AI. 🤗 http://huggingface.co/mlboydaisuke/MiniCPM-V-4.6-CoreAI 🛠️ http://github.com/john-rocky/coreai-model-zoo
来源:OpenBMB · x.com