未来的普通个人设备可能实现离线运行大型语言模型的 AI 服务

苹果公司最近发布了一篇名为《LLM in a flash》的论文（http://t.cn/A6l9zS4G），主要研究如何在内存有限的设备上运行大型语言模型（LLM），在这之前不久苹果还发表过一篇研究如何让 Stable Diffusion 等图像生成模型在其定制芯片上运行的论文。

如果相关研究顺利，也许不久的将来我们可以直接在苹果手机等普通的个人设备上离线运行类似 ChatGPT 这样的 AI 服务，而不必连接到云端。