热闻岛
返回全网热点

苹果联手初创公司,力推 AI 模型压缩技术,让 iPhone 也能跑大型 AI!

2小时前2 阅读
苹果联手初创公司,力推 AI 模型压缩技术,让 iPhone 也能跑大型 AI!配图
据报道,苹果正在与硅谷的初创公司 PrismML 进行洽谈,致力于研发一项革命性的 AI 模型压缩技术。这项技术的目标是将原本庞大的 AI 模型压缩到能够在 iPhone 上本地运行的程度。如果这项技术得以成功验证,将有望提升苹果在隐私保护方面的优势,并为目前进展缓慢的 Siri 升级提供有力支持。 PrismML 的首席执行官透露,苹果已经开始评估其技术的

据报道,苹果正在与硅谷的初创公司 PrismML 进行洽谈,致力于研发一项革命性的 AI 模型压缩技术。这项技术的目标是将原本庞大的 AI 模型压缩到能够在 iPhone 上本地运行的程度。如果这项技术得以成功验证,将有望提升苹果在隐私保护方面的优势,并为目前进展缓慢的 Siri 升级提供有力支持。

PrismML 的首席执行官透露,苹果已经开始评估其技术的可行性,尽管目前洽谈仍处于早期阶段,但进展看起来相当顺利。值得注意的是,这一消息恰逢苹果推出 iOS27公测版的次日,这一版本标志着 Siri 经过大幅改版后 首次 向公众开放测试,目的是与 OpenAI 和 Anthropic 等 AI 助手展开竞争。

通过将更多的 AI 计算任务留在设备本地,苹果可以降低响应延迟、减少云计算成本,并在没有网络连接的情况下使用部分功能。这与苹果长期以来强调的隐私保护理念高度契合。Counterpoint 分析师 Pathak 指出,云端与设备端 AI 的结合将为用户提供更全面、更高效且更注重隐私的 AI 体验:复杂任务交由云端处理,而敏感信息则在设备端完成。

PrismML 最初孵化于加州理工学院,并获得了 Khosla Ventures 的支持。该公司已经公开发布了阿里巴巴开源模型 Qwen 的压缩版本,将原始模型的大小从约54GB 压缩至不足4GB,使得该模型的270亿个参数能够在 iPhone15及更新型号上运行。未来,PrismML 还计划处理其他大型开源模型,以进一步推动这一技术的发展。

在技术层面上,PrismML 的压缩方案能将原本需要8块 GPU 的云端模型缩减至仅需1块,并允许那些依赖于数据中心的模型迁移至手机和笔记本电脑。虽然这种方法能有效降低单一 AI 任务所需的内存和计算能力,但并不意味着整体芯片需求会随之下降。

划重点:

🔍 苹果与 PrismML 洽谈,力图将大型 AI 模型压缩至可在 iPhone 上运行。

📱 该技术有望提升隐私保护,并助力 Siri 的升级进程。

💡 PrismML 已成功将大型模型压缩至不足4GB,兼容 iPhone15及更新型号。

要点速读

据报道,苹果正在与硅谷的初创公司 PrismML 进行洽谈,致力于研发一项革命性的 AI 模型压缩技术。这项技术的目标是

  • 据报道,苹果正在与硅谷的初创公司 PrismML 进行洽谈,致力于研发一项革命性的 AI 模型压缩技术
  • 这项技术的目标是
  • 更多细节仍在持续更新中