MacPaw联手Liquid AI推进端侧模型落地

摘要
MacPaw与Liquid AI合作开发端侧推理系统,并准备将相关能力开放给 SetApp 开发者 。
乌克兰软件开发商 MacPaw 正与 Liquid AI 合作,推进本地部署的 AI 模型能力。双方计划先将这套技术用于 MacPaw 自家的 AI 助手 Eney,后续再向 SetApp 平台开发者开放,用于构建可在设备端运行的 AI 应用。
先用于本地版 Eney
MacPaw 去年发布了 AI 助手 Eney,目前正准备推出本地运行版本。为此,Liquid AI 将为其开发名为 Elix 的端侧推理系统,并配套本地记忆系统。
Liquid AI 联合创始人兼首席执行官 Ramin Hasani 表示,这类模型会先根据硬件选择不同架构,以提升设备端运行效率,同时兼顾隐私和安全。MacPaw 首席执行官 Oleksandr Kosovan 也表示,本地模型还能支持离线运行的助手和自动化工作流。
SetApp准备引入更多 AI 应用
MacPaw 还计划调整订阅制应用商店 SetApp 的 AI 产品布局。该平台目前拥有超过 15 万名付费用户,公司希望未来承载更多 AI 应用。
在与 Liquid AI 确定本地处理架构后,MacPaw 打算把这套技术栈开放给开发者,让他们在自己的应用中接入端侧推理能力。Kosovan 说,平台也会接入谷歌等公司的云端模型,作为开发者统一调用的入口。
测试积分制计费
MacPaw 已开始测试新的积分计费方式。用户可根据手中积分数量,以及任务复杂度,执行一定次数的 AI 操作。
文章提到,苹果已经向开发者提供自家的本地模型能力。不过 Liquid AI 认为,其模型更强调针对不同任务的性能优化,同时也在构建模型定制能力,使模型可结合用户输入持续调整。