本文来自微信公众号:远望资本iVision(ID:iVisionVC),作者:田鸿飞,虎嗅经授权发布。题图来自:视觉中国
本文来自微信公众号:远望资本iVision(ID:iVisionVC),作者:田鸿飞,虎嗅经授权发布。题图来自:视觉中国
苹果公司最近发布了Apple Intelligence,这一人工智能服务在多方面超越了Google的Pixel 8 Pro,后者曾被誉为全球首款AI手机,内置了Gemini Nano人工智能模型。苹果通过系统级的整合能力,赋予了Apple Intelligence以下主要优势:
手机端侧全面整合所有应用数据,并将AI能力深入赋能到各种应用操作中。
云端整合ChatGPT,用以运行某些需要更强大模型的场景。
然而,随着AI技术在自动回复邮件、短信和自动总结电话录音等方面的应用,也导致了发布会期间,观看直播的用户不断通过弹幕提出“我的隐私呢?”等对个人信息保护的担忧。之后马斯克也发出推文挑战苹果和OpenAI,质疑他们的用户隐私可能受到侵犯。
苹果对此似乎早有预料,在发布会上特别强调了端侧大模型计算和个人云的概念。相比之下,Google一年前发布的Pixel 8 Pro虽然采用了类似的技术架构实现相同功能,但并未引起类似的隐私担忧。这可能一方面是因为苹果用户对隐私的要求更高,另一方面也反映了在经历了多年大数据时代的浸染后,进入人工智能时代,人们对个人隐私的关注日益增加。
实际上,早从四年前开始,苹果就逐渐注重起隐私保护,出台了禁止App采集用户个人数据等措施,公司还制作了一系列有趣的广告来推广其隐私保护理念。包括此次发布会,苹果同步推出了一个新概念——个人云计算(Private Cloud Comput,PCC),并在博客文章《私人云计算:AI在云端的新前沿》中对这个新概念进行了详细解释。
与OpenAI最近强调对大模型的GPU和算法参数加密的博客文章不同,显然苹果更侧重于用户数据的加密,展现了其始终遵循用户体验至上的理念。正如20年前苹果在电子商务浪潮中独树一帜建立线下店一样,这次苹果在云计算大潮中提出了回归个人云的概念。
接下来,我们将详细介绍苹果个人云计算的设计理念。
苹果的个人云计算
由于AI需要处理用户数据,苹果强调了传统端到端加密设计在人工智能时代不再适用,需要将苹果设备的隐私保护理念延伸到云端。苹果承认了终端设备的资源有限性,并相信PCC是目前最可行的个人智能云计算安全设计。苹果的PCC开发设计部门涵盖了安全工程师、隐私保护部门、操作系统部门、负责运维的服务部门和机器学习部门。
此前苹果一直认为,端侧存储数据和AI计算是个人隐私保护和安全的基石,分散在端侧的数据天然抵抗了单点攻击。当需要iCloud存储数据时,端到端的安全设计,又保护了云端的安全。然而,当进入人工智能时代,端侧设备的有限计算资源无法满足大模型的需求,因此需要在云端处理用户数据,传统的端到端加密不再适用。这为个人隐私保护带来了挑战,特别是在采用传统云计算架构的AI云计算中:
AI云计算无法证明自身的纯洁性。
AI云计算无法证明运行环境的透明性。
AI云计算无法防止内部运维人员侵犯用户隐私。
针对这些问题,苹果提出了以下新设计原则:
无状态存储处理用户数据。
完全掌控云计算的数据链路以确保安全承诺。
取消运维人员的访问特权。
完全避免针对特定单用户的攻击。
实现可验证的透明审计。
为了实现这些设计原则,苹果开发了定制服务器、定制操作系统、定制的运维软件,还使用定制的服务器开发语言”Swift on Server”,开发了全新机器学习技术框架,用以运行苹果的云端大模型。并通过类Intel SGX和AWS Nitro一样的技术,来保证使用的技术堆栈软件供应链透明可审计。
其中定制服务器采用了和苹果设备一样的Secure Enclave和Secure Boot安全技术;定制操作系统则继承了苹果享有盛誉,身经百战的安全技术包括Code Signing和Sandboxing。可以说,苹果也借此含蓄地进入了服务器计算市场。
苹果为此实施了严格的安全保证流程控制,甚至涵盖了服务器硬件生产制造环节:当服务硬件完成生产进入仓库后,每个服务器的组件都会被高分辨率摄像,然后进行密封,防物理破坏开关被打开;到达数据中心后,经过单独团队的多次独立交叉安全流程检查后才能被部署上线。而且整个流程都有独立第三方审计。最后,一个数字证书被安装到每个PCC节点的Secure Enclave(生成自己的UID)。
通过以上这些技术,苹果实现了用户安全的个人AI云计算,严苛的安全设计,也为未来第三方应用开发者进入苹果个人云APP领域打开了可能性,具体流程细节为:
当用户需要调用云端AI计算的时候,用户的提示语将通过个人云计算服务器的公钥加密,来免于被路由器等通讯链路监听,同时只和认证过的服务器通讯。
当认证过的服务接受到用户请求提示语之后,PCC将通过Code Signing和Secure Boot安全技术来保护安全的运行环境。其中,只有通过苹果认证的代码才能够运行,而且这种认证可以针对特定的PCC节点,通过Secure Enclave来调用保护了运行过程中的安全。由于PCC节点的公钥保存在Enclave里面,因此无法被更改和复制。
用户的单次请求数据仅仅被用于这次请求,请求结果返回后用户的请求就被删除。用户数据需要被临时存储的时候,Secure Enclave会利用每次reboot随机生成的单次使用密钥来加密用户数据,并且保证用户数据在请求完成后被安全删除;而且对于临时保存用户数据的内存空间进行回收处理。
为了防止水平攻击,采用了Pointer Authentication Codes和SandBoxing来分割运行环境;云端代码采用Swift语言编写来保证内存安全,并且隔离的内存地址空间会隔离不同用户的请求。
从以上设计来看,苹果动用了所有的工程部门,使用了多年积累的安全和隐私保护技术,全力开发了PCC。
PCC显然体现了苹果的典型风格——封闭、自成一体的高度定制化。就像天平的两端,有封闭就会有开放。与苹果理念相对应的设计思路是透明开源——Terminus,这是一个开源的、用户自主控制的个人云平台。Terminus的技术堆栈完全基于开源的、云原生的Kubernetes技术,允许每个用户拥有并完全控制自己的节点服务器。我们来具体看下与苹果的PCC有哪些不同。
Terminus的设计理念
Terminus的主要组件和功能包括Snowinning Protocol(雪片身份协议),这是一种根据W3C互联网规范委员会DID规范开发的、集成了信誉管理的用户身份协议。
如果说比特币赋予了财产自主权,那么DID则赋予了用户身份自主权。很多人了解比特币的意义,但是极少数人了解身份的意义。很简单的一个道理,没有了数字身份,个人数字财产权归属于谁呢?实际上,数字货币的公私钥就是一种账户体系。就像数字货币钱包就是管理数字货币账户的软件,DID规范指导了用户数字身份体系。Terminus的DID代表了用户在数字世界的身份证。
雪片协议的组成部分包括部署于OP的用户(含个人用户和组织)注册智能合约(TerminusDID ),用户名(Terminus Name)和可验证身份(VC)。
举例来看,当一名叫Alice的用户想联系一名叫Bob的用户时,其工作流程图如下:
此外,Terminus还包括TermiPass客户端软件、Terminus OS等组件。其中Terminus OS是 Terminus的核心,管理用户的数字存在,包括用户数据和隐私计算平台,支持用户数据管理、应用商店、大模型管理、Agent管理等功能。通过这些设计,Terminus提供了一个用户完全自主控制的数字孪生体操作系统。
具体来看,在Terminus OS的应用商店中,支持第三方软件的开发部署。根据安全管理级别和使用范围,分为系统软件、用户软件、社群软件和集群软件。所有的软件都可以无许可的上架到应用商店,供用户下载使用。
在大模型管理中,用户可以选择任何在应用商店上架的开源大模型,就像安装手机app一样的一键安装大模型,然后使用本地的用户数据作为RAG来微调自己的大模型。
安装后的大模型,进一步可以通过内置的dify.ai用户界面来使用和管理。dify支持链接远程大模型(比如OpenAI的GPT模型)或者本地部署的大模型,并且支持基于本地数据微调的大模型训练产生的Agent。
Terminus分为个人云和个人硬件服务器两个版本。这里以个人云版本的管理员角色为例介绍一下用户使用流程:
下载TermiPass到手机,选择一个Terminus Name。现在只支持通过Gmail链接来获取和Gmail同名的Terminus Name。
通过二维码链接Terminus和TerminalPass。
安装Terminus,大概需要20到60分钟。
安装成功后,可以通过TermiPass来登录Terminus。TermiPass集成了登录,二次验证,以及远程访问和管理Terminus的界面。
打开Terminus后,会进入Terminus桌面。内置的应用包括用来管理密钥的Vault、文件浏览器、应用商店(Market)、个人阅读推荐(Wise)。
使用场景和案例
这里介绍一下使用Terminus部署并且根据本地数据微调产生的一个Agent案例。
首先需要申请支持GPU的Terminus Space账户并且按照文档安装Terminus→登录进Terminus→选择Market,然后选择Model,选择安装Llama 2 chat 7B Q4。
然后在应用商店的左下角点击My Terminus,然后load大模型(Terminus同一时间只运行一个大模型,当load一个新的大模型的时候就会自动卸载正在运行的大模型)。
到Terminus的应用驾驶舱,打开Dify,就可以参考Dify使用手册使用了。如果选择发布自己生成的Agent,就可以对外提供服务。
未来:Digital Twin
随着AI能力的增强和数字生产边际成本的降低,机器人将在许多领域取代人类,人类将成为稀有而宝贵的资源。在数字世界中证明自己的身份将变得越来越具有挑战性。用户自我控制需要承担相应的责任,这可能会对用户体验造成挑战,而大公司在透明度方面的记录一直不佳。如何平衡用户隐私需求和用户体验将是未来产品设计的挑战。
苹果的PCC和Terminus展示了两种不同的个人云计算解决方案,一种是封闭且高度定制化的,另一种则是开源且用户自主控制的。随着用户在线时间的增加和数据量的积累,个人云计算平台将成为保护用户隐私和数据主权的关键工具。同时,开源的大模型和个人数据训练将使得每个用户都能够生成自己的数字孪生体,这将是未来产品设计和用户体验的重要方向。
从法律角度来看,本土没有互联网寡头负担的欧盟,已率先推出了GDPR法规,明确了客户数据所有权归属于用户,互联网公司必须提供用户删除数据的权利和用户数据迁移权(The right to data portability)。因此不管从技术角度还是法律角度,个人自主云的时机已经成熟。因为没有任何一个人愿意,第三方可以时时刻刻偷窥自己的大脑。目前通过苹果PCC和Terminus,已能够有效地提供了一个用户完全自主控制的用户数字孪生体的操作系统。相对于苹果提供的武装到极致的共享个人云安全体系,Terminus已从物理设备上实现个人云。
从未来发展的角度,数字孪生体的应用趋势也不可阻挡。现代人类的每天在线时间已经超过了10个小时,随着像Meta Glass这样的智能设备普及,我们未来将会24小时在线。个人云作为存储用户数据并且运行个人大模型的节点,就像是我们个人大脑在云端的延伸。随着AI功能的越来越强大,智能助手的功能也将越来越强大,可以想象智能助手会逐渐替代我们。
支持一下 修改