苹果警告：AI 智能体行为或难以预测，恐引发诉讼、损害公司声誉

IT之家 11 月 4 日消息，11 月 3 日，苹果在年度财务报告中警告，AI 智能体可能做出不符合预期、难以预测的行为，给公司带来法律诉讼和声誉受损的风险，进而影响业务。

苹果的报告称：“AI 智能体及其他技术可以自主执行操作，例如与内部或外部系统交互，有时甚至会访问没有权限访问的系统，还可以运行或修改代码、发送消息及完成交易。智能体的行为也可能违背预期或难以预测，甚至在没有收到要求、指令或授权的情况下自行采取行动。”

据IT之家了解，苹果发出警告之前，曾发生多起 AI 智能体失控事件。例如，在 Hugging Face 事件中，AI 智能体突破了沙箱环境的限制，入侵第三方网站。这类事件再次引起美国华盛顿及全球各地政策制定者的关注。

上个月，苹果宣布调整 Mac 的完全磁盘访问权限，以降低安装在电脑上的 AI 智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中警告：“公司对第三方 AI 智能体及其他技术的监督和控制能力可能有限。”

苹果尚未推出能够自主完成复杂任务的 AI 智能体。不过在财报电话会议上，面对有关 AI 智能体的提问，新任 CEO 约翰 · 特努斯称，Siri 的功能还有很大的拓展空间。“我们认为 AI 智能体的功能对用户很有吸引力。我们只是希望确保用户清楚自己授予了哪些访问权限，并确保这些功能在保障安全和隐私的前提下实现。”

特努斯强调，苹果无法访问用户设备中的私人数据，这是苹果与其他公司的重要区别。“想想看，iPhone 里有那么多个人数据，联系人、通信记录、健康信息、财务信息…… Siri 可以调用它们，以非常安全、保护隐私的方式帮助你获取信息，而且其他任何人都无法访问这些数据。”

苹果还指出，针对 AI 和超级智能的监管规定仍在不断变化，未来存在很大的不确定性。随着各国出台新的 AI 法律法规，苹果可能需要投入大量资金才能满足监管要求。“围绕自动化、人工智能和超级智能的伦理争议，以及消费者对这些技术的负面看法，也会给公司带来风险，包括公众认为这些技术存在安全隐患，或可能对社会造成其他危害和问题。”