苹果签署AI安全承诺 支持拜登政府方案

编译/黄竣凯

根据白宫的公告,苹果已加入其他 15 家科技公司,签署了美国总统拜登关於人工智慧(AI)的「自愿承诺」,使苹果与 Google、微软和 OpenAI 等行业领导者保持一致,这些自愿承诺於 2023 年 7 月首次提出,旨在确保AI技术得到负责任的开发和使用,并重点关注该技术的安全性,要求科技巨头们在推出AI时,重点关注「安全」问题。

苹果签署AI安全承诺,确保AI技术得到负责任的开发和使用。(图/123RF)

苹果加入其他科技龙头

据报导,苹果已加入 OpenAI、亚马逊、Anthropic、Inflection、Google、Meta 、Adobe、IBM和辉达和微软等其他科技巨头的行列,同意拜登政府制定的一套自愿性AI安全规则,尽管这些自愿承诺效力不高,但仍是业界朝着建立AI开发行业标准迈出的重要一步,白宫将此视为初步措施,预计将采取进一步的监管行动。随着苹果即将推出自家生成式AI产品 Apple Intelligence,将生成式AI带到苹果 20 亿用户面前,此举特别有意义。

更多新闻:美国首个AI行政命令!拜登要求业界进行安全评估

自愿承诺内容

根据承诺,AI公司需要在公开发布之前,对AI模型进行「红队」测试(扮演对抗性骇客,对组织的安全措施进行压力测试),并与公众分享这些资讯,此外,白宫也要求AI公司对未发布的AI模型权重保密,对此苹果和其他公司,则同意在安全环境中研究AI模型权重,并尽可能减少可以取得模型权重的员工,最後,AI公司也需开发内容标签系统,如浮水印,帮助用户区分什麽是由AI产生,保护人民免受AI欺骗。

美国政府其他努力

此外,美国商务部也计画发布一份报告,研究开源AI模式的好处、风险和影响,目前对开源AI的监管仍是一个有争议的问题,需要平衡安全需求与对创新和研究的潜在影响,随着联邦机构在实施AI相关任务(包括招募和资源分配)上取得长足进步,白宫的政策将塑造AI监管和发展的未来。

Apple Intelligence

预计苹果的Apple Intelligence 将包括校对和写作工具、优先通知、表情符号和照片图像生成等AI功能,以及更聪明的 Siri,Apple Intelligence 功能由装置上模型,以及在苹果伺服器上运行的私有云端伺服器共同提供支援。

参考资料:Tech Crunch、9to5mac、reuters