要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

苹果谨慎拥抱生成式人工智能：力求突破技术瓶颈，打造安全可靠的应用场景

北京，2024年6月18日 - 在本周的全球开发者大会上，苹果公司展示了其备受期待的生成式人工智能（Generative AI）愿景，旨在将这项强大的技术应用于旗下产品和服务，为用户带来更加智能化的体验。然而，苹果也展现出审慎的态度，强调将把安全性和可靠性放在首位，避免落入生成式人工智能发展过程中常见的陷阱。

生成式人工智能拥有巨大的潜力，能够通过机器学习来自动生成文本、图像、音频和视频等内容。然而，这项技术也存在着一些潜在风险，例如生成虚假信息、制造深度伪造、或产生有偏见的输出等。

苹果公司显然意识到了这些风险。在大会上，苹果负责软件工程的高级副总裁Craig Federighi表示：“对于我们将生成式人工智能应用于哪些领域，我们非常非常谨慎。我们不会让这位少年去开飞机。”

为了确保安全性和可靠性，苹果采取了一系列措施。首先，该公司只会在特定情况下使用生成式人工智能，例如改写和总结电子邮件、管理日历以及与Siri进行更自然的对话。其次，苹果将对生成式人工智能模型进行严格的训练和测试，以确保其输出的准确性和可靠性。此外，该公司还将建立健全的伦理规范，避免生成式人工智能被滥用。

尽管苹果采取了谨慎的措施，但一些专家仍然对该公司在生成式人工智能领域的发展前景表示担忧。他们认为，苹果过于保守可能会错失发展良机，并落后于竞争对手。

例如，科技分析师Ming-Chi Kuo预测，苹果最早要到2025年才会推出搭载生成式人工智能芯片的设备。而与此同时，其他科技公司已经开始在该领域积极布局。例如，谷歌已经在其搜索引擎和Pixel手机中使用了生成式人工智能技术。

尽管存在争议，但苹果在生成式人工智能领域的谨慎态度值得肯定。这项技术拥有巨大的潜力，但也存在着不可忽视的风险。只有在确保安全性和可靠性的前提下，生成式人工智能才能真正发挥其价值，造福人类社会。

以下是文章的一些补充信息：

• 苹果公司已经在生成式人工智能领域进行了多年的研发投入。据估计，该公司拥有数百名从事该领域研究的工程师和科学家。
• 苹果公司已经在其一些产品中使用了生成式人工智能技术。例如，Siri可以根据用户的语音指令生成文本或翻译语言。
• 苹果公司未来计划将生成式人工智能应用于更多领域，例如照片编辑、视频创作和游戏开发等。

以下是文章的另一个潜在标题：

• 苹果试水生成式人工智能：谨慎前行，探索未来