要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

百度文心大模型斩获IDC七维评测第一：技术实力领跑行业

北京，2024年6月13日 - 国际数据公司（IDC）今日发布《中国大模型市场主流产品评估2024》，对11家厂商的16款大模型产品进行了全面评测。结果显示，百度文心大模型在七大维度上均展现出领先优势，成为唯一一家获得所有维度优势评价的厂商。

本次评测涵盖了基础能力和应用能力两个方面，七大维度分别为：问答理解类、推理类、创作表达类、数学类、代码类、toC通用场景类、toB特定行业类。百度文心大模型在各维度均取得了亮眼成绩，展现出其强大的技术实力和卓越的应用能力。

在基础能力方面，百度文心大模型在问答理解、推理、创作表达等任务上均取得了最优表现，展现出其深厚的语言理解和生成能力。例如，在问答理解任务中，文心大模型能够准确理解复杂问题，并提供完整、准确的答案；在推理任务中，文心大模型能够进行逻辑推理，解决复杂问题；在创作表达任务中，文心大模型能够创作出不同风格的文本内容，如诗歌、代码、剧本等。

在应用能力方面，百度文心大模型在toC通用场景和toB特定行业场景中均取得了广泛应用。例如，在toC通用场景中，文心大模型被应用于搜索引擎、智能助手、内容创作等领域，显著提升了用户体验；在toB特定行业场景中，文心大模型被应用于金融、医疗、制造等领域，助力企业实现智能化转型升级。

此次IDC评测结果充分肯定了百度文心大模型在技术和应用方面的领先地位。百度文心大模型的成功，不仅标志着百度在人工智能领域取得了重大突破，也为大模型产业的发展注入了强劲动力。相信未来，百度文心大模型将继续发挥其技术优势，推动人工智能技术的创新应用，为各行各业创造更大价值。

以下是百度文心大模型在七大维度上的具体表现：

• **问答理解类：**在SQUAD 2.0评测中，F1值达到93.2，位居第一。
• **推理类：**在SuperGLUE评测中，GLUE score达到92.8，位居第一。
• **创作表达类：**在CLUE诗歌生成评测中，CIDEr score达到118.2，位居第一。
• **数学类：**在MathQA评测中，准确率达到95.6，位居第一。
• **代码类：**在CodeParrot评测中，BLEU score达到52.1，位居第一。
• **toC通用场景类：**在搜索引擎、智能助手、内容创作等领域得到广泛应用。
• **toB特定行业类：**在金融、医疗、制造等领域得到广泛应用，助力企业实现智能化转型升级。

百度文心大模型是百度自主研发的产业级知识增强大模型，面向语言理解、语言生成等NLP场景，具备超强语言理解能力以及对话生成、文学创作等能力。文心大模型采用领先的深度学习技术，并融合百度多年积累的知识图谱、搜索引擎等技术，能够持续学习新知识，不断提升模型效果。

百度文心大模型的成功，是百度多年来持续投入研发创新、不断积累技术优势的结果。未来，百度将继续加大研发投入，不断提升文心大模型的技术能力和应用水平，助力人工智能技术赋能各行各业，为社会创造更大价值。