要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

AI代码大模型评估结果出炉：阿里云、华为、商汤等首批通过

北京，2024年6月14日 - 备受业界关注的AI代码大模型评估结果出炉，阿里云、华为、商汤等企业首批通过。此次评估由中国信息通信研究院（CAICT）主导，旨在推动AI代码大模型技术的应用落地，促进AI+软件开发新生态建设。

**评估结果显示，**阿里云的通义灵码、华为的昇腾CodeModel、商汤的小浣熊等AI代码大模型在通用能力、专用场景、应用成熟度等方面均表现优异，满足相关评测标准。这意味着这些模型具备了较强的代码生成、分析、优化能力，可广泛应用于软件开发、编程辅助、代码审查等领域。

业内专家表示，AI代码大模型的出现将颠覆传统软件开发模式，带来开发效率的大幅提升。通过AI模型的智能辅助，开发者可以将更多精力聚焦于算法设计和业务逻辑实现，从而加速软件开发进程。

此次评估结果的发布，也标志着我国AI代码大模型技术取得了阶段性成果。未来，随着技术的不断进步和应用的深入，AI代码大模型将发挥更大的作用，推动软件开发产业转型升级，助力数字经济发展。

以下是对主要信息的扩充：

• 通用能力方面：
  • 阿里云的通义灵码在代码转换方面支持多种编程语言之间的转换，并能自动生成不同风格的代码。
  • 华为的昇腾CodeModel在代码检查及修复方面拥有强大的缺陷识别能力，可自动修复代码中的语法错误和逻辑漏洞。
  • 商汤的小浣熊在代码优化方面具备智能化代码重构功能，可有效提升代码的可读性和易维护性。
• 专用场景方面：
  • 阿里云的通义灵码提供网站开发、数据库开发、大数据开发、嵌入式开发等多个场景的支持。
  • 华为的昇腾CodeModel可应用于智能化代码生成、代码测试、代码安全等领域。
  • 商汤的小浣熊在代码生成、代码调试、代码部署等方面具有广泛的应用前景。
• 应用成熟度方面：
  • 阿里云的通义灵码具备完善的数据合规及数据分类分级机制，并通过了相关安全认证。
  • 华为的昇腾CodeModel拥有良好的模型稳定性和可维护性，可持续提供高性能服务。
  • 商汤的小浣熊在模型推理性能、模型服务风险可控性等方面表现优秀，可满足企业级应用需求。

以下是新标题的建议：

• AI赋能软件开发：阿里云、华为、商汤等AI代码大模型评估结果出炉
• 代码生成更智能，软件开发更高效：解读AI代码大模型评估
• AI大模型助力软件开发新变革：阿里云、华为、商汤等领跑行业

希望以上内容能够满足您的需求。