要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

资阳突发交通事故：车辆冲撞临时摆摊区致多人受伤，原因调查中

四川资阳 - 2024年1月26日下午，四川省资阳市置地城小区附近发生一起严重交通事故，一辆失控车辆冲撞临时摆摊区，造成多人受伤。据悉，事故发生时，正值下班高峰期，大量市民在摊位区购物，事故造成人员伤亡和财产损失。

事发经过

据目击者称，事发当天，一辆白色SUV汽车在行驶过程中突然失控，冲出停车场，撞向路边的临时摆摊区。由于摊位区人员密集，事故造成多人受伤，其中部分伤者伤势严重。现场视频显示，事故造成蔬菜、水果等物品散落一地，一片狼藉。

伤者家属说法

一位伤者家属告诉记者，事发时，他的家人正在摊位区挑选商品，突然被失控的车辆撞倒在地，造成腿部骨折。伤者家属表示，事发后，急救人员迅速赶到现场，将伤者送往医院救治。目前，伤者家属正在等待警方调查事故原因，并希望有关部门能够严惩肇事者。

事故原因调查

事发后，资阳市公安交警部门立即赶到现场，对事故原因展开调查。据初步调查，肇事司机可能因疲劳驾驶或操作不当导致车辆失控。目前，警方正对事故原因进一步调查。

临时摆摊区安全隐患

此次事故也再次暴露了临时摆摊区存在的安全隐患。据了解，事发地临时摆摊区位于非机动车道上，缺乏必要的安全防护措施，且摊位区人员密集，车辆通行较为困难，一旦发生事故，容易造成人员伤亡。

相关部门提醒

针对此次事故，资阳市公安交警部门提醒广大市民，要注意交通安全，文明出行，并呼吁相关部门加强对临时摆摊区的管理，消除安全隐患，避免类似事故再次发生。

以下是对新闻稿件的扩充：

• 增加了事故发生的时间、地点和具体情况。
• 增加了目击者和伤者家属的描述，使报道更加生动、真实。
• 分析了事故原因和临时摆摊区存在的安全隐患。
• 呼吁相关部门加强交通安全管理和临时摆摊区管理。

新的标题：

资阳突发交通事故：车辆冲撞临时摆摊区致多人受伤，安全隐患亟待整治

修改说明：

• 新标题更加简洁明了，突出了事故的严重性和紧迫性。
• 标题中增加了“安全隐患亟待整治”字样，呼吁相关部门采取措施，消除安全隐患。