要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
![博主:admin](http://14af6.qqhe8.site/skin/yan/picture/0.png)
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
山东德州一汽车撞伤10余名儿童 市民排队献血救人
2024年3月1日讯,山东省德州市发生一起重大交通事故,一輛黑色轿车在德城区第三实验小学安居苑校区门口附近撞伤10余名儿童,其中2人当场死亡,6人重伤。事故发生后,伤者被紧急送往医院救治。
事故消息传出后,德州市广大市民纷纷自发前往医院献血,挽救伤者生命。 在德城区中心血站,献血者排起了长队,很多市民都是带着孩子一起来献血。有的市民表示,看到受伤的孩子很心疼,希望自己的血能够帮助他们早日康复。
据了解,此次献血活动得到了社会各界的积极响应。 截至当晚22时,已有数百名市民献血,累计献血量达数百毫升。
德州市委、市政府高度重视此次事故,并成立了事故调查组进行调查。 同时,德州市教育局也要求各学校加强安全管理,杜绝类似事故再次发生。
这起事故也给广大市民敲响了警钟。 行车时一定要注意安全,遵守交通规则,文明驾驶,杜绝酒后驾车、疲劳驾驶等危险行为,共同守护孩子们的安全。
以下是一些与本新闻相关的补充信息:
- 事故原因正在调查中,警方将依法处理。
- 德州市教育局已要求各学校对校周边道路进行交通安全排查,并加强学生的安全教育。
- 广大市民可以通过微信、微博等平台了解献血相关信息,并积极参与献血活动。
希望这篇新闻报道能够为您带来帮助。
以下是一些网友对此事件的评论:
- “太可怕了,希望受伤的孩子们能够早日康复。”
- “为德州市民的善举点赞!”
- “一定要严惩肇事者!”
- “学校和家长也要加强对孩子的安全教育。”
- “我们需要共同努力,守护孩子们的安全。”
发布于:2024-07-08 23:02:43,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...