月之暗面CEO杨植麟:AI安全不一定最急迫,但需要我们提前去准备

2024-06-14 15:19:00 新浪网 

新浪科技讯 6月14日下午消息,今日举办的2024智源大会上,百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能联合创始人、CEO李大海共同出席《尖峰对话:通往AGI之路》环节。在谈及AI安全时,月之暗面CEO杨植麟表示,“AI安全是非常重要的,它可能不一定是当前最急迫,但是一个需要我们提前去准备的事情。”

杨植麟表示,因为随着模型的进展,Scaling Law的发展是每N个月算力乘10倍,这里你的智能会得到提升,是一个逐渐去适应的过程。“它不一定是当前最大的矛盾或者最紧急的事情,但它肯定是长期储备。”

在杨植麟看来,这里面最重要的是两个方面:第一,模型本身会因为用户本身有些恶意意图,导致它去做一些本来不应该做的事情。比如现在有研究在prompt里注入一些不太恰当的意图,这些需要去关注。第二,模型本身会不会有自己的motivation,这是跟训练方式相关的,包括能不能在模型的底层去注入比如AI的宪法,功能去框定它的行为,不管用户给什么指示,都不会违背这个宪法。(文猛)

责任编辑:何俊熹

(责任编辑:刘畅 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读

        【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。