>首页> IT >

马斯克再谈AI威胁:或引导社会舆论控制人类大脑,甚至摧毁社会文明

时间:2023-04-19 07:52:30       来源:搜狐科技


(资料图)

出品|搜狐科技

作者|郑松毅

4月18日,特斯拉、推特CEO埃隆·马斯克(Elon Musk)在与美国新闻资讯平台Fox的最新一期对话中再一次强调“强大的AI就像黑洞,不可预测下一秒会发生什么,人类应该严肃地正视AI监管政策,否则更强大的AI将控制人类的大脑。”

3月,马斯克曾联合上千位人士签署联名公开信,以担心人工智能系统将达到不可控程度,且会造成不可预知的风险为由,呼吁“暂停训练更强大的人工智能6个月,应利用暂停训练时间制定出透明、合理、有效的AI监管政策。”截至目前,该公开信署名已超过2万余人。

一份州政府公告显示,马斯克(Elon Musk)于3月创建了一家名为X.AI的新人工智能公司,该公司在内华达州注册,有业内人士分析这意味着马斯克将正式加入AI战场,并与OpenAI形成直接竞争关系。值得一提的是,马斯克的竞争“野心”并非空口之谈,X.AI可以借助同为马斯克名下的Twitter及Tesla强大的数据库来更好的训练自己的模型,具备强大的计算资源。此外,马斯克近期已从英伟达购买了上千个高性能GPU(图形处理器),解决了算力问题。

此前,有业内人士指出马斯克呼吁暂停训练更强大AI的真实目的可能是想给自己的AI公司创造“弯道超车”的机会,但本次对话中通过马斯克的现实举例,引发了观众对于AI潜在危害性的又一次高度重视。

马斯克在访谈中表示,“虽然自己是一个擅于突破规则的人,但会严肃正视AI监管政策,这会尽量减轻AI带来的不可控隐患。但不幸的是,有些监管意识只会在不可控事件发生后才形成,这也是AI令人担忧的地方。”他认为,没有人会认为被监管是有趣的,监管或许是非常艰难的,但就像造车、造火箭一样,堆满桌子的政策文件只是为了保证正在做的事对社会基本是没有危害的,期望AI领域中的主要玩家们都可以接受政策的监管。他指出,美国通过农业部和食品药品监督管理局来保护食品和药品的消费,通过联邦航空管理局来保护飞行器,同理也应该建立相应的机构来监管人工智能。

访谈过程中,主持人提及并不认为小孩子玩智能手机过程中AI会造成危害,请马斯克详细谈一谈对AI危害的理解。马斯克表示,AI危害比飞行器操作不当、制造生产残次品更严重,它的危害是具有潜伏性的,虽发生的概率不大,但不容小觑,甚至可以摧毁社会文明。

马斯克在访谈最后提到,如果随着AI的不断强大,学会了如何以人类最信服的方式输出文本,这类文本甚至让人们无法辨别真伪,且频繁出现在推特、Facebook等社交媒体上引导社会舆论时,我们的世界会怎样?也许在下一届总统选举时就可以体现出来它的影响作用了。

马斯克透露,“我将开始开发TruthGPT,这是一个极其求真的人工智能,它将致力于理解宇宙的本质。”并表示,“这可能是通往安全的最佳路径,因为一个关心和了解宇宙的人工智能不太可能消灭人类,毕竟人类也是宇宙中有趣的一部分。”

关键词: