人工智能和虚假信息加入了核武器的世界末日竞赛

科技 2020-02-04 17:00:40

一些分析人士表示,随着人工智能(AI)的发展,中国正在迅猛发展,甚至可能在该领域占据主导地位。华为创始人任正非恐怕不敢苟同。

任正非上周在达沃斯世界经济论坛上表示,美国政府还没有弄清楚人工智能的含义,但中国甚至还没有开始考虑这个问题。

他说,中国的问题在于教育体系。

任正非通过翻译说:“如果你看看中国的教育体系,就会发现它与工业时代为培养工程师而设计的体系非常相似。”

“因此,我认为人工智能无法在中国快速发展。人工智能需要大量的数学家,需要大量的超级计算机,在这些领域需要大量的超级连接和超级存储。”

他说,中国和美国都需要在基础教育和基础研究方面加大投资。

任正非还淡化了人们对人工智能主导未来的担忧,他解释说,华为等公司正在开发所谓的弱人工智能。他列举了自动驾驶、无人值守的远程采矿作业和生物医学等例子。

“更重要的是,人工智能可以用于生产、提高效率、创造财富,”他说。

“只要有更多的财富总量,政府就有办法实现更均衡的财富分配,以平衡社会问题。”

至于将人工智能视为军备竞赛的一部分,任将其比作冷战时期对核武器的恐惧。

他说:“如果我们从远处看历史,我们会看到原子能以及医学和其他领域的辐射应用给人类带来的巨大好处。”

“今天,我们看到了对人工智能的恐惧,但我们不应该过度夸大。原子弹爆炸会伤到人,但人可以做到,人工智能的破坏力不像原子弹那么大,对吧?”

但将人工智能与包括核武器在内的致命武器结合起来又如何呢?

上周,《原子科学家公报》(BAS)将其著名的末日时钟拨至午夜前100秒。这是自1947年大本钟建立以来最接近的一次。

除了核战争的风险,《原子科学家公报》现在还将“对日益受到威胁的气候反应不足”和“信息战和其他破坏性技术的威胁日益加剧”列为对人类生存的威胁。

近年来,国家领导人越来越多地将他们不认同的信息视为假新闻,并发布自己的谎言、夸大和歪曲作为回应。不幸的是,这种趋势在2019年加速了。”

“领导人声称他们的谎言是真实的,对国家机构的完整性提出了质疑,并造成公众对国家机构的不信任,而这些机构在历史上提供了社会的稳定和凝聚力。”

尽管民族国家一直在使用宣传手段,但《BAS》写道,“互联网为全世界的观众提供了广泛、廉价的渠道”。

他们表示:“最近出现的所谓的‘深度伪造’(deepfakes)——音频和视频记录基本上无法被发现是假的——可能会进一步削弱公民和决策者区分真伪的能力。”

“由此产生的谎言有可能造成经济、增加可能导致战争的误解或挑衅的可能性。”

鉴于人工智能的“已知缺陷”,《原子科学家公报》表示,核指挥和控制系统继续拥有人类决策者是“至关重要的”。

巴斯还写道,生物工程、高超音速武器和太空武器“提供了进一步破坏的机会”。


回到达沃斯,耶路撒冷希伯来大学教授尤瓦尔·诺亚·哈拉里(Yuval Noah Harari)警告致命的自主武器(法律)的潜在危险,以及他所说的“入侵人类”。

“当你收集了足够多的关于人的数据,你有了足够的计算能力,你就会比别人更了解他们自己,”Harari说。

当“华为、Facebook、政府或其他公司”拥有足够的数据,能够“系统性地攻击数百万人”时,会发生什么?

“他们比我更了解我自己,了解我的健康状况,了解我的精神弱点,了解我的生活史,”哈拉里说。

“一旦你到了那个程度,就意味着他们能够比我更好地预测和操纵我的决定。不完美。不可能完美地预测任何事情。他们只要做得比我好就行了。”


他说:“想象一下20年后的情况,那时可能在北京,可能在华盛顿或旧金山,有人知道每一位巴西或埃及政客、法官和记者的全部个人医疗(或)性史。”

“不是武器,不是士兵,不是坦克……他们知道自己精神上的弱点,他们知道他们20岁时在大学里做过的事情,他们都知道。它还是一个独立的国家吗?还是数据殖民地?”

一段时间以来,国家安全学者一直对深度造假感到担忧。

例如,在2018年,德克萨斯大学法学院的博比·切斯尼教授和波士顿大学法学院的丹尼尔·西特伦教授发表了一篇题为《深度造假:隐私、民主和国家安全面临的迫在眉睫的挑战》的论文。

他们写道:“随着我们的网络信息环境与我们的认知偏见以有害的方式相互作用,思想市场已经遭受了真理的侵蚀。”

“深度假货会严重加剧这一问题。个人和企业将面临新形式的剥削、恐吓和个人破坏。我们的民主和国家安全也面临着巨大的风险。”

Citron在最近一期的Lawfare播客中解释道,在“关键的关键节点”发布的deepfake可能会产生重大影响,尤其是在“非常敏感的时刻”。

她说:“如果一个大骗局在适当的时候被揭露出来,不管是在选举的前两天,还是在首次公开募股的前一晚,大骗局都会影响人们的行为。”

“从某种意义上说,这些决定是不可挽回的。选举是无法逆转的。IPO是无法逆转的。”

有时有人认为,解决方案的一部分是教育人们成为更挑剔的媒体消费者,但切斯尼不确定这是否会有所帮助。

他说:“我们还没有找到让人们接受任何程度教育的方法。”

另一个问题是,人们会对他们看到或听到的东西产生“天生的怀疑”。

切斯尼说:“那些撒谎的人,那些想要否认自己确实说过或做过的事情的人,会利用这一点,不说‘假新闻’,而是说‘那是深度假新闻’。”

“我认为我们已经开始看到这方面的迹象。这真是进退两难。”

2020年是网络安全变得更加古怪的时候,所以做好准备吧

ai驱动的deepfakes、勒索软件、物联网和5G都意味着保护你的数据将变得更加困难。

AI准确预测Billie Eilish“坏人”格莱美奖(TechRepublic)

Billie Eilish并不是今年第62届格莱美的唯一大赢家。人工智能也得分了,无论是在红地毯上,还是通过预测年度记录的赢家。

堪培拉将仔细审查社交媒体上的假新闻

工党已经受够了Facebook在过滤假新闻方面的无所作为。

世界末日的钟声又一次逼近午夜。科技界也受到了一些指责。

科学家警告称,信息战、深度造假和人工智能都在增加灾难的风险。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢