英国间谍将需要人工智能-Rusi报告

一份情报报告说,英国间谍将需要使用人工智能(AI)来应对一系列威胁。

攻击者可能会将技术用于网络空间和政治系统中的攻击,并且需要AI来检测和阻止它们。

但是,人工智能不太可能预测谁将卷入恐怖主义等严重犯罪中,并且不会取代人类的判断。

该报告基于对英国情报的前所未有的获取。

英国皇家联合服务研究所(入寺)智库也认为,使用AI的可能会引起新的隐私和人权方面的考虑,这需要新的指引。

鲁西在报告中说,英国的对手“无疑将寻求使用人工智能来攻击英国”-这可能不仅包括州,而且包括罪犯。

用火射击

未来的威胁可能包括使用AI来开发深层次的伪造品-计算机可以学习生成令人信服的真实人物的伪造视频-以操纵舆论和选举。

它也可能被用来突变恶意软件以进行网络攻击,这使得普通系统更难检测到,甚至难以改变用途并控制无人机以进行攻击。

报告认为,在这些情况下,将需要人工智能来对抗人工智能。

“采用AI不仅对帮助情报机构应对信息超载的技术挑战很重要。恶意参与者很有可能会通过多种方式使用AI攻击英国,情报界将需要开发基于AI的新技术国防措施”,作者之一亚历山大·巴布塔(Alexander Babuta)辩称。

该独立报告是受英国GCHQ安全部门委托编写的,并可以访问该国大部分情报界。

英国的所有三个情报机构都已将技术和数据的使用作为未来的优先事项-而MI5的新任负责人肯·麦卡勒姆(Ken McCallum)将于本周接任,他说他的优先事项之一将是更多地利用技术,包括机器学习。

然而,作者认为,在反恐等领域,人工智能在“预测情报”中仅具有“有限的价值”。

经常被引用的虚构参考是电影《少数派报告》,其中使用技术来预测犯罪者在犯罪发生之前。

但是报告认为,这在现实的国家安全局势中不太可能实现。

诸如恐怖主义这样的行为很少出现,因此无法提供足够大的历史数据集来寻找模式-与其他犯罪行为(例如入室盗窃)相比,发生的频率要少得多。

即使在该数据集中,犯罪者的背景和意识形态也相差甚远,以致难以建立恐怖分子形象的模型。报告认为,有太多的变量无法使预测变得直接,新事件可能与以前的事件根本不同。

任何形式的表述也可能具有歧视性,并导致新的人权问题。

在实践中,该报告认为,在反恐等领域,“增强型”而不是人工智能将成为常态。在这种情况下,技术可以帮助人类分析人员筛选并确定越来越多的数据的优先次序,从而使人们可以做出自己的判断。

报告说,至关重要的是要确保操作员对决策负责,并且AI不能充当“黑匣子”,人们无法从中了解做出决策的依据。

逐步地

作者还对围绕AI的一些炒作保持警惕,并且谈论它很快将具有变革性。

相反,他们相信,我们将看到现有流程的不断增加,而不是新颖的未来功能的出现。

他们认为,英国在全球处于领先地位,在GCHQ以及更广泛的私营部门以及艾伦·图灵学院和数据伦理与创新中心等机构中都处于领先地位。

他们说,这有可能使英国处于人工智能使用的领先地位,但处于明确的道德框架之内。

报告称,情报机构部署AI可能需要新的指导,以确保采取适当的保障措施,并确保对隐私的任何入侵都是必要且相称的。

间谍机构面临的棘手的法律和道德问题之一,尤其是自从爱德华·斯诺登(Edward Snowden)的启示以来,是有道理的,从普通人那里收集大量数据以便对其进行筛选和分析,以寻找可能参与其中的人恐怖主义或其他犯罪活动。

还有一个相关的问题是,当机器收集和分析数据时与人们看到数据时相比,隐私受到了多大程度的侵犯。

隐私权倡导者担心,人工智能将需要从普通人那里收集和分析大量数据,以便理解和搜索会造成新的入侵水平的模式。该报告的作者认为将需要新的规则。

但总的来说,他们说,重要的是不要过度使用技术的潜在弊端。

Babuta先生说:“如果我们过度关注假想的最坏情况的结果和对某些反乌托邦未来AI驱动的监视网络的猜测,则有可能扼杀创新。”

“除非我们在短期到中期集中关注AI的可能和现实使用,否则合法的道德关注将被掩盖。”

发表评论

邮箱地址不会被公开。 必填项已用*标注