无死角窥探的焦虑AI如何反击隐私侵占

科技 2022-05-15 04:11:30
导读 大脑极体智能时代,算法和计算能力的不断突破,让AI技术飞速发展。在工业生产、医疗、交通、能源等领域,AI和大数据技术相互帮助,将人们从

大脑极体

智能时代,算法和计算能力的不断突破,让AI技术飞速发展。在工业生产、医疗、交通、能源等领域,AI和大数据技术相互帮助,将人们从许多无意义、重复的危险工作中解放出来,也为企业的效率和安全带来了收获。

然而,完美的技术是不存在的。我们在享受数据带来的红利的同时,也面临着个人信息“裸奔”的挑战。我们身边越来越多的智能设备在偷窥我们的个人隐私。

也许我们都有过这些经历。

和同事自由聊天,讨论哪里的火锅和烧烤好吃,打开大众点评,首页全是火锅和烧烤推荐;

和闺蜜闺蜜讨论哪个奶茶好喝,想喝个新口味。外卖平台是这款奶茶的推荐;

如果你和家人讨论刘畊宏,减肥,瑜伽服,然后开个宝,你也会得到满屏的健身产品推荐。

我们周围的电子设备在各种黑暗中偷偷观察我们的言行,这是令人不安的怪异。这些对我们声音的窥探也是消费市场上流行的各种应用的营销工具。通过开放正确的隐私,我们可以将自己的声音实时传输给系统,用所谓的AI为我们推送定制化的服务。事实上,这些以获取隐私为前提的营销让消费者非常困扰。

如何避免这种情况?有些人选择在没有长期授权的情况下打开麦克风,但是这种方法太麻烦了。有些人极端的做法是在谈话过程中故意用音乐或电视剧等大音量来掩盖谈话声音,但这种杀敌1000赔800的体验太难受了。如何利用技术手段避免这种情况?

01用魔法打败魔法

用AI打败AI或许是一个不错的出路。一个新的人工智能系统上线。这个AI系统的规避逻辑是在谈话过程中加入一些其他声音的“调味品”,但是这些“调味品”比较弱,不会像外面播放的音乐和声音那么嘈杂,会影响我们的正常谈话。

只要在人们谈话的时候打开系统,空间里就会播放微弱的声音。在不影响正常通话的前提下,会对通话声音进行遮挡,避免被话筒拾取。

这个人工智能系统是由哥伦比亚大学的一个研究小组提出的一种新方法。该系统可以很容易地部署在我们常见的电子设备中,只要运行在电脑、手机等硬件上,就可以实时保护用户的隐私。

用AI技术干扰麦克风获取声音,并不是什么新奇的想法。之前有相关技术解决这类问题。但由于语音对话的特殊情况,无法预测几秒钟后的对话用词和语速,导致AI跟不上双方的对话节奏,从而影响对话覆盖的效果。

新的AI系统可以通过深度学习算法预测双方接下来的话的特征,在输入语音两秒的情况下实现实时表现。实时产生的适当的麦克风噪声可以有效地干扰会话隐私的获取。

这种新算法使用了一种“预测攻击”信号,可以干扰任何由自动语音识别模型训练转录的单词。并且当在自然环境中播放干扰声音时,它需要足够大,以干扰任何可能在远处“偷听”麦克风的流氓。该系统已被证明在具有自然环境噪声和复杂形状的真实房间中是有效的。但目前算法系统只对英语交流语言有效,团队正在把更多的精力放在其他语言的移植和应用上。

在这场战斗中,AI系统有很大的机会赢得设备背后的神经网络推荐系统。这一研究成果也在离开实验室的过程中辐射到多种语言和场景,或许可以帮助我们在未来避免各种谈话隐私的“骚扰”。

声音隐私对我们的影响主要是消费领域的干扰和侵扰,而在视频领域,我们的肖像隐私是

02视频“噪音”的新手段

在视频隐私领域,公共隐私没有边界。让大家印象深刻的是,在一家房地产公司的销售活动中,客户戴着头盔买房。很多人第一次看新闻的时候,可能还有嘲笑受害者的心态,但是当他们知道真实情况后,就忍不住为受害者的机智点赞了。戴头盔的主要目的是为了躲避房地产公司的AI视频识别,以免受到差异化服务,避免自身购房利益受损。

成千上万的消费者在视频领域受到的不公平待遇只是冰山一角,更严重的是一些明目张胆的侵犯隐私行为。在天眼的掩护下,满大街的摄像头让每个人的视频资料都在裸奔。即使有些人为了安全在家里安装了摄像头,也无法避免被一些黑客攻击的风险。用户在家里的任何举动,背后都有一双别有用心的眼睛在看着。

除了立法,有没有什么技术手段来保护这些视频隐私?

麻省理工学院计算机科学和人工智能实验室的研究人员开发了一种新系统,该系统在视频中添加了一些噪声数据,以确保视频中的个人不会被识别。同时,公开的视频也可以作为分析调查的数据,可以更好地保证出现在监控视频片段中的人的隐私。

我们知道,在田燕或小区或公园的监控视频中,视频中记录的人是没有任何隐私可言的,所有的人脸信息都被摄像头摄取并分析。虽然可以保证公共领域的安全,监控行人和车辆的密度和流量,有助于卫生防疫措施的实施,但这种牺牲个人隐私的情况应该在技术升级的过程中逐渐被打破。

有些企业采用视频中模糊人脸的方法,但这种做法可能会导致系统丢失一些人脸数据,进而导致一些研究无法进行。新的AI系统Privid使研究人员能够查询视频数据,同时,它可以确保个人身份不能被识别,并保护视频片段中出现的人的隐私。在每个

种视频和查询中,Privid的准确率在非私有系统的79%-99%之间。

  Privid AI系统运用的是一种差分隐私保护技术差分隐私允许用户对数据进行一定程度的修改,加入一些噪音数据,但不影响数据总体的输出,从而使得攻击者无法知道数据集中关于个人的信息,达到隐私保护的作用。

  不过这个系统也存在一定的局限,那就是要添加的噪音数据量无法确定。理想的情况当然是,添加的噪音恰好足以隐藏每个人,但又不至于多到对研究人员毫无用处。但现实是,向数据添加噪音并保证视频的分析查询的过程中,会造成一定程度的干扰,让结果不会非常准确,这个噪音数据的平衡,需要技术的深入与斟酌,在不影响实际参考价值的同时保障隐私。

  03 AI深入隐私保护

  在视听领域,我们被暴露在开阔的地带,普通人的数据成为消费领域的金钱与流量,被导入各类消费场景中。对有钱有权的人来说,个人隐私的数据更为金贵,它很可能成为黑客眼中勒索的“肥肉”。在摄像头下,你去的每一个地方都是透明的,如果有人获取了这些数据,就能够建立起人出现在固定场所的时间线,只要汇总数据就可以捕捉到人的历史位置和各类信息。有心的猎手只要蹲守,总会捕获肥膘满满的猎物。

  AI越智能,获取、存储、分析的信息也会越来越多,也会越来越隐蔽。虽然AI技术的中立性是共识,但背后的大公司、黑客的应用都是被利益所驱动,一旦这些信息不被合理地应用,就会造成各类影响严重的事件发生。

  我们知道视听生活是现代人类娱乐、生活的必需品,无人能够离开嵌入摄像头、麦克风的各类电子产品。城市的运行、工厂、企业的管理运营离不开各类摄像头设备的辅助,这也意味着更多的社会、企业及个人信息都在数据世界中流动。

  技术发展总比法律的约束快。如果通过立法、道德的方式去约束,漏洞也会越来越多,安全和隐私得不到保障,这也会减缓AI的发展。保护隐私和安全是技术发展的关键。用AI的方式去约束一些AI技术对隐私的滥用,成为数智时代网络安全技术人员的必选项。

  不过当前基于AI深度学习的隐私保护研究正在起步阶段,还有许多挑战。比如加密算法的应用方面,虽然加密技术是最直接有效的隐私保护手段,但加密技术的技术成本和应用成本,结合本身就消耗大量计算资源的深度学习算法,将大大降低算法性能。

  另外就是监管层面的落后与缺乏。技术发展的特性,使得监管层面一直是跟在技术后面跑。如何采用创新的监管方式,可以提前预警,而不是事后补救。如何构建监管层面与其他第三方科技企业合作的沟通平台,一起评估未上线的新应用,保障新技术的合理应用,也是未来重要的研究议题。

  技术双刃剑的发展不可避免,但隐私保护与AI技术的关系可以兼容并存,为争议和缺陷而废食,就得不偿失。用智能技术去修补AI技术的隐私漏洞,也是最能够跟上AI发展的方式。虽然总有各种隐私怪相、幺蛾子的诞生,不过魔法才能打败魔法的AI也让我们的顾虑与担心有所减少。

  隐私保护是一个多维、博弈的过程,我们目前探究的解决方案,也是基于存在隐私漏洞的前提。那么有没有根除隐私漏洞的方式存在呢?其实最好的解决方案就是,开发设计的初始阶段就要有意识地避开这些触发隐私泄露的可能方案。研发技术人员需要更多的考虑一些AI技术对于人类和社会产生的影响,从创新的初始就考虑一些避开争议的区域。技术道德与伦理的内容在不断地完善过程中,也需要一批批技术人员的落实与充实。

  技术永远都是中立的,不道德、不合法的侵犯隐私,最后被钉在耻辱柱上的是企业和背后的技术开发人员,未来技术与立法的完善,罚酒三杯的惩罚方式不会再有了,终究会有人在隐私与安全技术的发展中为自己的行为买单,为AI发展献祭。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢

最新文章