IEEE:新兴人工智能网络安全的挑战和解决方案

合成现实

挑战

人工智能可以生成超现实的图像和视频,显示人们在做或说他们从未做过或说过的事情。这样的“深伪技术”会使虚假信息的传播更加难以察觉。

解决方案

IEEE高级会员Carmelo José AlbanezBastos Filho表示:“人工智能算法经过训练,可以识别深伪技术特有的模式和特征。这些算法分析视觉和音频特征,寻找不规则或与正常模式的偏差。”

数据泄露

挑战

你输入聊天机器人的信息可以用来训练它。这可能会导致模型泄露敏感或私人信息。

解决方案

对于聊天机器人数据隐私问题,IEEE会员汪齐齐教授指出:“将敏感数据存储在私有环境中可以有效避免数据被添加到公共的全球数据库中。”

虚假数据

挑战

有偏见、不准确或虚假的数据可能会被注入人工智能模型,从而产生错误的结果和有缺陷的系统。人工智能威胁检测技术已经在现实世界中被用来重新培训“垃圾邮件”过滤器。

解决方案

IEEE终身高级会员Raul Colcher表示:“这种形式的攻击,可以采用更加严格的数据过滤和审查机制,确保模型的学习和训练不受不当干扰。先进的过滤、监控和人工监督系统已经对其进行了反击。”

高级网络钓鱼

挑战

网络钓鱼诈骗涉及使用欺诈电子邮件诱骗人们或公司汇款或共享敏感数据。人工智能使创建更真实但仍然具有欺骗性的电子邮件和语音邮件变得更容易。

解决方案

IEEE会员Yale Fox表示:“组织可考虑投入先进的威胁检测技术,及时发现和拦截恶意尝试。这些技术利用机器学习和人工智能来识别和标记潜在的网络钓鱼企图。”

躲避系统防护

挑战

人工智能开发人员通常会创建防护栏,以防止他们的创作产生攻击性或非法内容。

解决方案

IEEE会员Rebecca Herold表示:“总有人会努力破解系统。阻止它们的最好方法是进行更严格地开发,然后全面测试大型语言模型算法。”

AI VS AI

挑战

人工智能正被用来利用或对抗其他人工智能系统——通过对抗性人工智能等技术来欺骗通常具有关键安全要求的系统。

解决方案

IEEE高级会员Amol Gulhane表示:“通过在训练过程中将模型暴露在各种攻击场景中,它将变得更加完善,能够识别和拒绝恶意输入。”

(8340805)

原文地址:https://www.toutiao.com/article/7285869678680048186/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


春节逐渐临近,在走亲访友之际,一同开黑上分自然是串联亲情与友情的不二选择。近期发布的ROG 8系列游戏手机,便搭载了最新第三代骁龙8平台、165Hz E6 AMOLED电竞屏、AirTrigger 肩键等硬件,同时加入IMX 890主摄、I
还有半个月左右的时间农历龙年就要来了,在这些辞旧迎新之际可能很多人都有更换手机的计划,无论你是自己用,或者是送家人、送朋友,都希望能够选购一台颜值和实力兼具的手机。而前不久刚刚推出的vivo S18 Pro非常值
就在9月13日凌晨,苹果正式发布了全新的iPhone 15系列,相比于前几代产品,这些iPhone 15全系升级都比较巨大。想必很多消费者都按捺不住激动的心情,想第一时间入手全新的iPhone 15系列,目前京东商城已经为大家筹备
【手机之家导购】作为智能手机领域的领军品牌之一,OPPO以其出色的技术和卓越的设计赢得了广大消费者的喜爱。今天,我们将为大家介绍OPPO旗下一款备受瞩目的产品——OPPO A2 Pro。这款手机不仅具备出色的外观设计和优
最近总是听到身边宝妈们在抱怨,给宝宝拍的照片视频,很多都舍不得删,但是存放在硬盘或者U盘里时间久了都找不到这些东西在哪里,使用网盘又要账号密码、验证码,而且担心数据存放不安全。那到底有没有更好的解决方案
近两年,折叠屏手机开始大面积普及,相对于传统折叠屏来说,它在产品形态方面具有更加独特的优势,所以就能够带来更加高效便捷的商务体验。尽管目前折叠屏手机的产品素质进步幅度十分巨大,但是有一个细节却被很多厂
折叠屏手机自问世以来,就以其更加开阔的屏幕视野、更加自由的交互体验、更加时尚的外观,受到商务人士、时尚人士、影音达人的青睐。但是折叠屏手机似乎不是游戏玩家们的首选,原因主要时折叠屏手机由于生产成本更高
今年的中秋和国庆长假连到了一起,组成了长达8天的假期,如何选取一台适合在外出游、在内宅家的开黑利器也显得格外重要。而9月份最受欢迎的直屏8Gen2新机真我GT5,无疑是不错的选择。正赶上真我realme国庆大促活动,各
随着科技的迅速发展,手机的拍照功能已经成为我们日常生活中不可或缺的一部分。作为一款引领潮流的折叠屏手机,OPPO Find N3不仅拥有创新的设计和强大的性能,还在拍照方面展现出了惊人的实力。它的折叠像素传感器和
目前各类手机应用能够实现功能越来越全面,各类手游的画质也越来越细腻,内存焦虑也随之而来,每个应用动辄十几GB甚至几十GB。但是目前拥有1TB存储空间的顶配性能机型大多都价格不菲,劝退了不少消费者。而真我可谓是
当下人们选购折叠屏手机,内外双屏的大折叠屏手机十分具有吸引力,外屏状态下是一个普通的直板手机,而打开后,内屏则是一个平板电脑,让用户一台设备能够兼顾两种设备的体验,不过,折叠屏打造两种设备体验容易,想
对于入门级用户来说,最大的诉求便是能够入手一台更加经久耐用的手机。然而目前市面上千元机由于受制于成本因素,总会出现系统卡顿、电池老化、性能孱弱等问题,导致消费者不得不频繁更换手机。OPPO目前已经深刻洞察
【手机之家导购】OPPO A2 Pro作为OPPO品牌的中端产品,有着旗舰级的外观和设计,给用户提供了高质量和性价比。
旗舰机由于受成本制约较小,所以能够在硬件方面进行极致堆料,所以目前在体验层面不会拉开很大的距离,所以目前厂商们都把竞争赛道转移到了千元入门机市场。OPPO最近推出了全新的OPPO A2 Pro,在机身设计层面又卷出了
在文章开篇想问一个大家的问题,在平时使用手机过程中你最焦虑的问题是什么?很多同学都会回答是存储空间不足。备受推崇的1TB固然很好,但价格难免是一只“拦路虎”,而真我GT Neo5 SE不仅是目前市场中为数不多提供1T
很多消费者在购买手机的时候,都希望可以入手一款性能强悍且十分具有价格优势的机型。今年推出的真我GT5在硬件配置上就进行了极致的堆料,骁龙8Gen2旗舰配置一应俱全,关键双11百亿补贴最低到手才2483,这个价格十分
购买一款手机很多消费者最看重这两方面,一个是性能表现、一个是外观颜值。OPPO Reno系列一直就以出众的颜值深受众多消费者特别年轻女性的喜爱,而这次 OPPO Reno11系列将四色宝石融入到机身设计灵感之中,带来十分轻
就在前几天,全新的OPPO Find X7 Ultra正式发布,这款机型对于OPPO乃至整个机圈都具有非常重要的意义,它是OPPO推出首款Ultra机型,也是OPPO首款采用四主摄方案的机型,也是今年最早发布的影像旗舰。OPPO Find X7 Ul
【手机之家导购】智能手机已经成为我们日常生活中不可或缺的一部分。然而,随着超级应用的涌现和我们对手机依赖程度的加深,手机内存不足的问题逐渐成为我们使用手机时的一个痛点。为了解决这个问题,有越来越多的手
【手机之家导购】在这个看脸的时代,手机的外观设计已经成为我们选择手机的重要因素之一。在众多手机品牌中,哪款手机拥有出色的外观设计,能够让你一见钟情,心生欢喜呢?本文将为你推荐四款拥有出色外观设计的手机