7日,由阿里安全联合清华大学开启的“安全AI挑战者计划”第五期对抗赛上,“电子萝卜章”问题被攻破。此前四期对抗赛的主题分别是人脸识别、图像分类、辱骂文本、以及针对目标检测算法的对抗攻击竞赛。该次对抗赛的主要目标是针对证件资质文档类图像进行伪造及反伪造对抗,通过实战环境解决困扰多年的社会问题。
所谓“萝卜章”,即伪造的印证。9月8日,阿里安全资深专家杭特表示,网络安全最大的风险正是在于技术规模化之后所带来的的危机,尤其当下5G、AI、大数据等技术的快速发展对企业安全能力相应提出更高要求。
阿里安全团队表示,随着各种P图工具的普及,篡改伪造出视觉无痕迹的假图门槛大幅降低,大量假图用于散播谣言、编造虚假新闻、非法获取经济利益,更有甚者还可能会被用来恶意地充当法庭证据。图像取证正是用于检测篡改伪造图像的技术,经过十多年的发展,已在新闻、司法、刑侦等领域广泛应用。
阿里安全专家渡明称目前政府和不少企业合同使用图像形式的印章,但只有少数政府部门有图像取证技术,国内外几乎没有商用的图像取证技术,一旦不法份子伪造印章图像,无法鉴别就会损失惨重。
本次对抗赛的共同出题人、清华大学教授朱军希望通过安全AI挑战者计划的努力,发展新的机器学习算法,并逐步将AI的安全问题体系化、标准化,逐渐形成一个优秀的线上社区,凝聚对抗样本,聚集AI安全方面的研究者与开发者,逐步提升机器学习算法的安全性和可靠性。阿里安全图灵实验室资深算法专家觉奥表示,目前国内安全技术人才缺口高达140万,与清华合作的安全AI挑战者计划也是希望能够培养更多新基建安全人才。
这些项目比赛逐渐落地推荐的背后,既有前沿技术落地对安全的威胁,也有技术本身的助推。当下疫情特殊背景下,加快发展数字化成为社会共识,5G、AI、区块链、物联网、大数据等新型基础设施建设快速迭代和创新,并广泛地应用到各行各业的虚拟应用中。与此同时,不同产业的数字化迁移速度加快,对网络空间安全建设标准的需求也尤为迫切。三个无法回避的事实是:三方软件必然存在漏洞,升级成本高;攻击者关注的应用风险面增加、攻击手法更加多样;基于网络边界的防护必然会被突破。同时,业务领域的安全问题也层出不穷。
今年3月,阿里巴巴发布数字基建新一代安全架构。阿里安全首席架构师钱磊表示,安全基建概念关注在数字经济实体搭建过程中建立标准化流程、引入关键技术,解决的就是数字经济实体搭建的“安全施工标准”问题。由攻防技术、数据安全技术、密码学、算法等安全技术构建的安全技术矩阵,是新一代安全架构的能力“底座”。
面对范围广泛的新基建技术领域,阿里安全的侧重点到底在哪里?杭特表示,团队会首先侧重技术储备,提前布局,尽可能覆盖重要风险领域,同时保证技术的领先性以及足够接地气。
(第一财经)