?一文预见AI 宁静生长的新实践、新趋势

宣布时间 2023-02-08

编者按：


2022年，人工智能（AI）技术的新生长与新应用，依旧不停地捕捉人们眼球，同时AI与网络宁静的交叉碰撞，继续缔造值得关注的新问题与新实践。本文详细介绍了AI技术生长新动态、AI宁静新实践，分析预测了当前AI宁静的生长新趋势。


AI技术生长连续高涨


在2022年度，AI技术继续保持高速生长，其中以下两点尤其值得关注：


一是生成式AI技术牢牢占据人们的视野。由文本生成图像的DALL?E2掀起这一热潮，其后以Stable Diffusion为代表的扩散模型，让每个人都可以成为数字图像艺术的创作者，还有可由文本生成视频的Make-a-Video与Imagen等。尤其近日横空出世的文本生成技术ChatGPT更是快速席卷全网，对话、问答、写作等样样精通，甚至连机器学习领域的知名学术会议ICML都专门制定政策，以禁止在投稿论文中包罗从ChatGPT等大型语言模型生成的文本。


二是AI技术继续为其他学科领域的研究助力。例如：DeepMind的AlphaFold完成了对100万个物种体内约2.2亿个卵白质的结构预测，Meta的ESMFold只用了2周时间预测了约6.17亿个卵白质的结构，虽然准确度不如AlphaFold，但预测速度快了60倍；DeepMind的AlphaTensor可以自动搜索发现更高效的矩阵乘法算法等。


陪同着新算法模型的不停泛起，AI技术向上为前沿科学研究提供支撑助力，向下更深入渗透到社会生活的方方面面，处置文字、图像、视频、语音等种种信息载体的能力不停提升，一个完全由AI驱动的“人造人”似乎距离我们越来越近。


AI宁静新实践赋能网络宁静新生长


AI技术的连续生长也推动着它与宁静的更多碰撞融合，主要包罗“AI赋能网络宁静与AI自身宁静”两大方面。


在AI赋能网络宁静方面，其生长依旧泛起出稳步向落地推进的总体趋势。以下是两个较为详细且较新的典型案例，同时对东森平台所开展的类似实践事情进行简要说明。


LiveAction的加密分析（Cryptanalysis）技术：LiveAction将加密分析技术分为三个条理——流量分析（IP地址、端口、协议、时间戳等维度）、证书分析（加密套件、TLS指纹等维度）与深度报文动态特征分析（包长度序列及时间序列等维度）。通过对三个条理的组合应用，实现更精确的加密流量检测。


针对此技术，东森平台积极开展了相关研究，围绕接纳加密的DNS隧道、HTTP隧道及HTTPS隧道通信的攻击流量，设计出高效的AI检测技术，并在NFT及TAR等产物中实现落地应用。


Ionate的AIOps与AISecurity平台：Ionate为AI赋能网络宁静设计一套解决方案，部署的AIOps与AISecurity平台，能够应对处置多样化的、低质的及不完整的数据集，对数据进行规范化处置，通过灵活配置算法训练异常检测模型，并在模型启用后监测体现以实现自适应调整。


东森平台自主研发的人工智能宁静建模和赋能平台，正是将AIOps自动化运营的能力加持到AI宁静建模的全过程中，全面提升数据获取、数据处置、算法配置、模型训练、模型部署等步骤的效率，让AI检测分析模型越发触手可及。


在AI自身宁静方面，针对AI算法模型的攻击一直是学术研究的热点之一，存在数据投毒、反抗样本、成员推断、模型萃取等多种攻击方式，对AI应用带来严重威胁。Gartner宣布的2023十大战略技术趋势中将AI信任、风险及宁静管理（AI TRiSM）列入其中，反映出业界对此的关注与重视。

东森平台积极投入到AI自身宁静方面的相关事情中，包罗加入AI计算平台宁静框架尺度的制定事情及一些相关研究课题等，上文所述的AI宁静建模和赋能平台中也将融入相应功效，对构建的模型提供防护。


AI与网络宁静将越发深入交融


随着AI技术的连续快速生长以及网络宁静新场景的不停增加，可以预见AI与网络宁静之间在未来将有更深入的交叉融合，具体包罗以下三大方面。


1、面对AI技术新进展，机遇与风险并存


新技术外貌上看似与网络宁静领域没有直接关系，却存在很大的潜在关联。一方面，新技术可以进一步助力现有的网络宁静应用并促进形成新应用。例如，自然语言理解技术的连续生长将助力高质量威胁情报的自动提取，同时促进类似于智能客服系统的宁静运营智能助手等新应用的诞生；另一方面，这些技术也可能被恶意利用，从而发生新的宁静威胁，好比生成式AI技术可以被用于生成越发传神的虚假图像或钓鱼邮件，甚至可被用于自动生成恶意软件的代码等等。因此，AI技术的新进展既是扩展与提升网络宁静应用的新机遇，同时也陪同着一些新的宁静风险与威胁需要应对。


2、AI模型部署后的性能监控与自适应更新将获得更多关注


AI赋能网络宁静的一类重要应用是通过构建种种AI模型，实现对威胁分析检测的支持，而网络宁静威胁是连续生长演变的，新的恶意代码与新的攻击手段不停泛起，基于历史数据、样本所构建的模型不行能恒久有效。这就需要对已部署的模型进行监控，并在发现性能下降后能够执行自动更新而无需过多的人力投入。实际上所有AI模型应用都市面临类似问题，在Gartner宣布的2022年和2023年战略技术趋势陈诉中，AI工程与自适应AI分别被列入，也体现出业界对这一问题的关注。因此，在网络宁静领域，随着越来越多的AI模型实现落地部署，模型性能的监控与自适应更新技术也势必将受到更多关注。


3、AI助力网络宁静研究未来可期


在上文提及AlphaFold、AlphaTensor等AI助力其他学科领域研究事情的案例，相关事情仍在不停优化与扩展，可以预期AI技术在未来将会助力更多科学研究事情。网络宁静学科领域同样也是潜在的被助力工具。从广义上来说，现有的AI赋能网络宁静技术研究也是一种助力形式，主要是利用AI技术来提升一些网络宁静问题的解决能力与效果，好比提升威胁分析检测能力、漏洞自动挖掘能力等；从久远的视角来看，网络宁静领域一些更深层、更基础的问题也将会得到AI助力，好比网络攻防计谋、密码/协议/系统宁静性分析等。


目前，人工智能技术在高速生长过程中，其宁静也面临诸多挑战。东森平台将会继续坚持技术创新驱动引领生长，在人工智能宁静等前沿技术领域不停开拓前行，稳步提升与“护航数字中国，领航信息宁静”这一使命愿景相匹配的宁静能力，进一步助力我国网络宁静的高质量生长。