2024年,全球AI用户已经达到了2.5亿,典型的应用场景如自然语言,对话式的应用、翻译,预计2027年用户将超过5亿,多模态、个体化的应用场景不断问世,2029年用户数可能超过10亿,迎来更复杂的AI分析与逻辑应用场景,2032年,当用户数超过30亿的时候,势必有更多预见性的、自适应、自学习的应用场景;同时,AI大模型从2023年的1600个增长到今天的2000多个,2030年预计5倍的增长,达到12000多,AI的SaaS应用也将从目前的8000个跃升至2030年的6万个……
AI广泛应用的今天与产业安全策略
AI广泛应用的今天,安全被提到了非常高的地位。对于企业而言,希望跟踪并了解员工使用AI的情况,确保AI应用、开发、生命周期以及供应链的每一个环节都是安全的, AI数据在不被授权的情况下没有任何非法访问,防止数据的泄露。在派拓网络大中华区售前总经理董春涛看来,由此意味着两个显著的新兴市场,一是如何保护员工访问AI场景,预计这是一个250亿美元的有效市场,二是企业大量自研或第三方开发的AI应用因为需要被保护,将产生150亿美元的市场规模。
“可以说,AI的旅程才刚刚开始。”董春涛表示。
AI大量应用和研发的同时,也存在一些隐患。在某些企业,半数员工其实不知道什么情况下更适合使用AI APP,很多研发人员采用AI工具做代码的审核,或直接开发一些应用,这难以避免地有很多的黑洞,同时这些公开的AI模型八成可以被越狱,超过100多种恶意的模型在野传播。
AI整个大规模采用,给整个安全态势产生了新的挑战。
派拓网络提出的“从源头规划部署AI安全”已经成为企业必然,在整个IT发展中也是前所未有的举措。
扩充现有平台的三大能力
针对AI安全发展方向,派拓网络近期推出了以现有的平台扩展的三大能力来交付,预计能帮助企业应用并取得立竿见影的成效。这三大能力分别是从源头设计上保护AI、全平台内置 Precision AI、彻底简化安全运营与管理。
1.从源头设计上保护AI。
这是指从设计之初确保AI安全,通过清查AI采用情况、保护数据、应用控制策略并保护基于AI模型的应用。对应了三大产品线。
第一大产品线是AI的访问控制AI Access Security。在AI接入访问方面,派拓网络已经推出了产品UI。派拓网络通过对人工智能使用情况的实时全面可视化,可查看使用了哪些人工智能应用程序和由谁在使用,从而采用全面的数据保护措施,扫描哪些数据、机密和知识产权已被共享,阻止未经批准的应用程序,确保员工访问AI都是安全的。
二是AI的安全态势管理 AI-SPM。主要是为管理员提供AI应用开发的全生命周期中对整个安全态势统一的可视化。具体实现方式是基于整个AI生态全面的源代码、数据集等感知能力全方位扫描,察悉人工智能模型、基础架构、数据集和代理,借助自身的知识库和广泛的威胁情报持续分析风险,实时评估和鉴别,最终根据优先级别与推荐,提供可行动的见解和补救措施指导。
三是AI Runtime Security。具体对策是及时抑制零日威胁。无论是自研的还是第三方的AI应用,都提供上线以后的保护,比如聊天的应用程序如何不被提示词注入侵害,其次,通过防止敏感数据被泄露,实现人工智能数据保护,通过保护人工智能模型不受滥用和攻击,实现人工智能模型保护,这种保护的能力是强大而完全独特的。
在上述三项功能中,董春涛更兴奋的是AI运行时管理,这相当于AI防火墙,而派拓网络的成名产品是下一代防火墙,这意味着派拓网络的传承、演进和更具优势的AI应用保护与更好的服务。当然,他并不是因此就忽视了AI Access Security,毕竟AI Access Security可以立刻见效,马上保护好客户。
2.AI Security Assessment。
帮助客户对整个AI使用开展前期调研,发现隐患,为客户提出有益的咨询和指导,其中全平台内置Precision AI基础的组合,涵盖机器学习、深度学习以及大语言模型。作为派拓网络率先提出的概念,Precision AI结合来自安全行业8.5万余家用户、积累了十余年PB级别更为精准的数据,更为精准的训练模型,可构建更精准的攻击检测率和识别率,达到更高可信度的实时检测响应能力,在AI的使用、防范未知威胁的过程中取得先机。Precision AI技术赋能了所有安全平台,包括网络安全、云安全、端点安全和安全运营中心。
3.彻底简化安全运营与管理。
AI正在改变安全从业人员与AI技术的交互,传统安全产品数量繁多,配置复杂,定制化工具、各种能力以及工作流之间的频繁转换,对行业都是很大的挑战,逼迫安全工作者与威胁赛跑,一方面需要自动、持续地监测和检测异常和破坏行为,另一方面还要对事件实时应对,以高度自动化的方式抑制和消除威胁。
与此同时,威胁攻击者正在采用人工智能快速产生新的威胁,这与人们以前看到的任何东西都不同。通过AI赋能,威胁攻击者可以轻松攻击更多目标,以闪电般的速度扩大攻击范围,每次攻击都是零日攻击,因为很快就产生多种新型攻击方法。一组数据反映了AI是如何被恶意利用,从而影响整个攻击的规模效应:如勒索软件从12小时的传播规模降低到分钟级;攻击数据泄露、漏洞利用分别从数天、数周的量级缩短至分钟级。
“AI的大规模采用,使安全态势完全改变了。”董春涛表示,派拓网络展示了以大语言模型来彻底简化安全运维和管理的高超水平。
Copilots:以Precision AI赋能产品更高安全
过去一年的时间中,派拓网络在STRATA、PRISMA、CORTEX三大平台上都致力于研发Copilots工具,充分利用自己的数据和经验,采用大语言模型的技术不断培训,基本具备了跟安全管理人员以自然语言的交互能力并逐渐优化,使安全管理与安全工具等系统的使用门槛不断降低,从业人员可更轻松地驾驭这个功能强大的系统。
如今,目前正向Beta客户开放推出的派拓网络Copilots,正以Precision AI赋能所有产品线,为AI应用的访问做好防护,并逐步走向自主化运营、全自动化报告,最终让AI与安全融为一体,达到自适应、自学习进而完全自主安全。
展望未来:看好中国,持续技术演进和市场推广
事实上,AI Access Security的平台是SASE,其在中国已经落地,AI Runtime Security目前在全球公有云上运营,有希望很快引入中国落地应用。
谈到未来趋势,董春涛表示,AI已经被定义成安全的长期策略,除了以AI对抗AI,派拓网络在保护AI应用、以AI赋能安全技术以及用大语言模型优化用户界面等各方向都会持续发力,直至实现完全、彻底的以AI赋能的自主安全。
- 量身定“智”,戴尔科技助力昆山同日开启物流发展新引擎 – 2024年12月5日
- 车规级UFS 4.0将变得愈发重要 – 2024年12月4日
- 凌华智能推出可链接IoT的无风扇迷你掌上电脑 – 2024年12月4日