长亭安全大模型正式推出,首位虚拟员工上线
2023-7-3 19:3:10 Author: mp.weixin.qq.com(查看原文) 阅读量:7 收藏

通用大模型 + 网络安全垂直领域训练

能得到什么?

今天,长亭安全大模型正式推出

TA给你答案。


首先我们拿长亭最擅长的流量检测,来看大模型的buff。

2015年,长亭把智能语义分析落地在流量检测中,同年推出了SQL Chop,并受邀在国际顶会Black Hat兵器库展示。

彼时,攻击检测核心关注的是特征检测,通过分析请求中是否包含符合特定特征的内容,来判定当前请求是否包含攻击。

检测完得到的是一个“是/否”的答案。

而大模型的加入则可以让安全运维人员进一步知道请求“是什么”即快速理解攻击的背后意图

先不长篇累牍盛赞价值,来感受下大模型加持下的长亭语义分析:

LLM的一个能力,是能够感知和理解文本中所蕴含的逻辑与含义,应用到安全检测/分析上,就可以理解攻击载荷的含义与意图。

整体来说,大模型的能力加持,对于语义分析意味着:

1

语义分析可以从攻击载荷中提取到准确的、符合特定语法(SQL、JavaScirpt 等)的 “语义信息”

2

结合语义信息背后的漏洞成因、攻击逻辑、实质作用等信息,提供给大语言模型;基于大量攻击知识库信息微调的模型能够捕获到攻击语义与攻击意图之间的逻辑关系,从而生成更加明确且通俗易懂的攻击解释文本

3

进一步,当攻击者利用多个漏洞入侵时,大模型可关联不同类型的攻击手段,合并分析尝试过程,当捕获到相关的动作和意图之后,能够判断这个攻击行为所处的阶段,以及是否成功,同时针对各个阶段产出针对性的防御、缓解措施或建议

4

在流量检测阶段,识别出试探性的攻击。大模型捕获到相关动作和意图后,给出一定概率下的攻击行为判断,比如:有 60% 的概率在尝试绕过权限验证

大模型在 ToB 领域的一个最大问题,在于模型的“幻觉”,即当大模型不具备回答问题所需的知识时,会“胡说八道”,这对于信息准确度要求极高的专业领域是无法接受的。

举个例子。

当提问"CVE-2021-99999影响”相关的问题时,我们希望大模型首先知道这个漏洞是不存在的,而不是一本正经的胡编乱造。

经过训练的模型应用,在这类专业领域的回答就靠谱很多。

长亭基于自身多年的安全工作领域知识的积累,整合大模型对于文字信息的提取、理解、加工、组合的能力,呈现最权威、最准确的领域知识。有了专业领域经验的加持,使用者不必担心信息的准确性,可以在安全运营、事件分析、渗透测试等多个安全领域,为我们的工程师和合作伙伴提供效率的加持,从而为客户带来更优质的服务。

长亭在自身多年安全攻防领域的积累之上,推出基于大模型的行业知识问答功能,帮助安全从业人员快速获取权威、准确、实时的安全攻防信息。

对话长亭首位虚拟员工
Q
A
请介绍下自己

我是长亭科技开发的帮助用户回答计算机或网络安全相关问题的 AI 助手,希望可以帮助大家提升安全效率。

Q
A

你是长亭研发的大模型吗?

我是基于大模型的应用,不是长亭自己开发的大模型。

我对接了多家国内外主流的大模型产品,具备通用大模型的问答能力,同时有丰富的网络安全专业知识。
Q
A

为什么是多个大模型,而不是一家?

当前国内外每个大语言模型的能力有其侧重,适合的细分领域不同。长亭正在努力研究不同大模型具体的特性,以便在每个具体的场景,为用户自动调用最合适的大模型。

同时,我也迫切希望和后续新出现的大模型开展合作,在实践中提升双方的能力。

Q
A

你的能力主要有哪些?

一是攻击分析我对接了多个大模型的能力,结合长亭语义分析引擎,用自然语言通俗易懂的解释清楚,一个请求为什么是攻击,提供深入的攻击理解。

二是安全问答:覆盖网络安全领域的各类问题,不论是基础知识的咨询,还是复杂漏洞的解读,都能准确和详尽的回答,提升问题解决效率。

Q
A

你的未来规划是什么?

首先,能力会持续增强

1、围绕漏洞,形成完整的漏洞成因分析、排查手段、修复方案,以及结合长亭自身安全产品能力提供自动化的处置建议,并通过长亭一系列漏洞管理相关产品(攻击面管理、漏洞扫描与资产管理等)形成闭环;

2、继续丰富和完善长亭安全知识库,不断地将攻防知识、产品知识、技术知识,以及长亭多年在技术问题处理上的积累转化为可供大模型使用的基础语料,改进产品交付与售后环节的用户体验,未来以 copilot 的形态将产品运营过程的自动化辅助能力集成到产品中,提升使用效率。

其次,我将持续探索新一代安全服务形态

基于大语言模型实践自动化漏洞挖掘和自动化渗透测试,将安全攻防能力与效率再次提升一个水位。

最后,成为未来安全能力的试验场

长亭未来的安全能力都将优先考虑与大语言模型的整合,在我的平台上发布和验证, AI-first !

Q
A

你现在可以跟公众面对面交流吗?

目前,我只在长亭内部测试。

一方面,我需要跟这些大模型需要更进一步的磨合,另一方面,我还要解决隐私、数据安全等问题,让自己更加合规、合法、安全可信,避免所有敏感、机密信息流出指定区域。

等我更加完善后,会早日与大家面对面交流,期待ing!

Q
A

你有什么话想对大家说吗?

非常荣幸可以成为长亭首位虚拟员工。

在正式入职前,我已经与同事们有过多轮交流,我能感受到大家对于大模型的热情和认真,这让我受益颇多,飞速成长,相信不久之后我就会更加成熟,为长亭和各位客户提供更加有价值的支持!

长亭科技一直致力于人工智能研究,早在2017年就被评选为《财富》中国创新企业“人工智能和机器人”领域全国第一;2018年凭借其创新技术驱动的网络安全实践,被全球知名信息技术咨询机构、IT媒体《CTO Advise》,评选为当年亚太地区25家最热门人工智能公司之一;在2020年被评为中国人工智能商业落地价值潜力100强。

大模型在垂直应用领域深度应用的趋势不可阻挡。长亭科技将持续学习各大模型,同时训练网络安全小模型,打造具备更高实战价值的模型应用,让我们一起期待这位虚拟员工在长亭大展宏图!

END

文章来源: https://mp.weixin.qq.com/s?__biz=MzIwNDA2NDk5OQ==&mid=2651384632&idx=1&sn=7953c468543030537e96e5f1fd1df5e8&chksm=8d399ab0ba4e13a61c607fe2113b9293c0ecc42ae39b23a17aca2430e6bd9cb0558d0d18c222&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh