官方公众号企业安全新浪微博

FreeBuf+小程序把安全装进口袋

• 资讯

经过一天”激烈厮杀“， 4 月 25 日，RSAC 2023 创新沙盒大赛”冠军“角逐落下帷幕，致力于人工智能技术网络安全研究的 HiddenLayer 最终斩获大赛冠军，成为2023年全球网络安全最牛的那匹黑马。

从创新沙盒大赛十强厂商的演讲视频来看，各参赛选手的演讲内容基本围绕人工智能技术本身的安全性以及如何使用人工智能技术解决网络安全问题， 经过角逐，Hidden Layer 凭借其创新性，获得了评委以及现场观众的认可，笑到最后。

值得一提的是，虽然 HiddenLayer 获得了”冠军“，但部分分析师并不完全看好它，指出 HiddenLayer 的产品商业化存在一些潜在问题。之所以能够最终脱颖而出，一方面是因为微软AI网络安全产品Security Copilot成功落地，另一方面可能是本次赛事评委对创新性考虑要多于商业化的角度。

此前，FreeBuf发布“RSAC明天开幕，谁会成为网安行业最牛黑马？”一文，对于“AI+网络安全”有着极大的期待，毕竟2023年人工智能以近乎“革命”的发展态势，掀起了一轮前所未有的产业热潮，而作为行业创新风向标的创新沙盒大赛，估计很难不受这种“氛围”的影响。部分实力强劲的网安初创企业没有拿到冠军，或许出人意料，但AI+网安企业拿下冠军却又在情理之中。

那么，接下来AI+网络安全将成为热门创业方向吗，我们一起拭目以待。

以下是HiddenLayer 现场演示环节的部分照片：

HiddenLayer 介绍

2022 年，一群来自网络安全领域人工智能和机器学习创业公司 Cylance 的年轻人决定”单干“，在美国得克萨斯州奥斯汀市创办了 HiddenLayer。目前，该公司已获得 600 万美元的融资。

HiddenLayer 是机器学习算法和模型安全解决方案的提供商，成立于 2022 年美国得克萨斯州奥斯汀市。基于轻量化的软件平台方案，HiddenLayer 能够提供针对机器学习系统的威胁建模、风险评估培训、红队评估服务。目前，已获得种子轮 600 万美元的融资。

创始人团队来自 Cylance，同样是一家网络安全领域的人工智能和机器学习创业公司，采用了深度学习等技术手段实现了恶意软件的分析能力。HiddenLayer 官网给出了一个故事，说明了团队成立契机 —— 源于 2019 年在 Cylance 发生的一次真实的对抗机器学习攻击事件。

HiddenLayer 创始团队成员发现，攻击者采用模型推断技术（Model Inference Attack），制造了可绕过 Cylance 恶意软件检测机器学习模型的恶意程序，并进一步控制了客户设备。可见，机器学习的威胁攻击面暴露并被利用的真实事件，是推动 HiddenLayer 团队成立创业公司的核心驱动力之一。

HiddenLayer 官网给出了其 “CONSULTING SERVICES”，具体又包括以下核心能力。

• 威胁建模（THREAT MODELING） 通过综合的调研和攻击预演，全面的评估业务需求和 AI/ML 威胁攻击面。通过场景化的分析，评估整体的 AI/ML 环境和资产风险，可以交付相关系统的威胁向量、可能性、影响、受影响的资产以及缓解和恢复工作。
• 机器学习的风险评估（ML RISK ASSESSMENT） 分析机器学习模型的整个运营流程，并深入分析关键模型的风险，提供机器学习技术的投资风险分析。
• 专家培训（EXPERT TRAINING） 为数据科学和安全团队提供了解 AML TTP（针对机器学习的威胁、战术和程序）和最有效的对策来保护系统免受这些威胁的影响。
• 红队评估（RED TEAM ASSESSMENT） 通过攻击渗透团队（Adversarial Machine Learning Research, AMLR）进行实战化攻击渗透进行现有的机器学习系统防御有效性。
• 人工智能 / 机器学习的模型扫描（AI/ML MODEL SCANNING） 使用其模型完整性扫描器来测试和确认现有相关模型的被攻陷、被篡改等风险。
• MLDR 实现服务（ML DETECTION & RESPONSE (MLDR) IMPLEMENTATION SERVICES） 提供其无侵入式 MLDR 软件的集成服务。

从以上核心产品、服务能力来看，HiddenLayer 可以提供给服务，或软件集成的方式，向人工智能 / 机器学习的服务商、使用方等企业，提供定制化的攻击面识别、攻击防护、攻击模拟等核心能力。

参考来源

https://www.rsaconference.com/library/press-release/hiddenlayer-named-most-innovative-startup-at-rsa-conference-2023-innovation-sandbox-contest?utm_campaign=RSA%202023&utm_source=Newsroom