叮!你的 AI安全“秘籍”已送达,请签收
2023-9-1 17:0:36 Author: www.freebuf.com(查看原文) 阅读量:6 收藏

2023年初,全球生成式 AI 产业迎来了爆发式增长,大量AI产品和应用纷纷落地,让用户深度感知AI的魅力。预计到2032年,生成式AI市场的营收规模将从2022年的400亿美元增长至1.3万亿美元。

就在大量用户“尝鲜”生成式 AI 时,无数全新的网络安全隐患正在浮出水面。如何解决AI带来的安全问题,进一步利用AI赋能网络安全成为网安行业关注的新焦点。

2023年8月31日,亚马逊云科技 re:Inforce 2023 中国站在北京隆重举行。本次大会以“AI 时代 全面智能的安全”为主题,聚焦生成式 AI 给企业安全带来的机遇和挑战。

亚马逊云科技认为,安全是构建生成式 AI 不可回避的重要议题,也是AI真正发挥作用的基石,企业只有在 AI 旅程中做好数据、模型和应用的安全防护,才能更好地借助 AI 加速业务创新,同时在全球业务规划做好战略布局。

安全也是亚马逊云科技多年来持续建设的第一目标。大会开场后,亚马逊云科技全球安全副总裁Paul Vixie 向大家介绍了亚马逊云科技在安全合规方面的成熟经验,以助力用户在 AI 时代共启全面智能的安全。

在大会上,亚马逊云科技宣布与涂鸦智能成立“联合安全实验室”,双方将在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面展开联合共创等。

亚马逊云科技正式推出“敏感数据保护解决方案”,实现敏感数据自动化发现,并在统一平台管理数据资产。大会还发布了多项安全新服务及功能,如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等,推进企业落地零信任、智能化发现漏洞并响应。

AI 时代,引领智能云安全

近年来,人工智能技术飞速发展,生成式 AI 应用场景井喷,迎来新的转折点。会上,亚马逊云科技大中华区解决方案架构总监代闻带来了“AI 时代,引领智能云安全”主题演讲,深刻解读了生成式 AI 浪潮下企业面临的云安全挑战,同时结合生成式 AI 安全的最新趋势,携客户和合作伙伴与大家分享了最新安全合规洞察与实践。

1693558072_64f1a53819aed7ccb0d6a.png!small?1693558075924

【亚马逊云科技大中华区解决方案架构总监代闻】

数据和模型安全是构建 AI 应用的关键 

数据是企业使用 AI 进行业务创新的基础。在实践过程中,企业通常需要使用高价值的业务数据进行模型训练和微调。数据在产生价值之前会经过存储、传输、使用、治理等各个环节。为构建生成式 AI 应用,企业首先应在数据流动的过程中确保端到端的数据安全,为生成式 AI 的应用提供安全和有价值的数据输入。

亚马逊云科技一直严格遵从客户拥有和控制数据的理念,提供行业领先的技术和物理措施来防止未经授权的访问,为数据提供涵盖存储、传输、使用、治理等各个环节的加密及保护服务。例如,亚马逊云科技的客户可使用 Amazon Key Management Service (Amazon KMS),并将其与亚马逊云科技众多服务深度集成轻松保护多种数据;Amazon Nitro 提供硬件级别的安全机制,可实现网络、存储隔离的独立安全通道,使用 Nitro Enclaves 的加密功能,客户可进行机密计算,其中多个参与方可以加入和处理高度敏感的数据,而无需分别向每个参与方披露或共享实际数据。

1693558128_64f1a5706a6aadffb6a93.png!small?1693558131430

亚马逊云科技还提供贯穿如 Amazon Data Zone 整个数据周期的治理服务,并在本次大会上推出了敏感数据保护解决方案,可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型,该方案利用机器学习、模式匹配的方式自动识别敏感数据,并提供可视化面板,帮助客户更轻松地对敏感数据进行管理和保护。

1693558162_64f1a5923b47692508aa5.png!small?1693558165352

企业需要借助模型以及基础模型构建 AI 应用,要确保训练结果的准确性和有效性,模型训练的安全性同样至关重要,企业应全方位的监控模型的安全运行,包括模型的访问安全、模型的管理、模型运行的安全监控等。针对自建模型的企业,Amazon SageMaker 提供了多种功能帮助开发人员更轻松地构建、训练和部署模型,如 Amazon SageMaker Model Cards 可实现对模型信息的统一管理、Amazon SageMaker Model Monitor 可自动监测模型的准确性。

1693558189_64f1a5ad0c9c2d733c5a9.png!small?1693558192239

为降低客户生成式 AI 的使用门槛,亚马逊云科技在今年4月推出了完全托管的基础模型服务 Amazon Bedrock,客户可根据自身需求通过 API 访问及使用其中的基础模型。Amazon Bedrock 与亚马逊云科技其他托管服务一样,客户可安全地在其虚拟私有云 (VPC) 中使用该服务并对基础模型进行微调,始终保持其自有数据以及模型的安全。

1693558208_64f1a5c0dae020acc5960.png!small?1693558211998

应用安全是实现 AI 价值的保障 

生成式 AI 应用本身以及访问的安全性也同样重要。将安全功能嵌入 AI 应用之中是提升应用本身安全性的方法之一。

开发全流程中的安全 —— DevSecOps

1693558290_64f1a6126bae22a4c6699.png!small?1693558293983

以 Amazon CodeWhisperer为例,该服务是亚马逊云科技推出的 AI 编程助手,可根据开发者指令利用内嵌的基础模型实时生成代码建议,该服务内置了代码安全扫描功能,可帮助开发者查找难以检测的漏洞并提出补救建议。

Amazon CodeGuru Security主要定位在 CICD 阶段,可以在开发流程的任何阶段发现并解决代码漏洞,第二,能够在 CICD 的过程中通过 AI/ML 的方式自动降低误报率,同时它基于 API 设计,能够非常方便地集成到开发的工作流,实现集中化和扩展性。

1693558316_64f1a62c8d325041a441c.png!small?1693558319948

运行中的安全

针对应用的安全访问,企业可构建零信任的应用安全访问策略。亚马逊云科技日前推出了Amazon Verified Permissions,为用户构建的应用程序提供细粒度授权和权限管理,用户可以使用该服务管理其应用程序的角色和属性的访问控制。

1693558348_64f1a64c800efaf3509f5.png!small?1693558351495

来自领创集团的信息安全总监赵海旭还以“走在安全威胁的前面”为主题,为大家带来了精彩演讲。

1693558370_64f1a6624a8c18fc51ff4.png!small?1693558375077

合规能力加速生成式 AI 全球创新 

亚马逊云科技现已在全球获得超过140个安全标准和合规认证。值得一提的是,这些合规认证不只是覆盖了基础设施,还有非常多的平台应用,如容器平台、无服务器平台等。亚马逊云科技还将 AI 技术应用到其安全及合规服务中,通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率。

1693558403_64f1a683010e7b2ad6e1d.png!small?1693558406263

亚马逊云科技通过在其500多项自身合规审计控制项中使用 AI 技术,大幅提升了自身的合规效率,将审计时间节约了53%。亚马逊云科技在保护客户的合规、安全的同时,也在积极地使用人工智能技术提供自身的合规能力。此外,亚马逊云科技 APN 合作伙伴网络提供了数百种行业领先的安全解决方案,以多层保护的方式来保障客户的应用和数据安全。

重磅发布速览:全方位加码行业与出海安全

与涂鸦智能成立“联合安全实验室”,为物联网行业安全发展注入新动能

1693558440_64f1a6a8c2f53200d1ee1.png!small?1693558445871

亚马逊云科技宣布与全球领先的 IoT 开发者平台涂鸦智能成立“联合安全实验室”,双方将在智能家居、数据安全、安全文化建设、海外合规等领域,重点就机密计算及数据隐私、Matter 技术合作及体系建设、生成式 AI 在 IoT 领域等安全实践展开联合共创。

涂鸦智能与亚马逊云科技已有近九年的合作历史,此次“联合安全实验室”的成立将进一步加强双方的合作,为物联网行业安全发展注入新动能,致力于为客户和终端用户的物联网设备提供更多安全保障。

与德勤合作发布《中国企业出海发展建议白皮书2023版》

1693558480_64f1a6d09f45420670541.png!small?1693558484468

亚马逊云科技与德勤企业咨询合作发布了《中国企业出海发展建议白皮书2023版》,从组织建设和技术实践两方面提出安全合规建议。在组织建设方面出海企业应当建立健全管理体系,包括制定隐私处理原则、数据保护原则,实行数据生命周期管理制度、数据泄露管理规范,健全相关事件的响应、评估等操作规程;在技术实施方面,亚马逊云科技提供的300多项安全、合规服务及功能,涵盖威胁检测和事件响应、身份认证和访问控制、网络和基础设施安全、数据保护与隐私以及风险管控及合规五大领域,为企业提供全方位的云上安全保障。

除此之外,亚马逊云科技还提供责任共担模型、云上隐私保护和几乎满足全球所有监管机构合规性要求的合规计划,全面助力中国企业应对出海合规挑战。

圆桌论坛直击:生成式 AI 时代的创新安全

以“生成式 AI 时代的创新安全”为题的圆桌讨论环节,亚马逊云科技大中华区安全合规与治理产品总监白帆与 vivo 首席安全官鲁京辉、货拉拉数据安全负责人李伟、派拓网络大中华区技术总监董春涛、德勤中国安全隐私高级合伙人何微围绕各自在生成式 AI 的实践过程中遇到的问题,展开了深度讨论。

1693558524_64f1a6fc1e6965f27f8cf.png!small?1693558527869

AI正在改变全球用户的生活和工作方式,也给企业带来了全新的业务形态和发展机遇。但正如亚马逊云科技re:Inforce 2023大会所指出的那样,安全是AI未来发展和应用不可回避的焦点,如何平衡AI与安全将会成为一个需要长期探索和践行的话题。

也正如我们在大会上所看到的,亚马逊云科技在生成式AI领域已经有着一系列的探索和成果,在确保安全不动摇的基础上,充分释放AI的潜力,促进AI引领全行业的革新。例如AI大模型首先需要做扎实的就是安全合规工作,亚马逊云科技可为企业提供生成式 AI 的各种工具,涵盖数据、模型以及应用各个环节。此外还将 AI 以及生成式 AI 技术应用于其安全及合规服务中,以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。

生成式AI应用已经到来,日前我国已有11个AI大模型完成备案工作,将陆续开放给全社会使用。而当AI应用汹涌而至之时,我们更应该先一步夯实安全。


文章来源: https://www.freebuf.com/articles/376860.html
如有侵权请联系:admin#unsafe.sh