ModelOps在AI清静运营中的工程化实践

宣布时间 2022-03-23

随着AI手艺的逐渐成熟 ，各行各业都最先引入AI手艺来解决营业生产中的现实问题 ，其中 ，清静运营对AI手艺的应用也提出迫切的需求。


然而 ，由于用户营业场景和数据重大多样 ，怎样在清静运营历程中应用AI手艺举行数据建模和剖析也成为一项难题。而ModelOps所提供的模子建模能力和模子生命周期治理能力 ，正是解决此难题的要害。


ModelOps与AI清静运营团结 - 实现AI清静剖析模子开发完成即上线


相较于其它营业场景 ，在清静运营中使用AI手艺来提升清静剖析和检测能力 ，具有更高难度。AI模子的建设需要使用数据举行训练 ，数据清静又关于企业很是主要 ，因此 ，企业很难直接把数据交给清静厂商做AI建模 ，这就使得AI模子往往只能使用非企业真实生产情形的数据举行训练。


当这种“假数据”模子被安排到企业真实生产情形中 ，由于和真实数据差别很大 ，使得模子的准确率大幅度下降 ，并且由于不可提供一连的模子优化能力 ，使得随着营业数据的转变AI模子的能力也会逐渐降低。


ModelOps提供的模子建模能力和模子生命周期治理能力能够很好地解决这一问题。通过在用户情形中安排ModelOps平台 ，就有了在用户情形中举行模子训练和模子一连优化集成的能力 ，也就把AI清静模子的训练和迭代更新历程“右移”到用户的真实生产情形中 ，因此 ，模子训练使用的不再是实验室结构的“假数据” ，而可以使用用户生产情形现场爆发的真实数据 ，大大提升AI清静模子的准确性。


举例来说 ，安排用于识别加密恶意流量的AI模子 ，由于该模子的特征工程将提取大宗网络会话中的通讯特征信息 ，好比网络颤抖、会话中的帧间距以及TCP会话窗口巨细等 ，显然这些特征在实验室情形和用户真真相形下是差别的 ，若是直接使用实验室情形下结构出的配景流量作为负样本训练出来的模子在用户真真相形下就可能泛起较大的准确性下降 ，而若是模子就是在用户真真相形中训练的 ，真实的负样本数据能够有用包管模子的准确性。


ModelOps解决的另一个主要问题是模子能力衰退的问题。由于AI模子的泛化能力有限 ，AI算法实质也是学习训练数据中所隐含的统计纪律 ，而无论当用户的营业数据（负样本）爆发转变照旧泛起了新的攻击要领（正样本） ，都有可能无法被现有的AI模子识别。


因此 ，一方面需要有对现有AI模子的自动化评估要领来发明这种模子能力的衰退 ，另一方面需要能够自动化和快速高效地使用包括新类型数据的数据集对AI模子举行重新训练 ，让AI模子能够熟悉这些新泛起的数据上的转变 ，并重新将AI模子集成到运行情形中去。


ModelOps对模子的全生命周期治理包括了对模子的实时监测评估、对性能衰退模子的自动化维护和迭代更新。XOps（如DevOps、DataOps、ModelOps）其焦点理念都是围绕快速迭代和一连集成。在清静运营历程中 ，怎样把AI模子快速和自动化地集成到需要使用该模子的清静产品中是能否真正实现所谓Ops的要害。


在清静剖析中所使用的AI模子主要剖析的工具是网络流量和种种日志 ，此类数据具有多种不确定的表征要领 ，这就提高了对数据治理要求的重大性 ，也使得在实验室中天生的AI清静模子难以直接安排使用 ，而需要重新编写代码。


ModelOps则解决了从模子开发到安排间最后一公里的数据治理问题 ，其要求的一连集成在清静运营场景下 ，可以通过三种方法来实现：模子即服务的SaaS模式、模子赋能模式和剖析推理效果赋能模式。


1、模子即服务的SaaS模式需要用户提交要剖析的数据、选择使用的模子 ，并通过标准接口获得返回的剖析效果；


2、模子赋能模式需要用户具有可运行模子的平台或容器 ，并自己处置惩罚数据ETL历程 ，用户可以通过ModelOps提供的模子训练功效训练出模子并将其下载到自己的情形中运行；


3、剖析推理效果赋能模式需要漫衍式的安排可运行AI模子的探针到用户情形 ，通过直接接入数据提供完整的从ETL到模子推理的数据处置惩罚历程 ，并将模子的剖析推理效果以标准化的名堂返回给用户。


关于需要使用AI清静剖析模子的清静产品和系统来说 ，只要对接了AI模子一连集成的三种模式之一的设置和效果返回的API就可以实现将AI清静剖析能力快速集成到自身系统中 ，并依赖ModelOps提供的一连迭代能力实现对AI模子的更新迭代 ，实现AI清静剖析模子开发完成即上线。


泰合AI清静建模和赋能平台 - 面向AI清静剖析模子全生命周期治理和一连集成


ModelOps所提倡的快速迭代一连集成绩是为高效运营而生 ，模子则是场景化清静剖析的焦点能力 ，尊龙凯时泰合本部建设了专注于AI手艺研究的北冥实验室 ，已经周全实现ModelOps的工程化落地 ，近期宣布的AI清静建模和赋能平台 ，是一个集成多种Al清静剖析模子 ，可提供全生命周期Al模子治理的平台。


AI清静建模和赋能平台通过将AI建模全流程解耦合实现了AI模子的流水线化生产 ，通过清静剖析场景数据ETL引擎、模子建模和推理引擎、清静场景编排引擎实现了让数据工程师只关注数据治理 ，算法工程师只关注模子算法 ，清静剖析师只关注清静场景化的多工种协同作业。


同时 ，AI清静建模和赋能平台能够提供一个开放的生态系统 ，支持用户通过自界说数据源和ETL要领 ，自界说特征工程算子和算法算子来积累和强化平台的建模能力 ，并将AI清静建模历程从清静厂商端“右移”到了用户生产情形中 ，能够直接接入用户的真实生产情形数据 ，并让熟悉用户营业的营业专家使用此平台来构建越发切适用户营业需求和具有更高准确性的AI模子。


AI清静建模和赋能平台通过标准的API接口和SYSLOG日志接口向其它清静系统清静台提供AI模子的下载服务和AI模子推理效果服务 ，使得其它无AI能力或无AI建模能力的系统 ，能够借助AI清静建模和赋能平台向其输出的模子或推理效果实现快速AI化和智能化落地。


下面实例展示AI清静建模和赋能平台通过对外赋能实现AI模子开发完成即上线的历程：


办法一：在AI清静建模和赋能平台侧通过建模流水线执行数据集建设、算子上传、模子训练实验建设 ，完成训练模子 ，并宣布模子。


办法二：在AI探针侧下载宣布的模子。


办法三：建设推理使命 ，选择下载的模子并执行该推理使命。


办法四：在泰合清静治理与态势感知平台对应的页面能够直接看到模子的检测效果。


AI清静建模和赋能平台在ModelOps上迈出了工程化实践的第一步。随着越来越多AI手艺的应用 ，更多的AI模子需要能够在清静运营中被治理 ，AI清静建模和赋能平台也将在结适用户营业的模子一连评估 ，自动化学习更新等功效方面一直优化和完善。


在数据清静愈发主要的今天 ，一些应用场景下必需要实现团结多地的数据 ，举行模子训练和剖析推理 ，通过基于联邦学习实现支持多方盘算的模子训练和模子推理 ，也将是AI清静建模和赋能平台的生长偏向 ，可以预期其将作为清静运营的基础设施和手艺底座为清静运营提供最有力支持。




文章泉源：北冥实验室