异构数据源集成的首要任务就是要为集成系统设计一个合理方案,以对来自不同数据源的各种数据进行表示,从而便于进行统一处理;其次则应考虑异构数据转换问题,将来自不同数据源的各种数据转换成集成系统能进一步处理的统一格式;另外还必须定义基本运算,进行信息数据的归并,从而能够有效完成数据查询、存取等具体功能。
在数据采集引擎中,异构数据集成技术是本平台的关键技术之一,为了保证异构集成技术的有效性,我们通过数据定义、数据校验、数据标准化、数据归并、数据压缩、数据传输等关键模块来实现。
1、数据定义,为了解决目前安全监控所面临的海量数据的困扰,数据采集层采用一定的异构数据集成技术在整体上简化了安全管理的数据模型。在执行采集操作之前,会对数据格式进行预先的定义。数据定义模块为大量各种各样的数据提供了一种统一的表示方法,这是解决异构数据的关键问题。本模块采用一种标准、开放的数据结构来表示数据信息,在描述数据内容的同时突出对结构的描述, 从而体现出数据之间的关系。
2、数据采集,数据采集引擎通过SYSLOG、SNMP TRAP 、SNMP 轮询、XML、FTP、HTTP、TELNET/SSH、SOAP、JMX方式、Sockets、Files、专用代理程序等方式从网络设备、安全设备、主机系统、数据库系统、应用程序按照一定策略收集原始日志数据。
3、数据校验,对所采集数据的完整性与合法性进行验证。
4、数据格式标准化,将原始数据按照平台定义的数据格式,进行标准化处理。
5、数据归并,针对海量的原始数据,数据采集模块会按照安全事件的类型、安全事件发生的时间、安全事件的次数等策略进行必要的归并。
6、数据压缩,当大量的数据在网络中传输时,势必会造成网络拥挤,影响正常的业务应用。为了保证网络传输的畅通,数据采集模块对原始数据一定的压缩处理,再提交到数据传输接口。
7、数据上报,此为数据采集引擎向数据处理分析模块提交数据的传输接口,数据采集引擎以安全的方式将数据传输给数据处理分析模块。
异构数据源集成的首要任务就是要为集成系统设计一个合理方案,以对来自不同数据源的各种数据进行表示,从而便于进行统一处理;其次则应考虑异构数据转换问题,将来自不同数据源的各种数据转换成集成系统能进一步处理的统一格式;另外还必须定义基本运算,进行信息数据的归并,从而能够有效完成数据查询、存取等具体功能。
在数据采集引擎中,异构数据集成技术是本平台的关键技术之一,为了保证异构集成技术的有效性,我们通过数据定义、数据校验、数据标准化、数据归并、数据压缩、数据传输等关键模块来实现。
1、数据定义,为了解决目前安全监控所面临的海量数据的困扰,数据采集层采用一定的异构数据集成技术在整体上简化了安全管理的数据模型。在执行采集操作之前,会对数据格式进行预先的定义。数据定义模块为大量各种各样的数据提供了一种统一的表示方法,这是解决异构数据的关键问题。本模块采用一种标准、开放的数据结构来表示数据信息,在描述数据内容的同时突出对结构的描述, 从而体现出数据之间的关系。
2、数据采集,数据采集引擎通过SYSLOG、SNMP TRAP 、SNMP 轮询、XML、FTP、HTTP、TELNET/SSH、SOAP、JMX方式、Sockets、Files、专用代理程序等方式从网络设备、安全设备、主机系统、数据库系统、应用程序按照一定策略收集原始日志数据。
3、数据校验,对所采集数据的完整性与合法性进行验证。
4、数据格式标准化,将原始数据按照平台定义的数据格式,进行标准化处理。
5、数据归并,针对海量的原始数据,数据采集模块会按照安全事件的类型、安全事件发生的时间、安全事件的次数等策略进行必要的归并。
6、数据压缩,当大量的数据在网络中传输时,势必会造成网络拥挤,影响正常的业务应用。为了保证网络传输的畅通,数据采集模块对原始数据一定的压缩处理,再提交到数据传输接口。
7、数据上报,此为数据采集引擎向数据处理分析模块提交数据的传输接口,数据采集引擎以安全的方式将数据传输给数据处理分析模块。
事件集中监控对采集的数据通过过滤以缩减安全事件数量,减少系统误报。系统可以提供如下过滤功能:
1、过滤掉严重程度较低的原始事件信息;
2、能针对指定设备、协议、事件类别、事件标题等对事件进行过滤;
3、应能对事件数据过滤的开启状态进行手工设定。
事件过滤规则应该包含以下属性:
1、过滤规则名称:对过滤规则的描述;
2、过滤条件:设定事件应满足的条件;
3、响应方式:对满足条件事件的处理方式。
相关过滤功能的设置,可以通过策略配置实现。
事件集中监控对采集的数据通过过滤以缩减安全事件数量,减少系统误报。系统可以提供如下过滤功能:
1、过滤掉严重程度较低的原始事件信息;
2、能针对指定设备、协议、事件类别、事件标题等对事件进行过滤;
3、应能对事件数据过滤的开启状态进行手工设定。
事件过滤规则应该包含以下属性:
1、过滤规则名称:对过滤规则的描述;
2、过滤条件:设定事件应满足的条件;
3、响应方式:对满足条件事件的处理方式。
相关过滤功能的设置,可以通过策略配置实现。
事件汇聚是制定汇聚规则消除重复事件来缩减安全事件数据量,系统中用户能自行定置事件汇聚方式,能够提供如下汇集功能包括:
1、根据源IP进行汇聚;
2、根据目标IP进行汇聚;
3、根据受设备类型进行汇聚;
4、根据操作系统类型及版本信息进行汇聚;
5、根据事件类型进行汇聚;
6、根据事件的其他属性或属性的组合进行汇聚。
汇聚后的信息应记录事件发生的每个时间点。相关汇集功能的设置,可以通过策略配置实现。
事件汇聚是制定汇聚规则消除重复事件来缩减安全事件数据量,系统中用户能自行定置事件汇聚方式,能够提供如下汇集功能包括:
1、根据源IP进行汇聚;
2、根据目标IP进行汇聚;
3、根据受设备类型进行汇聚;
4、根据操作系统类型及版本信息进行汇聚;
5、根据事件类型进行汇聚;
6、根据事件的其他属性或属性的组合进行汇聚。
汇聚后的信息应记录事件发生的每个时间点。相关汇集功能的设置,可以通过策略配置实现。
1对于系统的登录访问有严格的身份认证,支持第三方的认证对接,提供了可选的HTTPS加密登录,可以设置用户的密码策略、重试机制,对密码进行指纹签名,避免明文存放,仅可能避免系统账户被盗用;
2系统自身也考虑到安全性要求,平台通过三权分立机制,将管理员、安全员、审计员区分开,管理员可进行用户和权限的管理,但需要安全员进行审核通过后才能生效,审计员可以对系统的操作进行审计;
3系统采取分级角色用户结构,提供用户权限管理控制,用户只能访问被授权的功能,防止未授权的用户访问;
4系统保证数据传输的安全性,数据传输时应对敏感域的数据进行加密,避免数据在传输过程中被窃取;
5数据存放的安全性,主要体现在数据库的安全性,系统需要对数据库表中关键字段(如密码等)及关键业务数据进行加密,重要配置文件也进行加密等,避免数据泄露。
1数据采集能力:每个数据采集组件的数据采集能力可达到3000条/秒以上。
2数据入库能力:系统的事件入库能力可达到4000条/秒以上。
3查询统计能力:数据查询的响应速度小于3秒;
4生成快速报表时,系统响应时间应小于8秒。
对接其他系统
符合等保对数据的要求
日志集中展示、查询和分析
多视角展示体验
先进的云技术架构
适用于多级管理的集中日志管理场景,如:中央和国家机关、军工、运营商、金融等行业。