近期,阿里云提供技术支持的上海证券交易所(下称“上交所”)新交易监管系统已正式上线运行。新系统部署在上交所私有云上,其交易数据实时处理能力扩展达50万笔/秒以上,总体消息处理能力可达每秒千万级,计算时延大幅降低,能够应对未来业务持续增长的交易量和复杂性需求。
新系统基于阿里云全实时计算分析引擎组合Flink+Hologres和云原生数据仓库AnalyticDB的核心技术私有化部署,自主研发设计,完成实时数据处理、计算和存储架构的重构升级,全面提升了系统的处理性能和综合分析能力,并重点考虑了数据处理时效性和数据分析敏捷性的要求。
【资料图】
01
实时数据的全面分析能力
系统消息队列中的大规模数据接入实时计算Flink后,关联实时存储Hologres中的数据快速处理,结果实时输出至Kafka或直接入库Hologres,并经入库程序统一将实时数据汇聚写入AnalyticDB,支撑实时分析查询应用。满足了在稳定和性能双保障基础上的多样化数据分析需求。
02
实时预警的敏捷处理能力
作为预警规则的一种实现方式,Flink 可以满足实时和秒级监管需求。对于复杂实时预警规则,Flink实时关联维度指标提升预警规则计算实时性。
从新架构落地来看,上交所新交易监管系统交易数据实时处理能力扩展达50万笔/秒以上(上线首日交易数据处理峰值达15.4万笔/秒),总体消息处理能力可达每秒千万级,计算时延大幅降低;功能上,紧密结合监管最新实践,更加敏捷和丰富的支持完善监管模型,科技赋能推动监管能力得到进一步提升。
阿里云实时计算是基于Apache Flink构建的一站式、高性能实时大数据处理引擎平台,广泛适用于流式数据处理、离线数据处理等多种场景。相对开源Flink,阿里云实时计算Flink商业化产品的多项创新技术与性能和功能稳定性优化很好的满足了上交所新交易监管系统的需求。具体优势如下:
阿里云实时计算Flink的关键性能指标比开源Flink优化提升了3到4倍。数据计算延迟优化到秒级甚至毫秒级。
阿里云实时计算Flink天然集成数据存储、数据开发、数据运维、监控报警等功能,方便客户以较小成本试用,管理和迁移流式计算。同时,实时计算提供完全租户隔离的托管运行服务。从最上层工作空间,到最底层执行机器,提供高度有效的隔离和全面防护,更加符合证券行业场景特点。
Hologres实时数仓专注实时分析场景,与Flink原生集成,支持数据高性能实时写入、实时更新,写入即可见,一套系统和一套数据模型,同时支撑了预警规则所需的高性能点查和业务洞察需要的OLAP分析。
阿里云自研云原生数据仓库AnalyticDB提供了高性能、高可靠、高稳定性的PB级数据仓库解决方案。上交所新交易监管系统采用AnalyticDB作为数据底座并完成新老系统平滑迁移。AnalyticDB接收实时数据流,利用其高性能写入和深入分析查询能力,满足了业务应用数据实时存储及查询分析等需求。
AnalyticDB在多项功能和性能上的提升,满足了上交所新交易监管系统的需求:
MPP全并行架构实现处理性能可扩展。通过水平扩展多Master节点(协调节点)、扩展Segment节点(计算节点)的并行计算能力,系统整体能力尤其是数据安全性、时效性以及读写性能得到进一步提升,更好地满足系统对高并发数据写入的需求,业务数据入库和混合业务处理性能提升数倍以上。
支持分布式事务,数据ACID一致性支持。所有节点跨机器冗余部署,数据多副本存储,任意硬件故障,自动化监控切换,保持服务在线,保证数据一致性、完整性和准确性。
广泛兼容PostgreSQL/Oracle的语法生态,支持PL/SQL存储过程,提供多种SQL优化器和详尽的执行计划,降低调优复杂度,提升迁移效率,降低迁移复杂度。
提供稳定、高性能、高可靠的PB级数据存储分析,支持大批量实时成交数据高性能导入云原生数据仓库AnalyticDB,加速不同级别业务数据集中存储分析,实现业务数据共享,业务数据价值最大化。
阿里云将利用在大数据、数据库和云原生方面的技术持续加强数据治理和数据应用的能力,促进科技与金融业务深度融合,服务金融市场平稳健康发展。