上海洋山深水港四期无人自动化码头-分布式事务数据库项目

全文共约 1779 字,阅读约需 4~6 分钟。
洋山深水港四期智能任务调度服务软件(ITF)是码头无人自动化生产管理系统的核心软件。要求突破传统码头业务系统的处理能力、达到核心系统自主研发及安全可控的目标。

洋山深水港四期智能任务调度服务软件(ITF)是码头无人自动化生产管理系统的核心软件。要求突破传统码头业务系统的处理能力、达到核心系统自主研发及安全可控的目标。国产分布式事务数据库HotDB承担了从系统前端到后端、从应用层到数据库层的整体架构设计,完成了智能任务调度系统ITF的产品设计及研发,实现了码头操作系统的数据存储和数据处理,实现了从集中式到分布式架构上的转型飞跃,助力上港集团实现码头核心系统全生命周期的自主可控,满足了无人自动化码头工业级高可用、高并发、高吞吐、智能自治的业务需要。

项目概况:

上海洋山深水港四期无人自动化码头项目,是目前世界上首个实现港口及码头无人全自动化运作的工程,仅次于中国港珠澳大桥的第二大工程。码头操作系统的智能任务调度服务软件(ITF)是码头生产管理系统的核心软件组成,承担了整个生产系统的任务接收、任务智能分配调度、工作站算力智能调度、任务计算结果完成后的回传、集群管理和操作审计等功能。

由于洋山深水港规模庞大、自动化设备繁多、港口调度任务量日益增加,且存在高峰调度等情况,因而产生规模庞大的数据处理和数据存储量,及精准高速的数据采集(5毫秒/次),因此智能任务调度服务软件的稳定可靠、容错自愈、响应时间、吞吐量等变得至关重要,要求智能任务调度服务软件(ITF)、分布式事务数据库软件等平台的服务组件做到在线滚动升级。

热璞数据库解决方案:

1、热璞数据库团队进行了分布式架构的设计和改造,整套核心系统的技术架构全部采用开源软件和国产软件实现,例如:开发语言为JAVA、操作系统为CentOS、应用服务器为Tomcat和Nginx、大数据平台为Hadoop、数据库为HotDB分布式事务数据库、服务器为国产硬件设备。

2、设计实现了ITF 智能任务调度系统的整体架构与功能,解决了整个码头生产管理系统任务群的无人化智能调度。ITF智能任务调度系统采用服务化架构设计,ITF 集群最少由三个节点组成,可水平扩展。并能够进行 ITF Server 服务的在线升级,在集群节点列表中选择升级的节点,将该节点与集群分离,进行自动升级,升级成功的节点大于半数时,进行批量的集群升级(将未升级的节点为批量分离,已升级的节点批量加入集群),再将未升级的节点升级并加入到集群中。

3、设立两个数据中心,主数据中心和灾备数据中心。主数据中心部署高可用版本的 ITF Management 管理平台,集群版本的 ITF Server 服务,负载均衡集群、Redis 集群。主数据中心的服务用于日常业务。备数据中心部署单点版的完整服务,作为容灾使用。

4、根据洋山深水港任务调度服务软件(ITF)对分布式事务数据库的技术需求,热璞数据库分别进行了数据持久层的技术架构设计、数据缓存层的技术架构设计、整体部署架构设计、后端应用程序的功能研发及高性能保障、智能管理平台的功能研发及高性能保障等多个阶段的工作,成功实现了系统架构的高可用、高吞吐、高性能、稳定运行等需求。满足了业务系统自动化码头年吞吐量400万集装箱,运输设备150台,一小时40万任务分配的需求,保障了整个业务的稳定运行。

热璞数据库解决方案实现的价值:

1、工业级别的数据服务高可用及应用服务高可用保障了业务系统的稳定、可靠及安全;连续地对业务系统提供服务使码头的运营更加流畅及高效。

2、码头操作系统任务群的智能调度、应用及数据库故障的智能自治实现了业务系统架构的无人化自动运维管理,协助洋山港的体系架构与无人化技术走在同行业内的最前端。

3、从集中式向分布式转型后所采用的分布式事务数据库HotDB实现了海量数据的持久化存储、在线水平扩容及数据库层面的智能运维,有效降低了使用门槛及运维成本。

4、数据缓存层哨兵架构降低了系统宕机的风险,提高业务系统服务的连续性,从而提供了更高级别的数据缓存服务的稳定性。

5、响应国产自主可控的号召,采用完全自研的核心应用组件、开源内存数据库及国产分布式事务数据库HotDB, 积极促进国产化建设。

项目上线时间:2017年-至今

数据节点规模: 64个数据节点

业务最高并发数: 15.2万

业务数据量:96TB/6个月

码头自动化设备:760个及以上

数据采集周期:1次/设备/5毫秒

上海热璞网络科技有限公司