Files
msgexchange-v2/docs/architecture.md
T
windyboy b8738554e6 refactor(ingress): 移除 G1 窗口补偿扫描与迟到到达检测
实际负载不足 10 条/秒,G1 属过度防御。删除迟到到达检测机制、
existingIds 接口、PipelineCounters 字段、lateDetect 配置,
以及文档中 CLM-1/CLM-2 声明与 G1 缺口索引。
2026-09-13 08:08:43 +08:00

10 KiB
Raw Blame History

msgexchange-v2 架构文档

1. 系统定位与范围

msgexchange-v2 是机场 OMMS 的上游报文处理中间件,用于替换旧版 msgexchange-api。 它读取 CIIMS、AODB 等系统写入共享 MySQL 信箱的 XML 报文,按顺序更新航班动态,再将结果提供给下游。

本系统负责收报、解析、状态更新和结果投递,不生成上游业务报文,不替代 CIIMS/AODB,也不提供 AODB 主数据编辑能力。

  • 主要入口:轮询共享 MySQL 的 CMINMSGS
  • 兼容入口POST /cminmsgs/send,供现役兼容、手工工具和对拍使用;写入信箱后返回记录 ID,不是生产收报主路径。
  • 输出Kafka 的 msg / schd 消息、共享 MySQL 的 COUTMSGS 出站信箱,以及查询 HTTP 接口;不直接推送前端。
  • 当前范围(阶段 A:航班当前态落自有 PostgreSQL(FLIGHT_SCHD + 资源明细表 + FLIGHT_ROUTE_POINT,权威口径见 flight-state.md)。无 Redis 依赖;ES 历史投影属暂缓的阶段 B。

本文描述架构约束,不代表所有能力已实现;实现缺口见 invariants.md 的声明边界与 Plane(ACM2)。模块交互、状态机与参数详见 design.md,前提与不变量见 invariants.md,对外契约见 contracts.md,需求见 user-stories.md,参数与指标见 reference.md;操作步骤在上线/切流前另立规程(设计阶段只保留前置条件与红线)。历史报文契约仍以 SIS 接口规范XSD 为兼容依据,其他 legacy 资料仅作参考,旧系统行为基线的职责见 README 职责表。

现场供库时目标为 Oracle 11g,否则自建 PostgreSQL;当前只有 PG 实现可运行,Oracle 不是已支持的平台。 航班表结构和处理逻辑见 运营航班状态设计

2. 总体架构

CIIMS / AODB 等上游
        │ 写入 XML
        ▼
共享 MySQLCMINMSGS
        │ 轮询未处理记录
        ▼
┌──────────────── msgexchange-v2(单实例)────────────────┐
│ ingress:发现报文 → PostgreSQL 持久化入队                │
│                         │                              │
│ processing:取 FIFO 队头 → 解析 / 去重 → 处理器决策    │
│                         └─ PG 单事务:航班变更 + 终态 + 待发事件│
│                                                        │
│ jobs:独立维护线程(回填补偿 / 历史归档 / 留痕清理)      │
│ delivery:读取 PG 待发事件 → 投递 / 重试                  │
└─────────────────────────┬──────────────────────────────┘
                          ├─ Kafkamsg / schd
                          └─ 共享 MySQLCOUTMSGS

处理结果提交后,再回填 CMINMSGS 的处理标记;失败需补偿。
查询接口读取航班动态,不参与状态写入。

收报、处理、投递与维护作业各使用独立线程,不占用 HTTP 事件循环。航班当前态的写入只发生在持有 PIPELINE_LOCK 的事务内,由主泵串行驱动。

采用 Kotlin + JDK 25、Micronaut 编译期依赖注入和 JDBC 持久化。数据库变更由 Flyway 管理,但只作用于自有 PostgreSQL。具体依赖版本以 build.gradle.kts 为准,不在架构文档重复维护。

3. 模块职责

模块 职责与边界
ingress 轮询信箱、持久化入队及兼容 HTTP 写入;不解析业务报文。
codec XML 解码,区分非法报文与可修复的解码失败。
processing FIFO 调度、业务身份绑定与去重、领域决策与落库(SCHD/FLOP/FDEL/ADFT):纯领域逻辑只返回决策;Processor 作为事务协调器,在锁事务内完成状态写入、事件与回填意图登记,不直接触碰 Kafka。
delivery 消费待发事件,负责按目标保序、schd 聚合、投递和失败重试。
jobs 回填补偿扫描、航班历史清理与留痕保留期清理;独立 job 线程执行(调度见 design.md「维护作业与归档」,红线见 flight-state.md「生命周期与开放项」,与主泵的互斥见 INV-18),不参与 FIFO。
domain / config 领域状态、事件和决策模型,以及运行参数。
infra 仓储(JDBC/stub)、外部适配器、重试、健康检查与日志;通过接口隔离基础设施。

4. 主流程

InboxPoller 发现 → 自有 PG 入队(INV-2)→ 主泵按最小未完成 MSG_ID 取队头、解码并按业务身份去重 → 处理器在持 PIPELINE_LOCK 的同一事务内写航班变更、待发事件、处理终态与回填意图(INV-17)→ 提交后回填共享信箱处理标记 → Dispatcher 投递 KAFKA:msgKAFKA:schd(至少一次,INV-10)。

机制细节各有归属:扫描谓词与水位见 design.md「收报与水位」,分派与事务边界见「主泵调度与单条处理」,回填见「回填」,保序与 schd 聚合见「事件投递」。

5. 必须保持的约束

本节只列约束的归属;完整定义与验证映射见 invariants.md,实现与演进不得违反:

  • 消息严格 FIFOINV-3INV-4INV-5(发现完整性依赖 PRE-2/PRE-3,当前不可对外声明)。
  • 动态状态单写者与写者集合互斥:D2INV-18
  • 身份去重:INV-9(身份组成见 design.md「消息、身份与决策」)。
  • 快照可恢复与运营日不可变:INV-12INV-13
  • 航班当前态的物理清除只发生在历史归档之后:D1(红线见 flight-state.md「生命周期与开放项」)。

这些约束优先于吞吐量优化。单写者降低了并发复杂度,代价是队头阻塞和吞吐上限;如需并行化,必须先重新定义顺序与状态归属,不能只调整线程数。

6. 数据归属与一致性

存储 承载内容 职责说明
自有 PostgreSQL 单行锁 PIPELINE_LOCK、处理状态与回填事实 PROC_STATE、消费水位 INBOX_CURSOR、待发事件 MSG_EVENT、请求跟踪 REQ_TRACK、航班当前态 FLIGHT_SCHD + 现有 8 张资源明细表 + FLIGHT_ROUTE_POINTSRVT/VIPF 专用明细尚未实现 [G-SRVT-VIPF])、留痕 SCHD_SNAP_LOG 本系统唯一业务数据库。消息处理、状态推进、处理终态、回填意图与待发事件在单事务内原子提交;本地事务只在此库。
共享 MySQL CMINMSGS 入站信箱、COUTMSGS 出站信箱 外部系统所有。本系统仅执行约定的信箱读写与处理标记回填,不建表、不迁移 schema、不写历史表;由库方按 Q9 执行的清除与历史归档见 contracts.md「保留与清除」。兼容 HTTP 入口可按既有契约写入入站信箱。

不使用跨库事务。 PG 事务只能保证“处理结果与待发事件一起提交”(INV-17),不能覆盖 MySQL 回填或 Kafka 发送等外部副作用。跨存储依靠幂等、重试和持久化补偿恢复;各中断位置的判定与恢复动作见 design.md「中断恢复」。

对外投递按至少一次设计,不承诺端到端恰好一次。Kafka 生产者幂等不能消除应用重启或 outbox 重发带来的所有重复。

7. 关键决策

仅保留仍具约束价值、且无法从正文(§4–§6、design.md)直接推出的决策,按 D1–D4 连续编号供正文与 design.md 引用;其余曾编号条目(严格 FIFO、stub 门控、本地事务、UNSUPPORTED 处理等)已在正文以约束形式表达,不再重复列表。第三列只给证据与缺口指针;交付状态与可声明性见 invariants.md 声明边界与 Plane,决策不因状态变化而撤销。

编号 决策及理由 证据 / 缺口
D1 航班清场只在历史写入成功后进行,未接通时删 0 条;未经 FDEL 的清场须先补发删除事件。ES 历史投影(阶段 B)暂缓。 红线见 flight-state.md「生命周期与开放项」;历史写入与删除事件之间仍无恢复方案(见 design.md「维护作业与归档」)
D2 动态状态单写者,生产只允许一个活动实例;多实例必须先具备可靠的排他保护。 事务行锁见 design.md「事务边界」;实例级排他属部署前提 PRE-5,可声明性见 CLM-6
D3 Kafka 生产要求 acks=allenable.idempotence=truemax.in.flight=1;不允许通过关闭幂等来满足生产接入。 参数默认值与 D3 不一致 [G-KAFKA-D3](取值见 reference 参数表)
D4 自有库终态记录只归档到 PROC_STATE_HST,不侵入共享库的表结构或保留策略。 目标表未建 [G-PROC-HST]

8. 部署、切换与运维

部署与安全

  • 生产维持单活动实例,停机时停止接收新任务并等待工作线程退出。已有事务级行锁,但消息认领和整个实例的排他保护尚未完成,不能依靠行锁宣称支持双实例 FIFO。
  • 配置、口令和环境端点通过环境变量提供。兼容写接口沿用内网信任模式,缺少鉴权,必须限制网络访问;管理端点不得直接暴露到生产外网。
  • Eureka 用于服务发现,Logstash 接收结构化日志;日志出口故障不应阻塞业务处理。
  • 默认不自动启动管道:真实 PG、共享信箱与出站适配必须显式开启(键见 reference.md 参数表)。

替换旧系统

采用“影子对拍 → 切流 → 旧系统冻结”。共享信箱不能让新旧系统同时认领和回填;影子输入使用只读水位或回放。影子环境须隔离 PG schema/实例、Kafka topic 和服务注册身份,并禁止误写生产信箱。切流时保证只有一个权威写者。

可观测性要求

用消息 ID、事件 ID 关联处理与投递日志;健康检查反映依赖实际可用性,而不只是进程存活;死信与一致性异常需要可执行的告警与重放流程,不能只留一条错误日志。指标名、取数规则与作业健康见 reference.md「指标与健康」。