windy/vps
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
Files
3c83246f24d4cae4292470fb1bc3b338746fef0a
vps/hosts/pgdb.md
T

11 KiB
Raw Blame History

pgdb — TimescaleDB (PG18, Docker)

Role and access

Item Value
Role TimescaleDB PostgreSQL 18 (Docker) — Home Assistant recorder 后端（hass/scribe 库）
IPv4 192.168.55.15 (LAN55)
DNS (none)
SSH ssh -4 windy@192.168.55.15（key auth 已验证可用 2026-08-29；agent 沙箱用 ssh -F /dev/null -o BatchMode=yes；password auth 亦可）
Host PVE 管理的 QEMU VM（i440FX，VMID 100），Debian 13 (trixie)，内核 6.12.105；宿主机 pve2 192.168.55.25（Proxmox 9.2.2，SSH root@192.168.55.25，onboot: 1，QEMU guest agent 已装；2026-08-31 补记）
Resources 3 GB RAM（08-30 13:58 由 2G 上调、删除 balloon/ksm/shares 后重启生效）/ 30 GB disk（26 G 空闲）
Docker 29.7.2；容器 timescaledb = timescale/timescaledb:latest-pg18（PG 18.6 + TimescaleDB 2.29.2，Apache-2.0 版）
Ports 192.168.55.15:5432（PG，IPv4 only）；192.168.55.15:8081（pgweb GUI，basic auth）

Databases

DB Owner Size 用途
hass hass ~14 MB HA recorder（states/events/statistics），客户端 HAOS 192.168.55.11
scribe postgres ~73 MB HA scribe 集成（entities/areas/devices 注册表同步 + states_raw hypertable + csg_history 长期归档表）
postgres postgres ~9 MB 默认库

Ops notes

  • Docker compose 管理（2026-08-29 改造）：/opt/database/docker-compose.yml（源码在仓库 compose/pgdb/）+ /opt/database/.env（0600，密钥）+ /opt/database/pgweb-bookmarks/（0600，bookmark 含 DB 密码）。三个服务：
    服务 镜像 端口 说明
    timescaledb timescale/timescaledb:latest-pg18 192.168.55.15:5432（IPv4 only） PG 18.6 + TS 2.29.2；healthcheck pg_isready；restart: unless-stopped
    pgweb sosedoff/pgweb:latest（v0.17.0） 192.168.55.15:8081 Web GUI：http://192.168.55.15:8081；basic auth（用户名/密码见 .env PGWEB_AUTH_USER/PASS）；--readonly --sessions --bookmarks-only --bookmarks-dir /bookmarks（v0.17.0 不读 PGWEB_BOOKMARKS_DIR env，必须用 flag）；bookmarks = hass/scribe
    pg-backup prodrigestivill/postgres-backup-local:latest（=PG18 客户端） — 每日 02:00（TZ=Asia/Shanghai，本地时区）pg_dump -Fc 三库 → /opt/database/backups/{daily,weekly,monthly}；保留 7 天/4 周/6 月；BACKUP_ON_START
  • 数据盘：/dev/sdb1（32G ext4，label pgdata）挂载 /srv/pgdata，fstab 按 UUID=c9e12e79-1f66-404c-ab7f-b8809be81d86（defaults,noatime）持久化（2026-08-29 迁移）。容器 bind mount /srv/pgdata:/var/lib/postgresql。
  • 容器内 postgres 用户 uid/gid = 70（Debian 系，非 999）；迁移数据后需 chown -R 70:70。
  • 密码：postgres 超级用户已换强密码（hex，存 /opt/database/.env 0600，2026-08-29）。HA 用 hass 角色不受影响。
  • 备份：由 pg-backup 容器接管（2026-08-29），宿主机 cron 与 /opt/database/pg-backup.sh 已退役。恢复用 pg_restore（custom format）——2026-08-29 已实测还原 hass 库 dump（states 10014 行）成功。
  • 认证：外部连接 scram-sha-256（密码必填，改密码有效）；容器内 loopback 为 trust（官方镜像默认）。
  • 回滚：旧启动命令保留在 /opt/database/run（容器无状态，数据在 /srv/pgdata）；旧匿名卷 9375195843b950f4e04c34872409ca095e1136520dd019a8e86e2794be06c236（根盘 ~82M）保留作兜底，确认稳定后可 docker volume rm。
  • 开机自愈（2026-08-30）：新增 systemd oneshot pgdb-compose.service（enabled，源码在仓库 compose/pgdb/pgdb-compose.service）：After=network-online.target docker.service，开机后幂等执行 docker compose up -d，重试直到 192.168.55.15:5432 监听，重试耗尽 --force-recreate 兜底（数据在 bind mount，无损）。原因：2026-08-30 开机竞态——docker 恢复容器时 VM IP 尚未可绑（EADDRNOTAVAIL），timescaledb/pgweb 启动失败且 docker 不重试。手动重跑：sudo systemctl restart pgdb-compose.service。
  • 本机无防火墙（ufw/nft/iptables 均未装）——待办：如要彻底隔离可加 ufw 白名单 192.168.55.11。
  • /opt/database/backups/ 根下残留 *-2026-08-29_1359.dump（compose 化之前旧备份机制产物）与 backup.log——健康检查只看 daily/，残留可清理。
  • Runbooks：pgdb-health（只读健康检查）、pgdb-restore（pg_restore 还原）、pgdb-update（镜像/compose 升级）。
  • CSG 长期归档（2026-08-29, W1N-243）：csg_history 表（period date / kind('day'|'month') / usage_kwh / cost / ladder / balance / updated_at，PK(period,kind)，GRANT SELECT TO hass）保存南方电网有价值数据：day = 逐日（昨日用电/费用/阶梯/余额，2026-07-01 起），month = 当月累计（用电/费用，2025-01 起）。由 TimescaleDB 每日任务 1008 csg_daily_snapshot()（22:30 Asia/Shanghai；TS job 非 pg_cron，本库未装 pg_cron）upsert 维护：取「最新有值行」防瞬态 unknown 竞态；日费用缺原生 latest_day_cost 时回退 = 昨日用电 × 当前档费率（模板 csg_current_ladder_tariff 0.639）；月费用回退模板 csg_this_month_ladder_cost。验证：day 08-28 = 7.66 / 4.89474 / 二档 / 0，month 08 = 302.47 / 180.28。回填来源：集成 attributes history_data（59 天）+ by_month（19 月）——08-29 前唯一残存历史。回滚：DROP TABLE csg_history + SELECT delete_job(1008)。

Known issues

  • 2026-08-29：HA 侧 HACS 集成 custom_components.scribe（YAML scribe: db_url:，连 scribe 库）建表被拒（permission denied for schema public，hass 无 CREATE 权限），之后持续报 relation "entities" does not exist。已解决：① GRANT CREATE ON SCHEMA public TO hass;（scribe 库）② 重启 HA Core 触发重跑建表。重启后自动创建 entities（1591 行）/users/areas/devices/integrations/states_raw 表并启用 TimescaleDB 时间序列能力。报错已停止（最后一条 06:06 UTC），states_raw 持续写入。2026-08-29 复查：scribe 现有两个 hypertable——states_raw（segmentby metadata_id、orderby time）与 events（segmentby event_type、orderby time），均 1 维 time；压缩已配置（timescaledb_information.compression_settings 可见对应行；2.29.x 该视图无 compression_enabled 列）。
  • 2026-08-29：timescale reader 图表对象（配套 hass 的 timescale_database_reader 集成 + timescale-plotly-card，上游 SQL remmob/timescale_database_reader SQL/scribe/01+02 @ bb8776a，以 postgres 执行）：sensor_minute_aggregate 连续聚合（1 分钟桶，last(state)/last(value)，实时聚合开启）+ sensor_minute_aggregate_entity 视图（join entities）+ sensor_minute hypertable（minute/entity_id/state/value，LOCF 前向填充）。任务：1005 sensor_minute 压缩（7 天）、1006 sensor_minute 保留（10 年）、1007 every_minute_refresh 每分钟增量刷新（含 5 分钟回溯窗口修正）。授权：GRANT SELECT ON sensor_minute_aggregate, sensor_minute_aggregate_entity, sensor_minute, entities TO hass。种子 19529 行（331 实体，自首个数据点起）。刻意跳过了上游脚本对 states_raw 的 3 个月保留 + 压缩策略语句——与"states_raw 永久归档"定位冲突，如需磁盘回收属用户决策（scribe 自己的压缩任务 1000/1001 未动）。
  • 2026-08-29：sensor_minute_refresh 本地补丁（类比 tianqi 补丁，重跑上游 02 SQL 后需重打）：值 CASE 的 ELSE 0 → ELSE NULL。原因：scribe 对 unavailable 分钟 value 为 NULL，上游刷新过程兜底写 0；对差分模式的用电图，0→计数器回升会把插座的生命周期累计值（最高 1588 kWh）算进掉线那一小时。同日一次性清理既有脏 0：头部占位行 DELETE 505 行（各实体首次非零分钟之前的 value=0）；sensor.%_energy 与温湿度实体的 value=0 → NULL（10+16 行，物理上不可能的真 0，图表渲染为断点）。功率实体的中途 0 是真实待机读数，保留。
  • hass 库的 recorder 表仍为普通表（无 hypertable）；scribe 集成负责时间序列历史（states_raw + events hypertable）。

Verification history

  • 2026-08-31：13:58 重启根因确认，非停电（W1N-263）：pve2（192.168.55.25）任务日志显示 08-30 13:58:00 root@pam 在 PVE Web UI 修改 VM 100 配置（-delete allow-ksm,balloon,shares -memory 3072），13:58:06 点 Reboot（qmreboot → 客机 13:58:08 干净 ACPI 关机 → 13:58:13 自动重启）。宿主机全程在线（08-30 09:00 开机至今连续运行 1d12h+），.66.26 PVE 及各 VM 均无重启——排除停电。HA recorder 在窗口（13:58:46–47）报 2 次 Connection refused，DB 恢复后自动重连，无数据丢失（hass.states/scribe.states_raw 13:55–14:02 逐分钟无缺口，recorder 内存队列吸收回写）。13:58:47 三容器已起，13:58:56 自愈单元 pgdb-compose.service 执行成功——本次自愈按设计工作。同日下午 12:54–12:55 另有一次客机内自重启（无 PVE 任务，工作站 SSH 会话相邻）。08-29 22:19→08-30 09:00 宿主机停机 10h41m 为干净关机（systemd 有序关闭，非停电）。
  • 2026-08-30：开机竞态故障 + 修复（W1N-260）：09:01 开机后 docker 恢复容器时绑定 192.168.55.15:5432/8081 失败（EADDRNOTAVAIL）→ timescaledb/pgweb 停摆至 12:16，pg-backup 开机备份失败（解析不到 timescaledb）→ unhealthy。12:22 docker compose up -d --force-recreate 修复（三容器回 database_default、端口发布、今日备份、pgweb 恢复）；用户重启 HA Core 后写入管道恢复。12:43 新增开机自愈 unit pgdb-compose.service（enabled，已实测幂等 reconcile）。pgdb-health 8 项全绿。
  • 2026-08-29：首次检查（只读）+ 修复 scribe 权限 + 安装夜间备份。见 Linear vps 项目登记。
  • 2026-08-29：compose 改造完成（W1N-227，用户已验收）：裸 docker run → /opt/database/docker-compose.yml 三服务（timescaledb + pgweb + pg-backup）；superuser 换强密码；端口收紧 IPv4；备份容器化（TZ=Asia/Shanghai，cron 02:00 本地）；pg_restore 还原实测通过；pgweb UI 用户确认可查 hass/scribe 数据。源码在仓库 compose/pgdb/。
  • 2026-08-29：运维 runbook 落地（W1N-228，已验收）：新增 runbooks/pgdb-health.md（只读，8 项诊断全绿）、pgdb-restore.md（流程式，temp-DB 安全还原 + 审批门）、pgdb-update.md（门控命令式，回滚=/opt/database/run + 旧卷）；README 索引与 validate-repo.sh 分类同步更新；runbook 命令已对活主机逐条实测（含 pg_restore -l 校验当日 dump）。同日修正：SSH key auth 可用（facts 原记"密钥未安装"已过时）；scribe 新增 events hypertable。
  • 2026-08-29：CSG 长期归档 + recorder 365d（W1N-243）：建 csg_history 表 + attributes 回填（逐日 59 + 逐月 19）+ 每日任务 1008（函数 v2：最新有值行读取、日费用阶梯回退）；hass purge_keep_days 30→365（备份 configuration.yaml.bak-20260829-purge365）。见 Linear vps W1N-243。
Reference in New Issue View Git Blame Copy Permalink