用户点名的三件事(模板功能、删死代码、剩余缺口)这一批全部落地,另修掉两个刚暴露的导入缺陷:
**新增能力**
- 备份恢复:`POST /api/backup/restore`(admin)。先把校验做在拍快照之前(只读打开 + integrity_check +
关键表校验 + 异类库标志表互斥),再用 VACUUM INTO 拍「恢复前安全副本」,然后关连接、整文件替换、
触发优雅重启;`-wal` 还在时直接拒绝(宁可失败也不让旧库 WAL 套到新库上);恢复后审计直写"恢复之后
还在的那份库"(不走通用 Auditor,否则记录只会落在被替换掉的旧文件上)。顺带修掉:裸服务端连续恢复
第二次会在拍副本处崩出一句看不懂的 500,现在回 503「上次恢复后尚未重启,请先重启服务端」。
- 安全副本保留策略:每类库保留最近 5 份,独立于 .db 的 20 份滚动清理。
- 图片管理:`DELETE /api/uploads/{name}`(被引用 409 并列出引用点)、`GET /api/uploads/orphans`、
`POST /api/uploads/orphans/delete`(只删列出的孤儿,宁漏勿误),全部 admin(与字体删除同档);
`deploy/backup.bat` 补上 uploads/ 归档(logs 不归档:可再生的诊断且会无上限增长)。
- 已彻底删除单位的恢复:`POST /api/teams/{id}/restore`(与 hideTeam 同档)。幂等;恢复不会把「停用」
变成「启用」;真机确认恢复前后榜单逐字节一致、change_log 最大值不变(数据一行没动,不需要重算)。
界面加「显示已彻底删除的单位」(仅 admin)与恢复按钮;非 admin 的删除确认框里写明"本账号无法自行恢复"。
- 审计日志按 `action` 过滤(子串模糊,输入里的 %/_/\ 转义成字面量)。
- 删除死表 recent_projects(新增 system 迁移 0006,未动已应用的迁移)。
- points_override 不再"设了没效果":写入侧 400 + 引擎侧守卫,提示改用「积分调整」。
- 联队份额空壳清理(UnionAttribution/UnionSplit/Entry.TeamShares/resolvedShares 等;TeamShare 类型保留,
因为 export/realtime/奖牌流水三处在生产路径上构造它)。
- 自定义大屏模板 M1:插值引擎(parseTemplate/renderTemplate),任何情况都不抛异常、未定义→空串+警告、
警告按 (code,path) 合并计数、无 eval/innerHTML,57 个新用例。
**两个真缺陷(前两个已随 0.1.6 出包)**
- 基础数据包导入「排序」列口径不一致:小项/组别留空保持原值,单位/大项留空被写成 0(plan 没从库里
现值起手)→ 四张表统一为「留空保持原值」。
- 同类第二处:布尔列「整列被删掉」被当成"取默认值",会把库里所有停用的单位/大项静默改回启用 →
改为「缺列 = 不动」(写侧与解析侧都收口,补了"缺列保持/空格子=是/显式否=停用"三组对照用例)。
**删死代码**
- createEntry / updateEntry / deleteEntry / entryEventID / checkCategoryInEvent / getEntry /
normalizeEntryStatus / ExportBaseDataXLSX(全仓 grep 零引用)。⚠️ 随之记入文档:「组别必须属于该小项」
这道校验现在只由导入路径"按小项+组别名解析"天然保证,将来若新增从请求体接收 categoryId 的接口,
必须自己补校验(库层没有复合外键)。
**文档**
- devdocs 全面同步(01/02/03/04/05/06/07/09/11/12/13/README;含身份口径、延迟结算、大屏单栏新版式、
新增路由与设置键、R18/R19 风险);docs 复核 + 第二轮(身份口径三个易写反的分支、图片删除、备份覆盖、
审计过滤、单位恢复、去掉硬编码版本号、上线检查清单 +5 项);debug/使用说明 6 份逐份 diff 一致。
测试:服务端 13 包(连跑两遍)、前端 406 例、Console 28 例 + 18 文件语法检查 —— 全绿。
版本号 dev_0.1.6 → dev_0.1.7。
371 lines
11 KiB
Go
371 lines
11 KiB
Go
package export
|
||
|
||
import (
|
||
"context"
|
||
"database/sql"
|
||
"errors"
|
||
"fmt"
|
||
"log/slog"
|
||
"os"
|
||
"path/filepath"
|
||
"sort"
|
||
"strings"
|
||
"sync"
|
||
"time"
|
||
)
|
||
|
||
// DefaultBackupKeep 是滚动保留的备份份数(见 08-安全与可靠性 第 6 节)。
|
||
const DefaultBackupKeep = 20
|
||
|
||
// BackupOptions 描述一次备份。
|
||
type BackupOptions struct {
|
||
// Dir 是备份目录,通常为 <dataDir>/backups。
|
||
Dir string
|
||
// Prefix 是文件名前缀,用于区分不同库(如 event / system)。
|
||
Prefix string
|
||
// Reason 记录触发原因:manual / publish / auto。
|
||
Reason string
|
||
// Keep 是滚动保留份数,<=0 时用 DefaultBackupKeep。
|
||
Keep int
|
||
// SkipPrune 为 true 时只备份不清理,供「手动留档」场景使用。
|
||
SkipPrune bool
|
||
// Now 便于测试注入固定时间;零值取当前时间。
|
||
Now time.Time
|
||
}
|
||
|
||
// BackupInfo 是一份备份的描述。
|
||
type BackupInfo struct {
|
||
Path string `json:"path"`
|
||
Name string `json:"name"`
|
||
Size int64 `json:"size"`
|
||
SHA256 string `json:"sha256"`
|
||
Reason string `json:"reason"`
|
||
// Kind 是这份备份的性质:系统库备份 / 赛事库备份 / 恢复前安全副本(见 KindSystem 等)。
|
||
// 名字认不出来(老版本的 db- 前缀)时为空串,前端据此不给恢复入口。
|
||
Kind string `json:"kind"`
|
||
// DBKind 是这份备份对应的库(system / event);安全副本也一定属于某一份库。
|
||
// 恢复请求要的就是它:性质是 safety,但覆盖的仍是它对应的那份库。
|
||
DBKind string `json:"dbKind"`
|
||
CreatedAt time.Time `json:"createdAt"`
|
||
}
|
||
|
||
// 备份文件的性质,同时用在 BackupInfo.Kind 与列表接口上。
|
||
const (
|
||
// KindSystem 是系统库(账号 / 会话)的普通备份。
|
||
KindSystem = "system"
|
||
// KindEvent 是赛事库(赛程 / 成绩)的普通备份。
|
||
KindEvent = "event"
|
||
// KindSafety 是恢复前自动留存的安全副本。
|
||
KindSafety = "safety"
|
||
)
|
||
|
||
// backupInfoFor 用文件名补全一份备份的性质字段;名字认不出来时两个字段都留空。
|
||
func backupInfoFor(info BackupInfo) BackupInfo {
|
||
kind, dbKind, ok := KindOfBackupName(info.Name)
|
||
if !ok {
|
||
return info
|
||
}
|
||
info.Kind = kind
|
||
info.DBKind = string(dbKind)
|
||
return info
|
||
}
|
||
|
||
// Backup 用 VACUUM INTO 生成一致性快照,并按 Keep 滚动清理旧备份。
|
||
// VACUUM INTO 由 SQLite 自己保证快照一致,服务运行中也能安全备份。
|
||
func Backup(db *sql.DB, opts BackupOptions) (BackupInfo, error) {
|
||
if db == nil {
|
||
return BackupInfo{}, ErrNoDatabase
|
||
}
|
||
dir := strings.TrimSpace(opts.Dir)
|
||
if dir == "" {
|
||
return BackupInfo{}, ErrNoDir
|
||
}
|
||
if err := os.MkdirAll(dir, 0o755); err != nil {
|
||
return BackupInfo{}, fmt.Errorf("export: 创建备份目录 %s: %w", dir, err)
|
||
}
|
||
|
||
prefix := strings.TrimSpace(opts.Prefix)
|
||
if prefix == "" {
|
||
prefix = "db"
|
||
}
|
||
reason := strings.TrimSpace(opts.Reason)
|
||
if reason == "" {
|
||
reason = "manual"
|
||
}
|
||
now := nowOr(opts.Now)
|
||
|
||
path, err := uniqueBackupPath(dir, prefix, reason, now)
|
||
if err != nil {
|
||
return BackupInfo{}, err
|
||
}
|
||
if err := vacuumInto(db, path); err != nil {
|
||
return BackupInfo{}, err
|
||
}
|
||
sum, size, err := hashFile(path)
|
||
if err != nil {
|
||
return BackupInfo{}, err
|
||
}
|
||
// 文件名里的时间戳就是备份时间,文件时间与之一致,排序不会错乱。
|
||
_ = os.Chtimes(path, now, now)
|
||
|
||
info := backupInfoFor(BackupInfo{
|
||
Path: path,
|
||
Name: filepath.Base(path),
|
||
Size: size,
|
||
SHA256: sum,
|
||
Reason: reason,
|
||
CreatedAt: now,
|
||
})
|
||
if !opts.SkipPrune {
|
||
if _, err := PruneBackups(dir, prefix, opts.Keep); err != nil {
|
||
return info, err
|
||
}
|
||
}
|
||
return info, nil
|
||
}
|
||
|
||
// BackupBeforePublish 是「发布前备份」入口:同一套逻辑,只是把原因记为 publish,
|
||
// 便于在备份列表里一眼看出哪些是发布节点留的。
|
||
func BackupBeforePublish(db *sql.DB, opts BackupOptions) (BackupInfo, error) {
|
||
if strings.TrimSpace(opts.Reason) == "" {
|
||
opts.Reason = "publish"
|
||
}
|
||
return Backup(db, opts)
|
||
}
|
||
|
||
// Service 收拢「系统库 + 赛事库」的备份,并串行化手动、发布前、定时三类触发:
|
||
// 同一时刻只允许一个 VACUUM INTO 在跑,避免并发快照互相拖慢或写入同一文件。
|
||
type Service struct {
|
||
system *sql.DB
|
||
event *sql.DB
|
||
dir string
|
||
keep int
|
||
logger *slog.Logger
|
||
|
||
mu sync.Mutex
|
||
}
|
||
|
||
// NewService 构造备份服务;keep<=0 时按 DefaultBackupKeep 滚动保留。
|
||
func NewService(system, event *sql.DB, dir string, keep int, logger *slog.Logger) *Service {
|
||
if logger == nil {
|
||
logger = slog.Default()
|
||
}
|
||
return &Service{system: system, event: event, dir: dir, keep: keep, logger: logger}
|
||
}
|
||
|
||
// Run 备份系统库与赛事库各一份(手动备份、定时备份用)。
|
||
func (s *Service) Run(reason string) ([]BackupInfo, error) {
|
||
s.mu.Lock()
|
||
defer s.mu.Unlock()
|
||
return s.snapshotAll(reason, true)
|
||
}
|
||
|
||
// RunEvent 只备份赛事库(发布前备份用);与 Run 共用同一把锁。
|
||
func (s *Service) RunEvent(reason string) ([]BackupInfo, error) {
|
||
s.mu.Lock()
|
||
defer s.mu.Unlock()
|
||
return s.snapshotAll(reason, false)
|
||
}
|
||
|
||
// StartAuto 跟随 ctx 定时备份:ctx 取消即停止,间隔 <=0 表示关闭。
|
||
//
|
||
// 定时备份不写审计:一天下来会产生几百条 system.backup,把审计表刷满;
|
||
// 手动备份与发布前备份照旧写审计。
|
||
func (s *Service) StartAuto(ctx context.Context, interval time.Duration) {
|
||
if interval <= 0 {
|
||
s.logger.Info("自动备份已关闭", "interval", interval.String())
|
||
return
|
||
}
|
||
if strings.TrimSpace(s.dir) == "" {
|
||
s.logger.Warn("未配置数据目录,跳过自动备份")
|
||
return
|
||
}
|
||
go func() {
|
||
ticker := time.NewTicker(interval)
|
||
defer ticker.Stop()
|
||
for {
|
||
select {
|
||
case <-ctx.Done():
|
||
return
|
||
case <-ticker.C:
|
||
if ctx.Err() != nil {
|
||
return
|
||
}
|
||
infos, err := s.Run("auto")
|
||
if err != nil {
|
||
s.logger.Error("自动备份失败", "err", err)
|
||
continue
|
||
}
|
||
for _, info := range infos {
|
||
s.logger.Info("自动备份完成", "path", info.Path, "size", info.Size)
|
||
}
|
||
}
|
||
}
|
||
}()
|
||
}
|
||
|
||
func (s *Service) snapshotAll(reason string, withSystem bool) ([]BackupInfo, error) {
|
||
if strings.TrimSpace(s.dir) == "" {
|
||
return nil, ErrNoDir
|
||
}
|
||
out := make([]BackupInfo, 0, 2)
|
||
if withSystem && s.system != nil {
|
||
info, err := s.snapshot(s.system, "system", reason)
|
||
if err != nil {
|
||
return out, err
|
||
}
|
||
out = append(out, info)
|
||
}
|
||
if s.event != nil {
|
||
info, err := s.snapshot(s.event, "event", reason)
|
||
if err != nil {
|
||
return out, err
|
||
}
|
||
out = append(out, info)
|
||
}
|
||
return out, nil
|
||
}
|
||
|
||
func (s *Service) snapshot(db *sql.DB, prefix, reason string) (BackupInfo, error) {
|
||
info, err := Backup(db, BackupOptions{Dir: s.dir, Prefix: prefix, Reason: reason, Keep: s.keep})
|
||
if err == nil {
|
||
return info, nil
|
||
}
|
||
// 快照已生成、只是滚动清理旧备份失败时 Backup 仍返回有效 info:
|
||
// 删不掉旧文件不算本次备份失败,记日志即可(下次备份会再试)。
|
||
if info.Path != "" {
|
||
s.logger.Warn("清理旧备份失败", "prefix", prefix, "err", err)
|
||
return info, nil
|
||
}
|
||
return BackupInfo{}, err
|
||
}
|
||
|
||
// ListBackups 按时间倒序列出备份;prefix 为空时列出全部 .db 备份。
|
||
// 不计算校验和(避免每次列表都全量读盘),需要校验时用 Backup 的返回值。
|
||
func ListBackups(dir, prefix string) ([]BackupInfo, error) {
|
||
entries, err := os.ReadDir(dir)
|
||
if os.IsNotExist(err) {
|
||
return nil, nil
|
||
}
|
||
if err != nil {
|
||
return nil, fmt.Errorf("export: 读取备份目录 %s: %w", dir, err)
|
||
}
|
||
|
||
prefix = strings.TrimSpace(prefix)
|
||
out := make([]BackupInfo, 0, len(entries))
|
||
for _, e := range entries {
|
||
if e.IsDir() || !strings.HasSuffix(strings.ToLower(e.Name()), ".db") {
|
||
continue
|
||
}
|
||
if prefix != "" && !strings.HasPrefix(e.Name(), prefix+"-") {
|
||
continue
|
||
}
|
||
info, err := e.Info()
|
||
if err != nil {
|
||
return nil, fmt.Errorf("export: 读取备份信息 %s: %w", e.Name(), err)
|
||
}
|
||
out = append(out, backupInfoFor(BackupInfo{
|
||
Path: filepath.Join(dir, e.Name()),
|
||
Name: e.Name(),
|
||
Size: info.Size(),
|
||
Reason: reasonFromName(e.Name(), prefix),
|
||
CreatedAt: info.ModTime(),
|
||
}))
|
||
}
|
||
sort.Slice(out, func(i, j int) bool {
|
||
if !out[i].CreatedAt.Equal(out[j].CreatedAt) {
|
||
return out[i].CreatedAt.After(out[j].CreatedAt)
|
||
}
|
||
return out[i].Name > out[j].Name
|
||
})
|
||
return out, nil
|
||
}
|
||
|
||
// LatestBackup 返回最近一份备份,用于健康检查展示「最近备份时间」。
|
||
func LatestBackup(dir, prefix string) (BackupInfo, bool, error) {
|
||
list, err := ListBackups(dir, prefix)
|
||
if err != nil || len(list) == 0 {
|
||
return BackupInfo{}, false, err
|
||
}
|
||
return list[0], true, nil
|
||
}
|
||
|
||
// PruneBackups 只保留最近 keep 份,返回被删除的文件路径;
|
||
// 个别文件删不掉只汇总到返回的错误里,不影响继续清理其余旧备份。
|
||
func PruneBackups(dir, prefix string, keep int) ([]string, error) {
|
||
if keep <= 0 {
|
||
keep = DefaultBackupKeep
|
||
}
|
||
list, err := ListBackups(dir, prefix)
|
||
if err != nil {
|
||
return nil, err
|
||
}
|
||
if len(list) <= keep {
|
||
return nil, nil
|
||
}
|
||
|
||
removed := make([]string, 0, len(list)-keep)
|
||
var errs []error
|
||
for _, b := range list[keep:] {
|
||
if err := os.Remove(b.Path); err != nil && !os.IsNotExist(err) {
|
||
errs = append(errs, fmt.Errorf("export: 删除旧备份 %s: %w", b.Path, err))
|
||
continue
|
||
}
|
||
removed = append(removed, b.Path)
|
||
}
|
||
return removed, errors.Join(errs...)
|
||
}
|
||
|
||
// uniqueBackupPath 为备份选一个不重名的路径。
|
||
// 重试次数有上限:目录不可读等非 NotExist 错误不能让备份线程死循环(它持锁会阻塞全部备份)。
|
||
func uniqueBackupPath(dir, prefix, reason string, now time.Time) (string, error) {
|
||
base := fmt.Sprintf("%s-%s-%s", prefix, reason, now.Format("20060102-150405"))
|
||
p := filepath.Join(dir, base+".db")
|
||
for i := 2; i <= 100; i++ {
|
||
_, err := os.Stat(p)
|
||
if os.IsNotExist(err) {
|
||
return p, nil
|
||
}
|
||
if err != nil {
|
||
return "", fmt.Errorf("export: 检查备份路径 %s: %w", p, err)
|
||
}
|
||
p = filepath.Join(dir, fmt.Sprintf("%s-%d.db", base, i))
|
||
}
|
||
return "", fmt.Errorf("export: 备份文件名 %s 冲突过多,放弃重试", base)
|
||
}
|
||
|
||
// knownBackupPrefixes 是系统内置的备份前缀;prefix 为空(列出全部备份)时用它识别并剥掉前缀。
|
||
var knownBackupPrefixes = []string{"event", "system", "db"}
|
||
|
||
// reasonFromName 从 <prefix>-<reason>-<yyyyMMdd>-<HHmmss>[-<序号>].db 里取回原因;
|
||
// 同一秒重复备份会多一段序号,所以从右侧找「8 位日期 + 6 位时间」再截断。
|
||
func reasonFromName(name, prefix string) string {
|
||
base := strings.TrimSuffix(name, filepath.Ext(name))
|
||
if prefix != "" {
|
||
base = strings.TrimPrefix(base, prefix+"-")
|
||
} else {
|
||
for _, p := range knownBackupPrefixes {
|
||
if strings.HasPrefix(base, p+"-") {
|
||
base = strings.TrimPrefix(base, p+"-")
|
||
break
|
||
}
|
||
}
|
||
}
|
||
parts := strings.Split(base, "-")
|
||
for i := len(parts) - 2; i >= 0; i-- {
|
||
if len(parts[i]) == 8 && len(parts[i+1]) == 6 && allDigits(parts[i]) && allDigits(parts[i+1]) {
|
||
return strings.Join(parts[:i], "-")
|
||
}
|
||
}
|
||
return ""
|
||
}
|
||
|
||
func allDigits(s string) bool {
|
||
for _, r := range s {
|
||
if r < '0' || r > '9' {
|
||
return false
|
||
}
|
||
}
|
||
return s != ""
|
||
}
|