main.go 56 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064106510661067106810691070107110721073107410751076107710781079108010811082108310841085108610871088108910901091109210931094109510961097109810991100110111021103110411051106110711081109111011111112111311141115111611171118111911201121112211231124112511261127112811291130113111321133113411351136113711381139114011411142114311441145114611471148114911501151115211531154115511561157115811591160116111621163116411651166116711681169117011711172117311741175117611771178117911801181118211831184118511861187118811891190119111921193119411951196119711981199120012011202120312041205120612071208120912101211121212131214121512161217121812191220122112221223122412251226122712281229123012311232123312341235123612371238123912401241124212431244124512461247124812491250125112521253125412551256125712581259126012611262126312641265126612671268126912701271127212731274127512761277127812791280128112821283128412851286128712881289129012911292129312941295129612971298129913001301130213031304130513061307130813091310131113121313131413151316131713181319132013211322132313241325132613271328132913301331133213331334133513361337133813391340134113421343134413451346134713481349135013511352135313541355135613571358135913601361136213631364136513661367136813691370137113721373137413751376137713781379138013811382138313841385138613871388138913901391139213931394139513961397139813991400140114021403140414051406140714081409141014111412141314141415141614171418141914201421142214231424142514261427142814291430143114321433143414351436143714381439144014411442144314441445144614471448144914501451145214531454145514561457145814591460146114621463146414651466146714681469147014711472147314741475147614771478147914801481148214831484148514861487148814891490149114921493149414951496149714981499150015011502150315041505150615071508150915101511151215131514151515161517151815191520152115221523152415251526152715281529153015311532153315341535153615371538153915401541154215431544154515461547154815491550155115521553155415551556155715581559156015611562156315641565156615671568156915701571157215731574157515761577157815791580158115821583158415851586158715881589159015911592159315941595159615971598159916001601160216031604160516061607160816091610161116121613161416151616161716181619162016211622162316241625162616271628162916301631163216331634163516361637163816391640164116421643164416451646164716481649165016511652165316541655165616571658165916601661166216631664166516661667166816691670167116721673167416751676167716781679168016811682168316841685
  1. package main
  2. import (
  3. "crypto/sha1"
  4. "encoding/binary"
  5. "encoding/hex"
  6. "encoding/json"
  7. "fmt"
  8. "io"
  9. "log"
  10. "math"
  11. "math/big"
  12. "net/http"
  13. _ "net/http/pprof" // /debug/pprof/* 挂在 DefaultServeMux 上, 供排查内存/CPU
  14. "os"
  15. "path/filepath"
  16. "runtime"
  17. "runtime/debug"
  18. "strconv"
  19. "strings"
  20. "sync"
  21. "time"
  22. "unsafe"
  23. // analyzer 的 go.mod 有 replace TsDB2 => ../, 可以直接读 core 的类型表。
  24. // 列型的宽度/名字改为投影自 typeRegistry, 见 fSz / fName 的注释。
  25. "git.ycl.pub/yl32940/TsDB2/DB/core"
  26. "git.ycl.pub/yl32940/TsDB2/DB/core/types"
  27. )
  28. const (
  29. PGSZ = 16384
  30. HDRSZ = 4096
  31. PHDR = 20 // PageHdr actual size (with alignment)
  32. DP_HDR = 48 // DataPage header (DB/core/page/datapage.go DataPageHdrSize):
  33. // PageHdr(20) + Count(4) + Min(8) + Max(8) + LiveCnt(4) + Dead(4) = 48
  34. // v10 在 Count/Min/Max 之后新增了 LiveCnt/Dead 用于 O(1) COUNT 与
  35. // 失效占比判断; 漏掉这 8B 会让 eachRow 从 LiveCnt/Dead 上读出
  36. // 假 row header, pkID 全部错位, 进而把整库二级索引条目误判为悬空。
  37. IDX_HDR = 32 // PHDR(20) + pad(1) + IndexType(1) + EntryLen(2) + Count(4) + IsLeaf(1) + pad(3)
  38. // 下面两个尺寸与 TI_* / IM_* 偏移与 DB/core 的 IndexMeta/TableInfo 布局一一对应。
  39. // TableNameSize = 48 且 IndexNameSize = 64 时: IndexMeta 100 字节, TableInfo 104 字节。
  40. // 这里的每一个常量都由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上,
  41. // 改了 DB/core 布局却漏改这里会直接编译失败 (而不是静默按错位读盘)。
  42. META_SZ = 100 // IndexMeta entry size (with Go alignment padding)
  43. TINFO_SZ = 104 // TableInfo struct size (with alignment)
  44. PG_HEAD = 0
  45. PG_TABLE = 1
  46. PG_DATA = 2
  47. PG_HEAP = 3
  48. PG_IMETA = 4
  49. PG_IDATA = 5
  50. PG_OVER = 6 // DataOverflowPage: 数据页溢出页 (已废弃)
  51. PG_WAL = 7 // WALIndex: WAL 日志页
  52. PG_SEXT = 8 // SchemaExtIndex: 全库共享的表结构扩展页
  53. // 分析器自造的哨兵
  54. PG_NEVER = -1 // 页号 >= NextFreePage, 从未被分配过
  55. PG_RESERVED = -2 // 页 1: 引擎预留, 从不分配 (header_page.go newHeader)
  56. PG_ORPHAN = -3 // 已下发区间内、类型字节=0 却不在空闲链上 (被遗漏的空闲页/泄漏页)
  57. PG_OTHER = -4 // 未知类型字节
  58. // PageHdr 字段偏移 (共 20 字节)
  59. PH_REF = 2 // RefCount uint16 (仅堆页维护: 指向本页的活引用数)
  60. PH_PREV = 8 // PrePage uint32
  61. PH_NEXT = 12 // NextPage uint32
  62. PH_USE = 16 // UseSize uint32
  63. // 表页在 PageHdr 之后为共享扩展页链头 (SchemaExtPageID) 统一预留 4 字节,
  64. // 因此每条表记录的起始偏移是 PHDR + SEXT_HDR (所有表页一致)。
  65. SEXT_HDR = 4
  66. REC_OFF = PHDR + SEXT_HDR
  67. // SchemaFragHdr: NextPage(4B BE) + NextOff(2B BE) + DataLen(2B BE)
  68. FRAG_HDR = 8
  69. // TableInfo 字段偏移 (共 104 字节, TableNameSize=48)
  70. TI_FLAG = 48 // Flag byte (0x80 = 已删除/空洞)
  71. TI_HPCNT = 52 // HeapPageCount uint32 (复用 TotalRows 前的对齐填充)
  72. TI_ROWS = 56 // TotalRows uint64
  73. TI_FHEAP = 64 // FirstHeap uint32
  74. TI_FDATA = 72 // FirstData uint32
  75. TI_ROWSZ = 80 // RowSize uint16
  76. TI_ALLOC = 82 // FieldAllocateSize uint16
  77. TI_FIDX = 88 // FirstIndexID uint32
  78. TI_EXTPG = 96 // ExtPage uint32 (schema 续块所在扩展页)
  79. TI_EXTOFF = 100 // ExtOff uint16 (首个续块在页内的偏移)
  80. // IndexMeta 字段偏移 (共 100 字节, IndexNameSize=64)
  81. //
  82. // 这些偏移全都随 IndexNameSize 整体平移 —— 索引名数组一变长, 其后每个字段的位置
  83. // 都跟着变。名字长度单独列成 IM_NAMSZ, slice 时就不必再写 64 这个魔法数字。
  84. IM_NAMSZ = 64 // IndexName [IndexNameSize]byte 的字节数 (索引名: im[0:64])
  85. IM_TYPE = 64 // IndexType byte
  86. IM_FCNT = 65 // FieldCnt byte
  87. IM_FLDS = 66 // FieldIDs [16]byte
  88. IM_EP = 84 // EntryPage uint32 (跳过 2 字节对齐填充)
  89. IM_FLAG = 96 // Flag byte
  90. // 索引 Flag 的位 (对应 core 的 IndexFlag*: bit7 软删除 / bit0 唯一索引)。
  91. // 取值由 layout_assert.go 拿 core 的常量编译期钉住 —— 这里手写位掩码是为了
  92. // 不依赖 core 的常量名, 但绝不能和它漂移。
  93. IM_FLAG_DELETED = 0x80
  94. IM_FLAG_UNIQUE = 0x01
  95. // 列 (FieldInfo) Flag 的位, 对应 core/types 的 Flag* 常量:
  96. // bit7 = 已删除 / bit6 = 可为 NULL / bit5 = 唯一
  97. // bit4..bit0 = 列级类型参数 (按类型解释: decimal 是 scale, 字符串列是宽度码)
  98. // 掩码名沿用 FLAG_SCALE (core 侧叫 FlagScaleMask), 两个用途共用同一格。
  99. FLAG_DELETED = 0x80
  100. FLAG_NULLABLE = 0x40
  101. FLAG_UNIQUE = 0x20
  102. FLAG_SCALE = 0x1f
  103. )
  104. // ===== Data Structures =====
  105. type TInfo struct {
  106. Name string `json:"name"`
  107. RowN uint64 `json:"rowN"`
  108. FSz uint16 `json:"fsz"`
  109. DP0 uint32 `json:"dp0"`
  110. IP0 uint32 `json:"ip0"`
  111. HP0 uint32 `json:"hp0"`
  112. HPC uint32 `json:"hpc"` // HeapPageCount: 声明式堆链长度
  113. ActiveVer byte `json:"activeVer"`
  114. MasterFields []MFInfo `json:"masterFields"`
  115. Versions []VInfo `json:"versions"`
  116. Idxs []IInfo `json:"idxs"`
  117. }
  118. type MFInfo struct {
  119. Name string `json:"name"`
  120. Type byte `json:"type"`
  121. TypeName string `json:"typeName"`
  122. // Flag 列级标志字节, 随 schema 落盘 (对应 types.FieldInfo.Flag):
  123. //
  124. // bit7 bit6 bit5 | bit4 ........ bit0
  125. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  126. //
  127. // 低 5 位按类型解释 (如 decimal:2 → 2, maxlen 声明出来的字符串列 → 宽度码);
  128. // 删除标记不再占用 Typ 的最高位。
  129. Flag byte `json:"flag"`
  130. // Param 列级类型参数 (Flag 低 5 位): decimal 是 scale, 字符串家族是行内宽度码,
  131. // 其余类型为 0。
  132. Param byte `json:"param"`
  133. // Nullable / Unique 从 Flag 拆出来的状态位。
  134. //
  135. // 位掩码只在这一个地方拆一次, 前端 / 检查逻辑都用这两个布尔 —— 每个消费方
  136. // 各自去 &0x40 / &0x20, 迟早会有人写错位, 而"列可不可空"读错的后果是悄悄
  137. // 把 NULL 当成 0 来解释。
  138. Nullable bool `json:"nullable"`
  139. Unique bool `json:"unique"`
  140. Sz int `json:"sz"`
  141. // Label / Tip 类型徽章的展示文本与悬浮说明, 由 fLabel / fTip 在【后端】算好。
  142. //
  143. // 字符串列的 label 会显式带出行内宽度 (string(1024B)): 类型档 (string) 与真实
  144. // 宽度矛盾时, 列表里能一眼看出这列到底占多大, 不必往右看 Size 列。
  145. // 放在后端算与 nullable/unique 同一个理由: Flag 低 5 位是【按类型重载】的一格
  146. // (decimal 是 scale, 字符串家族是宽度码), 前端若能拿到它, 迟早有人当字节数显示 ——
  147. // 而"宽度码 20"对应的那列是 1024 字节, 差 50 倍。
  148. Label string `json:"label"`
  149. Tip string `json:"tip"`
  150. Dropped bool `json:"dropped"`
  151. }
  152. type VInfo struct {
  153. Ver byte `json:"ver"`
  154. Fields []string `json:"fields"`
  155. // Indices 本版字段在 masterFields 里的下标 (顺序 = 行内字段顺序)。
  156. //
  157. // 对外必须是 []int 而不是盘上原样的 []byte: 盘上每版字段数是 1 字节, 解析时直接
  158. // copy 最省事, 但 []byte 过 JSON 会变成 base64 字符串 —— 前端 v.indices[i] 拿到的是
  159. // 第 i 个字符, t.masterFields['A'] 恒为 undefined, "这一版每列多宽"整块静默消失。
  160. // 宽化在解析层一次做完, 前端拿到的就是能直接当下标用的数字。
  161. Indices []int `json:"indices"`
  162. }
  163. type FInfo struct {
  164. Name string `json:"name"`
  165. Type byte `json:"type"`
  166. Sz int `json:"sz"`
  167. }
  168. type IInfo struct {
  169. Name string `json:"name"`
  170. Type byte `json:"type"`
  171. TS string `json:"ts"`
  172. EP uint32 `json:"ep"`
  173. Flds []int `json:"flds"`
  174. // Uniq 唯一索引 (IndexMeta.Flag 的 bit0)。索引的 Flag 字节里只有两位:
  175. //
  176. // bit7 bit6 bit0
  177. // 已删除 (未用) 唯一索引
  178. //
  179. // 唯一位不参与一致性校验 (它只约束写入路径, 不影响盘上结构), 但漏掉它会让
  180. // 分析器把唯一索引和普通索引用同一种样子画出来 —— 从外部看, 一张表的约束
  181. // 就完全不可见了。
  182. Uniq bool `json:"uniq"`
  183. }
  184. type DP struct {
  185. ID uint32 `json:"id"`
  186. Nx uint32 `json:"nx"`
  187. Pv uint32 `json:"pv"`
  188. Cn uint32 `json:"cn"`
  189. Mx uint64 `json:"mx"`
  190. Mn uint64 `json:"mn"`
  191. Us float64 `json:"us"`
  192. Rs []DR `json:"rs"`
  193. }
  194. type DR struct {
  195. I int `json:"i"`
  196. PKID uint64 `json:"pk"`
  197. SchemaV byte `json:"sv"`
  198. Hex string `json:"h"`
  199. Decoded string `json:"decoded"`
  200. }
  201. type IP struct {
  202. ID uint32 `json:"id"`
  203. Nx uint32 `json:"nx"`
  204. Pv uint32 `json:"pv"`
  205. Lf bool `json:"lf"`
  206. Cn uint32 `json:"cn"`
  207. Us float64 `json:"us"`
  208. Ents []IE `json:"ents"`
  209. IdxType byte `json:"it"`
  210. }
  211. type IE struct {
  212. K string `json:"k"`
  213. P uint32 `json:"p"`
  214. DP uint64 `json:"dp"`
  215. }
  216. type HdrInfo struct {
  217. Magic string `json:"magic"`
  218. Version uint32 `json:"ver"`
  219. PageSize uint32 `json:"pgsz"`
  220. NextFree uint32 `json:"nf"`
  221. TablePage uint32 `json:"tp"`
  222. TableCount uint32 `json:"tc"`
  223. CreateTime string `json:"ct"`
  224. ModifyTime string `json:"mt"`
  225. FreeStart uint32 `json:"fs"`
  226. FreeEnd uint32 `json:"fe"`
  227. FreeCount uint32 `json:"fc"`
  228. GlobalFlags uint64 `json:"gf"`
  229. WALFirst uint32 `json:"wal0"`
  230. WALLast uint32 `json:"wal1"`
  231. TxnID uint64 `json:"txn"`
  232. Comment string `json:"cm"`
  233. HeaderCrc uint32 `json:"crc"` // 头页声明的整页 XXH32 (旧库为 0)
  234. CrcVerdict string `json:"cv"` // 校验结论: OK / CRC 不符 / 跳过
  235. CrcDetail string `json:"cd"` // 校验说明
  236. // 实算值 (与上面的声明值互校)
  237. FreeWalked int `json:"fw"` // 实走空闲链长度
  238. Pages int `json:"pg"` // 数据页总数
  239. Allocated int `json:"ap"` // 已分配页数
  240. NeverUsed int `json:"nu"` // 从未分配的尾页
  241. FreeVerdict string `json:"fv"` // 空闲链自检结论
  242. FreeDetail string `json:"fd"` // 自检说明
  243. }
  244. type HeapChain struct {
  245. Pages []HeapPageInfo `json:"pages"`
  246. Total int `json:"total"`
  247. }
  248. type HeapPageInfo struct {
  249. ID uint32 `json:"id"`
  250. Next uint32 `json:"nx"`
  251. Prev uint32 `json:"pv"`
  252. Use uint32 `json:"use"`
  253. Us float64 `json:"us"`
  254. Ref uint16 `json:"ref"` // 页头 RefCount: 指向本页的活引用数 (仅堆页有意义)
  255. }
  256. var (
  257. dbF string
  258. fp string
  259. hdr [HDRSZ]byte
  260. tabs []TInfo
  261. mu sync.RWMutex
  262. )
  263. func main() {
  264. log.SetFlags(log.LstdFlags | log.Lshortfile)
  265. fmt.Println("╔══════════════════════════════════════════════╗")
  266. fmt.Println("║ TsDB2 Analyzer v3.0 (Schema Aware) ║")
  267. fmt.Println("║ http://localhost:8081 ║")
  268. fmt.Println("╚══════════════════════════════════════════════╝")
  269. http.HandleFunc("/", homeH)
  270. http.HandleFunc("/api/list-dir", ldH)
  271. http.HandleFunc("/api/open-db", openH)
  272. http.HandleFunc("/api/stats", stH)
  273. http.HandleFunc("/api/tables", taH)
  274. http.HandleFunc("/api/table/", tdH)
  275. http.HandleFunc("/api/data-page", dpH)
  276. http.HandleFunc("/api/index-page", ipH)
  277. http.HandleFunc("/api/btree", btH)
  278. http.HandleFunc("/api/header", hdrH)
  279. http.HandleFunc("/api/heap-chain", heapH)
  280. http.HandleFunc("/api/free-pages", freeH)
  281. http.HandleFunc("/api/pages", pagesH)
  282. http.HandleFunc("/api/pagemap", pagemapH)
  283. http.HandleFunc("/api/find-pk", findPkH)
  284. http.HandleFunc("/api/audit", auditH)
  285. http.HandleFunc("/api/mem", memH)
  286. http.HandleFunc("/api/audit/issues", auditIssuesH)
  287. http.HandleFunc("/api/audit/unacc", auditUnaccH)
  288. http.HandleFunc("/api/heap-chains", heapChainsH)
  289. http.HandleFunc("/api/page-info", pageInfoH)
  290. // 静态资源 (index.html 引用的 js/css/字体等) 一律走 embed, 不再暴露工作目录。
  291. http.Handle("/s/", http.StripPrefix("/s/", http.FileServer(http.FS(webRoot()))))
  292. log.Fatal(http.ListenAndServe(":8081", countInflight(http.DefaultServeMux)))
  293. }
  294. // countInflight 把每个请求登记为"在飞读任务": 请求期间可能持有指向映射区的
  295. // 页切片, 换库时不能把映射解掉 (见 audit.go 的 gcRetired)。
  296. func countInflight(h http.Handler) http.Handler {
  297. return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  298. enterRead()
  299. defer exitRead()
  300. h.ServeHTTP(w, r)
  301. })
  302. }
  303. // ===== Low-level page reading =====
  304. // rp 读一页 —— 统一走 audit.go 的共享句柄 (全库审计要读上千页, 不能每页都 open)。
  305. func rp(pid uint32) ([]byte, error) { return readPage(pid) }
  306. // rHdr 把 4096 字节的 HeaderPage 读进全局 hdr。
  307. func rHdr() {
  308. f, e := dbFile()
  309. if e != nil {
  310. return
  311. }
  312. f.ReadAt(hdr[:], 0)
  313. }
  314. // ===== Parse all tables from TablePage chain =====
  315. func pTabs() []TInfo {
  316. var R []TInfo
  317. tp := binary.LittleEndian.Uint32(hdr[48:52]) // TablePage (v11 起偏移 48)
  318. if tp == 0 {
  319. return R
  320. }
  321. for pid := tp; pid != 0; {
  322. b, e := rp(pid)
  323. if e != nil {
  324. break
  325. }
  326. us := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  327. if us > PGSZ {
  328. us = PGSZ
  329. }
  330. // 所有表页都在 PageHdr 之后统一预留 SEXT_HDR 字节, 记录从 REC_OFF 开始
  331. off := uint32(REC_OFF)
  332. for off+TINFO_SZ <= us && off+TINFO_SZ <= PGSZ {
  333. tb := b[off : off+TINFO_SZ]
  334. alloc := uint32(binary.LittleEndian.Uint16(tb[TI_ALLOC : TI_ALLOC+2]))
  335. if tb[TI_FLAG]&0x80 != 0 {
  336. // Drop 留下的空洞 (墓碑): 按记录自身长度跳过
  337. off += TINFO_SZ + alloc
  338. continue
  339. }
  340. nm := strings.TrimRight(string(tb[:48]), "\x00") // 表名: [0, TableNameSize)
  341. rn := binary.LittleEndian.Uint64(tb[TI_ROWS : TI_ROWS+8])
  342. hpc := binary.LittleEndian.Uint32(tb[TI_HPCNT : TI_HPCNT+4])
  343. // 重建完整 schema: 内联块 (alloc 字节) + 共享扩展页续块链
  344. schema := readSchemaBytes(b, off, alloc, tb)
  345. // Parse new schema format
  346. activeVer, masterFields, versions := parseSchemaFields(schema)
  347. // Parse indexes
  348. var is []IInfo
  349. iip := binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4])
  350. for ip := iip; ip != 0; {
  351. ib, e := rp(ip)
  352. if e != nil {
  353. break
  354. }
  355. if ib[0] != PG_IMETA {
  356. break
  357. }
  358. iu := binary.LittleEndian.Uint32(ib[PH_USE : PH_USE+4])
  359. if iu > PGSZ {
  360. iu = PGSZ
  361. }
  362. io := uint32(PHDR)
  363. for io+META_SZ <= iu && io+META_SZ <= PGSZ {
  364. im := ib[io : io+META_SZ]
  365. // IndexMeta struct (Name[64] + Type + FieldCnt + FieldIDs[16] + pad(2)
  366. // + EntryPage + Prev + Next + Flag + pad(3) = 100): 各字段偏移见文件头的 IM_*
  367. // 常量, 由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上。
  368. if im[IM_FLAG]&IM_FLAG_DELETED == 0 {
  369. in := strings.TrimRight(string(im[:IM_NAMSZ]), "\x00") // IndexName: [0, IndexNameSize)
  370. it := im[IM_TYPE] // IndexType
  371. ic := int(im[IM_FCNT]) // FieldCnt
  372. ep := binary.LittleEndian.Uint32(im[IM_EP : IM_EP+4]) // EntryPage (跳过 2B 对齐填充)
  373. uq := im[IM_FLAG]&IM_FLAG_UNIQUE != 0 // 唯一索引
  374. // 验证 EntryPage 指向有效索引页 (防止已删除表的孤立条目)
  375. if ep != 0 {
  376. pb, pe := rp(ep)
  377. if pe != nil || pb[0] != PG_IDATA {
  378. ep = 0 // 无效页, 跳过
  379. }
  380. }
  381. if ep != 0 {
  382. var fds []int
  383. for j := 0; j < ic; j++ {
  384. fds = append(fds, int(im[IM_FLDS+j])) // FieldIDs
  385. }
  386. is = append(is, IInfo{Name: in, Type: it, TS: tNm(it), EP: ep, Flds: fds, Uniq: uq})
  387. }
  388. }
  389. io += META_SZ
  390. }
  391. ip = binary.LittleEndian.Uint32(ib[PH_NEXT : PH_NEXT+4])
  392. }
  393. R = append(R, TInfo{
  394. Name: nm, RowN: rn,
  395. FSz: binary.LittleEndian.Uint16(tb[TI_ROWSZ : TI_ROWSZ+2]),
  396. DP0: binary.LittleEndian.Uint32(tb[TI_FDATA : TI_FDATA+4]),
  397. IP0: binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4]),
  398. HP0: binary.LittleEndian.Uint32(tb[TI_FHEAP : TI_FHEAP+4]),
  399. HPC: hpc,
  400. ActiveVer: activeVer, MasterFields: masterFields, Versions: versions, Idxs: is,
  401. })
  402. off += TINFO_SZ + alloc
  403. }
  404. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  405. if nx == 0 || nx == pid {
  406. break
  407. }
  408. pid = nx
  409. }
  410. return R
  411. }
  412. // readSchemaBytes 重建一张表的完整 schema 字节:
  413. // 表页内联块 (alloc 字节) + 共享扩展页里的续块链 [SchemaFragHdr 8B][payload]
  414. func readSchemaBytes(pageBuf []byte, recOff, alloc uint32, tb []byte) []byte {
  415. schema := make([]byte, 0, alloc)
  416. start := recOff + TINFO_SZ
  417. if end := start + alloc; end <= uint32(len(pageBuf)) {
  418. schema = append(schema, pageBuf[start:end]...)
  419. } else if start < uint32(len(pageBuf)) {
  420. schema = append(schema, pageBuf[start:]...)
  421. }
  422. extPage := binary.LittleEndian.Uint32(tb[TI_EXTPG : TI_EXTPG+4])
  423. extOff := uint32(binary.LittleEndian.Uint16(tb[TI_EXTOFF : TI_EXTOFF+2]))
  424. for pid, off := extPage, extOff; pid != 0; {
  425. fb, e := rp(pid)
  426. if e != nil || int(off)+FRAG_HDR > len(fb) {
  427. break
  428. }
  429. nextPage := binary.BigEndian.Uint32(fb[off : off+4])
  430. nextOff := binary.BigEndian.Uint16(fb[off+4 : off+6])
  431. dataLen := int(binary.BigEndian.Uint16(fb[off+6 : off+8]))
  432. s := int(off) + FRAG_HDR
  433. if s+dataLen > len(fb) {
  434. break
  435. }
  436. schema = append(schema, fb[s:s+dataLen]...)
  437. pid, off = nextPage, uint32(nextOff)
  438. }
  439. return schema
  440. }
  441. // parseSchemaFields 解析新版 schema 字段定义链
  442. //
  443. // 格式 (与 DB/core 的 serializeSchema 逐字节对应):
  444. //
  445. // [activeVer 1B][masterCount 1B][typ 1B][flag 1B][nameLen 1B][name]×masterCount
  446. // [verCount 1B][ver 1B][indexCount 1B][indices]×verCount
  447. //
  448. // flag 是**列级标志字节**, 紧跟在 typ 之后 (对应 types.FieldInfo.Flag):
  449. //
  450. // bit7 bit6 bit5 | bit4 ........ bit0
  451. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  452. //
  453. // 字节位置与原来的 param 完全一致, 只是含义被扩展了: 低 5 位【按类型解释】——
  454. // decimal 是 scale (例如 `12 02 06 "Amount"` 就是 decimal(2)), 字符串家族是行内宽度码
  455. // (maxlen 声明出来的列靠它决定宽度)。其余类型低 5 位为 0, 但字节一定在。
  456. //
  457. // 所以下面算 Sz 时必须把 flag 一起传进去 (fSzWithParam): 只看 typ 会给宽度码列算成
  458. // 类型默认档 256, 而它是 2048 就整行错位 —— 与本函数注释开头说的那次事故同一类。
  459. //
  460. // 【这里漏掉这个字节曾造成整表读错】: 原实现按 `[typ][nameLen][name]` 走位, 于是把
  461. // 它当成了 nameLen —— 第一个字段名读成空串, 之后 masterFields / versions 全部错位。
  462. // 症状很误导人: 表显示成"只有 1 个字段且无名"、版本号是乱数、数据页一行都解不出, 而
  463. // 页头那些不依赖 schema 的字段 (TotalRows / RowSize / 页号) 却完全正确, 于是很难往
  464. // "schema 解析"上想。TestParseSchemaAgainstCore 用 core 造的**真库**来钉这件事:
  465. // 它不重述格式, 而是要求两侧对同一份盘上字节的解释一致。
  466. func parseSchemaFields(b []byte) (byte, []MFInfo, []VInfo) {
  467. if len(b) < 2 {
  468. return 0, nil, nil
  469. }
  470. pos := 0
  471. activeVer := b[pos]
  472. pos++
  473. masterCount := int(b[pos])
  474. pos++
  475. var masterFields []MFInfo
  476. for i := 0; i < masterCount && pos+3 <= len(b); i++ {
  477. typ := b[pos]
  478. flag := b[pos+1]
  479. nameLen := int(b[pos+2])
  480. pos += 3
  481. if pos+nameLen > len(b) {
  482. break
  483. }
  484. name := strings.TrimRight(string(b[pos:pos+nameLen]), "\x00")
  485. pos += nameLen
  486. // typ 是纯类型值 (删除标记不再占最高位), 状态位全在 flag 里。
  487. // param / sz 各算一次并复用: 宽度是"行内按多少字节付满"的唯一依据,
  488. // 下面三处 (Sz / Label / Tip) 必须拿到同一个值, 分头算迟早会漂移。
  489. param := flag & FLAG_SCALE
  490. sz := fSzWithParam(typ, param)
  491. masterFields = append(masterFields, MFInfo{
  492. Name: name, Type: typ, TypeName: fName(typ),
  493. Flag: flag, Sz: sz, Param: param,
  494. Label: fLabel(typ, param, sz),
  495. Tip: fTip(typ, param, sz),
  496. Dropped: flag&FLAG_DELETED != 0,
  497. Nullable: flag&FLAG_NULLABLE != 0,
  498. Unique: flag&FLAG_UNIQUE != 0,
  499. })
  500. }
  501. var versions []VInfo
  502. if pos < len(b) {
  503. verCount := int(b[pos])
  504. pos++
  505. for i := 0; i < verCount && pos < len(b); i++ {
  506. verNo := b[pos]
  507. pos++
  508. if pos >= len(b) {
  509. break
  510. }
  511. fieldCount := int(b[pos])
  512. pos++
  513. // 下标逐个宽化成 int (见 VInfo.Indices): 盘上 1 字节/个, 但对外要数字数组。
  514. indices := make([]int, fieldCount)
  515. if pos+fieldCount <= len(b) {
  516. for i, raw := range b[pos : pos+fieldCount] {
  517. indices[i] = int(raw)
  518. }
  519. pos += fieldCount
  520. }
  521. // Build field name list for this version
  522. var fieldNames []string
  523. for _, idx := range indices {
  524. if idx < len(masterFields) {
  525. mf := masterFields[idx]
  526. n := mf.Name
  527. if mf.Dropped {
  528. n += " (dropped)"
  529. }
  530. fieldNames = append(fieldNames, n)
  531. } else {
  532. fieldNames = append(fieldNames, "?")
  533. }
  534. }
  535. versions = append(versions, VInfo{Ver: verNo, Fields: fieldNames, Indices: indices})
  536. }
  537. }
  538. return activeVer, masterFields, versions
  539. }
  540. // ===== Field type helpers =====
  541. // fSz 列在行内的字节宽度。
  542. //
  543. // 【为什么是投影而不是自己 switch】这里原本手写了一张 1..15 的表, core 新增 7 个列型
  544. // (bool/float32/decimal/uuid/year/int128/blob) 时没同步, 于是 fSz 对新类型返回 0 ——
  545. // 这不是"显示成 ?"那么轻: 行解码靠它推进偏移 (decodeRows 里的 off += sz), 0 会让新类型
  546. // 字段【之后的所有列】都从同一个错位偏移解码, 整行静默错位; indexcheck 也会因为
  547. // size <= 0 直接放弃索引键校验。
  548. //
  549. // 改成投影到 core 的 typeRegistry 之后, 这类漏同步在结构上不可能再发生: core 那边有
  550. // allTypes + CheckRegistry 兜底, 这里自动覆盖全部已声明类型。复用 core 的布局事实是
  551. // 本项目既有做法 (见 layout_assert.go 的编译期断言)。
  552. //
  553. // 注意它给的是【类型默认档】宽度; 行内真实宽度还要乘上列级参数 (字符串列的宽度码),
  554. // 行解码/索引键切分一律用 fSzWithParam。
  555. func fSz(t byte) int { return int(types.GetSize(types.FieldType(t))) }
  556. // fSzWithParam 列在行内的真实字节宽度 = types.FieldSize(类型, 列级参数)。
  557. //
  558. // param 取列 flag 的低 5 位 (字符串列是宽度码, decimal 是 scale)。少传它就会给
  559. // "maxlen 声明出来的字符串列"算出类型默认档 256, 而盘上那一列是 1024 字节 ——
  560. // off += sz 之后整行字段静默错位, 且错得"很像正常数据" (字段都有值, 只是全错位)。
  561. // 返回 0 表示类型未注册或参数非法: 调用方必须放弃解析该行, 不能当真值用。
  562. func fSzWithParam(t byte, param byte) int {
  563. return int(types.FieldSize(types.FieldType(t), param))
  564. }
  565. func tNm(t byte) string {
  566. switch t {
  567. case 1:
  568. return "Time"
  569. case 2:
  570. return "Primary"
  571. case 3:
  572. return "String"
  573. case 4:
  574. return "Compose"
  575. case 5:
  576. return "BTree"
  577. case 6:
  578. return "Hash"
  579. default:
  580. return "?"
  581. }
  582. }
  583. // fName 列类型的可读名。同样投影自 core 的 typeRegistry。
  584. //
  585. // 名字一律投影自 types 注册表 (uint8/uint16/…/string/dynamic/float64/int8/…/int64),
  586. // 因此 core 增删类型时这里自动跟随 —— 不需要再维护第二份会漂移的名单。
  587. func fName(t byte) string {
  588. if n := types.TypeNameOf(types.FieldType(t)); n != "" {
  589. return n
  590. }
  591. return "?"
  592. }
  593. // fLabel 类型徽章的展示文本 (MFInfo.Label)。
  594. //
  595. // 【为什么字符串列要改写】定长字符串列的行内宽度不是类型自带的, 而是靠 Flag 低 5 位的
  596. // 【宽度码】声明 (见 types.FieldSize)。于是同一个 String 类型下会出现"真实行宽 1024 字节"
  597. // 的列 —— 列表里只写类型名, 看起来就是默认的 256 字节, 与盘上差了 4 倍, 而"字符串大小"
  598. // 这件事恰恰是看 schema 时最想知道的。所以宽度码不为 0 的字符串列显示成 string(1024B)。
  599. //
  600. // 宽度码为 0 (沿用类型默认宽度 256) 时只显示类型名 string。
  601. //
  602. // decimal 显示 scale (与改动前一致); 其余类型就是类型名; 未注册类型给 "?"。
  603. func fLabel(t byte, param byte, sz int) string {
  604. name := fName(t)
  605. if name == "?" {
  606. return unknownFieldValue
  607. }
  608. ft := types.FieldType(t)
  609. switch {
  610. case ft == types.FieldType_Decimal:
  611. if param > 0 {
  612. return fmt.Sprintf("%s(%d)", name, param)
  613. }
  614. case types.IsStringType(ft) && param > 0:
  615. return fmt.Sprintf("string(%dB)", sz)
  616. }
  617. return name
  618. }
  619. // fTip 类型徽章的悬浮说明 (MFInfo.Tip): 把"类型档 + 列级参数 + 行内宽度"三件事一次讲清。
  620. //
  621. // 徽章上放不下这些, 而它们正是排查行宽问题时要对照的东西 —— 尤其是字符串列:
  622. // 盘上只存宽度码, 声明值本身【没有保留】, 因此这里只能给"向上取档后的宽度",
  623. // 这一点必须在提示里说破, 否则会有人拿它当声明值对账。
  624. func fTip(t byte, param byte, sz int) string {
  625. name := fName(t)
  626. if name == "?" {
  627. return fmt.Sprintf("未注册的类型 %d: 行内宽度算不出来, 本行无法解码", t)
  628. }
  629. ft := types.FieldType(t)
  630. switch {
  631. case types.IsStringType(ft):
  632. tip := fmt.Sprintf("定长字符串列: 类型档 %s, 行内宽度 %d 字节", name, sz)
  633. if param > 0 {
  634. tip += fmt.Sprintf(" (宽度码 %d; 声明容量向上取档后的宽度, 每行按它付满)", param)
  635. }
  636. return tip
  637. case ft == types.FieldType_Decimal:
  638. return fmt.Sprintf("定点小数: scale=%d, 行内宽度 %d 字节", param, sz)
  639. case sz <= 0:
  640. return fmt.Sprintf("类型 %s: 行内宽度算不出来", name)
  641. }
  642. return fmt.Sprintf("%s: 行内宽度 %d 字节", name, sz)
  643. }
  644. // ===== Read DataPage with schema version awareness =====
  645. // rDP reads a DataPage (sequential row layout, no directory)
  646. func rDP(pid uint32) *DP {
  647. b, e := rp(pid)
  648. if e != nil {
  649. return nil
  650. }
  651. if b[0] != PG_DATA {
  652. return nil
  653. }
  654. cn := binary.LittleEndian.Uint32(b[PHDR : PHDR+4])
  655. mn := binary.BigEndian.Uint64(b[PHDR+4 : PHDR+12])
  656. mx := binary.BigEndian.Uint64(b[PHDR+12 : PHDR+20])
  657. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  658. var rs []DR
  659. off := DP_HDR
  660. for i := uint32(0); i < cn && off+4 <= len(b); i++ {
  661. // 长度字段最高位 (0x80000000) 为软删除标志, 必须屏蔽后再取实际长度
  662. rawLen := binary.LittleEndian.Uint32(b[off : off+4])
  663. rl := int(rawLen &^ 0x80000000)
  664. deleted := rawLen&0x80000000 != 0
  665. off += 4
  666. if off+rl > len(b) || rl <= 0 {
  667. break
  668. }
  669. storeRow := b[off : off+rl]
  670. off += rl
  671. if deleted {
  672. continue
  673. }
  674. // storeRow = [pkID(8B BE)] + rowData
  675. var pkID uint64
  676. var rowData []byte
  677. if len(storeRow) >= 8 {
  678. pkID = binary.BigEndian.Uint64(storeRow[:8])
  679. rowData = storeRow[8:]
  680. } else {
  681. rowData = storeRow
  682. }
  683. schemaV := byte(0)
  684. if len(rowData) > 0 {
  685. schemaV = rowData[0]
  686. }
  687. hx := fmt.Sprintf("%x", storeRow[:min(len(storeRow), 64)])
  688. if len(storeRow) > 64 {
  689. hx += "..."
  690. }
  691. decoded := decodeRowData(rowData, schemaV)
  692. rs = append(rs, DR{int(i), pkID, schemaV, hx, decoded})
  693. }
  694. return &DP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  695. cn, mx, mn, us, rs}
  696. }
  697. // decodeRowData 尝试解码行数据 (显示 schemaVer + 各字段值)
  698. //
  699. // 行布局 v9: [schemaVer 1B][列0 W0 B][列结束偏移表 2N B][列1..N-1 内容][NULL 位图 ⌈n/8⌉B]
  700. // (位图长度按该行自己的版本算, n = 该版本 Indices 长度)。两处必须照做, 否则整行错位:
  701. // - 列位置一律由【行内偏移表】给出: 列 0 恒占 W0 字节 (档位宽度, 不足补零), 偏移表基址
  702. // = 1+W0, 表项 0 = 变长内容区起点 (= 1+W0+2N), 表项 i(i≥1) = 列 i 结束偏移, 列 i(i≥1)
  703. // 起点 = 表项 i-1, 位图起点 = 表末项。v9 字符串列按实际长度存储, 再沿用"累加档位宽度"
  704. // 定位会越算越偏 (表现为整行错列)。
  705. // - 列 0 恒占 W0 字节也让时序键固定在绝对偏移 9 (读取侧写死的偏移, W0 == 8 时成立)。
  706. // - 已删除列在行内【仍占位】(DropField 不新增版本, 该列不会从 Indices 消失), 所以判定
  707. // Dropped 只能跳过"显示", 绝不能影响列定位 —— 偏移表项照样按 i 取。
  708. func decodeRowData(rowData []byte, schemaV byte) string {
  709. if len(rowData) < 1 {
  710. return ""
  711. }
  712. parts := []string{fmt.Sprintf("v%d", schemaV)}
  713. if len(rowData) < 2 {
  714. return strings.Join(parts, " ")
  715. }
  716. for _, t := range tabs {
  717. sv := findVersion(t, schemaV)
  718. if sv == nil {
  719. continue
  720. }
  721. rowN := len(sv.Indices)
  722. if rowN == 0 {
  723. break
  724. }
  725. if sv.Indices[0] >= len(t.MasterFields) || t.MasterFields[sv.Indices[0]].Sz <= 0 {
  726. break
  727. }
  728. tblBase := 1 + t.MasterFields[sv.Indices[0]].Sz // 偏移表基址 == 列 0 结束偏移
  729. header := tblBase + 2*rowN // 变长内容区起点 == 表项 0
  730. if header > len(rowData) {
  731. break
  732. }
  733. if int(binary.BigEndian.Uint16(rowData[tblBase:tblBase+2])) != header {
  734. break // 表项 0 不是变长内容区起点: 布局不可信, 不猜
  735. }
  736. bitmapLen := (rowN + 7) / 8
  737. prev := header
  738. bad := false
  739. for i := 0; i < rowN; i++ {
  740. off := int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  741. if off < prev || off > len(rowData) {
  742. bad = true
  743. break
  744. }
  745. prev = off
  746. }
  747. if bad || prev+bitmapLen > len(rowData) {
  748. break
  749. }
  750. bitmap := rowData[prev : prev+bitmapLen]
  751. for i, idx := range sv.Indices {
  752. if idx >= len(t.MasterFields) {
  753. break
  754. }
  755. mf := t.MasterFields[idx]
  756. start := 1
  757. if i > 0 {
  758. start = int(binary.BigEndian.Uint16(rowData[tblBase+2*(i-1):tblBase+2*i])) & rowVarOffMask
  759. }
  760. end := tblBase // 列 0 结束恒为 1+W0 == 表基址
  761. if i > 0 {
  762. end = int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  763. }
  764. if end < start || end > len(rowData) {
  765. break
  766. }
  767. if !mf.Dropped { // 已删除列仍占位, 只是不显示
  768. if bitmap[i>>3]&(1<<uint(i&7)) != 0 {
  769. parts = append(parts, mf.Name+"=NULL")
  770. } else {
  771. // 行内可能是实际长度的短值 (字符串列), 补零回档位宽度再解, 与引擎同源。
  772. parts = append(parts, mf.Name+"="+decodeFieldValue(padToWidth(rowData[start:end], mf.Sz), mf.Type))
  773. }
  774. }
  775. }
  776. return strings.Join(parts, ", ")
  777. }
  778. return strings.Join(parts, " ")
  779. }
  780. func findVersion(t TInfo, ver byte) *VInfo {
  781. for i := range t.Versions {
  782. if t.Versions[i].Ver == ver {
  783. return &t.Versions[i]
  784. }
  785. }
  786. return nil
  787. }
  788. // unknownFieldValue 未同步列型的显式哨兵。
  789. //
  790. // 为什么不用"当作定长字符串打印"兜底: 那样输出看着像正常内容, 实际是错的 ——
  791. // 而 analyzer 最怕的正是这个 (页照常渲染, 数据全错)。用哨兵才能让
  792. // TestDecodeCoversEveryRegisteredType 当场发现"core 加了新类型而这里没跟"。
  793. const unknownFieldValue = "?"
  794. // decodeFieldValue 把行内字节解成可读文本。约定: len(buf) == 该列的 fSzWithParam(typ, param)。
  795. //
  796. // 与 DB/core 的 DecodeValue 是【两份独立实现】, 这是刻意的: analyzer 是"第二读取器",
  797. // 存在的意义就是独立验一遍 core 读出来的东西 —— 若共用同一份解码代码, core 解错时
  798. // analyzer 会跟着一起错, 校验价值就没了。所以这里只借用"布局事实" (宽度 fSz / 名字
  799. // fName, 投影自 core 的 typeRegistry), 值语义自己实现一遍。
  800. //
  801. // 每个已注册列型都必须有明确分支; 落到 unknownFieldValue 说明漏同步了。
  802. func decodeFieldValue(buf []byte, typ byte) string {
  803. // 一律用 core 导出的类型常量, 不再写字面量序号 —— 否则 core 一旦重排类型值,
  804. // 这里的 case 会静默错位 (把 1 字节当 2 字节解码, 整段乱掉)。判据同源于 types 注册表。
  805. switch types.FieldType(typ) {
  806. // ===== 1 字节 =====
  807. case types.FieldType_Bool:
  808. // 盘上只允许 0x00 / 0x01 (写入侧已规范化, 不会存下 2)
  809. if buf[0] != 0 {
  810. return "true"
  811. }
  812. return "false"
  813. case types.FieldType_Uint8:
  814. return fmt.Sprintf("%d", buf[0])
  815. case types.FieldType_Int8:
  816. // 有符号列盘上是保序编码 (符号位翻转), 读回来要先翻回去
  817. return fmt.Sprintf("%d", int8(buf[0]^0x80))
  818. // ===== 2 字节 =====
  819. case types.FieldType_Uint16:
  820. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  821. case types.FieldType_Int16:
  822. return fmt.Sprintf("%d", int16(binary.BigEndian.Uint16(buf)^0x8000))
  823. case types.FieldType_Year:
  824. // 无符号大端 uint16 (无保序编码; 解码载体是 int16)
  825. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  826. // ===== 4 字节 =====
  827. case types.FieldType_Uint32:
  828. return fmt.Sprintf("%d", binary.BigEndian.Uint32(buf))
  829. case types.FieldType_Int32:
  830. return fmt.Sprintf("%d", int32(binary.BigEndian.Uint32(buf)^0x80000000))
  831. case types.FieldType_Float32:
  832. // 保序编码 (非负翻符号位, 负数整体取反; 见 types.Float32ToSortKey)
  833. u := binary.BigEndian.Uint32(buf)
  834. if u&(1<<31) != 0 {
  835. u ^= 1 << 31
  836. } else {
  837. u = ^u
  838. }
  839. return strconv.FormatFloat(float64(math.Float32frombits(u)), 'g', -1, 32)
  840. // ===== 8 字节 =====
  841. case types.FieldType_Uint64:
  842. return fmt.Sprintf("%d", binary.BigEndian.Uint64(buf))
  843. case types.FieldType_DateTime:
  844. // 行内固定 8 字节 BE uint64, 存 Unix 毫秒时间戳 (types.go FieldType_DateTime)
  845. return fmt.Sprintf("%d", binary.BigEndian.Uint64(buf))
  846. case types.FieldType_Int64:
  847. return fmt.Sprintf("%d", int64(binary.BigEndian.Uint64(buf)^0x8000000000000000))
  848. case types.FieldType_Float64:
  849. // 保序编码: 非负翻符号位, 负数整体取反 (见 types.Float64ToSortKey)
  850. u := binary.BigEndian.Uint64(buf)
  851. if u&(1<<63) != 0 {
  852. u ^= 1 << 63
  853. } else {
  854. u = ^u
  855. }
  856. return strconv.FormatFloat(math.Float64frombits(u), 'g', -1, 64)
  857. // ===== 16 字节 =====
  858. case types.FieldType_Int128:
  859. return decodeInt128(buf).String()
  860. case types.FieldType_UUID:
  861. // 16 字节原样二进制, 显示成标准 8-4-4-4-12
  862. h := fmt.Sprintf("%x", buf[:16])
  863. return h[:8] + "-" + h[8:12] + "-" + h[12:16] + "-" + h[16:20] + "-" + h[20:]
  864. // ===== 18 字节: 定点小数 [16B 系数保序编码][2B scale 大端], 值 = 系数 / 10^scale =====
  865. case types.FieldType_Decimal:
  866. return decimalText(decodeInt128(buf), int(binary.BigEndian.Uint16(buf[16:])))
  867. // ===== 定长字符串 (宽度由 Flag 低 5 位宽度码决定, 与这里无关) =====
  868. case types.FieldType_String:
  869. return bytesFieldText(buf)
  870. // ===== 动态列: 行内只有 6 字节堆引用 [PageID uint32 大端][Offset uint16 大端] =====
  871. //
  872. // 以前动态落到 default 分支, 把页号和偏移当字符串打印出来 —— 真正想看的
  873. // "内容在哪一页" 反而看不见。
  874. case types.FieldType_Dynamicbyte:
  875. pid := binary.BigEndian.Uint32(buf)
  876. if pid == 0 {
  877. return "(empty)" // PageID == 0 表示空值
  878. }
  879. return fmt.Sprintf("(heap page=%d off=%d)", pid, binary.BigEndian.Uint16(buf[4:]))
  880. // ===== blob 列 (v10): 行内 8 字节链引用 [TotalLen uint32 大端][FirstPageID uint32 大端] =====
  881. //
  882. // 与动态列长得像但读法完全不同: 内容不在堆页上的某一块, 而在一条可跨页的链上,
  883. // 所以这里报"链首页 + 内容长度"; 顺着 page=%d 用 tbl.BlobRead(ref) 能整块读出来。
  884. case types.FieldType_Blob:
  885. total := binary.BigEndian.Uint32(buf)
  886. pid := binary.BigEndian.Uint32(buf[4:])
  887. if total == 0 && pid == 0 {
  888. return "(empty)" // (0, 0) 表示空 blob
  889. }
  890. return fmt.Sprintf("(blob page=%d len=%d)", pid, total)
  891. default:
  892. return unknownFieldValue
  893. }
  894. }
  895. // bytesFieldText 定长字节串的文本形式: 去掉尾部补零, 全空则显示 (empty)。
  896. func bytesFieldText(buf []byte) string {
  897. s := strings.TrimRight(string(buf), "\x00")
  898. if len(s) == 0 {
  899. return "(empty)"
  900. }
  901. return s
  902. }
  903. // decodeInt128 还原 core 的 int128ToSortKeyBytes: [16B 补码大端, 最高位已翻转]。
  904. //
  905. // 判符号必须在【翻回来之前】看: 盘上最高位为 0 代表原值是负数 (编码时对最高位异或了
  906. // 0x80); 顺序判反会把全部非负数读成负数。
  907. func decodeInt128(b []byte) *big.Int {
  908. var raw [16]byte
  909. copy(raw[:], b)
  910. neg := raw[0]&0x80 == 0
  911. raw[0] ^= 0x80
  912. v := new(big.Int).SetBytes(raw[:])
  913. if neg {
  914. v.Sub(v, new(big.Int).Lsh(big.NewInt(1), 128))
  915. }
  916. return v
  917. }
  918. // decimalText 把 [系数, scale] 渲染成小数字面量 (值 = 系数 / 10^scale)。
  919. //
  920. // 必须按 scale 补足位数: 系数 150 + scale 2 是 "1.50", 而系数 5 + scale 2 是 "0.05"
  921. // —— 少了补零就会读成 "5", 差 100 倍。
  922. func decimalText(coef *big.Int, scale int) string {
  923. s := coef.String()
  924. if scale <= 0 {
  925. return s
  926. }
  927. sign := ""
  928. if strings.HasPrefix(s, "-") {
  929. sign, s = "-", s[1:]
  930. }
  931. if len(s) <= scale {
  932. s = strings.Repeat("0", scale-len(s)+1) + s
  933. }
  934. return sign + s[:len(s)-scale] + "." + s[len(s)-scale:]
  935. }
  936. // ===== Index page reading =====
  937. func rIP(pid uint32, it byte) *IP {
  938. b, e := rp(pid)
  939. if e != nil {
  940. return nil
  941. }
  942. if b[0] != PG_IDATA {
  943. return nil
  944. }
  945. lf := b[28] == 1
  946. cn := binary.LittleEndian.Uint32(b[24:28])
  947. el := int(binary.LittleEndian.Uint16(b[22:24]))
  948. if el <= 4 {
  949. el = 12
  950. }
  951. ents := pEE(b, int(cn), el, it, lf)
  952. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  953. return &IP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  954. lf, cn, us, ents, it}
  955. }
  956. func pEE(b []byte, cn, el int, it byte, lf bool) []IE {
  957. var ents []IE
  958. for i := 0; i < cn; i++ {
  959. o := IDX_HDR + i*el
  960. if o+el > len(b) {
  961. break
  962. }
  963. entry := b[o : o+el]
  964. var ie IE
  965. switch it {
  966. case 2:
  967. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  968. ie.P = binary.BigEndian.Uint32(entry[8:12])
  969. case 1:
  970. ie.K = fmt.Sprintf("%d ~ %d", binary.BigEndian.Uint64(entry[:8]), binary.BigEndian.Uint64(entry[8:16]))
  971. ie.P = binary.BigEndian.Uint32(entry[16:20])
  972. case 3:
  973. ie.K = strings.TrimRight(string(entry[:16]), "\x00")
  974. ie.DP = binary.BigEndian.Uint64(entry[16:24])
  975. if lf {
  976. ie.P = binary.BigEndian.Uint32(entry[20:24])
  977. }
  978. case 4:
  979. nk := (el - 8) / 8
  980. parts := make([]string, nk)
  981. for j := 0; j < nk; j++ {
  982. parts[j] = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[j*8:]))
  983. }
  984. ie.K = strings.Join(parts, ", ")
  985. ie.DP = binary.BigEndian.Uint64(entry[nk*8:])
  986. if lf {
  987. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  988. }
  989. case 5:
  990. if lf {
  991. kl := el - 8
  992. if kl == 8 {
  993. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  994. } else {
  995. ie.K = fmt.Sprintf("%x", entry[:kl])
  996. }
  997. ie.DP = binary.BigEndian.Uint64(entry[kl:])
  998. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  999. } else {
  1000. kl := el - 4
  1001. if kl == 8 {
  1002. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  1003. } else {
  1004. ie.K = fmt.Sprintf("%x", entry[:kl])
  1005. }
  1006. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  1007. }
  1008. default:
  1009. ie.K = fmt.Sprintf("%x", entry[:el-4])
  1010. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  1011. }
  1012. ents = append(ents, ie)
  1013. }
  1014. return ents
  1015. }
  1016. func rBT(pid uint32, it byte) *IP { return rIP(pid, it) }
  1017. // ===== Header + Heap + Free =====
  1018. func rHdrInfo() *HdrInfo {
  1019. f, e := dbFile()
  1020. if e != nil {
  1021. return nil
  1022. }
  1023. b := make([]byte, HDRSZ)
  1024. f.ReadAt(b, 0)
  1025. // v11 起 HeaderPage 重排 (标量 8 字节对齐、零填充; 布局见 DB/core/header_page.go):
  1026. // 0 Magic | 4 Version | 8 PageSize | 12 NextFreePage
  1027. // 16 CreateTime | 24 ModifyTime | 32 NextTxnID | 40 GlobalFlags
  1028. // 48 TablePage | 52 TableCount | 56 FreePageStart | 60 FreePageEnd
  1029. // 64 FreePageCount | 68 FirstWALPage | 72 LastWALPage
  1030. // 76 ExtConfigHdr[8] | 84 HeaderCrc | 88 ExtConfig[244]
  1031. // 332 Comment[3764] (占满整页余下空间)
  1032. magic := string(b[:4])
  1033. ver := binary.LittleEndian.Uint32(b[4:8])
  1034. pgsz := binary.LittleEndian.Uint32(b[8:12])
  1035. nf := binary.LittleEndian.Uint32(b[12:16])
  1036. ct := int64(binary.LittleEndian.Uint64(b[16:24]))
  1037. mt := int64(binary.LittleEndian.Uint64(b[24:32]))
  1038. txn := binary.LittleEndian.Uint64(b[32:40])
  1039. gf := binary.LittleEndian.Uint64(b[40:48])
  1040. tp := binary.LittleEndian.Uint32(b[48:52])
  1041. tc := binary.LittleEndian.Uint32(b[52:56])
  1042. fs := binary.LittleEndian.Uint32(b[56:60])
  1043. fe := binary.LittleEndian.Uint32(b[HDR_FREE_END : HDR_FREE_END+4])
  1044. fc := binary.LittleEndian.Uint32(b[64:68])
  1045. wal0 := binary.LittleEndian.Uint32(b[68:72])
  1046. wal1 := binary.LittleEndian.Uint32(b[72:76])
  1047. cm := strings.TrimRight(string(b[332:4096]), "\x00")
  1048. crc := le32(b[HDR_CRC : HDR_CRC+4])
  1049. crcV, crcD := checkHeaderCrc(b, ver)
  1050. fcW := rFreeChain()
  1051. total := totalPages()
  1052. h := &HdrInfo{
  1053. Magic: magic, Version: ver, PageSize: pgsz,
  1054. NextFree: nf, TablePage: tp, TableCount: tc,
  1055. CreateTime: time.Unix(0, ct).Format("2006-01-02 15:04:05"),
  1056. ModifyTime: time.Unix(0, mt).Format("2006-01-02 15:04:05"),
  1057. FreeStart: fs, FreeEnd: fe, FreeCount: fc,
  1058. GlobalFlags: gf, WALFirst: wal0, WALLast: wal1, TxnID: txn, Comment: cm,
  1059. HeaderCrc: crc, CrcVerdict: crcV, CrcDetail: crcD,
  1060. FreeWalked: fcW.Total, Pages: total,
  1061. FreeVerdict: fcW.Verdict, FreeDetail: fcW.Detail,
  1062. }
  1063. if nf > 0 {
  1064. h.Allocated = int(nf) - 1
  1065. }
  1066. if h.Allocated > total {
  1067. h.Allocated = total
  1068. }
  1069. if h.NeverUsed = total - h.Allocated; h.NeverUsed < 0 {
  1070. h.NeverUsed = 0
  1071. }
  1072. return h
  1073. }
  1074. func rHeapChain(hp0 uint32) *HeapChain {
  1075. var pages []HeapPageInfo
  1076. for pid := hp0; pid != 0; {
  1077. b, e := rp(pid)
  1078. if e != nil || b[0] != PG_HEAP {
  1079. break
  1080. }
  1081. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  1082. pv := binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4])
  1083. use := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  1084. us := float64(use) / float64(PGSZ) * 100
  1085. ref := binary.LittleEndian.Uint16(b[PH_REF : PH_REF+2])
  1086. pages = append(pages, HeapPageInfo{pid, nx, pv, use, us, ref})
  1087. if nx == pid || nx == 0 {
  1088. break
  1089. }
  1090. pid = nx
  1091. }
  1092. return &HeapChain{pages, len(pages)}
  1093. }
  1094. // rFreePages 空闲链 —— 直接用审计里那份带自检的版本。
  1095. // 旧实现读的是偏移 0 的大端值, 而空闲链指针其实写在页头 NextPage (偏移 12);
  1096. // 偏移 0 是 Type(空闲页=0) 那一格, 恒等于 0, 所以链永远只走出第 1 页。
  1097. func rFreePages() *FreeChainInfo { return rFreeChain() }
  1098. // ===== Page visualization =====
  1099. type PageItem struct {
  1100. ID uint32 `json:"id"`
  1101. Type int `json:"t"`
  1102. TS string `json:"ts"`
  1103. Us float64 `json:"us"`
  1104. }
  1105. type PagesResult struct {
  1106. Pages []PageItem `json:"pages"`
  1107. Total int `json:"total"`
  1108. Counts map[string]int `json:"counts"`
  1109. Allocated int `json:"allocated"`
  1110. NeverUsed int `json:"neverUsed"`
  1111. Role map[string]string `json:"role"`
  1112. Owner map[string]string `json:"owner"`
  1113. }
  1114. // rPages 页映射的**一个分片** —— 类型/使用率取自缓存的紧凑索引 (pagemap.go),
  1115. // 角色/属主只为这一段页查询。
  1116. //
  1117. // 旧实现每次调用都要全量重算 19.5 万页, 并把整张页表 + 两张 19.5 万键的归属
  1118. // map 一次性序列化 (单次响应几十 MB), 且被概览/堆链/空闲页三个视图各调一遍 ——
  1119. // 前端必然卡死。新的页图走 /api/pagemap 分块拉取, 这里只保留分页语义。
  1120. func rPages(start, count int) *PagesResult {
  1121. idx := pagemapCached()
  1122. res := &PagesResult{
  1123. Total: idx.total, Counts: idx.counts, Allocated: idx.allocated,
  1124. NeverUsed: idx.neverUsed, Role: map[string]string{}, Owner: map[string]string{},
  1125. }
  1126. if idx.total <= 0 {
  1127. return res
  1128. }
  1129. if start < 1 {
  1130. start = 1
  1131. }
  1132. if count <= 0 || count > pmChunkMax {
  1133. count = pmChunkDefault
  1134. }
  1135. if start > idx.total {
  1136. start = idx.total + 1
  1137. }
  1138. end := start + count
  1139. if end > idx.total+1 {
  1140. end = idx.total + 1
  1141. }
  1142. w := peekWalk()
  1143. for pid := start; pid < end; pid++ {
  1144. pt, tn := pmKind(int(idx.typ[pid]))
  1145. res.Pages = append(res.Pages, PageItem{uint32(pid), pt, tn, float64(idx.usg[pid])})
  1146. if w == nil {
  1147. continue
  1148. }
  1149. k := strconv.Itoa(pid)
  1150. if v, ok := w.role[uint32(pid)]; ok {
  1151. res.Role[k] = v
  1152. }
  1153. if v, ok := w.owner[uint32(pid)]; ok {
  1154. res.Owner[k] = v
  1155. }
  1156. }
  1157. return res
  1158. }
  1159. // pagesH 分页返回页映射: ?start=<首页号>&count=<页数> (默认第一块)。
  1160. func pagesH(w http.ResponseWriter, r *http.Request) {
  1161. if fp == "" {
  1162. jw(w, map[string]any{"e": "no db"})
  1163. return
  1164. }
  1165. start, _ := strconv.Atoi(r.URL.Query().Get("start"))
  1166. count, _ := strconv.Atoi(r.URL.Query().Get("count"))
  1167. jw(w, rPages(start, count))
  1168. }
  1169. // findPkH 通过主键 B+ 树查找 PKID 对应的 DataPage
  1170. func findPkH(w http.ResponseWriter, r *http.Request) {
  1171. if fp == "" {
  1172. jw(w, map[string]any{"e": "no db"})
  1173. return
  1174. }
  1175. pkStr := r.URL.Query().Get("pk")
  1176. rootStr := r.URL.Query().Get("root")
  1177. var pk, root uint32
  1178. fmt.Sscanf(pkStr, "%d", &pk)
  1179. fmt.Sscanf(rootStr, "%d", &root)
  1180. if root == 0 {
  1181. jw(w, map[string]any{"e": "no root"})
  1182. return
  1183. }
  1184. dp := findDPByPK(root, uint64(pk))
  1185. if dp == 0 {
  1186. jw(w, map[string]any{"e": "not found"})
  1187. return
  1188. }
  1189. jw(w, map[string]any{"dp": dp, "pk": pk})
  1190. }
  1191. // findDPByPK 在主键 B+ 树中查找 PKID 对应的 DataPage ID
  1192. func findDPByPK(rootPID uint32, targetPK uint64) uint32 {
  1193. cur := rootPID
  1194. for {
  1195. b, e := rp(cur)
  1196. if e != nil || b[0] != PG_IDATA {
  1197. return 0
  1198. }
  1199. lf := b[28] == 1
  1200. cn := int(binary.LittleEndian.Uint32(b[24:28]))
  1201. el := int(binary.LittleEndian.Uint16(b[22:24]))
  1202. if el <= 4 {
  1203. el = 12
  1204. }
  1205. if lf {
  1206. // 叶子节点: 查找匹配的 PK
  1207. for i := 0; i < cn; i++ {
  1208. o := IDX_HDR + i*el
  1209. if o+el > len(b) {
  1210. break
  1211. }
  1212. key := binary.BigEndian.Uint64(b[o : o+8])
  1213. if key == targetPK {
  1214. return binary.BigEndian.Uint32(b[o+8 : o+12])
  1215. }
  1216. }
  1217. return 0
  1218. }
  1219. // 内部节点: 二分查找最后一个 key <= targetPK
  1220. lo, hi := 0, cn-1
  1221. pos := 0
  1222. for lo <= hi {
  1223. mid := (lo + hi) / 2
  1224. o := IDX_HDR + mid*el
  1225. if o+8 > len(b) {
  1226. break
  1227. }
  1228. key := binary.BigEndian.Uint64(b[o : o+8])
  1229. if key <= targetPK {
  1230. pos = mid
  1231. lo = mid + 1
  1232. } else {
  1233. hi = mid - 1
  1234. }
  1235. }
  1236. o := IDX_HDR + pos*el
  1237. childPID := binary.BigEndian.Uint32(b[o+el-4 : o+el])
  1238. if childPID == 0 {
  1239. return 0
  1240. }
  1241. cur = childPID
  1242. }
  1243. }
  1244. // ===== Utility =====
  1245. func min(a, b int) int {
  1246. if a < b {
  1247. return a
  1248. }
  1249. return b
  1250. }
  1251. func fB(n int64) string {
  1252. if n < 1024 {
  1253. return fmt.Sprintf("%d B", n)
  1254. }
  1255. if n < 1048576 {
  1256. return fmt.Sprintf("%.1f KB", float64(n)/1024)
  1257. }
  1258. if n < 1073741824 {
  1259. return fmt.Sprintf("%.2f MB", float64(n)/1048576)
  1260. }
  1261. return fmt.Sprintf("%.2f GB", float64(n)/1073741824)
  1262. }
  1263. func fE(p string) bool { _, e := os.Stat(p); return e == nil }
  1264. func jw(w http.ResponseWriter, v any) {
  1265. w.Header().Set("Content-Type", "application/json")
  1266. json.NewEncoder(w).Encode(v)
  1267. }
  1268. // ===== HTTP Handlers =====
  1269. func ldH(w http.ResponseWriter, r *http.Request) {
  1270. p := r.URL.Query().Get("path")
  1271. if p == "" {
  1272. p, _ = os.Getwd()
  1273. }
  1274. if !filepath.IsAbs(p) {
  1275. c, _ := os.Getwd()
  1276. p = filepath.Join(c, p)
  1277. }
  1278. es, e := os.ReadDir(p)
  1279. if e != nil {
  1280. jw(w, map[string]any{"err": e.Error()})
  1281. return
  1282. }
  1283. type F struct {
  1284. N string `json:"n"`
  1285. D bool `json:"d"`
  1286. S int64 `json:"s"`
  1287. }
  1288. var ds, fs []F
  1289. for _, x := range es {
  1290. i, _ := x.Info()
  1291. s := int64(0)
  1292. if i != nil {
  1293. s = i.Size()
  1294. }
  1295. if x.IsDir() {
  1296. ds = append(ds, F{x.Name(), true, s})
  1297. } else {
  1298. fs = append(fs, F{x.Name(), false, s})
  1299. }
  1300. }
  1301. jw(w, map[string]any{"p": p, "pp": filepath.Dir(p), "d": ds, "f": fs})
  1302. }
  1303. func openH(w http.ResponseWriter, r *http.Request) {
  1304. if r.Method != "POST" {
  1305. http.Error(w, "no", 405)
  1306. return
  1307. }
  1308. var q struct {
  1309. P string `json:"p"`
  1310. }
  1311. json.NewDecoder(r.Body).Decode(&q)
  1312. if !fE(q.P) {
  1313. c, _ := os.Getwd()
  1314. q2 := filepath.Join(c, q.P)
  1315. if fE(q2) {
  1316. q.P = q2
  1317. } else {
  1318. jw(w, map[string]any{"ok": false, "e": "not found"})
  1319. return
  1320. }
  1321. }
  1322. // 待恢复 WAL 的库: 先拷到临时副本、用引擎打开一次 (触发 WAL 重放 + 孤儿 WAL
  1323. // 自愈), 再分析副本。本工具是只读审计, 自己从不重放 —— 直接分析裸字节会把
  1324. // "未重放"误报成一堆 CORRUPT (页版本错位 / free-live / missing-entry)。
  1325. orig := q.P
  1326. replayNote := ""
  1327. if rp, err := replayWALToTemp(q.P); err != nil {
  1328. replayNote = "wal replay failed: " + err.Error()
  1329. } else if rp != "" {
  1330. q.P = rp
  1331. replayNote = "WAL 已在临时副本上重放, 审计对象为副本"
  1332. }
  1333. // 切库: 换掉共享句柄, 作废审计缓存
  1334. if e := useDB(q.P); e != nil {
  1335. jw(w, map[string]any{"ok": false, "e": "open failed: " + e.Error()})
  1336. return
  1337. }
  1338. invalidateAudit()
  1339. mu.Lock()
  1340. fp = q.P
  1341. rHdr()
  1342. tabs = pTabs()
  1343. mu.Unlock()
  1344. fi, _ := os.Stat(fp)
  1345. dbF = fp
  1346. setCacheFP(fingerprint())
  1347. // 全库审计可能很慢 (要扫上千页), 放到后台预热, 让打开请求立即返回。
  1348. // 前端先显示基础信息与"审计中", 就绪后轮询 /api/stats 填充汇总。
  1349. startAuditAsync()
  1350. // 页映射索引同样在后台建好 (排在审计之后), 免得用户点开概览时再等一次全库扫描。
  1351. startPagemapAsync()
  1352. m := map[string]any{"ok": true, "s": st(fi)}
  1353. if orig != q.P {
  1354. m["orig"] = orig
  1355. }
  1356. if replayNote != "" {
  1357. m["note"] = replayNote
  1358. }
  1359. jw(w, m)
  1360. }
  1361. // replayWALToTemp 库头里挂着未恢复 WAL (FirstWALPage != 0) 时, 把文件拷到临时
  1362. // 副本并用引擎打开一次 —— Open 会自动重放 WAL (连同孤儿 WAL 链自愈), Close 后
  1363. // 副本即是重放后的最终状态, 审计它才不会把"未重放"误报成一堆 CORRUPT。
  1364. // 审计只读、永不写原库: 重放发生在【副本】上, 原文件一个字节不动。
  1365. // 无需重放返回 (""); 副本路径按 源路径+大小+mtime 命名, 同一份库反复打开时复用。
  1366. func replayWALToTemp(src string) (string, error) {
  1367. f, err := os.Open(src)
  1368. if err != nil {
  1369. return "", err
  1370. }
  1371. hb := make([]byte, 4096)
  1372. _, rerr := f.ReadAt(hb, 0)
  1373. f.Close()
  1374. if rerr != nil {
  1375. return "", rerr
  1376. }
  1377. if binary.LittleEndian.Uint32(hb[68:72]) == 0 {
  1378. return "", nil // 无待恢复 WAL
  1379. }
  1380. fi, _ := os.Stat(src)
  1381. sum := sha1.Sum([]byte(fmt.Sprintf("%s|%d|%d", src, fi.Size(), fi.ModTime().UnixNano())))
  1382. dst := filepath.Join(os.TempDir(), "tsdb2-analyzer-replay-"+hex.EncodeToString(sum[:8])+".db")
  1383. if !fE(dst) {
  1384. in, err := os.Open(src)
  1385. if err != nil {
  1386. return "", err
  1387. }
  1388. out, err := os.Create(dst)
  1389. if err != nil {
  1390. in.Close()
  1391. return "", err
  1392. }
  1393. _, cerr := io.Copy(out, in)
  1394. in.Close()
  1395. out.Close()
  1396. if cerr != nil {
  1397. return "", cerr
  1398. }
  1399. }
  1400. // 引擎打开副本: RecoverWAL + 孤儿 WAL 自愈在这里跑完, Close 落盘。
  1401. db, err := core.OpenWithOptions(dst, core.OpenOptions{})
  1402. if err != nil {
  1403. return "", err
  1404. }
  1405. if err := db.Close(); err != nil {
  1406. return "", err
  1407. }
  1408. return dst, nil
  1409. }
  1410. func st(fi os.FileInfo) map[string]any {
  1411. s := int64(0)
  1412. if fi != nil {
  1413. s = fi.Size()
  1414. }
  1415. m := map[string]any{"f": dbF, "s": s, "fs": fB(s), "pg": totalPages(), "tc": len(tabs)}
  1416. // 概览页要用到审计汇总 (空闲页数 / 堆页数 / 行数 / 总判决 / 孤儿页)。
  1417. // 这里只读已算好的缓存, 不触发计算: 未就绪时返回 auditReady=false,
  1418. // 由前端显示"审计中"并轮询本接口, 避免打开库时长时间卡死。
  1419. //
  1420. // 增量审计: 结构结果先就绪, 索引内容一致性随后补全。总判决里含索引内容,
  1421. // 所以只有索引内容也补全了 (IdxPending=false) 才算真正就绪。
  1422. if a := peekAudit(); a != nil && !a.IdxPending {
  1423. heap, rows := 0, uint64(0)
  1424. for _, t := range a.Tables {
  1425. heap += t.HeapActual
  1426. rows += t.Rows
  1427. }
  1428. m["free"] = a.Free.Total
  1429. m["heap"] = heap
  1430. m["rows"] = rows
  1431. m["verdict"] = a.Verdict
  1432. m["unacc"] = a.Reach.Unaccounted
  1433. m["reserved"] = a.Reserved
  1434. m["never"] = a.NeverUsed
  1435. m["auditReady"] = true
  1436. } else {
  1437. m["auditReady"] = false
  1438. if failed, msg := peekAuditError(); failed {
  1439. m["auditFailed"] = true
  1440. m["auditError"] = msg
  1441. }
  1442. }
  1443. return m
  1444. }
  1445. func stH(w http.ResponseWriter, r *http.Request) {
  1446. if dbF == "" {
  1447. jw(w, map[string]any{"e": "no db"})
  1448. return
  1449. }
  1450. fi, _ := os.Stat(fp)
  1451. jw(w, st(fi))
  1452. }
  1453. // memH 报告 Go 运行时内存与映射区大小, 用来回答"内存到底花在哪"。
  1454. // ?gc=1 强制一次 GC 并归还内存, 便于区分"活对象"与"待回收/未归还"。
  1455. func memH(w http.ResponseWriter, r *http.Request) {
  1456. if r.URL.Query().Get("gc") == "1" {
  1457. runtime.GC()
  1458. debug.FreeOSMemory()
  1459. }
  1460. var m runtime.MemStats
  1461. runtime.ReadMemStats(&m)
  1462. // 库文件大小: 现在按页 ReadAt 读取, 页留在系统文件缓存里 (可回收),
  1463. // 不再整文件映射进进程地址空间, 因此这里不再有 mappedDBSZ 这一项。
  1464. var fileMB int64
  1465. if fi, e := os.Stat(fp); e == nil {
  1466. fileMB = fi.Size() >> 20
  1467. }
  1468. jw(w, map[string]any{
  1469. "heapAllocMB": m.HeapAlloc >> 20, // 活对象
  1470. "heapInuseMB": m.HeapInuse >> 20, // 已用 span
  1471. "heapIdleMB": m.HeapIdle >> 20, // 空闲 span (可归还)
  1472. "heapSysMB": m.HeapSys >> 20, // 向 OS 要的堆
  1473. "stackMB": m.StackInuse >> 20, // goroutine 栈
  1474. "otherSysMB": m.OtherSys >> 20,
  1475. "sysMB": m.Sys >> 20, // Go 全部向 OS 要的内存
  1476. "dbFileMB": fileMB, // 库文件大小 (按页 ReadAt, 不进进程工作集)
  1477. "numGC": m.NumGC,
  1478. "goroutines": runtime.NumGoroutine(),
  1479. })
  1480. }
  1481. func taH(w http.ResponseWriter, r *http.Request) { jw(w, tabs) }
  1482. func tdH(w http.ResponseWriter, r *http.Request) {
  1483. n := r.URL.Path[len("/api/table/"):]
  1484. for _, t := range tabs {
  1485. if t.Name == n {
  1486. jw(w, t)
  1487. return
  1488. }
  1489. }
  1490. jw(w, map[string]any{"e": "not found"})
  1491. }
  1492. func dpH(w http.ResponseWriter, r *http.Request) {
  1493. var pid uint32
  1494. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1495. d := rDP(pid)
  1496. if d == nil {
  1497. jw(w, map[string]any{"e": "err"})
  1498. return
  1499. }
  1500. jw(w, d)
  1501. }
  1502. func ipH(w http.ResponseWriter, r *http.Request) {
  1503. var pid uint32
  1504. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1505. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1506. d := rIP(pid, byte(it))
  1507. if d == nil {
  1508. jw(w, map[string]any{"e": "err"})
  1509. return
  1510. }
  1511. jw(w, d)
  1512. }
  1513. func btH(w http.ResponseWriter, r *http.Request) {
  1514. var pid uint32
  1515. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1516. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1517. d := rBT(pid, byte(it))
  1518. if d == nil {
  1519. jw(w, map[string]any{"e": "err"})
  1520. return
  1521. }
  1522. jw(w, d)
  1523. }
  1524. func hdrH(w http.ResponseWriter, r *http.Request) {
  1525. d := rHdrInfo()
  1526. if d == nil {
  1527. jw(w, map[string]any{"e": "err"})
  1528. return
  1529. }
  1530. jw(w, d)
  1531. }
  1532. func heapH(w http.ResponseWriter, r *http.Request) {
  1533. var hp0 uint32
  1534. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &hp0)
  1535. jw(w, rHeapChain(hp0))
  1536. }
  1537. func freeH(w http.ResponseWriter, r *http.Request) { jw(w, rFreePages()) }
  1538. // ===== 审计 / 归属 / 单页检查 =====
  1539. // auditH 全库审计: 页账 + 空闲链自检 + 每表堆链交叉校验 + 未归属页。
  1540. func auditH(w http.ResponseWriter, r *http.Request) {
  1541. if dbF == "" {
  1542. jw(w, map[string]any{"e": "no db"})
  1543. return
  1544. }
  1545. jw(w, auditCached())
  1546. }
  1547. // pageArgs 解析分页参数: offset 默认 0, limit 默认 100 (上限 500)。
  1548. func pageArgs(r *http.Request) (int, int) {
  1549. off, _ := strconv.Atoi(r.URL.Query().Get("offset"))
  1550. lim, _ := strconv.Atoi(r.URL.Query().Get("limit"))
  1551. if off < 0 {
  1552. off = 0
  1553. }
  1554. if lim <= 0 || lim > 500 {
  1555. lim = 100
  1556. }
  1557. return off, lim
  1558. }
  1559. // auditIssuesH 分页取索引问题明细 —— 从落盘缓存库里按页取, 不整份读进内存。
  1560. func auditIssuesH(w http.ResponseWriter, r *http.Request) {
  1561. off, lim := pageArgs(r)
  1562. rows, total, err := cachePageIssues(off, lim)
  1563. if err != nil {
  1564. jw(w, map[string]any{"e": err.Error()})
  1565. return
  1566. }
  1567. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1568. }
  1569. // auditUnaccH 分页取孤儿页明细 —— 同上, 从缓存库按页取。
  1570. func auditUnaccH(w http.ResponseWriter, r *http.Request) {
  1571. off, lim := pageArgs(r)
  1572. rows, total, err := cachePageUnacc(off, lim)
  1573. if err != nil {
  1574. jw(w, map[string]any{"e": err.Error()})
  1575. return
  1576. }
  1577. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1578. }
  1579. // heapChainsH 所有表的堆链汇总 (声明值 / 实走值 / 引用数), 供"堆链总览"页。
  1580. func heapChainsH(w http.ResponseWriter, r *http.Request) {
  1581. if dbF == "" {
  1582. jw(w, map[string]any{"e": "no db"})
  1583. return
  1584. }
  1585. a := auditCached()
  1586. jw(w, map[string]any{"tables": a.Tables, "free": a.Free, "reach": a.Reach, "verdict": a.Verdict})
  1587. }
  1588. // pageInfoH 单页检查: 原始页头 + 归属 + 是否空闲 / 从未分配。
  1589. func pageInfoH(w http.ResponseWriter, r *http.Request) {
  1590. if dbF == "" {
  1591. jw(w, map[string]any{"e": "no db"})
  1592. return
  1593. }
  1594. var pid uint32
  1595. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1596. if pid == 0 {
  1597. jw(w, map[string]any{"e": "bad id"})
  1598. return
  1599. }
  1600. jw(w, rPageInfo(pid))
  1601. }
  1602. var _ = unsafe.Sizeof(0)