main.go 52 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064106510661067106810691070107110721073107410751076107710781079108010811082108310841085108610871088108910901091109210931094109510961097109810991100110111021103110411051106110711081109111011111112111311141115111611171118111911201121112211231124112511261127112811291130113111321133113411351136113711381139114011411142114311441145114611471148114911501151115211531154115511561157115811591160116111621163116411651166116711681169117011711172117311741175117611771178117911801181118211831184118511861187118811891190119111921193119411951196119711981199120012011202120312041205120612071208120912101211121212131214121512161217121812191220122112221223122412251226122712281229123012311232123312341235123612371238123912401241124212431244124512461247124812491250125112521253125412551256125712581259126012611262126312641265126612671268126912701271127212731274127512761277127812791280128112821283128412851286128712881289129012911292129312941295129612971298129913001301130213031304130513061307130813091310131113121313131413151316131713181319132013211322132313241325132613271328132913301331133213331334133513361337133813391340134113421343134413451346134713481349135013511352135313541355135613571358135913601361136213631364136513661367136813691370137113721373137413751376137713781379138013811382138313841385138613871388138913901391139213931394139513961397139813991400140114021403140414051406140714081409141014111412141314141415141614171418141914201421142214231424142514261427142814291430143114321433143414351436143714381439144014411442144314441445144614471448144914501451145214531454145514561457145814591460146114621463146414651466146714681469147014711472147314741475147614771478147914801481148214831484148514861487148814891490149114921493149414951496149714981499150015011502150315041505150615071508150915101511151215131514151515161517151815191520152115221523152415251526152715281529153015311532153315341535153615371538153915401541154215431544154515461547154815491550155115521553155415551556155715581559156015611562156315641565156615671568156915701571157215731574157515761577157815791580158115821583158415851586158715881589159015911592159315941595
  1. package main
  2. import (
  3. "encoding/binary"
  4. "encoding/json"
  5. "fmt"
  6. "log"
  7. "math"
  8. "math/big"
  9. "net/http"
  10. _ "net/http/pprof" // /debug/pprof/* 挂在 DefaultServeMux 上, 供排查内存/CPU
  11. "os"
  12. "path/filepath"
  13. "runtime"
  14. "runtime/debug"
  15. "strconv"
  16. "strings"
  17. "sync"
  18. "time"
  19. "unsafe"
  20. // analyzer 的 go.mod 有 replace TsDB2 => ../, 可以直接读 core 的类型表。
  21. // 列型的宽度/名字改为投影自 typeRegistry, 见 fSz / fName 的注释。
  22. "TsDB2/DB/core/types"
  23. )
  24. const (
  25. PGSZ = 16384
  26. HDRSZ = 4096
  27. PHDR = 20 // PageHdr actual size (with alignment)
  28. DP_HDR = PHDR + 4 + 8 + 8 // DataPage header: PageHdr(20) + Count(4) + Min(8) + Max(8) = 40
  29. IDX_HDR = 32 // PHDR(20) + pad(1) + IndexType(1) + EntryLen(2) + Count(4) + IsLeaf(1) + pad(3)
  30. // 下面两个尺寸与 TI_* / IM_* 偏移与 DB/core 的 IndexMeta/TableInfo 布局一一对应。
  31. // TableNameSize = 48 且 IndexNameSize = 64 时: IndexMeta 100 字节, TableInfo 104 字节。
  32. // 这里的每一个常量都由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上,
  33. // 改了 DB/core 布局却漏改这里会直接编译失败 (而不是静默按错位读盘)。
  34. META_SZ = 100 // IndexMeta entry size (with Go alignment padding)
  35. TINFO_SZ = 104 // TableInfo struct size (with alignment)
  36. PG_HEAD = 0
  37. PG_TABLE = 1
  38. PG_DATA = 2
  39. PG_HEAP = 3
  40. PG_IMETA = 4
  41. PG_IDATA = 5
  42. PG_OVER = 6 // DataOverflowPage: 数据页溢出页 (已废弃)
  43. PG_WAL = 7 // WALIndex: WAL 日志页
  44. PG_SEXT = 8 // SchemaExtIndex: 全库共享的表结构扩展页
  45. // 分析器自造的哨兵
  46. PG_NEVER = -1 // 页号 >= NextFreePage, 从未被分配过
  47. PG_RESERVED = -2 // 页 1: 引擎预留, 从不分配 (HeadPage.go newHeader)
  48. PG_ORPHAN = -3 // 已下发区间内、类型字节=0 却不在空闲链上 (被遗漏的空闲页/泄漏页)
  49. PG_OTHER = -4 // 未知类型字节
  50. // PageHdr 字段偏移 (共 20 字节)
  51. PH_REF = 2 // RefCount uint16 (仅堆页维护: 指向本页的活引用数)
  52. PH_PREV = 8 // PrePage uint32
  53. PH_NEXT = 12 // NextPage uint32
  54. PH_USE = 16 // UseSize uint32
  55. // 表页在 PageHdr 之后为共享扩展页链头 (SchemaExtPageID) 统一预留 4 字节,
  56. // 因此每条表记录的起始偏移是 PHDR + SEXT_HDR (所有表页一致)。
  57. SEXT_HDR = 4
  58. REC_OFF = PHDR + SEXT_HDR
  59. // SchemaFragHdr: NextPage(4B BE) + NextOff(2B BE) + DataLen(2B BE)
  60. FRAG_HDR = 8
  61. // TableInfo 字段偏移 (共 104 字节, TableNameSize=48)
  62. TI_FLAG = 48 // Flag byte (0x80 = 已删除/空洞)
  63. TI_HPCNT = 52 // HeapPageCount uint32 (复用 TotalRows 前的对齐填充)
  64. TI_ROWS = 56 // TotalRows uint64
  65. TI_FHEAP = 64 // FirstHeap uint32
  66. TI_FDATA = 72 // FirstData uint32
  67. TI_ROWSZ = 80 // RowSize uint16
  68. TI_ALLOC = 82 // FieldAllocateSize uint16
  69. TI_FIDX = 88 // FirstIndexID uint32
  70. TI_EXTPG = 96 // ExtPage uint32 (schema 续块所在扩展页)
  71. TI_EXTOFF = 100 // ExtOff uint16 (首个续块在页内的偏移)
  72. // IndexMeta 字段偏移 (共 100 字节, IndexNameSize=64)
  73. //
  74. // 这些偏移全都随 IndexNameSize 整体平移 —— 索引名数组一变长, 其后每个字段的位置
  75. // 都跟着变。名字长度单独列成 IM_NAMSZ, slice 时就不必再写 64 这个魔法数字。
  76. IM_NAMSZ = 64 // IndexName [IndexNameSize]byte 的字节数 (索引名: im[0:64])
  77. IM_TYPE = 64 // IndexType byte
  78. IM_FCNT = 65 // FieldCnt byte
  79. IM_FLDS = 66 // FieldIDs [16]byte
  80. IM_EP = 84 // EntryPage uint32 (跳过 2 字节对齐填充)
  81. IM_FLAG = 96 // Flag byte
  82. // 索引 Flag 的位 (对应 core 的 IndexFlag*: bit7 软删除 / bit0 唯一索引)。
  83. // 取值由 layout_assert.go 拿 core 的常量编译期钉住 —— 这里手写位掩码是为了
  84. // 不依赖 core 的常量名, 但绝不能和它漂移。
  85. IM_FLAG_DELETED = 0x80
  86. IM_FLAG_UNIQUE = 0x01
  87. // 列 (FieldInfo) Flag 的位, 对应 core/types 的 Flag* 常量:
  88. // bit7 = 已删除 / bit6 = 可为 NULL / bit5 = 唯一
  89. // bit4..bit0 = 列级类型参数 (按类型解释: decimal 是 scale, 字符串列是宽度码)
  90. // 掩码名沿用 FLAG_SCALE (core 侧叫 FlagScaleMask), 两个用途共用同一格。
  91. FLAG_DELETED = 0x80
  92. FLAG_NULLABLE = 0x40
  93. FLAG_UNIQUE = 0x20
  94. FLAG_SCALE = 0x1f
  95. )
  96. // ===== Data Structures =====
  97. type TInfo struct {
  98. Name string `json:"name"`
  99. RowN uint64 `json:"rowN"`
  100. FSz uint16 `json:"fsz"`
  101. DP0 uint32 `json:"dp0"`
  102. IP0 uint32 `json:"ip0"`
  103. HP0 uint32 `json:"hp0"`
  104. HPC uint32 `json:"hpc"` // HeapPageCount: 声明式堆链长度
  105. ActiveVer byte `json:"activeVer"`
  106. MasterFields []MFInfo `json:"masterFields"`
  107. Versions []VInfo `json:"versions"`
  108. Idxs []IInfo `json:"idxs"`
  109. }
  110. type MFInfo struct {
  111. Name string `json:"name"`
  112. Type byte `json:"type"`
  113. TypeName string `json:"typeName"`
  114. // Flag 列级标志字节, 随 schema 落盘 (对应 types.FieldInfo.Flag):
  115. //
  116. // bit7 bit6 bit5 | bit4 ........ bit0
  117. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  118. //
  119. // 低 5 位按类型解释 (如 decimal:2 → 2, maxlen 声明出来的字符串列 → 宽度码);
  120. // 删除标记不再占用 Typ 的最高位。
  121. Flag byte `json:"flag"`
  122. // Param 列级类型参数 (Flag 低 5 位): decimal 是 scale, 字符串家族是行内宽度码,
  123. // 其余类型为 0。
  124. Param byte `json:"param"`
  125. // Nullable / Unique 从 Flag 拆出来的状态位。
  126. //
  127. // 位掩码只在这一个地方拆一次, 前端 / 检查逻辑都用这两个布尔 —— 每个消费方
  128. // 各自去 &0x40 / &0x20, 迟早会有人写错位, 而"列可不可空"读错的后果是悄悄
  129. // 把 NULL 当成 0 来解释。
  130. Nullable bool `json:"nullable"`
  131. Unique bool `json:"unique"`
  132. Sz int `json:"sz"`
  133. // Label / Tip 类型徽章的展示文本与悬浮说明, 由 fLabel / fTip 在【后端】算好。
  134. //
  135. // 字符串列的 label 会显式带出行内宽度 (string(1024B)): 类型档 (string) 与真实
  136. // 宽度矛盾时, 列表里能一眼看出这列到底占多大, 不必往右看 Size 列。
  137. // 放在后端算与 nullable/unique 同一个理由: Flag 低 5 位是【按类型重载】的一格
  138. // (decimal 是 scale, 字符串家族是宽度码), 前端若能拿到它, 迟早有人当字节数显示 ——
  139. // 而"宽度码 20"对应的那列是 1024 字节, 差 50 倍。
  140. Label string `json:"label"`
  141. Tip string `json:"tip"`
  142. Dropped bool `json:"dropped"`
  143. }
  144. type VInfo struct {
  145. Ver byte `json:"ver"`
  146. Fields []string `json:"fields"`
  147. // Indices 本版字段在 masterFields 里的下标 (顺序 = 行内字段顺序)。
  148. //
  149. // 对外必须是 []int 而不是盘上原样的 []byte: 盘上每版字段数是 1 字节, 解析时直接
  150. // copy 最省事, 但 []byte 过 JSON 会变成 base64 字符串 —— 前端 v.indices[i] 拿到的是
  151. // 第 i 个字符, t.masterFields['A'] 恒为 undefined, "这一版每列多宽"整块静默消失。
  152. // 宽化在解析层一次做完, 前端拿到的就是能直接当下标用的数字。
  153. Indices []int `json:"indices"`
  154. }
  155. type FInfo struct {
  156. Name string `json:"name"`
  157. Type byte `json:"type"`
  158. Sz int `json:"sz"`
  159. }
  160. type IInfo struct {
  161. Name string `json:"name"`
  162. Type byte `json:"type"`
  163. TS string `json:"ts"`
  164. EP uint32 `json:"ep"`
  165. Flds []int `json:"flds"`
  166. // Uniq 唯一索引 (IndexMeta.Flag 的 bit0)。索引的 Flag 字节里只有两位:
  167. //
  168. // bit7 bit6 bit0
  169. // 已删除 (未用) 唯一索引
  170. //
  171. // 唯一位不参与一致性校验 (它只约束写入路径, 不影响盘上结构), 但漏掉它会让
  172. // 分析器把唯一索引和普通索引用同一种样子画出来 —— 从外部看, 一张表的约束
  173. // 就完全不可见了。
  174. Uniq bool `json:"uniq"`
  175. }
  176. type DP struct {
  177. ID uint32 `json:"id"`
  178. Nx uint32 `json:"nx"`
  179. Pv uint32 `json:"pv"`
  180. Cn uint32 `json:"cn"`
  181. Mx uint64 `json:"mx"`
  182. Mn uint64 `json:"mn"`
  183. Us float64 `json:"us"`
  184. Rs []DR `json:"rs"`
  185. }
  186. type DR struct {
  187. I int `json:"i"`
  188. PKID uint64 `json:"pk"`
  189. SchemaV byte `json:"sv"`
  190. Hex string `json:"h"`
  191. Decoded string `json:"decoded"`
  192. }
  193. type IP struct {
  194. ID uint32 `json:"id"`
  195. Nx uint32 `json:"nx"`
  196. Pv uint32 `json:"pv"`
  197. Lf bool `json:"lf"`
  198. Cn uint32 `json:"cn"`
  199. Us float64 `json:"us"`
  200. Ents []IE `json:"ents"`
  201. IdxType byte `json:"it"`
  202. }
  203. type IE struct {
  204. K string `json:"k"`
  205. P uint32 `json:"p"`
  206. DP uint64 `json:"dp"`
  207. }
  208. type HdrInfo struct {
  209. Magic string `json:"magic"`
  210. Version uint32 `json:"ver"`
  211. PageSize uint32 `json:"pgsz"`
  212. NextFree uint32 `json:"nf"`
  213. TablePage uint32 `json:"tp"`
  214. TableCount uint32 `json:"tc"`
  215. CreateTime string `json:"ct"`
  216. ModifyTime string `json:"mt"`
  217. FreeStart uint32 `json:"fs"`
  218. FreeEnd uint32 `json:"fe"`
  219. FreeCount uint32 `json:"fc"`
  220. GlobalFlags uint64 `json:"gf"`
  221. WALFirst uint32 `json:"wal0"`
  222. WALLast uint32 `json:"wal1"`
  223. TxnID uint64 `json:"txn"`
  224. Comment string `json:"cm"`
  225. // 实算值 (与上面的声明值互校)
  226. FreeWalked int `json:"fw"` // 实走空闲链长度
  227. Pages int `json:"pg"` // 数据页总数
  228. Allocated int `json:"ap"` // 已分配页数
  229. NeverUsed int `json:"nu"` // 从未分配的尾页
  230. FreeVerdict string `json:"fv"` // 空闲链自检结论
  231. FreeDetail string `json:"fd"` // 自检说明
  232. }
  233. type HeapChain struct {
  234. Pages []HeapPageInfo `json:"pages"`
  235. Total int `json:"total"`
  236. }
  237. type HeapPageInfo struct {
  238. ID uint32 `json:"id"`
  239. Next uint32 `json:"nx"`
  240. Prev uint32 `json:"pv"`
  241. Use uint32 `json:"use"`
  242. Us float64 `json:"us"`
  243. Ref uint16 `json:"ref"` // 页头 RefCount: 指向本页的活引用数 (仅堆页有意义)
  244. }
  245. var (
  246. dbF string
  247. fp string
  248. hdr [HDRSZ]byte
  249. tabs []TInfo
  250. mu sync.RWMutex
  251. )
  252. func main() {
  253. log.SetFlags(log.LstdFlags | log.Lshortfile)
  254. fmt.Println("╔══════════════════════════════════════════════╗")
  255. fmt.Println("║ TsDB2 Analyzer v3.0 (Schema Aware) ║")
  256. fmt.Println("║ http://localhost:8081 ║")
  257. fmt.Println("╚══════════════════════════════════════════════╝")
  258. http.HandleFunc("/", homeH)
  259. http.HandleFunc("/api/list-dir", ldH)
  260. http.HandleFunc("/api/open-db", openH)
  261. http.HandleFunc("/api/stats", stH)
  262. http.HandleFunc("/api/tables", taH)
  263. http.HandleFunc("/api/table/", tdH)
  264. http.HandleFunc("/api/data-page", dpH)
  265. http.HandleFunc("/api/index-page", ipH)
  266. http.HandleFunc("/api/btree", btH)
  267. http.HandleFunc("/api/header", hdrH)
  268. http.HandleFunc("/api/heap-chain", heapH)
  269. http.HandleFunc("/api/free-pages", freeH)
  270. http.HandleFunc("/api/pages", pagesH)
  271. http.HandleFunc("/api/pagemap", pagemapH)
  272. http.HandleFunc("/api/find-pk", findPkH)
  273. http.HandleFunc("/api/audit", auditH)
  274. http.HandleFunc("/api/mem", memH)
  275. http.HandleFunc("/api/audit/issues", auditIssuesH)
  276. http.HandleFunc("/api/audit/unacc", auditUnaccH)
  277. http.HandleFunc("/api/heap-chains", heapChainsH)
  278. http.HandleFunc("/api/page-info", pageInfoH)
  279. // 静态资源 (index.html 引用的 js/css/字体等) 一律走 embed, 不再暴露工作目录。
  280. http.Handle("/s/", http.StripPrefix("/s/", http.FileServer(http.FS(webRoot()))))
  281. log.Fatal(http.ListenAndServe(":8081", countInflight(http.DefaultServeMux)))
  282. }
  283. // countInflight 把每个请求登记为"在飞读任务": 请求期间可能持有指向映射区的
  284. // 页切片, 换库时不能把映射解掉 (见 audit.go 的 gcRetired)。
  285. func countInflight(h http.Handler) http.Handler {
  286. return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  287. enterRead()
  288. defer exitRead()
  289. h.ServeHTTP(w, r)
  290. })
  291. }
  292. // ===== Low-level page reading =====
  293. // rp 读一页 —— 统一走 audit.go 的共享句柄 (全库审计要读上千页, 不能每页都 open)。
  294. func rp(pid uint32) ([]byte, error) { return readPage(pid) }
  295. // rHdr 把 4096 字节的 HeaderPage 读进全局 hdr。
  296. func rHdr() {
  297. f, e := dbFile()
  298. if e != nil {
  299. return
  300. }
  301. f.ReadAt(hdr[:], 0)
  302. }
  303. // ===== Parse all tables from TablePage chain =====
  304. func pTabs() []TInfo {
  305. var R []TInfo
  306. tp := binary.LittleEndian.Uint32(hdr[16:20])
  307. if tp == 0 {
  308. return R
  309. }
  310. for pid := tp; pid != 0; {
  311. b, e := rp(pid)
  312. if e != nil {
  313. break
  314. }
  315. us := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  316. if us > PGSZ {
  317. us = PGSZ
  318. }
  319. // 所有表页都在 PageHdr 之后统一预留 SEXT_HDR 字节, 记录从 REC_OFF 开始
  320. off := uint32(REC_OFF)
  321. for off+TINFO_SZ <= us && off+TINFO_SZ <= PGSZ {
  322. tb := b[off : off+TINFO_SZ]
  323. alloc := uint32(binary.LittleEndian.Uint16(tb[TI_ALLOC : TI_ALLOC+2]))
  324. if tb[TI_FLAG]&0x80 != 0 {
  325. // Drop 留下的空洞 (墓碑): 按记录自身长度跳过
  326. off += TINFO_SZ + alloc
  327. continue
  328. }
  329. nm := strings.TrimRight(string(tb[:48]), "\x00") // 表名: [0, TableNameSize)
  330. rn := binary.LittleEndian.Uint64(tb[TI_ROWS : TI_ROWS+8])
  331. hpc := binary.LittleEndian.Uint32(tb[TI_HPCNT : TI_HPCNT+4])
  332. // 重建完整 schema: 内联块 (alloc 字节) + 共享扩展页续块链
  333. schema := readSchemaBytes(b, off, alloc, tb)
  334. // Parse new schema format
  335. activeVer, masterFields, versions := parseSchemaFields(schema)
  336. // Parse indexes
  337. var is []IInfo
  338. iip := binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4])
  339. for ip := iip; ip != 0; {
  340. ib, e := rp(ip)
  341. if e != nil {
  342. break
  343. }
  344. if ib[0] != PG_IMETA {
  345. break
  346. }
  347. iu := binary.LittleEndian.Uint32(ib[PH_USE : PH_USE+4])
  348. if iu > PGSZ {
  349. iu = PGSZ
  350. }
  351. io := uint32(PHDR)
  352. for io+META_SZ <= iu && io+META_SZ <= PGSZ {
  353. im := ib[io : io+META_SZ]
  354. // IndexMeta struct (Name[64] + Type + FieldCnt + FieldIDs[16] + pad(2)
  355. // + EntryPage + Prev + Next + Flag + pad(3) = 100): 各字段偏移见文件头的 IM_*
  356. // 常量, 由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上。
  357. if im[IM_FLAG]&IM_FLAG_DELETED == 0 {
  358. in := strings.TrimRight(string(im[:IM_NAMSZ]), "\x00") // IndexName: [0, IndexNameSize)
  359. it := im[IM_TYPE] // IndexType
  360. ic := int(im[IM_FCNT]) // FieldCnt
  361. ep := binary.LittleEndian.Uint32(im[IM_EP : IM_EP+4]) // EntryPage (跳过 2B 对齐填充)
  362. uq := im[IM_FLAG]&IM_FLAG_UNIQUE != 0 // 唯一索引
  363. // 验证 EntryPage 指向有效索引页 (防止已删除表的孤立条目)
  364. if ep != 0 {
  365. pb, pe := rp(ep)
  366. if pe != nil || pb[0] != PG_IDATA {
  367. ep = 0 // 无效页, 跳过
  368. }
  369. }
  370. if ep != 0 {
  371. var fds []int
  372. for j := 0; j < ic; j++ {
  373. fds = append(fds, int(im[IM_FLDS+j])) // FieldIDs
  374. }
  375. is = append(is, IInfo{Name: in, Type: it, TS: tNm(it), EP: ep, Flds: fds, Uniq: uq})
  376. }
  377. }
  378. io += META_SZ
  379. }
  380. ip = binary.LittleEndian.Uint32(ib[PH_NEXT : PH_NEXT+4])
  381. }
  382. R = append(R, TInfo{
  383. Name: nm, RowN: rn,
  384. FSz: binary.LittleEndian.Uint16(tb[TI_ROWSZ : TI_ROWSZ+2]),
  385. DP0: binary.LittleEndian.Uint32(tb[TI_FDATA : TI_FDATA+4]),
  386. IP0: binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4]),
  387. HP0: binary.LittleEndian.Uint32(tb[TI_FHEAP : TI_FHEAP+4]),
  388. HPC: hpc,
  389. ActiveVer: activeVer, MasterFields: masterFields, Versions: versions, Idxs: is,
  390. })
  391. off += TINFO_SZ + alloc
  392. }
  393. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  394. if nx == 0 || nx == pid {
  395. break
  396. }
  397. pid = nx
  398. }
  399. return R
  400. }
  401. // readSchemaBytes 重建一张表的完整 schema 字节:
  402. // 表页内联块 (alloc 字节) + 共享扩展页里的续块链 [SchemaFragHdr 8B][payload]
  403. func readSchemaBytes(pageBuf []byte, recOff, alloc uint32, tb []byte) []byte {
  404. schema := make([]byte, 0, alloc)
  405. start := recOff + TINFO_SZ
  406. if end := start + alloc; end <= uint32(len(pageBuf)) {
  407. schema = append(schema, pageBuf[start:end]...)
  408. } else if start < uint32(len(pageBuf)) {
  409. schema = append(schema, pageBuf[start:]...)
  410. }
  411. extPage := binary.LittleEndian.Uint32(tb[TI_EXTPG : TI_EXTPG+4])
  412. extOff := uint32(binary.LittleEndian.Uint16(tb[TI_EXTOFF : TI_EXTOFF+2]))
  413. for pid, off := extPage, extOff; pid != 0; {
  414. fb, e := rp(pid)
  415. if e != nil || int(off)+FRAG_HDR > len(fb) {
  416. break
  417. }
  418. nextPage := binary.BigEndian.Uint32(fb[off : off+4])
  419. nextOff := binary.BigEndian.Uint16(fb[off+4 : off+6])
  420. dataLen := int(binary.BigEndian.Uint16(fb[off+6 : off+8]))
  421. s := int(off) + FRAG_HDR
  422. if s+dataLen > len(fb) {
  423. break
  424. }
  425. schema = append(schema, fb[s:s+dataLen]...)
  426. pid, off = nextPage, uint32(nextOff)
  427. }
  428. return schema
  429. }
  430. // parseSchemaFields 解析新版 schema 字段定义链
  431. //
  432. // 格式 (与 DB/core 的 serializeSchema 逐字节对应):
  433. //
  434. // [activeVer 1B][masterCount 1B][typ 1B][flag 1B][nameLen 1B][name]×masterCount
  435. // [verCount 1B][ver 1B][indexCount 1B][indices]×verCount
  436. //
  437. // flag 是**列级标志字节**, 紧跟在 typ 之后 (对应 types.FieldInfo.Flag):
  438. //
  439. // bit7 bit6 bit5 | bit4 ........ bit0
  440. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  441. //
  442. // 字节位置与原来的 param 完全一致, 只是含义被扩展了: 低 5 位【按类型解释】——
  443. // decimal 是 scale (例如 `12 02 06 "Amount"` 就是 decimal(2)), 字符串家族是行内宽度码
  444. // (maxlen 声明出来的列靠它决定宽度)。其余类型低 5 位为 0, 但字节一定在。
  445. //
  446. // 所以下面算 Sz 时必须把 flag 一起传进去 (fSzWithParam): 只看 typ 会给宽度码列算成
  447. // 类型默认档 256, 而它是 2048 就整行错位 —— 与本函数注释开头说的那次事故同一类。
  448. //
  449. // 【这里漏掉这个字节曾造成整表读错】: 原实现按 `[typ][nameLen][name]` 走位, 于是把
  450. // 它当成了 nameLen —— 第一个字段名读成空串, 之后 masterFields / versions 全部错位。
  451. // 症状很误导人: 表显示成"只有 1 个字段且无名"、版本号是乱数、数据页一行都解不出, 而
  452. // 页头那些不依赖 schema 的字段 (TotalRows / RowSize / 页号) 却完全正确, 于是很难往
  453. // "schema 解析"上想。TestParseSchemaAgainstCore 用 core 造的**真库**来钉这件事:
  454. // 它不重述格式, 而是要求两侧对同一份盘上字节的解释一致。
  455. func parseSchemaFields(b []byte) (byte, []MFInfo, []VInfo) {
  456. if len(b) < 2 {
  457. return 0, nil, nil
  458. }
  459. pos := 0
  460. activeVer := b[pos]
  461. pos++
  462. masterCount := int(b[pos])
  463. pos++
  464. var masterFields []MFInfo
  465. for i := 0; i < masterCount && pos+3 <= len(b); i++ {
  466. typ := b[pos]
  467. flag := b[pos+1]
  468. nameLen := int(b[pos+2])
  469. pos += 3
  470. if pos+nameLen > len(b) {
  471. break
  472. }
  473. name := strings.TrimRight(string(b[pos:pos+nameLen]), "\x00")
  474. pos += nameLen
  475. // typ 是纯类型值 (删除标记不再占最高位), 状态位全在 flag 里。
  476. // param / sz 各算一次并复用: 宽度是"行内按多少字节付满"的唯一依据,
  477. // 下面三处 (Sz / Label / Tip) 必须拿到同一个值, 分头算迟早会漂移。
  478. param := flag & FLAG_SCALE
  479. sz := fSzWithParam(typ, param)
  480. masterFields = append(masterFields, MFInfo{
  481. Name: name, Type: typ, TypeName: fName(typ),
  482. Flag: flag, Sz: sz, Param: param,
  483. Label: fLabel(typ, param, sz),
  484. Tip: fTip(typ, param, sz),
  485. Dropped: flag&FLAG_DELETED != 0,
  486. Nullable: flag&FLAG_NULLABLE != 0,
  487. Unique: flag&FLAG_UNIQUE != 0,
  488. })
  489. }
  490. var versions []VInfo
  491. if pos < len(b) {
  492. verCount := int(b[pos])
  493. pos++
  494. for i := 0; i < verCount && pos < len(b); i++ {
  495. verNo := b[pos]
  496. pos++
  497. if pos >= len(b) {
  498. break
  499. }
  500. fieldCount := int(b[pos])
  501. pos++
  502. // 下标逐个宽化成 int (见 VInfo.Indices): 盘上 1 字节/个, 但对外要数字数组。
  503. indices := make([]int, fieldCount)
  504. if pos+fieldCount <= len(b) {
  505. for i, raw := range b[pos : pos+fieldCount] {
  506. indices[i] = int(raw)
  507. }
  508. pos += fieldCount
  509. }
  510. // Build field name list for this version
  511. var fieldNames []string
  512. for _, idx := range indices {
  513. if idx < len(masterFields) {
  514. mf := masterFields[idx]
  515. n := mf.Name
  516. if mf.Dropped {
  517. n += " (dropped)"
  518. }
  519. fieldNames = append(fieldNames, n)
  520. } else {
  521. fieldNames = append(fieldNames, "?")
  522. }
  523. }
  524. versions = append(versions, VInfo{Ver: verNo, Fields: fieldNames, Indices: indices})
  525. }
  526. }
  527. return activeVer, masterFields, versions
  528. }
  529. // ===== Field type helpers =====
  530. // fSz 列在行内的字节宽度。
  531. //
  532. // 【为什么是投影而不是自己 switch】这里原本手写了一张 1..15 的表, core 新增 7 个列型
  533. // (bool/float32/decimal/uuid/year/int128/blob) 时没同步, 于是 fSz 对新类型返回 0 ——
  534. // 这不是"显示成 ?"那么轻: 行解码靠它推进偏移 (decodeRows 里的 off += sz), 0 会让新类型
  535. // 字段【之后的所有列】都从同一个错位偏移解码, 整行静默错位; indexcheck 也会因为
  536. // size <= 0 直接放弃索引键校验。
  537. //
  538. // 改成投影到 core 的 typeRegistry 之后, 这类漏同步在结构上不可能再发生: core 那边有
  539. // allTypes + CheckRegistry 兜底, 这里自动覆盖全部已声明类型。复用 core 的布局事实是
  540. // 本项目既有做法 (见 layout_assert.go 的编译期断言)。
  541. //
  542. // 注意它给的是【类型默认档】宽度; 行内真实宽度还要乘上列级参数 (字符串列的宽度码),
  543. // 行解码/索引键切分一律用 fSzWithParam。
  544. func fSz(t byte) int { return int(types.GetSize(types.FieldType(t))) }
  545. // fSzWithParam 列在行内的真实字节宽度 = types.FieldSize(类型, 列级参数)。
  546. //
  547. // param 取列 flag 的低 5 位 (字符串列是宽度码, decimal 是 scale)。少传它就会给
  548. // "maxlen 声明出来的字符串列"算出类型默认档 256, 而盘上那一列是 1024 字节 ——
  549. // off += sz 之后整行字段静默错位, 且错得"很像正常数据" (字段都有值, 只是全错位)。
  550. // 返回 0 表示类型未注册或参数非法: 调用方必须放弃解析该行, 不能当真值用。
  551. func fSzWithParam(t byte, param byte) int {
  552. return int(types.FieldSize(types.FieldType(t), param))
  553. }
  554. func tNm(t byte) string {
  555. switch t {
  556. case 1:
  557. return "Time"
  558. case 2:
  559. return "Primary"
  560. case 3:
  561. return "String"
  562. case 4:
  563. return "Compose"
  564. case 5:
  565. return "BTree"
  566. case 6:
  567. return "Hash"
  568. default:
  569. return "?"
  570. }
  571. }
  572. // fName 列类型的可读名。同样投影自 core 的 typeRegistry。
  573. //
  574. // 名字一律投影自 types 注册表 (uint8/uint16/…/string/dynamic/float64/int8/…/int64),
  575. // 因此 core 增删类型时这里自动跟随 —— 不需要再维护第二份会漂移的名单。
  576. func fName(t byte) string {
  577. if n := types.TypeNameOf(types.FieldType(t)); n != "" {
  578. return n
  579. }
  580. return "?"
  581. }
  582. // fLabel 类型徽章的展示文本 (MFInfo.Label)。
  583. //
  584. // 【为什么字符串列要改写】定长字符串列的行内宽度不是类型自带的, 而是靠 Flag 低 5 位的
  585. // 【宽度码】声明 (见 types.FieldSize)。于是同一个 String 类型下会出现"真实行宽 1024 字节"
  586. // 的列 —— 列表里只写类型名, 看起来就是默认的 256 字节, 与盘上差了 4 倍, 而"字符串大小"
  587. // 这件事恰恰是看 schema 时最想知道的。所以宽度码不为 0 的字符串列显示成 string(1024B)。
  588. //
  589. // 宽度码为 0 (沿用类型默认宽度 256) 时只显示类型名 string。
  590. //
  591. // decimal 显示 scale (与改动前一致); 其余类型就是类型名; 未注册类型给 "?"。
  592. func fLabel(t byte, param byte, sz int) string {
  593. name := fName(t)
  594. if name == "?" {
  595. return unknownFieldValue
  596. }
  597. ft := types.FieldType(t)
  598. switch {
  599. case ft == types.FieldType_Decimal:
  600. if param > 0 {
  601. return fmt.Sprintf("%s(%d)", name, param)
  602. }
  603. case types.IsStringType(ft) && param > 0:
  604. return fmt.Sprintf("string(%dB)", sz)
  605. }
  606. return name
  607. }
  608. // fTip 类型徽章的悬浮说明 (MFInfo.Tip): 把"类型档 + 列级参数 + 行内宽度"三件事一次讲清。
  609. //
  610. // 徽章上放不下这些, 而它们正是排查行宽问题时要对照的东西 —— 尤其是字符串列:
  611. // 盘上只存宽度码, 声明值本身【没有保留】, 因此这里只能给"向上取档后的宽度",
  612. // 这一点必须在提示里说破, 否则会有人拿它当声明值对账。
  613. func fTip(t byte, param byte, sz int) string {
  614. name := fName(t)
  615. if name == "?" {
  616. return fmt.Sprintf("未注册的类型 %d: 行内宽度算不出来, 本行无法解码", t)
  617. }
  618. ft := types.FieldType(t)
  619. switch {
  620. case types.IsStringType(ft):
  621. tip := fmt.Sprintf("定长字符串列: 类型档 %s, 行内宽度 %d 字节", name, sz)
  622. if param > 0 {
  623. tip += fmt.Sprintf(" (宽度码 %d; 声明容量向上取档后的宽度, 每行按它付满)", param)
  624. }
  625. return tip
  626. case ft == types.FieldType_Decimal:
  627. return fmt.Sprintf("定点小数: scale=%d, 行内宽度 %d 字节", param, sz)
  628. case sz <= 0:
  629. return fmt.Sprintf("类型 %s: 行内宽度算不出来", name)
  630. }
  631. return fmt.Sprintf("%s: 行内宽度 %d 字节", name, sz)
  632. }
  633. // ===== Read DataPage with schema version awareness =====
  634. // rDP reads a DataPage (sequential row layout, no directory)
  635. func rDP(pid uint32) *DP {
  636. b, e := rp(pid)
  637. if e != nil {
  638. return nil
  639. }
  640. if b[0] != PG_DATA {
  641. return nil
  642. }
  643. cn := binary.LittleEndian.Uint32(b[PHDR : PHDR+4])
  644. mn := binary.BigEndian.Uint64(b[PHDR+4 : PHDR+12])
  645. mx := binary.BigEndian.Uint64(b[PHDR+12 : PHDR+20])
  646. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  647. var rs []DR
  648. off := DP_HDR
  649. for i := uint32(0); i < cn && off+4 <= len(b); i++ {
  650. // 长度字段最高位 (0x80000000) 为软删除标志, 必须屏蔽后再取实际长度
  651. rawLen := binary.LittleEndian.Uint32(b[off : off+4])
  652. rl := int(rawLen &^ 0x80000000)
  653. deleted := rawLen&0x80000000 != 0
  654. off += 4
  655. if off+rl > len(b) || rl <= 0 {
  656. break
  657. }
  658. storeRow := b[off : off+rl]
  659. off += rl
  660. if deleted {
  661. continue
  662. }
  663. // storeRow = [pkID(8B BE)] + rowData
  664. var pkID uint64
  665. var rowData []byte
  666. if len(storeRow) >= 8 {
  667. pkID = binary.BigEndian.Uint64(storeRow[:8])
  668. rowData = storeRow[8:]
  669. } else {
  670. rowData = storeRow
  671. }
  672. schemaV := byte(0)
  673. if len(rowData) > 0 {
  674. schemaV = rowData[0]
  675. }
  676. hx := fmt.Sprintf("%x", storeRow[:min(len(storeRow), 64)])
  677. if len(storeRow) > 64 {
  678. hx += "..."
  679. }
  680. decoded := decodeRowData(rowData, schemaV)
  681. rs = append(rs, DR{int(i), pkID, schemaV, hx, decoded})
  682. }
  683. return &DP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  684. cn, mx, mn, us, rs}
  685. }
  686. // decodeRowData 尝试解码行数据 (显示 schemaVer + 各字段值)
  687. //
  688. // 行布局 v9: [schemaVer 1B][列0 W0 B][列结束偏移表 2N B][列1..N-1 内容][NULL 位图 ⌈n/8⌉B]
  689. // (位图长度按该行自己的版本算, n = 该版本 Indices 长度)。两处必须照做, 否则整行错位:
  690. // - 列位置一律由【行内偏移表】给出: 列 0 恒占 W0 字节 (档位宽度, 不足补零), 偏移表基址
  691. // = 1+W0, 表项 0 = 变长内容区起点 (= 1+W0+2N), 表项 i(i≥1) = 列 i 结束偏移, 列 i(i≥1)
  692. // 起点 = 表项 i-1, 位图起点 = 表末项。v9 字符串列按实际长度存储, 再沿用"累加档位宽度"
  693. // 定位会越算越偏 (表现为整行错列)。
  694. // - 列 0 恒占 W0 字节也让时序键固定在绝对偏移 9 (读取侧写死的偏移, W0 == 8 时成立)。
  695. // - 已删除列在行内【仍占位】(DropField 不新增版本, 该列不会从 Indices 消失), 所以判定
  696. // Dropped 只能跳过"显示", 绝不能影响列定位 —— 偏移表项照样按 i 取。
  697. func decodeRowData(rowData []byte, schemaV byte) string {
  698. if len(rowData) < 1 {
  699. return ""
  700. }
  701. parts := []string{fmt.Sprintf("v%d", schemaV)}
  702. if len(rowData) < 2 {
  703. return strings.Join(parts, " ")
  704. }
  705. for _, t := range tabs {
  706. sv := findVersion(t, schemaV)
  707. if sv == nil {
  708. continue
  709. }
  710. rowN := len(sv.Indices)
  711. if rowN == 0 {
  712. break
  713. }
  714. if sv.Indices[0] >= len(t.MasterFields) || t.MasterFields[sv.Indices[0]].Sz <= 0 {
  715. break
  716. }
  717. tblBase := 1 + t.MasterFields[sv.Indices[0]].Sz // 偏移表基址 == 列 0 结束偏移
  718. header := tblBase + 2*rowN // 变长内容区起点 == 表项 0
  719. if header > len(rowData) {
  720. break
  721. }
  722. if int(binary.BigEndian.Uint16(rowData[tblBase:tblBase+2])) != header {
  723. break // 表项 0 不是变长内容区起点: 布局不可信, 不猜
  724. }
  725. bitmapLen := (rowN + 7) / 8
  726. prev := header
  727. bad := false
  728. for i := 0; i < rowN; i++ {
  729. off := int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  730. if off < prev || off > len(rowData) {
  731. bad = true
  732. break
  733. }
  734. prev = off
  735. }
  736. if bad || prev+bitmapLen > len(rowData) {
  737. break
  738. }
  739. bitmap := rowData[prev : prev+bitmapLen]
  740. for i, idx := range sv.Indices {
  741. if idx >= len(t.MasterFields) {
  742. break
  743. }
  744. mf := t.MasterFields[idx]
  745. start := 1
  746. if i > 0 {
  747. start = int(binary.BigEndian.Uint16(rowData[tblBase+2*(i-1):tblBase+2*i])) & rowVarOffMask
  748. }
  749. end := tblBase // 列 0 结束恒为 1+W0 == 表基址
  750. if i > 0 {
  751. end = int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  752. }
  753. if end < start || end > len(rowData) {
  754. break
  755. }
  756. if !mf.Dropped { // 已删除列仍占位, 只是不显示
  757. if bitmap[i>>3]&(1<<uint(i&7)) != 0 {
  758. parts = append(parts, mf.Name+"=NULL")
  759. } else {
  760. // 行内可能是实际长度的短值 (字符串列), 补零回档位宽度再解, 与引擎同源。
  761. parts = append(parts, mf.Name+"="+decodeFieldValue(padToWidth(rowData[start:end], mf.Sz), mf.Type))
  762. }
  763. }
  764. }
  765. return strings.Join(parts, ", ")
  766. }
  767. return strings.Join(parts, " ")
  768. }
  769. func findVersion(t TInfo, ver byte) *VInfo {
  770. for i := range t.Versions {
  771. if t.Versions[i].Ver == ver {
  772. return &t.Versions[i]
  773. }
  774. }
  775. return nil
  776. }
  777. // unknownFieldValue 未同步列型的显式哨兵。
  778. //
  779. // 为什么不用"当作定长字符串打印"兜底: 那样输出看着像正常内容, 实际是错的 ——
  780. // 而 analyzer 最怕的正是这个 (页照常渲染, 数据全错)。用哨兵才能让
  781. // TestDecodeCoversEveryRegisteredType 当场发现"core 加了新类型而这里没跟"。
  782. const unknownFieldValue = "?"
  783. // decodeFieldValue 把行内字节解成可读文本。约定: len(buf) == 该列的 fSzWithParam(typ, param)。
  784. //
  785. // 与 DB/core 的 DecodeValue 是【两份独立实现】, 这是刻意的: analyzer 是"第二读取器",
  786. // 存在的意义就是独立验一遍 core 读出来的东西 —— 若共用同一份解码代码, core 解错时
  787. // analyzer 会跟着一起错, 校验价值就没了。所以这里只借用"布局事实" (宽度 fSz / 名字
  788. // fName, 投影自 core 的 typeRegistry), 值语义自己实现一遍。
  789. //
  790. // 每个已注册列型都必须有明确分支; 落到 unknownFieldValue 说明漏同步了。
  791. func decodeFieldValue(buf []byte, typ byte) string {
  792. // 一律用 core 导出的类型常量, 不再写字面量序号 —— 否则 core 一旦重排类型值,
  793. // 这里的 case 会静默错位 (把 1 字节当 2 字节解码, 整段乱掉)。判据同源于 types 注册表。
  794. switch types.FieldType(typ) {
  795. // ===== 1 字节 =====
  796. case types.FieldType_Bool:
  797. // 盘上只允许 0x00 / 0x01 (写入侧已规范化, 不会存下 2)
  798. if buf[0] != 0 {
  799. return "true"
  800. }
  801. return "false"
  802. case types.FieldType_Uint8:
  803. return fmt.Sprintf("%d", buf[0])
  804. case types.FieldType_Int8:
  805. // 有符号列盘上是保序编码 (符号位翻转), 读回来要先翻回去
  806. return fmt.Sprintf("%d", int8(buf[0]^0x80))
  807. // ===== 2 字节 =====
  808. case types.FieldType_Uint16:
  809. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  810. case types.FieldType_Int16:
  811. return fmt.Sprintf("%d", int16(binary.BigEndian.Uint16(buf)^0x8000))
  812. case types.FieldType_Year:
  813. // 无符号大端 uint16 (无保序编码; 解码载体是 int16)
  814. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  815. // ===== 4 字节 =====
  816. case types.FieldType_Uint32:
  817. return fmt.Sprintf("%d", binary.BigEndian.Uint32(buf))
  818. case types.FieldType_Int32:
  819. return fmt.Sprintf("%d", int32(binary.BigEndian.Uint32(buf)^0x80000000))
  820. case types.FieldType_Float32:
  821. // 保序编码 (非负翻符号位, 负数整体取反; 见 types.Float32ToSortKey)
  822. u := binary.BigEndian.Uint32(buf)
  823. if u&(1<<31) != 0 {
  824. u ^= 1 << 31
  825. } else {
  826. u = ^u
  827. }
  828. return strconv.FormatFloat(float64(math.Float32frombits(u)), 'g', -1, 32)
  829. // ===== 8 字节 =====
  830. case types.FieldType_Uint64:
  831. return fmt.Sprintf("%d", binary.BigEndian.Uint64(buf))
  832. case types.FieldType_Int64:
  833. return fmt.Sprintf("%d", int64(binary.BigEndian.Uint64(buf)^0x8000000000000000))
  834. case types.FieldType_Float64:
  835. // 保序编码: 非负翻符号位, 负数整体取反 (见 types.Float64ToSortKey)
  836. u := binary.BigEndian.Uint64(buf)
  837. if u&(1<<63) != 0 {
  838. u ^= 1 << 63
  839. } else {
  840. u = ^u
  841. }
  842. return strconv.FormatFloat(math.Float64frombits(u), 'g', -1, 64)
  843. // ===== 16 字节 =====
  844. case types.FieldType_Int128:
  845. return decodeInt128(buf).String()
  846. case types.FieldType_UUID:
  847. // 16 字节原样二进制, 显示成标准 8-4-4-4-12
  848. h := fmt.Sprintf("%x", buf[:16])
  849. return h[:8] + "-" + h[8:12] + "-" + h[12:16] + "-" + h[16:20] + "-" + h[20:]
  850. // ===== 18 字节: 定点小数 [16B 系数保序编码][2B scale 大端], 值 = 系数 / 10^scale =====
  851. case types.FieldType_Decimal:
  852. return decimalText(decodeInt128(buf), int(binary.BigEndian.Uint16(buf[16:])))
  853. // ===== 定长字符串 (宽度由 Flag 低 5 位宽度码决定, 与这里无关) =====
  854. case types.FieldType_String:
  855. return bytesFieldText(buf)
  856. // ===== 动态列: 行内只有 6 字节堆引用 [PageID uint32 大端][Offset uint16 大端] =====
  857. //
  858. // 以前动态落到 default 分支, 把页号和偏移当字符串打印出来 —— 真正想看的
  859. // "内容在哪一页" 反而看不见。
  860. case types.FieldType_Dynamicbyte:
  861. pid := binary.BigEndian.Uint32(buf)
  862. if pid == 0 {
  863. return "(empty)" // PageID == 0 表示空值
  864. }
  865. return fmt.Sprintf("(heap page=%d off=%d)", pid, binary.BigEndian.Uint16(buf[4:]))
  866. // ===== blob 列 (v10): 行内 8 字节链引用 [TotalLen uint32 大端][FirstPageID uint32 大端] =====
  867. //
  868. // 与动态列长得像但读法完全不同: 内容不在堆页上的某一块, 而在一条可跨页的链上,
  869. // 所以这里报"链首页 + 内容长度"; 顺着 page=%d 用 tbl.BlobRead(ref) 能整块读出来。
  870. case types.FieldType_Blob:
  871. total := binary.BigEndian.Uint32(buf)
  872. pid := binary.BigEndian.Uint32(buf[4:])
  873. if total == 0 && pid == 0 {
  874. return "(empty)" // (0, 0) 表示空 blob
  875. }
  876. return fmt.Sprintf("(blob page=%d len=%d)", pid, total)
  877. default:
  878. return unknownFieldValue
  879. }
  880. }
  881. // bytesFieldText 定长字节串的文本形式: 去掉尾部补零, 全空则显示 (empty)。
  882. func bytesFieldText(buf []byte) string {
  883. s := strings.TrimRight(string(buf), "\x00")
  884. if len(s) == 0 {
  885. return "(empty)"
  886. }
  887. return s
  888. }
  889. // decodeInt128 还原 core 的 int128ToSortKeyBytes: [16B 补码大端, 最高位已翻转]。
  890. //
  891. // 判符号必须在【翻回来之前】看: 盘上最高位为 0 代表原值是负数 (编码时对最高位异或了
  892. // 0x80); 顺序判反会把全部非负数读成负数。
  893. func decodeInt128(b []byte) *big.Int {
  894. var raw [16]byte
  895. copy(raw[:], b)
  896. neg := raw[0]&0x80 == 0
  897. raw[0] ^= 0x80
  898. v := new(big.Int).SetBytes(raw[:])
  899. if neg {
  900. v.Sub(v, new(big.Int).Lsh(big.NewInt(1), 128))
  901. }
  902. return v
  903. }
  904. // decimalText 把 [系数, scale] 渲染成小数字面量 (值 = 系数 / 10^scale)。
  905. //
  906. // 必须按 scale 补足位数: 系数 150 + scale 2 是 "1.50", 而系数 5 + scale 2 是 "0.05"
  907. // —— 少了补零就会读成 "5", 差 100 倍。
  908. func decimalText(coef *big.Int, scale int) string {
  909. s := coef.String()
  910. if scale <= 0 {
  911. return s
  912. }
  913. sign := ""
  914. if strings.HasPrefix(s, "-") {
  915. sign, s = "-", s[1:]
  916. }
  917. if len(s) <= scale {
  918. s = strings.Repeat("0", scale-len(s)+1) + s
  919. }
  920. return sign + s[:len(s)-scale] + "." + s[len(s)-scale:]
  921. }
  922. // ===== Index page reading =====
  923. func rIP(pid uint32, it byte) *IP {
  924. b, e := rp(pid)
  925. if e != nil {
  926. return nil
  927. }
  928. if b[0] != PG_IDATA {
  929. return nil
  930. }
  931. lf := b[28] == 1
  932. cn := binary.LittleEndian.Uint32(b[24:28])
  933. el := int(binary.LittleEndian.Uint16(b[22:24]))
  934. if el <= 4 {
  935. el = 12
  936. }
  937. ents := pEE(b, int(cn), el, it, lf)
  938. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  939. return &IP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  940. lf, cn, us, ents, it}
  941. }
  942. func pEE(b []byte, cn, el int, it byte, lf bool) []IE {
  943. var ents []IE
  944. for i := 0; i < cn; i++ {
  945. o := IDX_HDR + i*el
  946. if o+el > len(b) {
  947. break
  948. }
  949. entry := b[o : o+el]
  950. var ie IE
  951. switch it {
  952. case 2:
  953. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  954. ie.P = binary.BigEndian.Uint32(entry[8:12])
  955. case 1:
  956. ie.K = fmt.Sprintf("%d ~ %d", binary.BigEndian.Uint64(entry[:8]), binary.BigEndian.Uint64(entry[8:16]))
  957. ie.P = binary.BigEndian.Uint32(entry[16:20])
  958. case 3:
  959. ie.K = strings.TrimRight(string(entry[:16]), "\x00")
  960. ie.DP = binary.BigEndian.Uint64(entry[16:24])
  961. if lf {
  962. ie.P = binary.BigEndian.Uint32(entry[20:24])
  963. }
  964. case 4:
  965. nk := (el - 8) / 8
  966. parts := make([]string, nk)
  967. for j := 0; j < nk; j++ {
  968. parts[j] = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[j*8:]))
  969. }
  970. ie.K = strings.Join(parts, ", ")
  971. ie.DP = binary.BigEndian.Uint64(entry[nk*8:])
  972. if lf {
  973. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  974. }
  975. case 5:
  976. if lf {
  977. kl := el - 8
  978. if kl == 8 {
  979. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  980. } else {
  981. ie.K = fmt.Sprintf("%x", entry[:kl])
  982. }
  983. ie.DP = binary.BigEndian.Uint64(entry[kl:])
  984. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  985. } else {
  986. kl := el - 4
  987. if kl == 8 {
  988. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  989. } else {
  990. ie.K = fmt.Sprintf("%x", entry[:kl])
  991. }
  992. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  993. }
  994. default:
  995. ie.K = fmt.Sprintf("%x", entry[:el-4])
  996. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  997. }
  998. ents = append(ents, ie)
  999. }
  1000. return ents
  1001. }
  1002. func rBT(pid uint32, it byte) *IP { return rIP(pid, it) }
  1003. // ===== Header + Heap + Free =====
  1004. func rHdrInfo() *HdrInfo {
  1005. f, e := dbFile()
  1006. if e != nil {
  1007. return nil
  1008. }
  1009. b := make([]byte, HDRSZ)
  1010. f.ReadAt(b, 0)
  1011. magic := string(b[:4])
  1012. ver := binary.LittleEndian.Uint32(b[4:8])
  1013. pgsz := binary.LittleEndian.Uint32(b[8:12])
  1014. nf := binary.LittleEndian.Uint32(b[12:16])
  1015. tp := binary.LittleEndian.Uint32(b[16:20])
  1016. tc := binary.LittleEndian.Uint32(b[20:24])
  1017. ct := int64(binary.LittleEndian.Uint64(b[24:32]))
  1018. mt := int64(binary.LittleEndian.Uint64(b[32:40]))
  1019. fs := binary.LittleEndian.Uint32(b[40:44])
  1020. fc := binary.LittleEndian.Uint32(b[44:48])
  1021. gf := binary.LittleEndian.Uint64(b[48:56])
  1022. // WAL 链与事务号 (v2 起): FirstWALPage(56) LastWALPage(60) NextTxnID(64)
  1023. wal0 := binary.LittleEndian.Uint32(b[56:60])
  1024. wal1 := binary.LittleEndian.Uint32(b[60:64])
  1025. txn := binary.LittleEndian.Uint64(b[64:72])
  1026. // ExtConfig[256] 占 72~327, Comment[512] 从 328 开始, FreePageEnd 排在 Comment 之后
  1027. cm := strings.TrimRight(string(b[328:840]), "\x00")
  1028. fe := binary.LittleEndian.Uint32(b[HDR_FREE_END : HDR_FREE_END+4])
  1029. fcW := rFreeChain()
  1030. total := totalPages()
  1031. h := &HdrInfo{
  1032. Magic: magic, Version: ver, PageSize: pgsz,
  1033. NextFree: nf, TablePage: tp, TableCount: tc,
  1034. CreateTime: time.Unix(0, ct).Format("2006-01-02 15:04:05"),
  1035. ModifyTime: time.Unix(0, mt).Format("2006-01-02 15:04:05"),
  1036. FreeStart: fs, FreeEnd: fe, FreeCount: fc,
  1037. GlobalFlags: gf, WALFirst: wal0, WALLast: wal1, TxnID: txn, Comment: cm,
  1038. FreeWalked: fcW.Total, Pages: total,
  1039. FreeVerdict: fcW.Verdict, FreeDetail: fcW.Detail,
  1040. }
  1041. if nf > 0 {
  1042. h.Allocated = int(nf) - 1
  1043. }
  1044. if h.Allocated > total {
  1045. h.Allocated = total
  1046. }
  1047. if h.NeverUsed = total - h.Allocated; h.NeverUsed < 0 {
  1048. h.NeverUsed = 0
  1049. }
  1050. return h
  1051. }
  1052. func rHeapChain(hp0 uint32) *HeapChain {
  1053. var pages []HeapPageInfo
  1054. for pid := hp0; pid != 0; {
  1055. b, e := rp(pid)
  1056. if e != nil || b[0] != PG_HEAP {
  1057. break
  1058. }
  1059. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  1060. pv := binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4])
  1061. use := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  1062. us := float64(use) / float64(PGSZ) * 100
  1063. ref := binary.LittleEndian.Uint16(b[PH_REF : PH_REF+2])
  1064. pages = append(pages, HeapPageInfo{pid, nx, pv, use, us, ref})
  1065. if nx == pid || nx == 0 {
  1066. break
  1067. }
  1068. pid = nx
  1069. }
  1070. return &HeapChain{pages, len(pages)}
  1071. }
  1072. // rFreePages 空闲链 —— 直接用审计里那份带自检的版本。
  1073. // 旧实现读的是偏移 0 的大端值, 而空闲链指针其实写在页头 NextPage (偏移 12);
  1074. // 偏移 0 是 Type(空闲页=0) 那一格, 恒等于 0, 所以链永远只走出第 1 页。
  1075. func rFreePages() *FreeChainInfo { return rFreeChain() }
  1076. // ===== Page visualization =====
  1077. type PageItem struct {
  1078. ID uint32 `json:"id"`
  1079. Type int `json:"t"`
  1080. TS string `json:"ts"`
  1081. Us float64 `json:"us"`
  1082. }
  1083. type PagesResult struct {
  1084. Pages []PageItem `json:"pages"`
  1085. Total int `json:"total"`
  1086. Counts map[string]int `json:"counts"`
  1087. Allocated int `json:"allocated"`
  1088. NeverUsed int `json:"neverUsed"`
  1089. Role map[string]string `json:"role"`
  1090. Owner map[string]string `json:"owner"`
  1091. }
  1092. // rPages 页映射的**一个分片** —— 类型/使用率取自缓存的紧凑索引 (pagemap.go),
  1093. // 角色/属主只为这一段页查询。
  1094. //
  1095. // 旧实现每次调用都要全量重算 19.5 万页, 并把整张页表 + 两张 19.5 万键的归属
  1096. // map 一次性序列化 (单次响应几十 MB), 且被概览/堆链/空闲页三个视图各调一遍 ——
  1097. // 前端必然卡死。新的页图走 /api/pagemap 分块拉取, 这里只保留分页语义。
  1098. func rPages(start, count int) *PagesResult {
  1099. idx := pagemapCached()
  1100. res := &PagesResult{
  1101. Total: idx.total, Counts: idx.counts, Allocated: idx.allocated,
  1102. NeverUsed: idx.neverUsed, Role: map[string]string{}, Owner: map[string]string{},
  1103. }
  1104. if idx.total <= 0 {
  1105. return res
  1106. }
  1107. if start < 1 {
  1108. start = 1
  1109. }
  1110. if count <= 0 || count > pmChunkMax {
  1111. count = pmChunkDefault
  1112. }
  1113. if start > idx.total {
  1114. start = idx.total + 1
  1115. }
  1116. end := start + count
  1117. if end > idx.total+1 {
  1118. end = idx.total + 1
  1119. }
  1120. w := peekWalk()
  1121. for pid := start; pid < end; pid++ {
  1122. pt, tn := pmKind(int(idx.typ[pid]))
  1123. res.Pages = append(res.Pages, PageItem{uint32(pid), pt, tn, float64(idx.usg[pid])})
  1124. if w == nil {
  1125. continue
  1126. }
  1127. k := strconv.Itoa(pid)
  1128. if v, ok := w.role[uint32(pid)]; ok {
  1129. res.Role[k] = v
  1130. }
  1131. if v, ok := w.owner[uint32(pid)]; ok {
  1132. res.Owner[k] = v
  1133. }
  1134. }
  1135. return res
  1136. }
  1137. // pagesH 分页返回页映射: ?start=<首页号>&count=<页数> (默认第一块)。
  1138. func pagesH(w http.ResponseWriter, r *http.Request) {
  1139. if fp == "" {
  1140. jw(w, map[string]any{"e": "no db"})
  1141. return
  1142. }
  1143. start, _ := strconv.Atoi(r.URL.Query().Get("start"))
  1144. count, _ := strconv.Atoi(r.URL.Query().Get("count"))
  1145. jw(w, rPages(start, count))
  1146. }
  1147. // findPkH 通过主键 B+ 树查找 PKID 对应的 DataPage
  1148. func findPkH(w http.ResponseWriter, r *http.Request) {
  1149. if fp == "" {
  1150. jw(w, map[string]any{"e": "no db"})
  1151. return
  1152. }
  1153. pkStr := r.URL.Query().Get("pk")
  1154. rootStr := r.URL.Query().Get("root")
  1155. var pk, root uint32
  1156. fmt.Sscanf(pkStr, "%d", &pk)
  1157. fmt.Sscanf(rootStr, "%d", &root)
  1158. if root == 0 {
  1159. jw(w, map[string]any{"e": "no root"})
  1160. return
  1161. }
  1162. dp := findDPByPK(root, uint64(pk))
  1163. if dp == 0 {
  1164. jw(w, map[string]any{"e": "not found"})
  1165. return
  1166. }
  1167. jw(w, map[string]any{"dp": dp, "pk": pk})
  1168. }
  1169. // findDPByPK 在主键 B+ 树中查找 PKID 对应的 DataPage ID
  1170. func findDPByPK(rootPID uint32, targetPK uint64) uint32 {
  1171. cur := rootPID
  1172. for {
  1173. b, e := rp(cur)
  1174. if e != nil || b[0] != PG_IDATA {
  1175. return 0
  1176. }
  1177. lf := b[28] == 1
  1178. cn := int(binary.LittleEndian.Uint32(b[24:28]))
  1179. el := int(binary.LittleEndian.Uint16(b[22:24]))
  1180. if el <= 4 {
  1181. el = 12
  1182. }
  1183. if lf {
  1184. // 叶子节点: 查找匹配的 PK
  1185. for i := 0; i < cn; i++ {
  1186. o := IDX_HDR + i*el
  1187. if o+el > len(b) {
  1188. break
  1189. }
  1190. key := binary.BigEndian.Uint64(b[o : o+8])
  1191. if key == targetPK {
  1192. return binary.BigEndian.Uint32(b[o+8 : o+12])
  1193. }
  1194. }
  1195. return 0
  1196. }
  1197. // 内部节点: 二分查找最后一个 key <= targetPK
  1198. lo, hi := 0, cn-1
  1199. pos := 0
  1200. for lo <= hi {
  1201. mid := (lo + hi) / 2
  1202. o := IDX_HDR + mid*el
  1203. if o+8 > len(b) {
  1204. break
  1205. }
  1206. key := binary.BigEndian.Uint64(b[o : o+8])
  1207. if key <= targetPK {
  1208. pos = mid
  1209. lo = mid + 1
  1210. } else {
  1211. hi = mid - 1
  1212. }
  1213. }
  1214. o := IDX_HDR + pos*el
  1215. childPID := binary.BigEndian.Uint32(b[o+el-4 : o+el])
  1216. if childPID == 0 {
  1217. return 0
  1218. }
  1219. cur = childPID
  1220. }
  1221. }
  1222. // ===== Utility =====
  1223. func min(a, b int) int {
  1224. if a < b {
  1225. return a
  1226. }
  1227. return b
  1228. }
  1229. func fB(n int64) string {
  1230. if n < 1024 {
  1231. return fmt.Sprintf("%d B", n)
  1232. }
  1233. if n < 1048576 {
  1234. return fmt.Sprintf("%.1f KB", float64(n)/1024)
  1235. }
  1236. if n < 1073741824 {
  1237. return fmt.Sprintf("%.2f MB", float64(n)/1048576)
  1238. }
  1239. return fmt.Sprintf("%.2f GB", float64(n)/1073741824)
  1240. }
  1241. func fE(p string) bool { _, e := os.Stat(p); return e == nil }
  1242. func jw(w http.ResponseWriter, v any) {
  1243. w.Header().Set("Content-Type", "application/json")
  1244. json.NewEncoder(w).Encode(v)
  1245. }
  1246. // ===== HTTP Handlers =====
  1247. func ldH(w http.ResponseWriter, r *http.Request) {
  1248. p := r.URL.Query().Get("path")
  1249. if p == "" {
  1250. p, _ = os.Getwd()
  1251. }
  1252. if !filepath.IsAbs(p) {
  1253. c, _ := os.Getwd()
  1254. p = filepath.Join(c, p)
  1255. }
  1256. es, e := os.ReadDir(p)
  1257. if e != nil {
  1258. jw(w, map[string]any{"err": e.Error()})
  1259. return
  1260. }
  1261. type F struct {
  1262. N string `json:"n"`
  1263. D bool `json:"d"`
  1264. S int64 `json:"s"`
  1265. }
  1266. var ds, fs []F
  1267. for _, x := range es {
  1268. i, _ := x.Info()
  1269. s := int64(0)
  1270. if i != nil {
  1271. s = i.Size()
  1272. }
  1273. if x.IsDir() {
  1274. ds = append(ds, F{x.Name(), true, s})
  1275. } else {
  1276. fs = append(fs, F{x.Name(), false, s})
  1277. }
  1278. }
  1279. jw(w, map[string]any{"p": p, "pp": filepath.Dir(p), "d": ds, "f": fs})
  1280. }
  1281. func openH(w http.ResponseWriter, r *http.Request) {
  1282. if r.Method != "POST" {
  1283. http.Error(w, "no", 405)
  1284. return
  1285. }
  1286. var q struct {
  1287. P string `json:"p"`
  1288. }
  1289. json.NewDecoder(r.Body).Decode(&q)
  1290. if !fE(q.P) {
  1291. c, _ := os.Getwd()
  1292. q2 := filepath.Join(c, q.P)
  1293. if fE(q2) {
  1294. q.P = q2
  1295. } else {
  1296. jw(w, map[string]any{"ok": false, "e": "not found"})
  1297. return
  1298. }
  1299. }
  1300. // 切库: 换掉共享句柄, 作废审计缓存
  1301. if e := useDB(q.P); e != nil {
  1302. jw(w, map[string]any{"ok": false, "e": "open failed: " + e.Error()})
  1303. return
  1304. }
  1305. invalidateAudit()
  1306. mu.Lock()
  1307. fp = q.P
  1308. rHdr()
  1309. tabs = pTabs()
  1310. mu.Unlock()
  1311. fi, _ := os.Stat(fp)
  1312. dbF = fp
  1313. setCacheFP(fingerprint())
  1314. // 全库审计可能很慢 (要扫上千页), 放到后台预热, 让打开请求立即返回。
  1315. // 前端先显示基础信息与"审计中", 就绪后轮询 /api/stats 填充汇总。
  1316. startAuditAsync()
  1317. // 页映射索引同样在后台建好 (排在审计之后), 免得用户点开概览时再等一次全库扫描。
  1318. startPagemapAsync()
  1319. jw(w, map[string]any{"ok": true, "s": st(fi)})
  1320. }
  1321. func st(fi os.FileInfo) map[string]any {
  1322. s := int64(0)
  1323. if fi != nil {
  1324. s = fi.Size()
  1325. }
  1326. m := map[string]any{"f": dbF, "s": s, "fs": fB(s), "pg": totalPages(), "tc": len(tabs)}
  1327. // 概览页要用到审计汇总 (空闲页数 / 堆页数 / 行数 / 总判决 / 孤儿页)。
  1328. // 这里只读已算好的缓存, 不触发计算: 未就绪时返回 auditReady=false,
  1329. // 由前端显示"审计中"并轮询本接口, 避免打开库时长时间卡死。
  1330. //
  1331. // 增量审计: 结构结果先就绪, 索引内容一致性随后补全。总判决里含索引内容,
  1332. // 所以只有索引内容也补全了 (IdxPending=false) 才算真正就绪。
  1333. if a := peekAudit(); a != nil && !a.IdxPending {
  1334. heap, rows := 0, uint64(0)
  1335. for _, t := range a.Tables {
  1336. heap += t.HeapActual
  1337. rows += t.Rows
  1338. }
  1339. m["free"] = a.Free.Total
  1340. m["heap"] = heap
  1341. m["rows"] = rows
  1342. m["verdict"] = a.Verdict
  1343. m["unacc"] = a.Reach.Unaccounted
  1344. m["reserved"] = a.Reserved
  1345. m["never"] = a.NeverUsed
  1346. m["auditReady"] = true
  1347. } else {
  1348. m["auditReady"] = false
  1349. if failed, msg := peekAuditError(); failed {
  1350. m["auditFailed"] = true
  1351. m["auditError"] = msg
  1352. }
  1353. }
  1354. return m
  1355. }
  1356. func stH(w http.ResponseWriter, r *http.Request) {
  1357. if dbF == "" {
  1358. jw(w, map[string]any{"e": "no db"})
  1359. return
  1360. }
  1361. fi, _ := os.Stat(fp)
  1362. jw(w, st(fi))
  1363. }
  1364. // memH 报告 Go 运行时内存与映射区大小, 用来回答"内存到底花在哪"。
  1365. // ?gc=1 强制一次 GC 并归还内存, 便于区分"活对象"与"待回收/未归还"。
  1366. func memH(w http.ResponseWriter, r *http.Request) {
  1367. if r.URL.Query().Get("gc") == "1" {
  1368. runtime.GC()
  1369. debug.FreeOSMemory()
  1370. }
  1371. var m runtime.MemStats
  1372. runtime.ReadMemStats(&m)
  1373. // 库文件大小: 现在按页 ReadAt 读取, 页留在系统文件缓存里 (可回收),
  1374. // 不再整文件映射进进程地址空间, 因此这里不再有 mappedDBSZ 这一项。
  1375. var fileMB int64
  1376. if fi, e := os.Stat(fp); e == nil {
  1377. fileMB = fi.Size() >> 20
  1378. }
  1379. jw(w, map[string]any{
  1380. "heapAllocMB": m.HeapAlloc >> 20, // 活对象
  1381. "heapInuseMB": m.HeapInuse >> 20, // 已用 span
  1382. "heapIdleMB": m.HeapIdle >> 20, // 空闲 span (可归还)
  1383. "heapSysMB": m.HeapSys >> 20, // 向 OS 要的堆
  1384. "stackMB": m.StackInuse >> 20, // goroutine 栈
  1385. "otherSysMB": m.OtherSys >> 20,
  1386. "sysMB": m.Sys >> 20, // Go 全部向 OS 要的内存
  1387. "dbFileMB": fileMB, // 库文件大小 (按页 ReadAt, 不进进程工作集)
  1388. "numGC": m.NumGC,
  1389. "goroutines": runtime.NumGoroutine(),
  1390. })
  1391. }
  1392. func taH(w http.ResponseWriter, r *http.Request) { jw(w, tabs) }
  1393. func tdH(w http.ResponseWriter, r *http.Request) {
  1394. n := r.URL.Path[len("/api/table/"):]
  1395. for _, t := range tabs {
  1396. if t.Name == n {
  1397. jw(w, t)
  1398. return
  1399. }
  1400. }
  1401. jw(w, map[string]any{"e": "not found"})
  1402. }
  1403. func dpH(w http.ResponseWriter, r *http.Request) {
  1404. var pid uint32
  1405. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1406. d := rDP(pid)
  1407. if d == nil {
  1408. jw(w, map[string]any{"e": "err"})
  1409. return
  1410. }
  1411. jw(w, d)
  1412. }
  1413. func ipH(w http.ResponseWriter, r *http.Request) {
  1414. var pid uint32
  1415. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1416. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1417. d := rIP(pid, byte(it))
  1418. if d == nil {
  1419. jw(w, map[string]any{"e": "err"})
  1420. return
  1421. }
  1422. jw(w, d)
  1423. }
  1424. func btH(w http.ResponseWriter, r *http.Request) {
  1425. var pid uint32
  1426. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1427. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1428. d := rBT(pid, byte(it))
  1429. if d == nil {
  1430. jw(w, map[string]any{"e": "err"})
  1431. return
  1432. }
  1433. jw(w, d)
  1434. }
  1435. func hdrH(w http.ResponseWriter, r *http.Request) {
  1436. d := rHdrInfo()
  1437. if d == nil {
  1438. jw(w, map[string]any{"e": "err"})
  1439. return
  1440. }
  1441. jw(w, d)
  1442. }
  1443. func heapH(w http.ResponseWriter, r *http.Request) {
  1444. var hp0 uint32
  1445. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &hp0)
  1446. jw(w, rHeapChain(hp0))
  1447. }
  1448. func freeH(w http.ResponseWriter, r *http.Request) { jw(w, rFreePages()) }
  1449. // ===== 审计 / 归属 / 单页检查 =====
  1450. // auditH 全库审计: 页账 + 空闲链自检 + 每表堆链交叉校验 + 未归属页。
  1451. func auditH(w http.ResponseWriter, r *http.Request) {
  1452. if dbF == "" {
  1453. jw(w, map[string]any{"e": "no db"})
  1454. return
  1455. }
  1456. jw(w, auditCached())
  1457. }
  1458. // pageArgs 解析分页参数: offset 默认 0, limit 默认 100 (上限 500)。
  1459. func pageArgs(r *http.Request) (int, int) {
  1460. off, _ := strconv.Atoi(r.URL.Query().Get("offset"))
  1461. lim, _ := strconv.Atoi(r.URL.Query().Get("limit"))
  1462. if off < 0 {
  1463. off = 0
  1464. }
  1465. if lim <= 0 || lim > 500 {
  1466. lim = 100
  1467. }
  1468. return off, lim
  1469. }
  1470. // auditIssuesH 分页取索引问题明细 —— 从落盘缓存库里按页取, 不整份读进内存。
  1471. func auditIssuesH(w http.ResponseWriter, r *http.Request) {
  1472. off, lim := pageArgs(r)
  1473. rows, total, err := cachePageIssues(off, lim)
  1474. if err != nil {
  1475. jw(w, map[string]any{"e": err.Error()})
  1476. return
  1477. }
  1478. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1479. }
  1480. // auditUnaccH 分页取孤儿页明细 —— 同上, 从缓存库按页取。
  1481. func auditUnaccH(w http.ResponseWriter, r *http.Request) {
  1482. off, lim := pageArgs(r)
  1483. rows, total, err := cachePageUnacc(off, lim)
  1484. if err != nil {
  1485. jw(w, map[string]any{"e": err.Error()})
  1486. return
  1487. }
  1488. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1489. }
  1490. // heapChainsH 所有表的堆链汇总 (声明值 / 实走值 / 引用数), 供"堆链总览"页。
  1491. func heapChainsH(w http.ResponseWriter, r *http.Request) {
  1492. if dbF == "" {
  1493. jw(w, map[string]any{"e": "no db"})
  1494. return
  1495. }
  1496. a := auditCached()
  1497. jw(w, map[string]any{"tables": a.Tables, "free": a.Free, "reach": a.Reach, "verdict": a.Verdict})
  1498. }
  1499. // pageInfoH 单页检查: 原始页头 + 归属 + 是否空闲 / 从未分配。
  1500. func pageInfoH(w http.ResponseWriter, r *http.Request) {
  1501. if dbF == "" {
  1502. jw(w, map[string]any{"e": "no db"})
  1503. return
  1504. }
  1505. var pid uint32
  1506. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1507. if pid == 0 {
  1508. jw(w, map[string]any{"e": "bad id"})
  1509. return
  1510. }
  1511. jw(w, rPageInfo(pid))
  1512. }
  1513. var _ = unsafe.Sizeof(0)