main.go 53 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064106510661067106810691070107110721073107410751076107710781079108010811082108310841085108610871088108910901091109210931094109510961097109810991100110111021103110411051106110711081109111011111112111311141115111611171118111911201121112211231124112511261127112811291130113111321133113411351136113711381139114011411142114311441145114611471148114911501151115211531154115511561157115811591160116111621163116411651166116711681169117011711172117311741175117611771178117911801181118211831184118511861187118811891190119111921193119411951196119711981199120012011202120312041205120612071208120912101211121212131214121512161217121812191220122112221223122412251226122712281229123012311232123312341235123612371238123912401241124212431244124512461247124812491250125112521253125412551256125712581259126012611262126312641265126612671268126912701271127212731274127512761277127812791280128112821283128412851286128712881289129012911292129312941295129612971298129913001301130213031304130513061307130813091310131113121313131413151316131713181319132013211322132313241325132613271328132913301331133213331334133513361337133813391340134113421343134413451346134713481349135013511352135313541355135613571358135913601361136213631364136513661367136813691370137113721373137413751376137713781379138013811382138313841385138613871388138913901391139213931394139513961397139813991400140114021403140414051406140714081409141014111412141314141415141614171418141914201421142214231424142514261427142814291430143114321433143414351436143714381439144014411442144314441445144614471448144914501451145214531454145514561457145814591460146114621463146414651466146714681469147014711472147314741475147614771478147914801481148214831484148514861487148814891490149114921493149414951496149714981499150015011502150315041505150615071508150915101511151215131514151515161517151815191520152115221523152415251526152715281529153015311532153315341535153615371538153915401541154215431544154515461547154815491550155115521553155415551556155715581559156015611562156315641565156615671568156915701571157215731574157515761577157815791580158115821583158415851586158715881589159015911592159315941595159615971598159916001601160216031604160516061607160816091610161116121613
  1. package main
  2. import (
  3. "encoding/binary"
  4. "encoding/json"
  5. "fmt"
  6. "log"
  7. "math"
  8. "math/big"
  9. "net/http"
  10. _ "net/http/pprof" // /debug/pprof/* 挂在 DefaultServeMux 上, 供排查内存/CPU
  11. "os"
  12. "path/filepath"
  13. "runtime"
  14. "runtime/debug"
  15. "strconv"
  16. "strings"
  17. "sync"
  18. "time"
  19. "unsafe"
  20. // analyzer 的 go.mod 有 replace TsDB2 => ../, 可以直接读 core 的类型表。
  21. // 列型的宽度/名字改为投影自 typeRegistry, 见 fSz / fName 的注释。
  22. "git.ycl.pub/yl32940/TsDB2/DB/core/types"
  23. )
  24. const (
  25. PGSZ = 16384
  26. HDRSZ = 4096
  27. PHDR = 20 // PageHdr actual size (with alignment)
  28. DP_HDR = 48 // DataPage header (DB/core/page/datapage.go DataPageHdrSize):
  29. // PageHdr(20) + Count(4) + Min(8) + Max(8) + LiveCnt(4) + Dead(4) = 48
  30. // v10 在 Count/Min/Max 之后新增了 LiveCnt/Dead 用于 O(1) COUNT 与
  31. // 失效占比判断; 漏掉这 8B 会让 eachRow 从 LiveCnt/Dead 上读出
  32. // 假 row header, pkID 全部错位, 进而把整库二级索引条目误判为悬空。
  33. IDX_HDR = 32 // PHDR(20) + pad(1) + IndexType(1) + EntryLen(2) + Count(4) + IsLeaf(1) + pad(3)
  34. // 下面两个尺寸与 TI_* / IM_* 偏移与 DB/core 的 IndexMeta/TableInfo 布局一一对应。
  35. // TableNameSize = 48 且 IndexNameSize = 64 时: IndexMeta 100 字节, TableInfo 104 字节。
  36. // 这里的每一个常量都由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上,
  37. // 改了 DB/core 布局却漏改这里会直接编译失败 (而不是静默按错位读盘)。
  38. META_SZ = 100 // IndexMeta entry size (with Go alignment padding)
  39. TINFO_SZ = 104 // TableInfo struct size (with alignment)
  40. PG_HEAD = 0
  41. PG_TABLE = 1
  42. PG_DATA = 2
  43. PG_HEAP = 3
  44. PG_IMETA = 4
  45. PG_IDATA = 5
  46. PG_OVER = 6 // DataOverflowPage: 数据页溢出页 (已废弃)
  47. PG_WAL = 7 // WALIndex: WAL 日志页
  48. PG_SEXT = 8 // SchemaExtIndex: 全库共享的表结构扩展页
  49. // 分析器自造的哨兵
  50. PG_NEVER = -1 // 页号 >= NextFreePage, 从未被分配过
  51. PG_RESERVED = -2 // 页 1: 引擎预留, 从不分配 (header_page.go newHeader)
  52. PG_ORPHAN = -3 // 已下发区间内、类型字节=0 却不在空闲链上 (被遗漏的空闲页/泄漏页)
  53. PG_OTHER = -4 // 未知类型字节
  54. // PageHdr 字段偏移 (共 20 字节)
  55. PH_REF = 2 // RefCount uint16 (仅堆页维护: 指向本页的活引用数)
  56. PH_PREV = 8 // PrePage uint32
  57. PH_NEXT = 12 // NextPage uint32
  58. PH_USE = 16 // UseSize uint32
  59. // 表页在 PageHdr 之后为共享扩展页链头 (SchemaExtPageID) 统一预留 4 字节,
  60. // 因此每条表记录的起始偏移是 PHDR + SEXT_HDR (所有表页一致)。
  61. SEXT_HDR = 4
  62. REC_OFF = PHDR + SEXT_HDR
  63. // SchemaFragHdr: NextPage(4B BE) + NextOff(2B BE) + DataLen(2B BE)
  64. FRAG_HDR = 8
  65. // TableInfo 字段偏移 (共 104 字节, TableNameSize=48)
  66. TI_FLAG = 48 // Flag byte (0x80 = 已删除/空洞)
  67. TI_HPCNT = 52 // HeapPageCount uint32 (复用 TotalRows 前的对齐填充)
  68. TI_ROWS = 56 // TotalRows uint64
  69. TI_FHEAP = 64 // FirstHeap uint32
  70. TI_FDATA = 72 // FirstData uint32
  71. TI_ROWSZ = 80 // RowSize uint16
  72. TI_ALLOC = 82 // FieldAllocateSize uint16
  73. TI_FIDX = 88 // FirstIndexID uint32
  74. TI_EXTPG = 96 // ExtPage uint32 (schema 续块所在扩展页)
  75. TI_EXTOFF = 100 // ExtOff uint16 (首个续块在页内的偏移)
  76. // IndexMeta 字段偏移 (共 100 字节, IndexNameSize=64)
  77. //
  78. // 这些偏移全都随 IndexNameSize 整体平移 —— 索引名数组一变长, 其后每个字段的位置
  79. // 都跟着变。名字长度单独列成 IM_NAMSZ, slice 时就不必再写 64 这个魔法数字。
  80. IM_NAMSZ = 64 // IndexName [IndexNameSize]byte 的字节数 (索引名: im[0:64])
  81. IM_TYPE = 64 // IndexType byte
  82. IM_FCNT = 65 // FieldCnt byte
  83. IM_FLDS = 66 // FieldIDs [16]byte
  84. IM_EP = 84 // EntryPage uint32 (跳过 2 字节对齐填充)
  85. IM_FLAG = 96 // Flag byte
  86. // 索引 Flag 的位 (对应 core 的 IndexFlag*: bit7 软删除 / bit0 唯一索引)。
  87. // 取值由 layout_assert.go 拿 core 的常量编译期钉住 —— 这里手写位掩码是为了
  88. // 不依赖 core 的常量名, 但绝不能和它漂移。
  89. IM_FLAG_DELETED = 0x80
  90. IM_FLAG_UNIQUE = 0x01
  91. // 列 (FieldInfo) Flag 的位, 对应 core/types 的 Flag* 常量:
  92. // bit7 = 已删除 / bit6 = 可为 NULL / bit5 = 唯一
  93. // bit4..bit0 = 列级类型参数 (按类型解释: decimal 是 scale, 字符串列是宽度码)
  94. // 掩码名沿用 FLAG_SCALE (core 侧叫 FlagScaleMask), 两个用途共用同一格。
  95. FLAG_DELETED = 0x80
  96. FLAG_NULLABLE = 0x40
  97. FLAG_UNIQUE = 0x20
  98. FLAG_SCALE = 0x1f
  99. )
  100. // ===== Data Structures =====
  101. type TInfo struct {
  102. Name string `json:"name"`
  103. RowN uint64 `json:"rowN"`
  104. FSz uint16 `json:"fsz"`
  105. DP0 uint32 `json:"dp0"`
  106. IP0 uint32 `json:"ip0"`
  107. HP0 uint32 `json:"hp0"`
  108. HPC uint32 `json:"hpc"` // HeapPageCount: 声明式堆链长度
  109. ActiveVer byte `json:"activeVer"`
  110. MasterFields []MFInfo `json:"masterFields"`
  111. Versions []VInfo `json:"versions"`
  112. Idxs []IInfo `json:"idxs"`
  113. }
  114. type MFInfo struct {
  115. Name string `json:"name"`
  116. Type byte `json:"type"`
  117. TypeName string `json:"typeName"`
  118. // Flag 列级标志字节, 随 schema 落盘 (对应 types.FieldInfo.Flag):
  119. //
  120. // bit7 bit6 bit5 | bit4 ........ bit0
  121. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  122. //
  123. // 低 5 位按类型解释 (如 decimal:2 → 2, maxlen 声明出来的字符串列 → 宽度码);
  124. // 删除标记不再占用 Typ 的最高位。
  125. Flag byte `json:"flag"`
  126. // Param 列级类型参数 (Flag 低 5 位): decimal 是 scale, 字符串家族是行内宽度码,
  127. // 其余类型为 0。
  128. Param byte `json:"param"`
  129. // Nullable / Unique 从 Flag 拆出来的状态位。
  130. //
  131. // 位掩码只在这一个地方拆一次, 前端 / 检查逻辑都用这两个布尔 —— 每个消费方
  132. // 各自去 &0x40 / &0x20, 迟早会有人写错位, 而"列可不可空"读错的后果是悄悄
  133. // 把 NULL 当成 0 来解释。
  134. Nullable bool `json:"nullable"`
  135. Unique bool `json:"unique"`
  136. Sz int `json:"sz"`
  137. // Label / Tip 类型徽章的展示文本与悬浮说明, 由 fLabel / fTip 在【后端】算好。
  138. //
  139. // 字符串列的 label 会显式带出行内宽度 (string(1024B)): 类型档 (string) 与真实
  140. // 宽度矛盾时, 列表里能一眼看出这列到底占多大, 不必往右看 Size 列。
  141. // 放在后端算与 nullable/unique 同一个理由: Flag 低 5 位是【按类型重载】的一格
  142. // (decimal 是 scale, 字符串家族是宽度码), 前端若能拿到它, 迟早有人当字节数显示 ——
  143. // 而"宽度码 20"对应的那列是 1024 字节, 差 50 倍。
  144. Label string `json:"label"`
  145. Tip string `json:"tip"`
  146. Dropped bool `json:"dropped"`
  147. }
  148. type VInfo struct {
  149. Ver byte `json:"ver"`
  150. Fields []string `json:"fields"`
  151. // Indices 本版字段在 masterFields 里的下标 (顺序 = 行内字段顺序)。
  152. //
  153. // 对外必须是 []int 而不是盘上原样的 []byte: 盘上每版字段数是 1 字节, 解析时直接
  154. // copy 最省事, 但 []byte 过 JSON 会变成 base64 字符串 —— 前端 v.indices[i] 拿到的是
  155. // 第 i 个字符, t.masterFields['A'] 恒为 undefined, "这一版每列多宽"整块静默消失。
  156. // 宽化在解析层一次做完, 前端拿到的就是能直接当下标用的数字。
  157. Indices []int `json:"indices"`
  158. }
  159. type FInfo struct {
  160. Name string `json:"name"`
  161. Type byte `json:"type"`
  162. Sz int `json:"sz"`
  163. }
  164. type IInfo struct {
  165. Name string `json:"name"`
  166. Type byte `json:"type"`
  167. TS string `json:"ts"`
  168. EP uint32 `json:"ep"`
  169. Flds []int `json:"flds"`
  170. // Uniq 唯一索引 (IndexMeta.Flag 的 bit0)。索引的 Flag 字节里只有两位:
  171. //
  172. // bit7 bit6 bit0
  173. // 已删除 (未用) 唯一索引
  174. //
  175. // 唯一位不参与一致性校验 (它只约束写入路径, 不影响盘上结构), 但漏掉它会让
  176. // 分析器把唯一索引和普通索引用同一种样子画出来 —— 从外部看, 一张表的约束
  177. // 就完全不可见了。
  178. Uniq bool `json:"uniq"`
  179. }
  180. type DP struct {
  181. ID uint32 `json:"id"`
  182. Nx uint32 `json:"nx"`
  183. Pv uint32 `json:"pv"`
  184. Cn uint32 `json:"cn"`
  185. Mx uint64 `json:"mx"`
  186. Mn uint64 `json:"mn"`
  187. Us float64 `json:"us"`
  188. Rs []DR `json:"rs"`
  189. }
  190. type DR struct {
  191. I int `json:"i"`
  192. PKID uint64 `json:"pk"`
  193. SchemaV byte `json:"sv"`
  194. Hex string `json:"h"`
  195. Decoded string `json:"decoded"`
  196. }
  197. type IP struct {
  198. ID uint32 `json:"id"`
  199. Nx uint32 `json:"nx"`
  200. Pv uint32 `json:"pv"`
  201. Lf bool `json:"lf"`
  202. Cn uint32 `json:"cn"`
  203. Us float64 `json:"us"`
  204. Ents []IE `json:"ents"`
  205. IdxType byte `json:"it"`
  206. }
  207. type IE struct {
  208. K string `json:"k"`
  209. P uint32 `json:"p"`
  210. DP uint64 `json:"dp"`
  211. }
  212. type HdrInfo struct {
  213. Magic string `json:"magic"`
  214. Version uint32 `json:"ver"`
  215. PageSize uint32 `json:"pgsz"`
  216. NextFree uint32 `json:"nf"`
  217. TablePage uint32 `json:"tp"`
  218. TableCount uint32 `json:"tc"`
  219. CreateTime string `json:"ct"`
  220. ModifyTime string `json:"mt"`
  221. FreeStart uint32 `json:"fs"`
  222. FreeEnd uint32 `json:"fe"`
  223. FreeCount uint32 `json:"fc"`
  224. GlobalFlags uint64 `json:"gf"`
  225. WALFirst uint32 `json:"wal0"`
  226. WALLast uint32 `json:"wal1"`
  227. TxnID uint64 `json:"txn"`
  228. Comment string `json:"cm"`
  229. HeaderCrc uint32 `json:"crc"` // 头页声明的整页 XXH32 (旧库为 0)
  230. CrcVerdict string `json:"cv"` // 校验结论: OK / CRC 不符 / 跳过
  231. CrcDetail string `json:"cd"` // 校验说明
  232. // 实算值 (与上面的声明值互校)
  233. FreeWalked int `json:"fw"` // 实走空闲链长度
  234. Pages int `json:"pg"` // 数据页总数
  235. Allocated int `json:"ap"` // 已分配页数
  236. NeverUsed int `json:"nu"` // 从未分配的尾页
  237. FreeVerdict string `json:"fv"` // 空闲链自检结论
  238. FreeDetail string `json:"fd"` // 自检说明
  239. }
  240. type HeapChain struct {
  241. Pages []HeapPageInfo `json:"pages"`
  242. Total int `json:"total"`
  243. }
  244. type HeapPageInfo struct {
  245. ID uint32 `json:"id"`
  246. Next uint32 `json:"nx"`
  247. Prev uint32 `json:"pv"`
  248. Use uint32 `json:"use"`
  249. Us float64 `json:"us"`
  250. Ref uint16 `json:"ref"` // 页头 RefCount: 指向本页的活引用数 (仅堆页有意义)
  251. }
  252. var (
  253. dbF string
  254. fp string
  255. hdr [HDRSZ]byte
  256. tabs []TInfo
  257. mu sync.RWMutex
  258. )
  259. func main() {
  260. log.SetFlags(log.LstdFlags | log.Lshortfile)
  261. fmt.Println("╔══════════════════════════════════════════════╗")
  262. fmt.Println("║ TsDB2 Analyzer v3.0 (Schema Aware) ║")
  263. fmt.Println("║ http://localhost:8081 ║")
  264. fmt.Println("╚══════════════════════════════════════════════╝")
  265. http.HandleFunc("/", homeH)
  266. http.HandleFunc("/api/list-dir", ldH)
  267. http.HandleFunc("/api/open-db", openH)
  268. http.HandleFunc("/api/stats", stH)
  269. http.HandleFunc("/api/tables", taH)
  270. http.HandleFunc("/api/table/", tdH)
  271. http.HandleFunc("/api/data-page", dpH)
  272. http.HandleFunc("/api/index-page", ipH)
  273. http.HandleFunc("/api/btree", btH)
  274. http.HandleFunc("/api/header", hdrH)
  275. http.HandleFunc("/api/heap-chain", heapH)
  276. http.HandleFunc("/api/free-pages", freeH)
  277. http.HandleFunc("/api/pages", pagesH)
  278. http.HandleFunc("/api/pagemap", pagemapH)
  279. http.HandleFunc("/api/find-pk", findPkH)
  280. http.HandleFunc("/api/audit", auditH)
  281. http.HandleFunc("/api/mem", memH)
  282. http.HandleFunc("/api/audit/issues", auditIssuesH)
  283. http.HandleFunc("/api/audit/unacc", auditUnaccH)
  284. http.HandleFunc("/api/heap-chains", heapChainsH)
  285. http.HandleFunc("/api/page-info", pageInfoH)
  286. // 静态资源 (index.html 引用的 js/css/字体等) 一律走 embed, 不再暴露工作目录。
  287. http.Handle("/s/", http.StripPrefix("/s/", http.FileServer(http.FS(webRoot()))))
  288. log.Fatal(http.ListenAndServe(":8081", countInflight(http.DefaultServeMux)))
  289. }
  290. // countInflight 把每个请求登记为"在飞读任务": 请求期间可能持有指向映射区的
  291. // 页切片, 换库时不能把映射解掉 (见 audit.go 的 gcRetired)。
  292. func countInflight(h http.Handler) http.Handler {
  293. return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  294. enterRead()
  295. defer exitRead()
  296. h.ServeHTTP(w, r)
  297. })
  298. }
  299. // ===== Low-level page reading =====
  300. // rp 读一页 —— 统一走 audit.go 的共享句柄 (全库审计要读上千页, 不能每页都 open)。
  301. func rp(pid uint32) ([]byte, error) { return readPage(pid) }
  302. // rHdr 把 4096 字节的 HeaderPage 读进全局 hdr。
  303. func rHdr() {
  304. f, e := dbFile()
  305. if e != nil {
  306. return
  307. }
  308. f.ReadAt(hdr[:], 0)
  309. }
  310. // ===== Parse all tables from TablePage chain =====
  311. func pTabs() []TInfo {
  312. var R []TInfo
  313. tp := binary.LittleEndian.Uint32(hdr[48:52]) // TablePage (v11 起偏移 48)
  314. if tp == 0 {
  315. return R
  316. }
  317. for pid := tp; pid != 0; {
  318. b, e := rp(pid)
  319. if e != nil {
  320. break
  321. }
  322. us := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  323. if us > PGSZ {
  324. us = PGSZ
  325. }
  326. // 所有表页都在 PageHdr 之后统一预留 SEXT_HDR 字节, 记录从 REC_OFF 开始
  327. off := uint32(REC_OFF)
  328. for off+TINFO_SZ <= us && off+TINFO_SZ <= PGSZ {
  329. tb := b[off : off+TINFO_SZ]
  330. alloc := uint32(binary.LittleEndian.Uint16(tb[TI_ALLOC : TI_ALLOC+2]))
  331. if tb[TI_FLAG]&0x80 != 0 {
  332. // Drop 留下的空洞 (墓碑): 按记录自身长度跳过
  333. off += TINFO_SZ + alloc
  334. continue
  335. }
  336. nm := strings.TrimRight(string(tb[:48]), "\x00") // 表名: [0, TableNameSize)
  337. rn := binary.LittleEndian.Uint64(tb[TI_ROWS : TI_ROWS+8])
  338. hpc := binary.LittleEndian.Uint32(tb[TI_HPCNT : TI_HPCNT+4])
  339. // 重建完整 schema: 内联块 (alloc 字节) + 共享扩展页续块链
  340. schema := readSchemaBytes(b, off, alloc, tb)
  341. // Parse new schema format
  342. activeVer, masterFields, versions := parseSchemaFields(schema)
  343. // Parse indexes
  344. var is []IInfo
  345. iip := binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4])
  346. for ip := iip; ip != 0; {
  347. ib, e := rp(ip)
  348. if e != nil {
  349. break
  350. }
  351. if ib[0] != PG_IMETA {
  352. break
  353. }
  354. iu := binary.LittleEndian.Uint32(ib[PH_USE : PH_USE+4])
  355. if iu > PGSZ {
  356. iu = PGSZ
  357. }
  358. io := uint32(PHDR)
  359. for io+META_SZ <= iu && io+META_SZ <= PGSZ {
  360. im := ib[io : io+META_SZ]
  361. // IndexMeta struct (Name[64] + Type + FieldCnt + FieldIDs[16] + pad(2)
  362. // + EntryPage + Prev + Next + Flag + pad(3) = 100): 各字段偏移见文件头的 IM_*
  363. // 常量, 由 layout_assert.go 的编译期断言钉在 DB/core 的真实结构体上。
  364. if im[IM_FLAG]&IM_FLAG_DELETED == 0 {
  365. in := strings.TrimRight(string(im[:IM_NAMSZ]), "\x00") // IndexName: [0, IndexNameSize)
  366. it := im[IM_TYPE] // IndexType
  367. ic := int(im[IM_FCNT]) // FieldCnt
  368. ep := binary.LittleEndian.Uint32(im[IM_EP : IM_EP+4]) // EntryPage (跳过 2B 对齐填充)
  369. uq := im[IM_FLAG]&IM_FLAG_UNIQUE != 0 // 唯一索引
  370. // 验证 EntryPage 指向有效索引页 (防止已删除表的孤立条目)
  371. if ep != 0 {
  372. pb, pe := rp(ep)
  373. if pe != nil || pb[0] != PG_IDATA {
  374. ep = 0 // 无效页, 跳过
  375. }
  376. }
  377. if ep != 0 {
  378. var fds []int
  379. for j := 0; j < ic; j++ {
  380. fds = append(fds, int(im[IM_FLDS+j])) // FieldIDs
  381. }
  382. is = append(is, IInfo{Name: in, Type: it, TS: tNm(it), EP: ep, Flds: fds, Uniq: uq})
  383. }
  384. }
  385. io += META_SZ
  386. }
  387. ip = binary.LittleEndian.Uint32(ib[PH_NEXT : PH_NEXT+4])
  388. }
  389. R = append(R, TInfo{
  390. Name: nm, RowN: rn,
  391. FSz: binary.LittleEndian.Uint16(tb[TI_ROWSZ : TI_ROWSZ+2]),
  392. DP0: binary.LittleEndian.Uint32(tb[TI_FDATA : TI_FDATA+4]),
  393. IP0: binary.LittleEndian.Uint32(tb[TI_FIDX : TI_FIDX+4]),
  394. HP0: binary.LittleEndian.Uint32(tb[TI_FHEAP : TI_FHEAP+4]),
  395. HPC: hpc,
  396. ActiveVer: activeVer, MasterFields: masterFields, Versions: versions, Idxs: is,
  397. })
  398. off += TINFO_SZ + alloc
  399. }
  400. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  401. if nx == 0 || nx == pid {
  402. break
  403. }
  404. pid = nx
  405. }
  406. return R
  407. }
  408. // readSchemaBytes 重建一张表的完整 schema 字节:
  409. // 表页内联块 (alloc 字节) + 共享扩展页里的续块链 [SchemaFragHdr 8B][payload]
  410. func readSchemaBytes(pageBuf []byte, recOff, alloc uint32, tb []byte) []byte {
  411. schema := make([]byte, 0, alloc)
  412. start := recOff + TINFO_SZ
  413. if end := start + alloc; end <= uint32(len(pageBuf)) {
  414. schema = append(schema, pageBuf[start:end]...)
  415. } else if start < uint32(len(pageBuf)) {
  416. schema = append(schema, pageBuf[start:]...)
  417. }
  418. extPage := binary.LittleEndian.Uint32(tb[TI_EXTPG : TI_EXTPG+4])
  419. extOff := uint32(binary.LittleEndian.Uint16(tb[TI_EXTOFF : TI_EXTOFF+2]))
  420. for pid, off := extPage, extOff; pid != 0; {
  421. fb, e := rp(pid)
  422. if e != nil || int(off)+FRAG_HDR > len(fb) {
  423. break
  424. }
  425. nextPage := binary.BigEndian.Uint32(fb[off : off+4])
  426. nextOff := binary.BigEndian.Uint16(fb[off+4 : off+6])
  427. dataLen := int(binary.BigEndian.Uint16(fb[off+6 : off+8]))
  428. s := int(off) + FRAG_HDR
  429. if s+dataLen > len(fb) {
  430. break
  431. }
  432. schema = append(schema, fb[s:s+dataLen]...)
  433. pid, off = nextPage, uint32(nextOff)
  434. }
  435. return schema
  436. }
  437. // parseSchemaFields 解析新版 schema 字段定义链
  438. //
  439. // 格式 (与 DB/core 的 serializeSchema 逐字节对应):
  440. //
  441. // [activeVer 1B][masterCount 1B][typ 1B][flag 1B][nameLen 1B][name]×masterCount
  442. // [verCount 1B][ver 1B][indexCount 1B][indices]×verCount
  443. //
  444. // flag 是**列级标志字节**, 紧跟在 typ 之后 (对应 types.FieldInfo.Flag):
  445. //
  446. // bit7 bit6 bit5 | bit4 ........ bit0
  447. // 删除 可为 NULL 唯一 | 列级类型参数 (0..31)
  448. //
  449. // 字节位置与原来的 param 完全一致, 只是含义被扩展了: 低 5 位【按类型解释】——
  450. // decimal 是 scale (例如 `12 02 06 "Amount"` 就是 decimal(2)), 字符串家族是行内宽度码
  451. // (maxlen 声明出来的列靠它决定宽度)。其余类型低 5 位为 0, 但字节一定在。
  452. //
  453. // 所以下面算 Sz 时必须把 flag 一起传进去 (fSzWithParam): 只看 typ 会给宽度码列算成
  454. // 类型默认档 256, 而它是 2048 就整行错位 —— 与本函数注释开头说的那次事故同一类。
  455. //
  456. // 【这里漏掉这个字节曾造成整表读错】: 原实现按 `[typ][nameLen][name]` 走位, 于是把
  457. // 它当成了 nameLen —— 第一个字段名读成空串, 之后 masterFields / versions 全部错位。
  458. // 症状很误导人: 表显示成"只有 1 个字段且无名"、版本号是乱数、数据页一行都解不出, 而
  459. // 页头那些不依赖 schema 的字段 (TotalRows / RowSize / 页号) 却完全正确, 于是很难往
  460. // "schema 解析"上想。TestParseSchemaAgainstCore 用 core 造的**真库**来钉这件事:
  461. // 它不重述格式, 而是要求两侧对同一份盘上字节的解释一致。
  462. func parseSchemaFields(b []byte) (byte, []MFInfo, []VInfo) {
  463. if len(b) < 2 {
  464. return 0, nil, nil
  465. }
  466. pos := 0
  467. activeVer := b[pos]
  468. pos++
  469. masterCount := int(b[pos])
  470. pos++
  471. var masterFields []MFInfo
  472. for i := 0; i < masterCount && pos+3 <= len(b); i++ {
  473. typ := b[pos]
  474. flag := b[pos+1]
  475. nameLen := int(b[pos+2])
  476. pos += 3
  477. if pos+nameLen > len(b) {
  478. break
  479. }
  480. name := strings.TrimRight(string(b[pos:pos+nameLen]), "\x00")
  481. pos += nameLen
  482. // typ 是纯类型值 (删除标记不再占最高位), 状态位全在 flag 里。
  483. // param / sz 各算一次并复用: 宽度是"行内按多少字节付满"的唯一依据,
  484. // 下面三处 (Sz / Label / Tip) 必须拿到同一个值, 分头算迟早会漂移。
  485. param := flag & FLAG_SCALE
  486. sz := fSzWithParam(typ, param)
  487. masterFields = append(masterFields, MFInfo{
  488. Name: name, Type: typ, TypeName: fName(typ),
  489. Flag: flag, Sz: sz, Param: param,
  490. Label: fLabel(typ, param, sz),
  491. Tip: fTip(typ, param, sz),
  492. Dropped: flag&FLAG_DELETED != 0,
  493. Nullable: flag&FLAG_NULLABLE != 0,
  494. Unique: flag&FLAG_UNIQUE != 0,
  495. })
  496. }
  497. var versions []VInfo
  498. if pos < len(b) {
  499. verCount := int(b[pos])
  500. pos++
  501. for i := 0; i < verCount && pos < len(b); i++ {
  502. verNo := b[pos]
  503. pos++
  504. if pos >= len(b) {
  505. break
  506. }
  507. fieldCount := int(b[pos])
  508. pos++
  509. // 下标逐个宽化成 int (见 VInfo.Indices): 盘上 1 字节/个, 但对外要数字数组。
  510. indices := make([]int, fieldCount)
  511. if pos+fieldCount <= len(b) {
  512. for i, raw := range b[pos : pos+fieldCount] {
  513. indices[i] = int(raw)
  514. }
  515. pos += fieldCount
  516. }
  517. // Build field name list for this version
  518. var fieldNames []string
  519. for _, idx := range indices {
  520. if idx < len(masterFields) {
  521. mf := masterFields[idx]
  522. n := mf.Name
  523. if mf.Dropped {
  524. n += " (dropped)"
  525. }
  526. fieldNames = append(fieldNames, n)
  527. } else {
  528. fieldNames = append(fieldNames, "?")
  529. }
  530. }
  531. versions = append(versions, VInfo{Ver: verNo, Fields: fieldNames, Indices: indices})
  532. }
  533. }
  534. return activeVer, masterFields, versions
  535. }
  536. // ===== Field type helpers =====
  537. // fSz 列在行内的字节宽度。
  538. //
  539. // 【为什么是投影而不是自己 switch】这里原本手写了一张 1..15 的表, core 新增 7 个列型
  540. // (bool/float32/decimal/uuid/year/int128/blob) 时没同步, 于是 fSz 对新类型返回 0 ——
  541. // 这不是"显示成 ?"那么轻: 行解码靠它推进偏移 (decodeRows 里的 off += sz), 0 会让新类型
  542. // 字段【之后的所有列】都从同一个错位偏移解码, 整行静默错位; indexcheck 也会因为
  543. // size <= 0 直接放弃索引键校验。
  544. //
  545. // 改成投影到 core 的 typeRegistry 之后, 这类漏同步在结构上不可能再发生: core 那边有
  546. // allTypes + CheckRegistry 兜底, 这里自动覆盖全部已声明类型。复用 core 的布局事实是
  547. // 本项目既有做法 (见 layout_assert.go 的编译期断言)。
  548. //
  549. // 注意它给的是【类型默认档】宽度; 行内真实宽度还要乘上列级参数 (字符串列的宽度码),
  550. // 行解码/索引键切分一律用 fSzWithParam。
  551. func fSz(t byte) int { return int(types.GetSize(types.FieldType(t))) }
  552. // fSzWithParam 列在行内的真实字节宽度 = types.FieldSize(类型, 列级参数)。
  553. //
  554. // param 取列 flag 的低 5 位 (字符串列是宽度码, decimal 是 scale)。少传它就会给
  555. // "maxlen 声明出来的字符串列"算出类型默认档 256, 而盘上那一列是 1024 字节 ——
  556. // off += sz 之后整行字段静默错位, 且错得"很像正常数据" (字段都有值, 只是全错位)。
  557. // 返回 0 表示类型未注册或参数非法: 调用方必须放弃解析该行, 不能当真值用。
  558. func fSzWithParam(t byte, param byte) int {
  559. return int(types.FieldSize(types.FieldType(t), param))
  560. }
  561. func tNm(t byte) string {
  562. switch t {
  563. case 1:
  564. return "Time"
  565. case 2:
  566. return "Primary"
  567. case 3:
  568. return "String"
  569. case 4:
  570. return "Compose"
  571. case 5:
  572. return "BTree"
  573. case 6:
  574. return "Hash"
  575. default:
  576. return "?"
  577. }
  578. }
  579. // fName 列类型的可读名。同样投影自 core 的 typeRegistry。
  580. //
  581. // 名字一律投影自 types 注册表 (uint8/uint16/…/string/dynamic/float64/int8/…/int64),
  582. // 因此 core 增删类型时这里自动跟随 —— 不需要再维护第二份会漂移的名单。
  583. func fName(t byte) string {
  584. if n := types.TypeNameOf(types.FieldType(t)); n != "" {
  585. return n
  586. }
  587. return "?"
  588. }
  589. // fLabel 类型徽章的展示文本 (MFInfo.Label)。
  590. //
  591. // 【为什么字符串列要改写】定长字符串列的行内宽度不是类型自带的, 而是靠 Flag 低 5 位的
  592. // 【宽度码】声明 (见 types.FieldSize)。于是同一个 String 类型下会出现"真实行宽 1024 字节"
  593. // 的列 —— 列表里只写类型名, 看起来就是默认的 256 字节, 与盘上差了 4 倍, 而"字符串大小"
  594. // 这件事恰恰是看 schema 时最想知道的。所以宽度码不为 0 的字符串列显示成 string(1024B)。
  595. //
  596. // 宽度码为 0 (沿用类型默认宽度 256) 时只显示类型名 string。
  597. //
  598. // decimal 显示 scale (与改动前一致); 其余类型就是类型名; 未注册类型给 "?"。
  599. func fLabel(t byte, param byte, sz int) string {
  600. name := fName(t)
  601. if name == "?" {
  602. return unknownFieldValue
  603. }
  604. ft := types.FieldType(t)
  605. switch {
  606. case ft == types.FieldType_Decimal:
  607. if param > 0 {
  608. return fmt.Sprintf("%s(%d)", name, param)
  609. }
  610. case types.IsStringType(ft) && param > 0:
  611. return fmt.Sprintf("string(%dB)", sz)
  612. }
  613. return name
  614. }
  615. // fTip 类型徽章的悬浮说明 (MFInfo.Tip): 把"类型档 + 列级参数 + 行内宽度"三件事一次讲清。
  616. //
  617. // 徽章上放不下这些, 而它们正是排查行宽问题时要对照的东西 —— 尤其是字符串列:
  618. // 盘上只存宽度码, 声明值本身【没有保留】, 因此这里只能给"向上取档后的宽度",
  619. // 这一点必须在提示里说破, 否则会有人拿它当声明值对账。
  620. func fTip(t byte, param byte, sz int) string {
  621. name := fName(t)
  622. if name == "?" {
  623. return fmt.Sprintf("未注册的类型 %d: 行内宽度算不出来, 本行无法解码", t)
  624. }
  625. ft := types.FieldType(t)
  626. switch {
  627. case types.IsStringType(ft):
  628. tip := fmt.Sprintf("定长字符串列: 类型档 %s, 行内宽度 %d 字节", name, sz)
  629. if param > 0 {
  630. tip += fmt.Sprintf(" (宽度码 %d; 声明容量向上取档后的宽度, 每行按它付满)", param)
  631. }
  632. return tip
  633. case ft == types.FieldType_Decimal:
  634. return fmt.Sprintf("定点小数: scale=%d, 行内宽度 %d 字节", param, sz)
  635. case sz <= 0:
  636. return fmt.Sprintf("类型 %s: 行内宽度算不出来", name)
  637. }
  638. return fmt.Sprintf("%s: 行内宽度 %d 字节", name, sz)
  639. }
  640. // ===== Read DataPage with schema version awareness =====
  641. // rDP reads a DataPage (sequential row layout, no directory)
  642. func rDP(pid uint32) *DP {
  643. b, e := rp(pid)
  644. if e != nil {
  645. return nil
  646. }
  647. if b[0] != PG_DATA {
  648. return nil
  649. }
  650. cn := binary.LittleEndian.Uint32(b[PHDR : PHDR+4])
  651. mn := binary.BigEndian.Uint64(b[PHDR+4 : PHDR+12])
  652. mx := binary.BigEndian.Uint64(b[PHDR+12 : PHDR+20])
  653. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  654. var rs []DR
  655. off := DP_HDR
  656. for i := uint32(0); i < cn && off+4 <= len(b); i++ {
  657. // 长度字段最高位 (0x80000000) 为软删除标志, 必须屏蔽后再取实际长度
  658. rawLen := binary.LittleEndian.Uint32(b[off : off+4])
  659. rl := int(rawLen &^ 0x80000000)
  660. deleted := rawLen&0x80000000 != 0
  661. off += 4
  662. if off+rl > len(b) || rl <= 0 {
  663. break
  664. }
  665. storeRow := b[off : off+rl]
  666. off += rl
  667. if deleted {
  668. continue
  669. }
  670. // storeRow = [pkID(8B BE)] + rowData
  671. var pkID uint64
  672. var rowData []byte
  673. if len(storeRow) >= 8 {
  674. pkID = binary.BigEndian.Uint64(storeRow[:8])
  675. rowData = storeRow[8:]
  676. } else {
  677. rowData = storeRow
  678. }
  679. schemaV := byte(0)
  680. if len(rowData) > 0 {
  681. schemaV = rowData[0]
  682. }
  683. hx := fmt.Sprintf("%x", storeRow[:min(len(storeRow), 64)])
  684. if len(storeRow) > 64 {
  685. hx += "..."
  686. }
  687. decoded := decodeRowData(rowData, schemaV)
  688. rs = append(rs, DR{int(i), pkID, schemaV, hx, decoded})
  689. }
  690. return &DP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  691. cn, mx, mn, us, rs}
  692. }
  693. // decodeRowData 尝试解码行数据 (显示 schemaVer + 各字段值)
  694. //
  695. // 行布局 v9: [schemaVer 1B][列0 W0 B][列结束偏移表 2N B][列1..N-1 内容][NULL 位图 ⌈n/8⌉B]
  696. // (位图长度按该行自己的版本算, n = 该版本 Indices 长度)。两处必须照做, 否则整行错位:
  697. // - 列位置一律由【行内偏移表】给出: 列 0 恒占 W0 字节 (档位宽度, 不足补零), 偏移表基址
  698. // = 1+W0, 表项 0 = 变长内容区起点 (= 1+W0+2N), 表项 i(i≥1) = 列 i 结束偏移, 列 i(i≥1)
  699. // 起点 = 表项 i-1, 位图起点 = 表末项。v9 字符串列按实际长度存储, 再沿用"累加档位宽度"
  700. // 定位会越算越偏 (表现为整行错列)。
  701. // - 列 0 恒占 W0 字节也让时序键固定在绝对偏移 9 (读取侧写死的偏移, W0 == 8 时成立)。
  702. // - 已删除列在行内【仍占位】(DropField 不新增版本, 该列不会从 Indices 消失), 所以判定
  703. // Dropped 只能跳过"显示", 绝不能影响列定位 —— 偏移表项照样按 i 取。
  704. func decodeRowData(rowData []byte, schemaV byte) string {
  705. if len(rowData) < 1 {
  706. return ""
  707. }
  708. parts := []string{fmt.Sprintf("v%d", schemaV)}
  709. if len(rowData) < 2 {
  710. return strings.Join(parts, " ")
  711. }
  712. for _, t := range tabs {
  713. sv := findVersion(t, schemaV)
  714. if sv == nil {
  715. continue
  716. }
  717. rowN := len(sv.Indices)
  718. if rowN == 0 {
  719. break
  720. }
  721. if sv.Indices[0] >= len(t.MasterFields) || t.MasterFields[sv.Indices[0]].Sz <= 0 {
  722. break
  723. }
  724. tblBase := 1 + t.MasterFields[sv.Indices[0]].Sz // 偏移表基址 == 列 0 结束偏移
  725. header := tblBase + 2*rowN // 变长内容区起点 == 表项 0
  726. if header > len(rowData) {
  727. break
  728. }
  729. if int(binary.BigEndian.Uint16(rowData[tblBase:tblBase+2])) != header {
  730. break // 表项 0 不是变长内容区起点: 布局不可信, 不猜
  731. }
  732. bitmapLen := (rowN + 7) / 8
  733. prev := header
  734. bad := false
  735. for i := 0; i < rowN; i++ {
  736. off := int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  737. if off < prev || off > len(rowData) {
  738. bad = true
  739. break
  740. }
  741. prev = off
  742. }
  743. if bad || prev+bitmapLen > len(rowData) {
  744. break
  745. }
  746. bitmap := rowData[prev : prev+bitmapLen]
  747. for i, idx := range sv.Indices {
  748. if idx >= len(t.MasterFields) {
  749. break
  750. }
  751. mf := t.MasterFields[idx]
  752. start := 1
  753. if i > 0 {
  754. start = int(binary.BigEndian.Uint16(rowData[tblBase+2*(i-1):tblBase+2*i])) & rowVarOffMask
  755. }
  756. end := tblBase // 列 0 结束恒为 1+W0 == 表基址
  757. if i > 0 {
  758. end = int(binary.BigEndian.Uint16(rowData[tblBase+2*i:tblBase+2*i+2])) & rowVarOffMask
  759. }
  760. if end < start || end > len(rowData) {
  761. break
  762. }
  763. if !mf.Dropped { // 已删除列仍占位, 只是不显示
  764. if bitmap[i>>3]&(1<<uint(i&7)) != 0 {
  765. parts = append(parts, mf.Name+"=NULL")
  766. } else {
  767. // 行内可能是实际长度的短值 (字符串列), 补零回档位宽度再解, 与引擎同源。
  768. parts = append(parts, mf.Name+"="+decodeFieldValue(padToWidth(rowData[start:end], mf.Sz), mf.Type))
  769. }
  770. }
  771. }
  772. return strings.Join(parts, ", ")
  773. }
  774. return strings.Join(parts, " ")
  775. }
  776. func findVersion(t TInfo, ver byte) *VInfo {
  777. for i := range t.Versions {
  778. if t.Versions[i].Ver == ver {
  779. return &t.Versions[i]
  780. }
  781. }
  782. return nil
  783. }
  784. // unknownFieldValue 未同步列型的显式哨兵。
  785. //
  786. // 为什么不用"当作定长字符串打印"兜底: 那样输出看着像正常内容, 实际是错的 ——
  787. // 而 analyzer 最怕的正是这个 (页照常渲染, 数据全错)。用哨兵才能让
  788. // TestDecodeCoversEveryRegisteredType 当场发现"core 加了新类型而这里没跟"。
  789. const unknownFieldValue = "?"
  790. // decodeFieldValue 把行内字节解成可读文本。约定: len(buf) == 该列的 fSzWithParam(typ, param)。
  791. //
  792. // 与 DB/core 的 DecodeValue 是【两份独立实现】, 这是刻意的: analyzer 是"第二读取器",
  793. // 存在的意义就是独立验一遍 core 读出来的东西 —— 若共用同一份解码代码, core 解错时
  794. // analyzer 会跟着一起错, 校验价值就没了。所以这里只借用"布局事实" (宽度 fSz / 名字
  795. // fName, 投影自 core 的 typeRegistry), 值语义自己实现一遍。
  796. //
  797. // 每个已注册列型都必须有明确分支; 落到 unknownFieldValue 说明漏同步了。
  798. func decodeFieldValue(buf []byte, typ byte) string {
  799. // 一律用 core 导出的类型常量, 不再写字面量序号 —— 否则 core 一旦重排类型值,
  800. // 这里的 case 会静默错位 (把 1 字节当 2 字节解码, 整段乱掉)。判据同源于 types 注册表。
  801. switch types.FieldType(typ) {
  802. // ===== 1 字节 =====
  803. case types.FieldType_Bool:
  804. // 盘上只允许 0x00 / 0x01 (写入侧已规范化, 不会存下 2)
  805. if buf[0] != 0 {
  806. return "true"
  807. }
  808. return "false"
  809. case types.FieldType_Uint8:
  810. return fmt.Sprintf("%d", buf[0])
  811. case types.FieldType_Int8:
  812. // 有符号列盘上是保序编码 (符号位翻转), 读回来要先翻回去
  813. return fmt.Sprintf("%d", int8(buf[0]^0x80))
  814. // ===== 2 字节 =====
  815. case types.FieldType_Uint16:
  816. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  817. case types.FieldType_Int16:
  818. return fmt.Sprintf("%d", int16(binary.BigEndian.Uint16(buf)^0x8000))
  819. case types.FieldType_Year:
  820. // 无符号大端 uint16 (无保序编码; 解码载体是 int16)
  821. return fmt.Sprintf("%d", binary.BigEndian.Uint16(buf))
  822. // ===== 4 字节 =====
  823. case types.FieldType_Uint32:
  824. return fmt.Sprintf("%d", binary.BigEndian.Uint32(buf))
  825. case types.FieldType_Int32:
  826. return fmt.Sprintf("%d", int32(binary.BigEndian.Uint32(buf)^0x80000000))
  827. case types.FieldType_Float32:
  828. // 保序编码 (非负翻符号位, 负数整体取反; 见 types.Float32ToSortKey)
  829. u := binary.BigEndian.Uint32(buf)
  830. if u&(1<<31) != 0 {
  831. u ^= 1 << 31
  832. } else {
  833. u = ^u
  834. }
  835. return strconv.FormatFloat(float64(math.Float32frombits(u)), 'g', -1, 32)
  836. // ===== 8 字节 =====
  837. case types.FieldType_Uint64:
  838. return fmt.Sprintf("%d", binary.BigEndian.Uint64(buf))
  839. case types.FieldType_DateTime:
  840. // 行内固定 8 字节 BE uint64, 存 Unix 毫秒时间戳 (types.go FieldType_DateTime)
  841. return fmt.Sprintf("%d", binary.BigEndian.Uint64(buf))
  842. case types.FieldType_Int64:
  843. return fmt.Sprintf("%d", int64(binary.BigEndian.Uint64(buf)^0x8000000000000000))
  844. case types.FieldType_Float64:
  845. // 保序编码: 非负翻符号位, 负数整体取反 (见 types.Float64ToSortKey)
  846. u := binary.BigEndian.Uint64(buf)
  847. if u&(1<<63) != 0 {
  848. u ^= 1 << 63
  849. } else {
  850. u = ^u
  851. }
  852. return strconv.FormatFloat(math.Float64frombits(u), 'g', -1, 64)
  853. // ===== 16 字节 =====
  854. case types.FieldType_Int128:
  855. return decodeInt128(buf).String()
  856. case types.FieldType_UUID:
  857. // 16 字节原样二进制, 显示成标准 8-4-4-4-12
  858. h := fmt.Sprintf("%x", buf[:16])
  859. return h[:8] + "-" + h[8:12] + "-" + h[12:16] + "-" + h[16:20] + "-" + h[20:]
  860. // ===== 18 字节: 定点小数 [16B 系数保序编码][2B scale 大端], 值 = 系数 / 10^scale =====
  861. case types.FieldType_Decimal:
  862. return decimalText(decodeInt128(buf), int(binary.BigEndian.Uint16(buf[16:])))
  863. // ===== 定长字符串 (宽度由 Flag 低 5 位宽度码决定, 与这里无关) =====
  864. case types.FieldType_String:
  865. return bytesFieldText(buf)
  866. // ===== 动态列: 行内只有 6 字节堆引用 [PageID uint32 大端][Offset uint16 大端] =====
  867. //
  868. // 以前动态落到 default 分支, 把页号和偏移当字符串打印出来 —— 真正想看的
  869. // "内容在哪一页" 反而看不见。
  870. case types.FieldType_Dynamicbyte:
  871. pid := binary.BigEndian.Uint32(buf)
  872. if pid == 0 {
  873. return "(empty)" // PageID == 0 表示空值
  874. }
  875. return fmt.Sprintf("(heap page=%d off=%d)", pid, binary.BigEndian.Uint16(buf[4:]))
  876. // ===== blob 列 (v10): 行内 8 字节链引用 [TotalLen uint32 大端][FirstPageID uint32 大端] =====
  877. //
  878. // 与动态列长得像但读法完全不同: 内容不在堆页上的某一块, 而在一条可跨页的链上,
  879. // 所以这里报"链首页 + 内容长度"; 顺着 page=%d 用 tbl.BlobRead(ref) 能整块读出来。
  880. case types.FieldType_Blob:
  881. total := binary.BigEndian.Uint32(buf)
  882. pid := binary.BigEndian.Uint32(buf[4:])
  883. if total == 0 && pid == 0 {
  884. return "(empty)" // (0, 0) 表示空 blob
  885. }
  886. return fmt.Sprintf("(blob page=%d len=%d)", pid, total)
  887. default:
  888. return unknownFieldValue
  889. }
  890. }
  891. // bytesFieldText 定长字节串的文本形式: 去掉尾部补零, 全空则显示 (empty)。
  892. func bytesFieldText(buf []byte) string {
  893. s := strings.TrimRight(string(buf), "\x00")
  894. if len(s) == 0 {
  895. return "(empty)"
  896. }
  897. return s
  898. }
  899. // decodeInt128 还原 core 的 int128ToSortKeyBytes: [16B 补码大端, 最高位已翻转]。
  900. //
  901. // 判符号必须在【翻回来之前】看: 盘上最高位为 0 代表原值是负数 (编码时对最高位异或了
  902. // 0x80); 顺序判反会把全部非负数读成负数。
  903. func decodeInt128(b []byte) *big.Int {
  904. var raw [16]byte
  905. copy(raw[:], b)
  906. neg := raw[0]&0x80 == 0
  907. raw[0] ^= 0x80
  908. v := new(big.Int).SetBytes(raw[:])
  909. if neg {
  910. v.Sub(v, new(big.Int).Lsh(big.NewInt(1), 128))
  911. }
  912. return v
  913. }
  914. // decimalText 把 [系数, scale] 渲染成小数字面量 (值 = 系数 / 10^scale)。
  915. //
  916. // 必须按 scale 补足位数: 系数 150 + scale 2 是 "1.50", 而系数 5 + scale 2 是 "0.05"
  917. // —— 少了补零就会读成 "5", 差 100 倍。
  918. func decimalText(coef *big.Int, scale int) string {
  919. s := coef.String()
  920. if scale <= 0 {
  921. return s
  922. }
  923. sign := ""
  924. if strings.HasPrefix(s, "-") {
  925. sign, s = "-", s[1:]
  926. }
  927. if len(s) <= scale {
  928. s = strings.Repeat("0", scale-len(s)+1) + s
  929. }
  930. return sign + s[:len(s)-scale] + "." + s[len(s)-scale:]
  931. }
  932. // ===== Index page reading =====
  933. func rIP(pid uint32, it byte) *IP {
  934. b, e := rp(pid)
  935. if e != nil {
  936. return nil
  937. }
  938. if b[0] != PG_IDATA {
  939. return nil
  940. }
  941. lf := b[28] == 1
  942. cn := binary.LittleEndian.Uint32(b[24:28])
  943. el := int(binary.LittleEndian.Uint16(b[22:24]))
  944. if el <= 4 {
  945. el = 12
  946. }
  947. ents := pEE(b, int(cn), el, it, lf)
  948. us := float64(binary.LittleEndian.Uint32(b[16:20])) / float64(PGSZ) * 100
  949. return &IP{pid, binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4]), binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4]),
  950. lf, cn, us, ents, it}
  951. }
  952. func pEE(b []byte, cn, el int, it byte, lf bool) []IE {
  953. var ents []IE
  954. for i := 0; i < cn; i++ {
  955. o := IDX_HDR + i*el
  956. if o+el > len(b) {
  957. break
  958. }
  959. entry := b[o : o+el]
  960. var ie IE
  961. switch it {
  962. case 2:
  963. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  964. ie.P = binary.BigEndian.Uint32(entry[8:12])
  965. case 1:
  966. ie.K = fmt.Sprintf("%d ~ %d", binary.BigEndian.Uint64(entry[:8]), binary.BigEndian.Uint64(entry[8:16]))
  967. ie.P = binary.BigEndian.Uint32(entry[16:20])
  968. case 3:
  969. ie.K = strings.TrimRight(string(entry[:16]), "\x00")
  970. ie.DP = binary.BigEndian.Uint64(entry[16:24])
  971. if lf {
  972. ie.P = binary.BigEndian.Uint32(entry[20:24])
  973. }
  974. case 4:
  975. nk := (el - 8) / 8
  976. parts := make([]string, nk)
  977. for j := 0; j < nk; j++ {
  978. parts[j] = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[j*8:]))
  979. }
  980. ie.K = strings.Join(parts, ", ")
  981. ie.DP = binary.BigEndian.Uint64(entry[nk*8:])
  982. if lf {
  983. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  984. }
  985. case 5:
  986. if lf {
  987. kl := el - 8
  988. if kl == 8 {
  989. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  990. } else {
  991. ie.K = fmt.Sprintf("%x", entry[:kl])
  992. }
  993. ie.DP = binary.BigEndian.Uint64(entry[kl:])
  994. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  995. } else {
  996. kl := el - 4
  997. if kl == 8 {
  998. ie.K = fmt.Sprintf("%d", binary.BigEndian.Uint64(entry[:8]))
  999. } else {
  1000. ie.K = fmt.Sprintf("%x", entry[:kl])
  1001. }
  1002. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  1003. }
  1004. default:
  1005. ie.K = fmt.Sprintf("%x", entry[:el-4])
  1006. ie.P = binary.BigEndian.Uint32(entry[el-4:])
  1007. }
  1008. ents = append(ents, ie)
  1009. }
  1010. return ents
  1011. }
  1012. func rBT(pid uint32, it byte) *IP { return rIP(pid, it) }
  1013. // ===== Header + Heap + Free =====
  1014. func rHdrInfo() *HdrInfo {
  1015. f, e := dbFile()
  1016. if e != nil {
  1017. return nil
  1018. }
  1019. b := make([]byte, HDRSZ)
  1020. f.ReadAt(b, 0)
  1021. // v11 起 HeaderPage 重排 (标量 8 字节对齐、零填充; 布局见 DB/core/header_page.go):
  1022. // 0 Magic | 4 Version | 8 PageSize | 12 NextFreePage
  1023. // 16 CreateTime | 24 ModifyTime | 32 NextTxnID | 40 GlobalFlags
  1024. // 48 TablePage | 52 TableCount | 56 FreePageStart | 60 FreePageEnd
  1025. // 64 FreePageCount | 68 FirstWALPage | 72 LastWALPage
  1026. // 76 ExtConfigHdr[8] | 84 HeaderCrc | 88 ExtConfig[244]
  1027. // 332 Comment[3764] (占满整页余下空间)
  1028. magic := string(b[:4])
  1029. ver := binary.LittleEndian.Uint32(b[4:8])
  1030. pgsz := binary.LittleEndian.Uint32(b[8:12])
  1031. nf := binary.LittleEndian.Uint32(b[12:16])
  1032. ct := int64(binary.LittleEndian.Uint64(b[16:24]))
  1033. mt := int64(binary.LittleEndian.Uint64(b[24:32]))
  1034. txn := binary.LittleEndian.Uint64(b[32:40])
  1035. gf := binary.LittleEndian.Uint64(b[40:48])
  1036. tp := binary.LittleEndian.Uint32(b[48:52])
  1037. tc := binary.LittleEndian.Uint32(b[52:56])
  1038. fs := binary.LittleEndian.Uint32(b[56:60])
  1039. fe := binary.LittleEndian.Uint32(b[HDR_FREE_END : HDR_FREE_END+4])
  1040. fc := binary.LittleEndian.Uint32(b[64:68])
  1041. wal0 := binary.LittleEndian.Uint32(b[68:72])
  1042. wal1 := binary.LittleEndian.Uint32(b[72:76])
  1043. cm := strings.TrimRight(string(b[332:4096]), "\x00")
  1044. crc := le32(b[HDR_CRC : HDR_CRC+4])
  1045. crcV, crcD := checkHeaderCrc(b, ver)
  1046. fcW := rFreeChain()
  1047. total := totalPages()
  1048. h := &HdrInfo{
  1049. Magic: magic, Version: ver, PageSize: pgsz,
  1050. NextFree: nf, TablePage: tp, TableCount: tc,
  1051. CreateTime: time.Unix(0, ct).Format("2006-01-02 15:04:05"),
  1052. ModifyTime: time.Unix(0, mt).Format("2006-01-02 15:04:05"),
  1053. FreeStart: fs, FreeEnd: fe, FreeCount: fc,
  1054. GlobalFlags: gf, WALFirst: wal0, WALLast: wal1, TxnID: txn, Comment: cm,
  1055. HeaderCrc: crc, CrcVerdict: crcV, CrcDetail: crcD,
  1056. FreeWalked: fcW.Total, Pages: total,
  1057. FreeVerdict: fcW.Verdict, FreeDetail: fcW.Detail,
  1058. }
  1059. if nf > 0 {
  1060. h.Allocated = int(nf) - 1
  1061. }
  1062. if h.Allocated > total {
  1063. h.Allocated = total
  1064. }
  1065. if h.NeverUsed = total - h.Allocated; h.NeverUsed < 0 {
  1066. h.NeverUsed = 0
  1067. }
  1068. return h
  1069. }
  1070. func rHeapChain(hp0 uint32) *HeapChain {
  1071. var pages []HeapPageInfo
  1072. for pid := hp0; pid != 0; {
  1073. b, e := rp(pid)
  1074. if e != nil || b[0] != PG_HEAP {
  1075. break
  1076. }
  1077. nx := binary.LittleEndian.Uint32(b[PH_NEXT : PH_NEXT+4])
  1078. pv := binary.LittleEndian.Uint32(b[PH_PREV : PH_PREV+4])
  1079. use := binary.LittleEndian.Uint32(b[PH_USE : PH_USE+4])
  1080. us := float64(use) / float64(PGSZ) * 100
  1081. ref := binary.LittleEndian.Uint16(b[PH_REF : PH_REF+2])
  1082. pages = append(pages, HeapPageInfo{pid, nx, pv, use, us, ref})
  1083. if nx == pid || nx == 0 {
  1084. break
  1085. }
  1086. pid = nx
  1087. }
  1088. return &HeapChain{pages, len(pages)}
  1089. }
  1090. // rFreePages 空闲链 —— 直接用审计里那份带自检的版本。
  1091. // 旧实现读的是偏移 0 的大端值, 而空闲链指针其实写在页头 NextPage (偏移 12);
  1092. // 偏移 0 是 Type(空闲页=0) 那一格, 恒等于 0, 所以链永远只走出第 1 页。
  1093. func rFreePages() *FreeChainInfo { return rFreeChain() }
  1094. // ===== Page visualization =====
  1095. type PageItem struct {
  1096. ID uint32 `json:"id"`
  1097. Type int `json:"t"`
  1098. TS string `json:"ts"`
  1099. Us float64 `json:"us"`
  1100. }
  1101. type PagesResult struct {
  1102. Pages []PageItem `json:"pages"`
  1103. Total int `json:"total"`
  1104. Counts map[string]int `json:"counts"`
  1105. Allocated int `json:"allocated"`
  1106. NeverUsed int `json:"neverUsed"`
  1107. Role map[string]string `json:"role"`
  1108. Owner map[string]string `json:"owner"`
  1109. }
  1110. // rPages 页映射的**一个分片** —— 类型/使用率取自缓存的紧凑索引 (pagemap.go),
  1111. // 角色/属主只为这一段页查询。
  1112. //
  1113. // 旧实现每次调用都要全量重算 19.5 万页, 并把整张页表 + 两张 19.5 万键的归属
  1114. // map 一次性序列化 (单次响应几十 MB), 且被概览/堆链/空闲页三个视图各调一遍 ——
  1115. // 前端必然卡死。新的页图走 /api/pagemap 分块拉取, 这里只保留分页语义。
  1116. func rPages(start, count int) *PagesResult {
  1117. idx := pagemapCached()
  1118. res := &PagesResult{
  1119. Total: idx.total, Counts: idx.counts, Allocated: idx.allocated,
  1120. NeverUsed: idx.neverUsed, Role: map[string]string{}, Owner: map[string]string{},
  1121. }
  1122. if idx.total <= 0 {
  1123. return res
  1124. }
  1125. if start < 1 {
  1126. start = 1
  1127. }
  1128. if count <= 0 || count > pmChunkMax {
  1129. count = pmChunkDefault
  1130. }
  1131. if start > idx.total {
  1132. start = idx.total + 1
  1133. }
  1134. end := start + count
  1135. if end > idx.total+1 {
  1136. end = idx.total + 1
  1137. }
  1138. w := peekWalk()
  1139. for pid := start; pid < end; pid++ {
  1140. pt, tn := pmKind(int(idx.typ[pid]))
  1141. res.Pages = append(res.Pages, PageItem{uint32(pid), pt, tn, float64(idx.usg[pid])})
  1142. if w == nil {
  1143. continue
  1144. }
  1145. k := strconv.Itoa(pid)
  1146. if v, ok := w.role[uint32(pid)]; ok {
  1147. res.Role[k] = v
  1148. }
  1149. if v, ok := w.owner[uint32(pid)]; ok {
  1150. res.Owner[k] = v
  1151. }
  1152. }
  1153. return res
  1154. }
  1155. // pagesH 分页返回页映射: ?start=<首页号>&count=<页数> (默认第一块)。
  1156. func pagesH(w http.ResponseWriter, r *http.Request) {
  1157. if fp == "" {
  1158. jw(w, map[string]any{"e": "no db"})
  1159. return
  1160. }
  1161. start, _ := strconv.Atoi(r.URL.Query().Get("start"))
  1162. count, _ := strconv.Atoi(r.URL.Query().Get("count"))
  1163. jw(w, rPages(start, count))
  1164. }
  1165. // findPkH 通过主键 B+ 树查找 PKID 对应的 DataPage
  1166. func findPkH(w http.ResponseWriter, r *http.Request) {
  1167. if fp == "" {
  1168. jw(w, map[string]any{"e": "no db"})
  1169. return
  1170. }
  1171. pkStr := r.URL.Query().Get("pk")
  1172. rootStr := r.URL.Query().Get("root")
  1173. var pk, root uint32
  1174. fmt.Sscanf(pkStr, "%d", &pk)
  1175. fmt.Sscanf(rootStr, "%d", &root)
  1176. if root == 0 {
  1177. jw(w, map[string]any{"e": "no root"})
  1178. return
  1179. }
  1180. dp := findDPByPK(root, uint64(pk))
  1181. if dp == 0 {
  1182. jw(w, map[string]any{"e": "not found"})
  1183. return
  1184. }
  1185. jw(w, map[string]any{"dp": dp, "pk": pk})
  1186. }
  1187. // findDPByPK 在主键 B+ 树中查找 PKID 对应的 DataPage ID
  1188. func findDPByPK(rootPID uint32, targetPK uint64) uint32 {
  1189. cur := rootPID
  1190. for {
  1191. b, e := rp(cur)
  1192. if e != nil || b[0] != PG_IDATA {
  1193. return 0
  1194. }
  1195. lf := b[28] == 1
  1196. cn := int(binary.LittleEndian.Uint32(b[24:28]))
  1197. el := int(binary.LittleEndian.Uint16(b[22:24]))
  1198. if el <= 4 {
  1199. el = 12
  1200. }
  1201. if lf {
  1202. // 叶子节点: 查找匹配的 PK
  1203. for i := 0; i < cn; i++ {
  1204. o := IDX_HDR + i*el
  1205. if o+el > len(b) {
  1206. break
  1207. }
  1208. key := binary.BigEndian.Uint64(b[o : o+8])
  1209. if key == targetPK {
  1210. return binary.BigEndian.Uint32(b[o+8 : o+12])
  1211. }
  1212. }
  1213. return 0
  1214. }
  1215. // 内部节点: 二分查找最后一个 key <= targetPK
  1216. lo, hi := 0, cn-1
  1217. pos := 0
  1218. for lo <= hi {
  1219. mid := (lo + hi) / 2
  1220. o := IDX_HDR + mid*el
  1221. if o+8 > len(b) {
  1222. break
  1223. }
  1224. key := binary.BigEndian.Uint64(b[o : o+8])
  1225. if key <= targetPK {
  1226. pos = mid
  1227. lo = mid + 1
  1228. } else {
  1229. hi = mid - 1
  1230. }
  1231. }
  1232. o := IDX_HDR + pos*el
  1233. childPID := binary.BigEndian.Uint32(b[o+el-4 : o+el])
  1234. if childPID == 0 {
  1235. return 0
  1236. }
  1237. cur = childPID
  1238. }
  1239. }
  1240. // ===== Utility =====
  1241. func min(a, b int) int {
  1242. if a < b {
  1243. return a
  1244. }
  1245. return b
  1246. }
  1247. func fB(n int64) string {
  1248. if n < 1024 {
  1249. return fmt.Sprintf("%d B", n)
  1250. }
  1251. if n < 1048576 {
  1252. return fmt.Sprintf("%.1f KB", float64(n)/1024)
  1253. }
  1254. if n < 1073741824 {
  1255. return fmt.Sprintf("%.2f MB", float64(n)/1048576)
  1256. }
  1257. return fmt.Sprintf("%.2f GB", float64(n)/1073741824)
  1258. }
  1259. func fE(p string) bool { _, e := os.Stat(p); return e == nil }
  1260. func jw(w http.ResponseWriter, v any) {
  1261. w.Header().Set("Content-Type", "application/json")
  1262. json.NewEncoder(w).Encode(v)
  1263. }
  1264. // ===== HTTP Handlers =====
  1265. func ldH(w http.ResponseWriter, r *http.Request) {
  1266. p := r.URL.Query().Get("path")
  1267. if p == "" {
  1268. p, _ = os.Getwd()
  1269. }
  1270. if !filepath.IsAbs(p) {
  1271. c, _ := os.Getwd()
  1272. p = filepath.Join(c, p)
  1273. }
  1274. es, e := os.ReadDir(p)
  1275. if e != nil {
  1276. jw(w, map[string]any{"err": e.Error()})
  1277. return
  1278. }
  1279. type F struct {
  1280. N string `json:"n"`
  1281. D bool `json:"d"`
  1282. S int64 `json:"s"`
  1283. }
  1284. var ds, fs []F
  1285. for _, x := range es {
  1286. i, _ := x.Info()
  1287. s := int64(0)
  1288. if i != nil {
  1289. s = i.Size()
  1290. }
  1291. if x.IsDir() {
  1292. ds = append(ds, F{x.Name(), true, s})
  1293. } else {
  1294. fs = append(fs, F{x.Name(), false, s})
  1295. }
  1296. }
  1297. jw(w, map[string]any{"p": p, "pp": filepath.Dir(p), "d": ds, "f": fs})
  1298. }
  1299. func openH(w http.ResponseWriter, r *http.Request) {
  1300. if r.Method != "POST" {
  1301. http.Error(w, "no", 405)
  1302. return
  1303. }
  1304. var q struct {
  1305. P string `json:"p"`
  1306. }
  1307. json.NewDecoder(r.Body).Decode(&q)
  1308. if !fE(q.P) {
  1309. c, _ := os.Getwd()
  1310. q2 := filepath.Join(c, q.P)
  1311. if fE(q2) {
  1312. q.P = q2
  1313. } else {
  1314. jw(w, map[string]any{"ok": false, "e": "not found"})
  1315. return
  1316. }
  1317. }
  1318. // 切库: 换掉共享句柄, 作废审计缓存
  1319. if e := useDB(q.P); e != nil {
  1320. jw(w, map[string]any{"ok": false, "e": "open failed: " + e.Error()})
  1321. return
  1322. }
  1323. invalidateAudit()
  1324. mu.Lock()
  1325. fp = q.P
  1326. rHdr()
  1327. tabs = pTabs()
  1328. mu.Unlock()
  1329. fi, _ := os.Stat(fp)
  1330. dbF = fp
  1331. setCacheFP(fingerprint())
  1332. // 全库审计可能很慢 (要扫上千页), 放到后台预热, 让打开请求立即返回。
  1333. // 前端先显示基础信息与"审计中", 就绪后轮询 /api/stats 填充汇总。
  1334. startAuditAsync()
  1335. // 页映射索引同样在后台建好 (排在审计之后), 免得用户点开概览时再等一次全库扫描。
  1336. startPagemapAsync()
  1337. jw(w, map[string]any{"ok": true, "s": st(fi)})
  1338. }
  1339. func st(fi os.FileInfo) map[string]any {
  1340. s := int64(0)
  1341. if fi != nil {
  1342. s = fi.Size()
  1343. }
  1344. m := map[string]any{"f": dbF, "s": s, "fs": fB(s), "pg": totalPages(), "tc": len(tabs)}
  1345. // 概览页要用到审计汇总 (空闲页数 / 堆页数 / 行数 / 总判决 / 孤儿页)。
  1346. // 这里只读已算好的缓存, 不触发计算: 未就绪时返回 auditReady=false,
  1347. // 由前端显示"审计中"并轮询本接口, 避免打开库时长时间卡死。
  1348. //
  1349. // 增量审计: 结构结果先就绪, 索引内容一致性随后补全。总判决里含索引内容,
  1350. // 所以只有索引内容也补全了 (IdxPending=false) 才算真正就绪。
  1351. if a := peekAudit(); a != nil && !a.IdxPending {
  1352. heap, rows := 0, uint64(0)
  1353. for _, t := range a.Tables {
  1354. heap += t.HeapActual
  1355. rows += t.Rows
  1356. }
  1357. m["free"] = a.Free.Total
  1358. m["heap"] = heap
  1359. m["rows"] = rows
  1360. m["verdict"] = a.Verdict
  1361. m["unacc"] = a.Reach.Unaccounted
  1362. m["reserved"] = a.Reserved
  1363. m["never"] = a.NeverUsed
  1364. m["auditReady"] = true
  1365. } else {
  1366. m["auditReady"] = false
  1367. if failed, msg := peekAuditError(); failed {
  1368. m["auditFailed"] = true
  1369. m["auditError"] = msg
  1370. }
  1371. }
  1372. return m
  1373. }
  1374. func stH(w http.ResponseWriter, r *http.Request) {
  1375. if dbF == "" {
  1376. jw(w, map[string]any{"e": "no db"})
  1377. return
  1378. }
  1379. fi, _ := os.Stat(fp)
  1380. jw(w, st(fi))
  1381. }
  1382. // memH 报告 Go 运行时内存与映射区大小, 用来回答"内存到底花在哪"。
  1383. // ?gc=1 强制一次 GC 并归还内存, 便于区分"活对象"与"待回收/未归还"。
  1384. func memH(w http.ResponseWriter, r *http.Request) {
  1385. if r.URL.Query().Get("gc") == "1" {
  1386. runtime.GC()
  1387. debug.FreeOSMemory()
  1388. }
  1389. var m runtime.MemStats
  1390. runtime.ReadMemStats(&m)
  1391. // 库文件大小: 现在按页 ReadAt 读取, 页留在系统文件缓存里 (可回收),
  1392. // 不再整文件映射进进程地址空间, 因此这里不再有 mappedDBSZ 这一项。
  1393. var fileMB int64
  1394. if fi, e := os.Stat(fp); e == nil {
  1395. fileMB = fi.Size() >> 20
  1396. }
  1397. jw(w, map[string]any{
  1398. "heapAllocMB": m.HeapAlloc >> 20, // 活对象
  1399. "heapInuseMB": m.HeapInuse >> 20, // 已用 span
  1400. "heapIdleMB": m.HeapIdle >> 20, // 空闲 span (可归还)
  1401. "heapSysMB": m.HeapSys >> 20, // 向 OS 要的堆
  1402. "stackMB": m.StackInuse >> 20, // goroutine 栈
  1403. "otherSysMB": m.OtherSys >> 20,
  1404. "sysMB": m.Sys >> 20, // Go 全部向 OS 要的内存
  1405. "dbFileMB": fileMB, // 库文件大小 (按页 ReadAt, 不进进程工作集)
  1406. "numGC": m.NumGC,
  1407. "goroutines": runtime.NumGoroutine(),
  1408. })
  1409. }
  1410. func taH(w http.ResponseWriter, r *http.Request) { jw(w, tabs) }
  1411. func tdH(w http.ResponseWriter, r *http.Request) {
  1412. n := r.URL.Path[len("/api/table/"):]
  1413. for _, t := range tabs {
  1414. if t.Name == n {
  1415. jw(w, t)
  1416. return
  1417. }
  1418. }
  1419. jw(w, map[string]any{"e": "not found"})
  1420. }
  1421. func dpH(w http.ResponseWriter, r *http.Request) {
  1422. var pid uint32
  1423. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1424. d := rDP(pid)
  1425. if d == nil {
  1426. jw(w, map[string]any{"e": "err"})
  1427. return
  1428. }
  1429. jw(w, d)
  1430. }
  1431. func ipH(w http.ResponseWriter, r *http.Request) {
  1432. var pid uint32
  1433. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1434. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1435. d := rIP(pid, byte(it))
  1436. if d == nil {
  1437. jw(w, map[string]any{"e": "err"})
  1438. return
  1439. }
  1440. jw(w, d)
  1441. }
  1442. func btH(w http.ResponseWriter, r *http.Request) {
  1443. var pid uint32
  1444. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1445. it, _ := strconv.Atoi(r.URL.Query().Get("t"))
  1446. d := rBT(pid, byte(it))
  1447. if d == nil {
  1448. jw(w, map[string]any{"e": "err"})
  1449. return
  1450. }
  1451. jw(w, d)
  1452. }
  1453. func hdrH(w http.ResponseWriter, r *http.Request) {
  1454. d := rHdrInfo()
  1455. if d == nil {
  1456. jw(w, map[string]any{"e": "err"})
  1457. return
  1458. }
  1459. jw(w, d)
  1460. }
  1461. func heapH(w http.ResponseWriter, r *http.Request) {
  1462. var hp0 uint32
  1463. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &hp0)
  1464. jw(w, rHeapChain(hp0))
  1465. }
  1466. func freeH(w http.ResponseWriter, r *http.Request) { jw(w, rFreePages()) }
  1467. // ===== 审计 / 归属 / 单页检查 =====
  1468. // auditH 全库审计: 页账 + 空闲链自检 + 每表堆链交叉校验 + 未归属页。
  1469. func auditH(w http.ResponseWriter, r *http.Request) {
  1470. if dbF == "" {
  1471. jw(w, map[string]any{"e": "no db"})
  1472. return
  1473. }
  1474. jw(w, auditCached())
  1475. }
  1476. // pageArgs 解析分页参数: offset 默认 0, limit 默认 100 (上限 500)。
  1477. func pageArgs(r *http.Request) (int, int) {
  1478. off, _ := strconv.Atoi(r.URL.Query().Get("offset"))
  1479. lim, _ := strconv.Atoi(r.URL.Query().Get("limit"))
  1480. if off < 0 {
  1481. off = 0
  1482. }
  1483. if lim <= 0 || lim > 500 {
  1484. lim = 100
  1485. }
  1486. return off, lim
  1487. }
  1488. // auditIssuesH 分页取索引问题明细 —— 从落盘缓存库里按页取, 不整份读进内存。
  1489. func auditIssuesH(w http.ResponseWriter, r *http.Request) {
  1490. off, lim := pageArgs(r)
  1491. rows, total, err := cachePageIssues(off, lim)
  1492. if err != nil {
  1493. jw(w, map[string]any{"e": err.Error()})
  1494. return
  1495. }
  1496. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1497. }
  1498. // auditUnaccH 分页取孤儿页明细 —— 同上, 从缓存库按页取。
  1499. func auditUnaccH(w http.ResponseWriter, r *http.Request) {
  1500. off, lim := pageArgs(r)
  1501. rows, total, err := cachePageUnacc(off, lim)
  1502. if err != nil {
  1503. jw(w, map[string]any{"e": err.Error()})
  1504. return
  1505. }
  1506. jw(w, map[string]any{"rows": rows, "total": total, "offset": off, "limit": lim})
  1507. }
  1508. // heapChainsH 所有表的堆链汇总 (声明值 / 实走值 / 引用数), 供"堆链总览"页。
  1509. func heapChainsH(w http.ResponseWriter, r *http.Request) {
  1510. if dbF == "" {
  1511. jw(w, map[string]any{"e": "no db"})
  1512. return
  1513. }
  1514. a := auditCached()
  1515. jw(w, map[string]any{"tables": a.Tables, "free": a.Free, "reach": a.Reach, "verdict": a.Verdict})
  1516. }
  1517. // pageInfoH 单页检查: 原始页头 + 归属 + 是否空闲 / 从未分配。
  1518. func pageInfoH(w http.ResponseWriter, r *http.Request) {
  1519. if dbF == "" {
  1520. jw(w, map[string]any{"e": "no db"})
  1521. return
  1522. }
  1523. var pid uint32
  1524. fmt.Sscanf(r.URL.Query().Get("id"), "%d", &pid)
  1525. if pid == 0 {
  1526. jw(w, map[string]any{"e": "bad id"})
  1527. return
  1528. }
  1529. jw(w, rPageInfo(pid))
  1530. }
  1531. var _ = unsafe.Sizeof(0)