query.go 32 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064
  1. package core
  2. import (
  3. "TsDB2/DB/core/index"
  4. "TsDB2/DB/core/page"
  5. "TsDB2/DB/core/types"
  6. "bytes"
  7. "encoding/binary"
  8. "fmt"
  9. "math/big"
  10. "sort"
  11. )
  12. // Query 查询操作对象
  13. type Query struct {
  14. table *Table
  15. selectCols []string // SELECT 字段列表
  16. whereCond Condition // WHERE 条件
  17. orderBys []SortField // ORDER BY
  18. limit int // LIMIT
  19. offset int // OFFSET
  20. groupBys []string // GROUP BY
  21. havingCond Condition // HAVING
  22. }
  23. type SortField struct {
  24. Field string
  25. Descending bool
  26. }
  27. // scanPlan 索引扫描计划
  28. type scanPlan struct {
  29. meta *IndexMeta
  30. handler index.IndexHandler
  31. startKey []byte
  32. endKey []byte
  33. startInclusive bool
  34. endInclusive bool
  35. rowStore bool // 该索引是否承载行数据 (主键/时序=true)
  36. remainingCond Condition // 需要行级过滤的剩余条件
  37. }
  38. // Query 返回查询操作对象
  39. func (table *Table) Query() *Query {
  40. return &Query{table: table}
  41. }
  42. func (q *Query) Select(cols ...string) *Query { q.selectCols = cols; return q }
  43. func (q *Query) Where(cond Condition) *Query { q.whereCond = cond; return q }
  44. func (q *Query) Limit(n int) *Query { q.limit = n; return q }
  45. func (q *Query) Offset(n int) *Query { q.offset = n; return q }
  46. func (q *Query) GroupBy(cols ...string) *Query { q.groupBys = cols; return q }
  47. func (q *Query) Having(cond Condition) *Query { q.havingCond = cond; return q }
  48. func (q *Query) OrderBy(field string, descending ...bool) *Query {
  49. desc := false
  50. if len(descending) > 0 {
  51. desc = descending[0]
  52. }
  53. q.orderBys = append(q.orderBys, SortField{Field: field, Descending: desc})
  54. return q
  55. }
  56. // ======================== 索引键编码 ========================
  57. // encodeIndexKey 将条件值编码为索引键字节。
  58. //
  59. // 编码与行内存储【同源】(都走 types.EncodeValue): 索引的 B+ 树直接按字节序比较键,
  60. // 因此"索引键字节 == 行内字节"是范围扫描正确的前提。这里不再按类型手写分支 ——
  61. // 以前每加一个类型都要在这里补一份, 漏补的后果是索引选出来的行与过滤结果不一致。
  62. //
  63. // param 是列级类型参数: decimal 是小数位数, 字符串家族是行内宽度码。少了它就没法把
  64. // 条件值编成与行内完全一致的字节 —— decimal 会因 scale 不同而长度/系数不一致,
  65. // 字符串则会按错误的宽度截断或越界, 两种都让"索引选出 5 行、过滤后剩 0 行"。
  66. //
  67. // 键长必须等于 FieldSize(ft, param): B+ 树按【定长拼键】比较, 键长与行内宽度不一致
  68. // 就等于拿两种编码去比大小。
  69. func encodeIndexKey(value interface{}, ft types.FieldType, param byte) []byte {
  70. if types.IsDynamic(ft) {
  71. // 动态列不能作为索引分量 (CreateIndex 已拒绝), 这里仅作兜底
  72. if b, ok := value.([]byte); ok {
  73. return b
  74. }
  75. return nil
  76. }
  77. size := types.FieldSize(ft, param)
  78. if size == 0 {
  79. // 未注册类型 / 非法列参数: 交给下面 EncodeValue 报出具体原因 (buf 长度为 0)
  80. panic(fmt.Errorf("%w: 类型 %s 的宽度不可计算 (列级参数 %d)",
  81. types.ErrValueType, types.TypeNameOf(ft), param))
  82. }
  83. buf := make([]byte, size)
  84. if err := types.EncodeValue(ft, param, value, buf); err != nil {
  85. // 沿用既有约定: panic 由 encodeIndexKeySafe* 转成 error。
  86. panic(err)
  87. }
  88. return buf
  89. }
  90. // encodeIndexKeySafe 在 encodeIndexKey 外面包一层 panic 恢复。
  91. // 值类型与列不符时 encodeIndexKey 会 panic, 而公开 API 传进来的值不可信,
  92. // 必须转成 error, 不能把用户输入直接变成崩溃。
  93. func encodeIndexKeySafe(value interface{}, ft types.FieldType) (enc []byte, err error) {
  94. return encodeIndexKeySafeWithParam(value, ft, 0)
  95. }
  96. // encodeIndexKeySafeWithParam 同 encodeIndexKeySafe, 但带上列级类型参数。
  97. // 查询侧拿得到字段元信息时必须走这个版本 (decimal 需要 param 才能编出正确的字节)。
  98. func encodeIndexKeySafeWithParam(value interface{}, ft types.FieldType, param byte) (enc []byte, err error) {
  99. defer func() {
  100. if r := recover(); r != nil {
  101. enc, err = nil, fmt.Errorf("值 %v 与存储类型 %s 不匹配: %v", value, types.TypeNameOf(ft), r)
  102. }
  103. }()
  104. return encodeIndexKey(value, ft, param), nil
  105. }
  106. // ======================== 索引匹配 ========================
  107. // fieldNameFromMeta 获取索引第一个字段的名称
  108. func (q *Query) fieldNameFromMeta(meta *IndexMeta) string {
  109. fieldIdx := int(meta.FieldIDs[0])
  110. if fieldIdx < len(q.table.Field) {
  111. return string(q.table.Field[fieldIdx].FieldName)
  112. }
  113. return ""
  114. }
  115. // ======================== 复合索引键规划 ========================
  116. //
  117. // 索引键 = 各分量字段定长拼接 (编码与 extractIndexKey 完全一致), 因此:
  118. // - 已知前 k 个分量等值 → 键上一段连续区间;
  119. // - 第 k+1 个分量上的范围条件 → 再收窄这段区间;
  120. // - 更靠后的分量索引帮不上忙, 原样留作行级后置过滤。
  121. // 下面的代码把 WHERE 按这个模型折叠成 (startKey, endKey, 残余条件)。
  122. //
  123. // 单列索引是 n == 1 的特例, 行为与旧实现一致。
  124. // indexKeyLayout 索引键各分量的偏移与长度 (定长拼接)
  125. type indexKeyLayout struct {
  126. offsets []int
  127. sizes []int
  128. total int
  129. }
  130. // cmpKind 叶子条件能为键分量提供的边界方向
  131. type cmpKind int
  132. const (
  133. cmpEq cmpKind = iota
  134. cmpGe
  135. cmpGt
  136. cmpLe
  137. cmpLt
  138. )
  139. // keyConstraint 某个键分量上的合并边界 (多个 AND 子条件取交集)
  140. type keyConstraint struct {
  141. lo, hi []byte // 编码后的分量值; nil 表示该侧无约束
  142. loInc, hiInc bool
  143. count int // 落在该分量上的条件个数, 0 = 无约束
  144. }
  145. // add 把一个边界并入本分量; 返回 false 表示条件自相矛盾。
  146. func (kc *keyConstraint) add(kind cmpKind, enc []byte) bool {
  147. switch kind {
  148. case cmpEq:
  149. if !kc.addLower(enc, true) || !kc.addUpper(enc, true) {
  150. return false
  151. }
  152. case cmpGe:
  153. if !kc.addLower(enc, true) {
  154. return false
  155. }
  156. case cmpGt:
  157. if !kc.addLower(enc, false) {
  158. return false
  159. }
  160. case cmpLe:
  161. if !kc.addUpper(enc, true) {
  162. return false
  163. }
  164. case cmpLt:
  165. if !kc.addUpper(enc, false) {
  166. return false
  167. }
  168. }
  169. kc.count++
  170. return true
  171. }
  172. func (kc *keyConstraint) addLower(enc []byte, inclusive bool) bool {
  173. if kc.lo == nil {
  174. kc.lo, kc.loInc = enc, inclusive
  175. return true
  176. }
  177. switch c := bytes.Compare(enc, kc.lo); {
  178. case c > 0: // 取更高的下界
  179. kc.lo, kc.loInc = enc, inclusive
  180. case c == 0: // 同值: 两端都闭才算"含"
  181. kc.loInc = kc.loInc && inclusive
  182. }
  183. return kc.notContradictory()
  184. }
  185. func (kc *keyConstraint) addUpper(enc []byte, inclusive bool) bool {
  186. if kc.hi == nil {
  187. kc.hi, kc.hiInc = enc, inclusive
  188. return true
  189. }
  190. switch c := bytes.Compare(enc, kc.hi); {
  191. case c < 0: // 取更低的上界
  192. kc.hi, kc.hiInc = enc, inclusive
  193. case c == 0:
  194. kc.hiInc = kc.hiInc && inclusive
  195. }
  196. return kc.notContradictory()
  197. }
  198. // notContradictory 判断 [lo, hi] 是否还可能有值。
  199. //
  200. // 注意: 这里按编码字节比较, 而定长整数用的是补码 —— 负数的字节序与数值序相反。
  201. // 所以它只在"字节序下已确定矛盾"时才返回 false, 此时真值也必然为空, 反向不成立。
  202. // 调用方因此只把它当作"放弃使用索引"的依据, 绝不据此断言区间非空。
  203. func (kc *keyConstraint) notContradictory() bool {
  204. if kc.lo == nil || kc.hi == nil {
  205. return true
  206. }
  207. switch c := bytes.Compare(kc.lo, kc.hi); {
  208. case c > 0:
  209. return false
  210. case c == 0:
  211. return kc.loInc && kc.hiInc
  212. }
  213. return true
  214. }
  215. // isEquality 该分量已被钉死为单值 (lo == hi 且两端都闭)
  216. func (kc *keyConstraint) isEquality() bool {
  217. return kc.count > 0 && kc.lo != nil && kc.hi != nil &&
  218. kc.loInc && kc.hiInc && bytes.Equal(kc.lo, kc.hi)
  219. }
  220. // buildKeyLayout 依据索引元信息与表字段类型算出键布局。
  221. // 返回 false 表示该索引当前不可用于查询:
  222. // - 分量列不存在或已被 Drop (新行提不出该分量, 索引里根本没有这批键);
  223. // - 分量是动态列 (行内只存 6B 堆引用, 值 != 引用, 无法按键定位)。
  224. func (q *Query) buildKeyLayout(meta *IndexMeta) (*indexKeyLayout, bool) {
  225. n := int(meta.FieldCnt)
  226. if n <= 0 || n > len(meta.FieldIDs) || n > len(q.table.Field) {
  227. return nil, false
  228. }
  229. lay := &indexKeyLayout{offsets: make([]int, n), sizes: make([]int, n)}
  230. off := 0
  231. for k := 0; k < n; k++ {
  232. fi := int(meta.FieldIDs[k])
  233. if fi >= len(q.table.Field) {
  234. return nil, false
  235. }
  236. if q.table.Field[fi].IsDropped() {
  237. return nil, false
  238. }
  239. ft := q.table.Field[fi].FieldType
  240. if types.IsDynamic(ft) {
  241. return nil, false
  242. }
  243. // 键分量宽度必须与行内宽度同源 (含字符串列的宽度码), 否则索引键的偏移切不出该列
  244. size := int(q.table.Field[fi].Width())
  245. if size <= 0 {
  246. return nil, false
  247. }
  248. lay.offsets[k] = off
  249. lay.sizes[k] = size
  250. off += size
  251. }
  252. lay.total = off
  253. return lay, true
  254. }
  255. // locateComponent 返回字段 master 下标在索引键中的分量位置; -1 表示不属于该索引
  256. func (q *Query) locateComponent(fieldName string, meta *IndexMeta) int {
  257. fi := q.table.findFieldIndex(fieldName)
  258. if fi < 0 {
  259. return -1
  260. }
  261. n := int(meta.FieldCnt)
  262. if n > len(meta.FieldIDs) {
  263. n = len(meta.FieldIDs)
  264. }
  265. for k := 0; k < n; k++ {
  266. if int(meta.FieldIDs[k]) == fi {
  267. return k
  268. }
  269. }
  270. return -1
  271. }
  272. // classifyLeaf 判断一个叶子条件能否成为某个键分量的边界。
  273. // comp < 0 表示与该索引无关 (字段不在索引里, 或该条件类型给不出可比边界)。
  274. func (q *Query) classifyLeaf(c Condition, meta *IndexMeta) (comp int, value interface{}, kind cmpKind) {
  275. switch t := c.(type) {
  276. case EqCondition:
  277. return q.locateComponent(t.Field, meta), t.Value, cmpEq
  278. case GeCondition:
  279. return q.locateComponent(t.Field, meta), t.Value, cmpGe
  280. case GtCondition:
  281. return q.locateComponent(t.Field, meta), t.Value, cmpGt
  282. case LeCondition:
  283. return q.locateComponent(t.Field, meta), t.Value, cmpLe
  284. case LtCondition:
  285. return q.locateComponent(t.Field, meta), t.Value, cmpLt
  286. default:
  287. return -1, nil, cmpEq
  288. }
  289. }
  290. // flattenAnd 把 AND 树展平成叶子条件。
  291. // OR / NOT / LIKE / IN 不是合取项, 整体当叶子返回 —— 它们给不出索引边界,
  292. // 但必须原样保留下来做行级过滤。
  293. func flattenAnd(cond Condition, out *[]Condition) {
  294. if and, ok := cond.(AndCondition); ok {
  295. for _, sub := range and.Conditions {
  296. flattenAnd(sub, out)
  297. }
  298. return
  299. }
  300. *out = append(*out, cond)
  301. }
  302. // incBE 把 buf 当作大端无符号整数加一 (原地)。返回 false 表示溢出 ——
  303. // 此时 buf 之后不再存在任何更大的键。
  304. func incBE(buf []byte) bool {
  305. for i := len(buf) - 1; i >= 0; i-- {
  306. buf[i]++
  307. if buf[i] != 0 {
  308. return true
  309. }
  310. }
  311. return false
  312. }
  313. // fillFF 把 buf[from:] 全置 0xFF (该分量及其后分量的最大值)。
  314. // from 可以是 0 —— 首分量就是范围分量时前缀为空, 此时整个键都无上界。
  315. func fillFF(buf []byte, from int) {
  316. for i := from; i < len(buf); i++ {
  317. buf[i] = 0xFF
  318. }
  319. }
  320. // buildScanPlan 分析 WHERE 条件, 选择最优索引
  321. func (q *Query) buildScanPlan() *scanPlan {
  322. if q.whereCond == nil {
  323. return nil
  324. }
  325. if q.table.indexMeta == nil {
  326. return nil
  327. }
  328. // 先展平成合取项: 索引区间是按"分量"折叠出来的, 只有 AND 语义才可加。
  329. var leaves []Condition
  330. flattenAnd(q.whereCond, &leaves)
  331. var bestPlan *scanPlan
  332. for i := range q.table.indexMeta.metas {
  333. m := &q.table.indexMeta.metas[i]
  334. if m.Flag&0x80 != 0 {
  335. continue
  336. }
  337. // 主键索引直接承载全部行, 但它的 B+ 树叶键是 pkID, 而不是"建在哪一列上"。
  338. // planIndex 会用 meta.FieldIDs 编码出的【字段值】当扫描区间 (见 buildKeyLayout),
  339. // 拿它去比对 pkID 叶键, 语义对不上 —— 只有当该列的值恒等于 pkID 时才偶然正确,
  340. // 否则会静默地只命中/漏掉若干行 (例如 Delete/Update 的条件扫描)。
  341. // 因此主键索引不参与列条件规划, 这类查询退回全表扫描 + 行级过滤 (fullTableScan
  342. // 会施加 whereCond), 结果正确; 按 pkID 的点查/回表仍走 SearchByIndex/ResolveByPK,
  343. // 不经过这里, 不受影响。
  344. if m.IndexType == page.IndexTypePrimary {
  345. continue
  346. }
  347. handler, ok := index.Compose.GetHandler(m.IndexType)
  348. if !ok {
  349. continue
  350. }
  351. plan := q.planIndex(m, handler, leaves)
  352. if plan == nil {
  353. continue // 此索引不匹配
  354. }
  355. // 该索引是否承载行数据: 由处理器自报, 本层不认识索引类型
  356. plan.rowStore = handler.IsRowStore()
  357. if plan.rowStore {
  358. return plan // 行存储索引最优 (免回表), 不再找
  359. }
  360. if bestPlan == nil {
  361. bestPlan = plan
  362. }
  363. }
  364. return bestPlan
  365. }
  366. // planIndex 为一个索引推导扫描区间; 该索引用不上时返回 nil。
  367. func (q *Query) planIndex(m *IndexMeta, handler index.IndexHandler, leaves []Condition) *scanPlan {
  368. lay, ok := q.buildKeyLayout(m)
  369. if !ok {
  370. return nil
  371. }
  372. n := len(lay.sizes)
  373. cons := make([]keyConstraint, n) // 各分量合并后的边界
  374. compCond := make([][]Condition, n) // 各分量上的原始条件 (用于决定哪些能丢)
  375. var rest []Condition // 与索引无关、必须保留的条件
  376. for _, c := range leaves {
  377. k, value, kind := q.classifyLeaf(c, m)
  378. if k < 0 {
  379. rest = append(rest, c)
  380. continue
  381. }
  382. ft := q.table.Field[m.FieldIDs[k]].FieldType
  383. // 用 Safe 版本: 条件的值类型与列存储类型不符时 encodeIndexKey 会 panic,
  384. // 规划阶段不该把用户输入直接变成崩溃 —— 退回行级过滤由 Match 去处理。
  385. // 带上列级 param (decimal 的 scale / 字符串的宽度码): 索引键必须与行内字节完全一致。
  386. enc, err := encodeIndexKeySafeWithParam(value, ft, q.table.fieldParam(int(m.FieldIDs[k])))
  387. if err != nil || len(enc) != lay.sizes[k] {
  388. // 编码失败, 或长度与分量长度不符 (拼进定长键会错位) → 交给行级过滤
  389. rest = append(rest, c)
  390. continue
  391. }
  392. if !cons[k].add(kind, enc) {
  393. // 该分量上的条件互相矛盾 → 结果必为空。
  394. // 这里保守地"放弃索引"而不是返回空区间: 定长补码编码下负数字节序与
  395. // 数值序相反, 用字节比较断定"空"对负数不成立, 退回全表扫描更稳。
  396. return nil
  397. }
  398. compCond[k] = append(compCond[k], c)
  399. }
  400. if cons[0].count == 0 {
  401. return nil // 首分量没有边界 → 索引给不出连续区间
  402. }
  403. // 从左往右消费"等值分量"; 之后最多再消费一个范围分量, 更后面的分量帮不上忙。
  404. eqLen := 0
  405. for eqLen < n && cons[eqLen].isEquality() {
  406. eqLen++
  407. }
  408. rangeIdx := -1
  409. if eqLen < n && cons[eqLen].count > 0 {
  410. rangeIdx = eqLen
  411. }
  412. startKey := make([]byte, lay.total)
  413. endKey := make([]byte, lay.total)
  414. prefix := 0
  415. for j := 0; j < eqLen; j++ {
  416. copy(startKey[prefix:], cons[j].lo)
  417. copy(endKey[prefix:], cons[j].lo)
  418. prefix += len(cons[j].lo)
  419. }
  420. plan := &scanPlan{
  421. meta: m, handler: handler,
  422. startKey: startKey, endKey: endKey,
  423. startInclusive: true, endInclusive: true,
  424. remainingCond: q.remainCond(rest, compCond, eqLen, rangeIdx),
  425. }
  426. // 全部等值 → 精确键 (此时 prefix == total, fillFF 无事可做);
  427. // 只消费了等值前缀 → 该前缀下的全部键: [前缀||00.., 前缀||FF..]。
  428. if eqLen == n || rangeIdx < 0 {
  429. fillFF(endKey, prefix)
  430. return plan
  431. }
  432. rc := &cons[rangeIdx]
  433. size := lay.sizes[rangeIdx]
  434. // 下界: [前缀 || 分量值 || 00..]
  435. if rc.lo != nil {
  436. copy(startKey[prefix:], rc.lo)
  437. if !rc.loInc {
  438. // 严格下界: 要跳过分量 == lo 的全部键, 即把 (前缀||lo) 整体加一
  439. if !incBE(startKey[:prefix+size]) {
  440. return nil // 已经是最大键, 该条件不可能有匹配行
  441. }
  442. }
  443. }
  444. // 上界: [前缀 || 分量值 || FF..]
  445. if rc.hi == nil {
  446. fillFF(endKey, prefix)
  447. } else if rc.hiInc {
  448. copy(endKey[prefix:], rc.hi)
  449. fillFF(endKey, prefix+size)
  450. } else {
  451. // 严格上界: 分量 == hi 的键全部排除
  452. copy(endKey[prefix:], rc.hi)
  453. plan.endInclusive = false
  454. }
  455. return plan
  456. }
  457. // remainCond 汇总索引区间没能表达、仍需逐行过滤的条件。
  458. // 已被区间精确覆盖的分量 (等值前缀 + 那个范围分量) 上的条件可以安全丢掉。
  459. func (q *Query) remainCond(rest []Condition, compCond [][]Condition, eqLen, rangeIdx int) Condition {
  460. remaining := rest
  461. for j := range compCond {
  462. if j < eqLen || j == rangeIdx {
  463. continue
  464. }
  465. remaining = append(remaining, compCond[j]...)
  466. }
  467. switch len(remaining) {
  468. case 0:
  469. return nil
  470. case 1:
  471. return remaining[0]
  472. default:
  473. return And(remaining...)
  474. }
  475. }
  476. // rowWithPK 把结果行与它的 pkID 绑在一起 —— 排序/翻页会重排结果集, pkID 必须
  477. // 跟着行一起移动, 否则回调会把 A 行的 pkID 配到 B 行的数据上。
  478. type rowWithPK struct {
  479. pkID uint64
  480. row []types.FieldValue
  481. }
  482. // compareRowsForOrderBy 按 OrderBy 规则比较两行, 返回 -1/0/1。
  483. // 0 表示"所有排序列都无法区分"(字段缺失), 由调用方用稳定排序保持原顺序。
  484. func (q *Query) compareRowsForOrderBy(a, b []types.FieldValue) int {
  485. for _, ob := range q.orderBys {
  486. idx := q.table.findFieldIndex(ob.Field)
  487. if idx < 0 {
  488. continue
  489. }
  490. vi := findFieldValue(a, ob.Field)
  491. vj := findFieldValue(b, ob.Field)
  492. if vi == nil || vj == nil {
  493. continue
  494. }
  495. cmp := compareFieldValues(vi, vj, q.table.Field[idx].FieldType)
  496. if cmp == 0 {
  497. continue
  498. }
  499. if ob.Descending {
  500. return -cmp
  501. }
  502. return cmp
  503. }
  504. return 0
  505. }
  506. // ======================== 核心查询 ========================
  507. // Find 执行查询,返回多行
  508. func (q *Query) Find() ([][]types.FieldValue, error) {
  509. var results [][]types.FieldValue
  510. err := q.scan(func(row []types.FieldValue) bool {
  511. results = append(results, row)
  512. return true
  513. })
  514. if err != nil {
  515. return nil, err
  516. }
  517. // 投影
  518. if len(q.selectCols) > 0 {
  519. results = q.project(results)
  520. }
  521. return results, nil
  522. }
  523. // Scan 流式扫描查询, 回调函数逐行处理数据, 返回 false 提前终止
  524. // 适用于不需要全量收集结果的场景, 内存友好
  525. func (q *Query) Scan(callback func(row []types.FieldValue) bool) error {
  526. return q.scan(callback)
  527. }
  528. // scan 内部流式扫描核心方法
  529. // 自动处理: 索引选择 → 排序 → OFFSET → LIMIT → 回调
  530. func (q *Query) scan(callback func(row []types.FieldValue) bool) error {
  531. return q.scanWithPKID(func(_ uint64, row []types.FieldValue) bool {
  532. return callback(row)
  533. })
  534. }
  535. // ScanWithPKID 流式扫描, 回调同时拿到行主键号 pkID 与列值。
  536. //
  537. // 迁移/导出工具必须用这个而不是 Scan: 行数据里不含 pkID (它是行的 8 字节前缀,
  538. // 不是字段), 只拿字段值就没法还原"这一行的主键号是多少" —— 导出到 SQL 时要么
  539. // 丢掉真实主键, 要么被迫用某个列值冒充 (列值可能是 0、可能被改过)。
  540. func (q *Query) ScanWithPKID(callback func(pkID uint64, row []types.FieldValue) bool) error {
  541. return q.scanWithPKID(callback)
  542. }
  543. // scanWithPKID 与 scan 完全一致, 但额外把每行的真实 pkID 交给回调。
  544. //
  545. // 为什么需要: 行数据里不含 pkID (它是行的 8 字节前缀, 不是字段), 普通 Scan 回调
  546. // 只拿得到字段值。删除/更新必须按真实 pkID 定位行, 旧实现只能退而求其次地
  547. // "取第一个 uint64 类型的字段值当 pkID" —— 主键列不是行内第一个 8 字节列时,
  548. // 它删掉的是另一个主键指向的行, 匹配上的行反而一条都没动, 而且不报错。
  549. func (q *Query) scanWithPKID(callback func(pkID uint64, row []types.FieldValue) bool) error {
  550. plan := q.buildScanPlan()
  551. // 判断是否需要内存排序 (OrderBy 字段与索引不一致时)
  552. needSort := false
  553. if len(q.orderBys) > 0 {
  554. if plan == nil {
  555. needSort = true
  556. } else {
  557. idxField := q.fieldNameFromMeta(plan.meta)
  558. if !(len(q.orderBys) == 1 && q.orderBys[0].Field == idxField) {
  559. needSort = true
  560. }
  561. }
  562. }
  563. // 需要排序时, 必须先收集全部再排序, 无法流式 LIMIT
  564. if needSort {
  565. var all []rowWithPK
  566. err := q.executeScan(func(pkID uint64, row []types.FieldValue) bool {
  567. all = append(all, rowWithPK{pkID, row})
  568. return true
  569. }, plan)
  570. if err != nil {
  571. return err
  572. }
  573. // 排序必须连 pkID 一起搬: 只排 []FieldValue 会让回调拿到错位的 pkID
  574. sort.SliceStable(all, func(i, j int) bool {
  575. return q.compareRowsForOrderBy(all[i].row, all[j].row) < 0
  576. })
  577. // OFFSET
  578. if q.offset > 0 {
  579. if q.offset >= len(all) {
  580. return nil
  581. }
  582. all = all[q.offset:]
  583. }
  584. // LIMIT
  585. if q.limit > 0 && q.limit < len(all) {
  586. all = all[:q.limit]
  587. }
  588. for _, item := range all {
  589. if !callback(item.pkID, item.row) {
  590. return nil
  591. }
  592. }
  593. return nil
  594. }
  595. // 不需要排序: 直接流式传递 callback, 支持 LIMIT 提前终止
  596. seen := 0
  597. return q.executeScan(func(pkID uint64, row []types.FieldValue) bool {
  598. if seen < q.offset {
  599. seen++
  600. return true // 跳过 OFFSET
  601. }
  602. seen++
  603. if !callback(pkID, row) {
  604. return false // 用户要求停止
  605. }
  606. // LIMIT 检查 (0 表示无限制)
  607. if q.limit > 0 && seen-q.offset >= q.limit {
  608. return false // 已满足, 提前终止扫描
  609. }
  610. return true
  611. }, plan)
  612. }
  613. // executeScan 执行索引扫描或全表扫描, 将反序列化后的行传递给回调
  614. func (q *Query) executeScan(callback func(pkID uint64, row []types.FieldValue) bool, plan *scanPlan) error {
  615. if plan != nil {
  616. return q.indexScan(plan, callback)
  617. }
  618. return q.fullTableScan(callback)
  619. }
  620. // indexScan 使用索引扫描并按"先物化、后回表"两阶段执行。
  621. //
  622. // 为什么不能像旧实现那样在 RangeScan 回调里直接回表 + 触发用户 callback:
  623. // RangeScan 是沿叶子双向链 (PageHdr.NextPage) 推进的裸游标, 而用户的 Scan 回调
  624. // 常常会对【同一棵索引】做 Update/Delete —— 删旧条目 + 插新条目会触发叶分裂/合并,
  625. // 被合并掉的叶子页会被登记回收, 下一个 Commit/drain 时该页被清零并改写成空闲链节点
  626. // (空闲链同样用 PageHdr.NextPage 串接)。此时游标再读该页的 NextPage, 拿到的就是
  627. // 空闲链指针, 于是跳到一张 type=0 的空页上 (实测 panic: bad page type=0)。
  628. //
  629. // 物化把"遍历"与"修改"彻底分开: 遍历阶段树保持只读, 游标始终有效; 修改发生在
  630. // 遍历结束之后, 不再影响游标。二级索引只物化 pkID(8B/行), 内存开销与结果集成正比
  631. // 且远小于整行物化; rowStore 索引物化的是行的快照 (必须拷贝, 因为它是页内缓冲视图)。
  632. func (q *Query) indexScan(plan *scanPlan, callback func(pkID uint64, row []types.FieldValue) bool) error {
  633. // 判断 OrderBy 是否需要反向
  634. reverse := false
  635. if len(q.orderBys) == 1 {
  636. idxField := q.fieldNameFromMeta(plan.meta)
  637. if q.orderBys[0].Field == idxField && q.orderBys[0].Descending {
  638. reverse = true
  639. }
  640. }
  641. if plan.rowStore {
  642. // 承载行数据的索引: RangeScan 返回 storeRow = [pkID(8B) + rowData]。
  643. // storeRow 指向页缓冲, 遍历结束后页可能被回收改写, 必须拷贝一份快照。
  644. var rows [][]byte
  645. if err := plan.handler.RangeScan(q.table.handle, plan.meta.EntryPage,
  646. plan.startKey, plan.endKey, plan.startInclusive, plan.endInclusive, reverse,
  647. func(row []byte) bool {
  648. if len(row) < 8 {
  649. return true
  650. }
  651. snapshot := make([]byte, len(row))
  652. copy(snapshot, row)
  653. rows = append(rows, snapshot)
  654. return true
  655. }); err != nil {
  656. return err
  657. }
  658. for _, row := range rows {
  659. rowData := row[8:]
  660. if plan.remainingCond != nil {
  661. if !plan.remainingCond.Match(rowData, q.table) {
  662. continue
  663. }
  664. }
  665. if !callback(binary.BigEndian.Uint64(row[:8]), q.table.deserializeRow(rowData)) {
  666. return nil
  667. }
  668. }
  669. return nil
  670. }
  671. // 二级索引: RangeScan 返回 pkID(8B BE)。只按顺序物化 pkID, 回表放到遍历之后。
  672. var pkIDs []uint64
  673. if err := plan.handler.RangeScan(q.table.handle, plan.meta.EntryPage,
  674. plan.startKey, plan.endKey, plan.startInclusive, plan.endInclusive, reverse,
  675. func(row []byte) bool {
  676. if len(row) < 8 {
  677. return true
  678. }
  679. pkIDs = append(pkIDs, binary.BigEndian.Uint64(row[:8]))
  680. return true
  681. }); err != nil {
  682. return err
  683. }
  684. for _, pkID := range pkIDs {
  685. storeRow, found := q.table.indexMeta.ResolveByPK(pkID)
  686. if !found {
  687. // 行已被之前的回调删除, 跳过
  688. continue
  689. }
  690. rowData := storeRow[8:]
  691. if plan.remainingCond != nil {
  692. if !plan.remainingCond.Match(rowData, q.table) {
  693. continue
  694. }
  695. }
  696. if !callback(pkID, q.table.deserializeRow(rowData)) {
  697. return nil
  698. }
  699. }
  700. return nil
  701. }
  702. // fullTableScan 全表扫描 (流式回调模式)
  703. func (q *Query) fullTableScan(callback func(pkID uint64, row []types.FieldValue) bool) error {
  704. // 找承载行数据的索引 (由处理器自报, 本层不认识索引类型)
  705. primMeta, primHandler, ok := q.table.indexMeta.rowStoreMeta()
  706. if !ok || primMeta == nil || primHandler == nil {
  707. return nil
  708. }
  709. dpIDs := primHandler.GetDataPageIDs(q.table.handle, primMeta.EntryPage)
  710. for _, dpID := range dpIDs {
  711. rows := primHandler.ReadDataPageRows(q.table.handle, dpID)
  712. for _, storeRow := range rows {
  713. if len(storeRow) < 8 {
  714. continue
  715. }
  716. rowData := storeRow[8:]
  717. if q.whereCond != nil {
  718. if !q.whereCond.Match(rowData, q.table) {
  719. continue
  720. }
  721. }
  722. if !callback(binary.BigEndian.Uint64(storeRow[:8]), q.table.deserializeRow(rowData)) {
  723. return nil // 回调要求提前终止
  724. }
  725. }
  726. }
  727. return nil
  728. }
  729. // ======================== 排序 ========================
  730. func (q *Query) sortResults(results [][]types.FieldValue) {
  731. sort.SliceStable(results, func(i, j int) bool {
  732. return q.compareRowsForOrderBy(results[i], results[j]) < 0
  733. })
  734. }
  735. func findFieldValue(row []types.FieldValue, field string) interface{} {
  736. for _, fv := range row {
  737. if string(fv.FieldName) == field {
  738. return fv.Value
  739. }
  740. }
  741. return nil
  742. }
  743. // cmpInt64 / cmpUint64 把三态比较收敛到一处, 避免每个分支重复写一遍 if 链。
  744. func cmpInt64(a, b int64) int {
  745. switch {
  746. case a < b:
  747. return -1
  748. case a > b:
  749. return 1
  750. }
  751. return 0
  752. }
  753. func cmpUint64(a, b uint64) int {
  754. switch {
  755. case a < b:
  756. return -1
  757. case a > b:
  758. return 1
  759. }
  760. return 0
  761. }
  762. // compareFieldValues 按【字段类型】比较同一列的两个值, 返回 -1/0/1。
  763. //
  764. // 类型必须由调用方传入, 不能只看 Go 值类型: 同一列都可能读成 int16, 但它既可能来自
  765. // 有符号的 FieldType_Int16 (int16 语义), 也可能来自无符号的 FieldType_2byte ——
  766. // 后者的值是 uint16 的位模式被重解释成 int16, 两者序不同 (位模式 0xFFFF: int16 是 -1,
  767. // uint16 是 65535)。旧实现只按 Go 值类型分派, 既分不清这两种, 又整个漏掉了 int8/int64。
  768. //
  769. // 有符号类型比的是【解码后的值】而不是盘上字节: 盘上是保序编码 (符号位已翻转),
  770. // 直接比字节也对, 但这里拿到的是已解码的值, 比数值更直白。
  771. func compareFieldValues(a, b interface{}, ft types.FieldType) int {
  772. switch ft {
  773. case types.FieldType_Int8:
  774. return cmpInt64(int64(a.(int8)), int64(b.(int8)))
  775. case types.FieldType_Int16:
  776. return cmpInt64(int64(a.(int16)), int64(b.(int16)))
  777. case types.FieldType_Int32:
  778. return cmpInt64(int64(a.(int32)), int64(b.(int32)))
  779. case types.FieldType_Int64:
  780. return cmpInt64(a.(int64), b.(int64))
  781. case types.FieldType_1byte:
  782. return cmpUint64(uint64(a.(byte)), uint64(b.(byte)))
  783. case types.FieldType_2byte:
  784. // 无符号: 先把 int16 位模式还原回 uint16 再比, 否则 > 32767 的值会被当成负数
  785. return cmpUint64(uint64(uint16(a.(int16))), uint64(uint16(b.(int16))))
  786. case types.FieldType_4byte:
  787. return cmpUint64(uint64(uint32(a.(int32))), uint64(uint32(b.(int32))))
  788. case types.FieldType_8byte:
  789. return cmpUint64(a.(uint64), b.(uint64))
  790. case types.FieldType_Float64:
  791. // 同一列读出的一定是同一类型, 故 b 也是 float64; 容错地走 toFloat64
  792. fa, fb := toFloat64(a), toFloat64(b)
  793. switch {
  794. case fa < fb:
  795. return -1
  796. case fa > fb:
  797. return 1
  798. }
  799. return 0
  800. case types.FieldType_Float32:
  801. fa, fb := a.(float32), b.(float32)
  802. switch {
  803. case fa < fb:
  804. return -1
  805. case fa > fb:
  806. return 1
  807. }
  808. return 0
  809. case types.FieldType_Bool:
  810. // false < true (与盘上 0x00 < 0x01 的字节序一致)
  811. ba, bb := a.(bool), b.(bool)
  812. switch {
  813. case ba == bb:
  814. return 0
  815. case !ba:
  816. return -1
  817. }
  818. return 1
  819. case types.FieldType_Year:
  820. // 同 2byte: 载体是 int16, 但语义是无符号年份
  821. return cmpUint64(uint64(uint16(a.(int16))), uint64(uint16(b.(int16))))
  822. case types.FieldType_Decimal:
  823. // 走数值比较 (自动对齐 scale): 同一列的 scale 必然相同, 但比较函数不该依赖这一点
  824. return a.(types.Decimal).Cmp(b.(types.Decimal))
  825. case types.FieldType_Int128:
  826. na, oka := a.(*big.Int)
  827. nb, okb := b.(*big.Int)
  828. if !oka || !okb {
  829. return 0
  830. }
  831. return na.Cmp(nb)
  832. case types.FieldType_UUID:
  833. ua, oka := a.(types.UUID)
  834. ub, okb := b.(types.UUID)
  835. if !oka || !okb {
  836. return 0
  837. }
  838. return bytes.Compare(ua[:], ub[:])
  839. }
  840. // 动态字段与所有定长字符串: 按字节序
  841. ba, ok := a.([]byte)
  842. if !ok {
  843. return 0
  844. }
  845. bb, ok := b.([]byte)
  846. if !ok {
  847. return 0
  848. }
  849. return bytes.Compare(ba, bb)
  850. }
  851. // fieldTypeOf 取某列的存储类型, 供按类型比较/聚合使用; 列不存在时返回 0。
  852. func (q *Query) fieldTypeOf(name string) types.FieldType {
  853. if i := q.table.findFieldIndex(name); i >= 0 {
  854. return q.table.Field[i].FieldType
  855. }
  856. return 0
  857. }
  858. // ======================== 投影 ========================
  859. func (q *Query) project(results [][]types.FieldValue) [][]types.FieldValue {
  860. colSet := make(map[string]bool)
  861. for _, c := range q.selectCols {
  862. colSet[c] = true
  863. }
  864. for i, row := range results {
  865. var filtered []types.FieldValue
  866. for _, fv := range row {
  867. if colSet[string(fv.FieldName)] {
  868. filtered = append(filtered, fv)
  869. }
  870. }
  871. results[i] = filtered
  872. }
  873. return results
  874. }
  875. // ======================== 流式聚合 ========================
  876. // FindOne 流式查询,返回单行 (命中即停,不遍历全表)
  877. func (q *Query) FindOne() ([]types.FieldValue, error) {
  878. var result []types.FieldValue
  879. found := false
  880. err := q.scan(func(row []types.FieldValue) bool {
  881. result = row
  882. found = true
  883. return false // 找到第一行即停止
  884. })
  885. if err != nil {
  886. return nil, err
  887. }
  888. if !found {
  889. return nil, page.ErrNotFound
  890. }
  891. return result, nil
  892. }
  893. // Count 流式计数 (不收集行,扫描过程中直接累加)
  894. func (q *Query) Count() (int64, error) {
  895. var count int64
  896. err := q.scan(func(row []types.FieldValue) bool {
  897. count++
  898. return true
  899. })
  900. return count, err
  901. }
  902. // Sum 流式求和 (不收集行,扫描过程中直接累加)
  903. func (q *Query) Sum(col string) (float64, error) {
  904. var sum float64
  905. err := q.scan(func(row []types.FieldValue) bool {
  906. for _, fv := range row {
  907. if string(fv.FieldName) == col {
  908. sum += toFloat64(fv.Value)
  909. break
  910. }
  911. }
  912. return true
  913. })
  914. return sum, err
  915. }
  916. // Max 流式求最大值 (不收集行,扫描过程中维护当前最大值)
  917. func (q *Query) Max(col string) (interface{}, error) {
  918. ft := q.fieldTypeOf(col)
  919. var maxVal interface{}
  920. err := q.scan(func(row []types.FieldValue) bool {
  921. for _, fv := range row {
  922. if string(fv.FieldName) == col {
  923. if maxVal == nil || compareFieldValues(fv.Value, maxVal, ft) > 0 {
  924. maxVal = fv.Value
  925. }
  926. break
  927. }
  928. }
  929. return true
  930. })
  931. return maxVal, err
  932. }
  933. // Min 流式求最小值 (不收集行,扫描过程中维护当前最小值)
  934. func (q *Query) Min(col string) (interface{}, error) {
  935. ft := q.fieldTypeOf(col)
  936. var minVal interface{}
  937. err := q.scan(func(row []types.FieldValue) bool {
  938. for _, fv := range row {
  939. if string(fv.FieldName) == col {
  940. if minVal == nil || compareFieldValues(fv.Value, minVal, ft) < 0 {
  941. minVal = fv.Value
  942. }
  943. break
  944. }
  945. }
  946. return true
  947. })
  948. return minVal, err
  949. }
  950. func toFloat64(v interface{}) float64 {
  951. switch val := v.(type) {
  952. case float64:
  953. return val
  954. case float32:
  955. return float64(val)
  956. case uint64:
  957. return float64(val)
  958. case int64:
  959. return float64(val)
  960. case int:
  961. return float64(val)
  962. case int8:
  963. return float64(val)
  964. case int16:
  965. return float64(val)
  966. case int32:
  967. return float64(val)
  968. case byte:
  969. return float64(val)
  970. case bool:
  971. if val {
  972. return 1
  973. }
  974. return 0
  975. case types.Decimal:
  976. // 近似: decimal → float64 会失真, 但 Sum/Avg 的返回值类型就是 float64。
  977. // 需要精确求和的金额场景请用 Decimal.Add 自行累加。
  978. return val.Float64()
  979. case *big.Int:
  980. if val == nil {
  981. return 0
  982. }
  983. f, _ := new(big.Float).SetInt(val).Float64()
  984. return f
  985. }
  986. return 0
  987. }