KlineDataFiller 与 KlineDataFillerLazy 说明

KlineDataFiller 与 KlineDataFillerLazy 说明

本文档说明 kline_data_filler.pykline_data_filler_lazy.py 两个模块的差异、在项目中的调用方式,以及为何通用服务与 HYPE 服务使用不同的类。


一、模块关系与技术差异

1.1 角色关系

  • kline_data_filler.py:基类 KlineDataFiller,实现完整的 K 线校验与补充逻辑(连续性校验、窗口长度校验、冷却、拉取并写入等)。
  • kline_data_filler_lazy.py:子类 KlineDataFillerLazy,继承 KlineDataFiller,仅改变「何时、如何创建 Hyperliquid 客户端」,其余逻辑全部复用基类。

1.2 核心区别:Info 的创建时机(Eager vs Lazy)

方面 KlineDataFiller(基类) KlineDataFillerLazy(子类)
初始化策略 立即创建 延迟创建
_init_info() __init__ 里调用,直接 return Info(...) 重写为 return None,启动时不建连接
Info 何时创建 构造时就会建好 Info 第一次调用 fill_missing_datafill_missing_data_precise 时才建

因此:

  • 基类:一 new 出来就会连 Hyperliquid(eager)。
  • Lazy 版:只有第一次真正要补数据时才连(lazy),并带有重试和线程安全。

1.3 Lazy 版独有的行为

  • _ensure_info_initialized():双重检查锁,仅在首次需要时创建 Info;创建失败只打日志、返回 False,不抛异常。
  • 超时配置:基类写死 timeout=30;Lazy 使用配置项 KLINE_FILLER_LAZY_TIMEOUT_MS
  • 线程安全:Lazy 增加 threading.RLock()_exchange_lock),保证多线程下只初始化一次 Info。
  • 重试与降级:在 fill_missing_data_precise / fill_missing_data 中,先循环最多 3 次调用 _ensure_info_initialized(),失败则间隔指数退避再试;若最终 _info 仍为 None,打错误日志并 直接 return 0(跳过本次补充,不抛异常)。

二、在项目中的调用方式

2.1 实时 K 线服务(通过 data_filler_class 注入)

基类 RealtimeKlineServiceBase 在初始化时用配置里的「数据填充器类」创建实例:

# realtime_kline_service_base.py
self.data_filler = self._config.data_filler_class(kline_repo=self.kline_repo)
  • 通用版 RealtimeKlineServicerealtime_kline_service.py

    • 配置中写死使用 KlineDataFiller(立即建连)。
  • HYPE/PURR 专用版 RealtimeKlineServiceHypePurrrealtime_kline_service_hype.py

    • 配置中使用 KlineDataFillerLazy(首次补数时才建连)。

2.2 实时服务内对 data_filler 的调用

realtime_kline_service_base.py_fetch_and_validate_price_data() 中,统一通过 self.data_filler 做校验和补数:

  • 校验validate_continuity()validate_window_length()(基准币种与目标币种各一次)。
  • 补数:若有具体缺失时间点则 fill_missing_data_precise(),否则 fill_missing_data();基准与目标各补一次,补完再重新查库。
  • 统计get_stats() 会出现在服务统计中。

2.3 数据修复(RepairExecutor)

src/utils/data_healing/repair_executor.py仅使用 KlineDataFiller(来自 kline_data_filler.py),不使用 Lazy 版:

  • 查缺口:self.kline_filler.validate_continuity(klines, timeframe)
  • 补 K 线:self.kline_filler.fill_missing_data_precise(symbol, timeframe, missing_timestamps=kline_gaps),对 symbol 与 base_symbol 各补一次。

2.4 调用关系小结

调用方 使用的类 来源文件 主要调用
RealtimeKlineService(通用) KlineDataFiller kline_data_filler.py validate_continuity、validate_window_length、fill_missing_data_precise、fill_missing_data、get_stats
RealtimeKlineServiceHypePurr(HYPE) KlineDataFillerLazy kline_data_filler_lazy.py 同上(接口一致,仅首次补数时建连)
RepairExecutor(数据自愈) KlineDataFiller kline_data_filler.py validate_continuity、fill_missing_data_precise

三、为何通用版与 HYPE 版使用不同的类?

3.1 技术上的唯一区别

只有一点:Hyperliquid 的 Info 客户端什么时候被创建。

  • RealtimeKlineService(通用):服务一起动就创建 Info(在 Filler 的 __init__ 里)。
  • RealtimeKlineServiceHypePurr(HYPE):第一次需要补数据时才创建(第一次调用 fill_missing_data / fill_missing_data_precise 时)。
  • 若从不补数:通用版仍会建好一个到 MAINNET 的连接;HYPE 版永远不会建这个连接。

除此以外,校验与补数逻辑、冷却、重试等均一致。

3.2 设计原因

  • 通用版(RealtimeKlineService)

    • 订阅大量活跃币种,分析多对关系,数据缺口出现概率高,补数几乎是预期会走到的路径。
    • 使用 eager 的 KlineDataFiller:启动时就建好 Info,若 Hyperliquid 不可用可尽早失败,便于发现部署/网络问题;主引擎多一个常驻连接通常可接受。
  • HYPE 版(RealtimeKlineServiceHypePurr)

    • 仅 HYPE + PURR 两个币种,订阅数少、数据量小,很多时候 K 线已连续,可能很久都不会触发补数
    • 使用 lazy 的 KlineDataFillerLazy
      • 不补数就不建连,减少不必要的 HTTP 连接和资源占用;
      • 适合资源更紧或“能少连就少连”的环境;
      • 首次补数时再建连,建连失败有重试和“跳过本次补数、返回 0”的降级,不影响服务其它逻辑。

结论:两个服务的业务逻辑(校验与补数)相同,差异在于「是否几乎一定会补数、对连接与失败时机的期望」。通用版用“启动就建连”的类,HYPE 版用“按需建连”的类。

Read more

跑步的技巧(滚动落地)

“滚动落地(rolling contact / rolling foot strike)”不是一种教条式的“脚法”,而是一种 让冲击沿着整只脚、整条后链逐级传递的落地机制。 它的核心不是“你先用哪儿着地”,而是: 你的脚落地之后,冲击是不是像轮子一样滚过去,而不是像锤子一样砸下去。 这就是滚动落地的本质。 一、什么叫“滚动落地”? 你可以把它理解成两种完全不同的落地方式: 1. 砸地(撞击式) 脚像锤子一样拍到地上: * 要么后跟先砸 * 要么前掌先戳 * 冲击集中在一个点 * 一个结构瞬间吃掉大部分载荷 结果就是: * 后跟砸 → 膝盖难受 * 前掌戳 → 前脚掌磨烂 * 都不是长跑友好模式 这叫 撞击式着地(impact strike)。 2. 滚地(滚动式) 脚像轮胎一样“滚”过地面: * 不是某一点硬砸 * 而是外侧中足先轻触 * 再向前滚到前掌 * 最后从大脚趾蹬离

By SHI XIAOLONG

AMI的优越性

世界模型(World Models)的具体例子 如下,我按类型分类,便于理解。每类都附带实际实现、演示效果和应用场景。 1. Yann LeCun / Meta 的 JEPA 系列(最直接对应“世界模型”概念) 这些是 LeCun 主张的非生成式抽象预测世界模型代表。 * I-JEPA(Image JEPA,2023) 输入一张图像,模型把不同区域(context 和 target)编码成抽象表示,然后预测 target 的表示(不在像素级别重建)。 例子:给定一张遮挡了部分物体的图片,模型能预测“被遮挡物体的大致位置和属性”,构建对物体持久性和空间关系的理解。 这是一个“原始世界模型”,能学习物理常识(如物体不会凭空消失)。 * V-JEPA / V-JEPA 2(Video JEPA,

By SHI XIAOLONG

什么是:“世界模型(World Models)”

世界模型(World Models) 是人工智能领域的一个核心概念,尤其在 Yann LeCun 等研究者推动的下一代 AI 架构中占据中心位置。它指的是 AI 系统在内部构建的对现实世界的抽象模拟或内部表示,让机器能够像人类或动物一样“理解”物理世界、预测未来、规划行动。 简单比喻 想象你闭上眼睛也能“看到”房间里的物体会如何移动、碰撞或掉落——这就是你大脑里的世界模型。AI 的世界模型就是类似的“数字孪生”(digital twin)或“内部模拟器”:它不是简单记住数据,而是学习世界的动态、因果关系和物理直觉(如重力、物体持久性、遮挡、因果等)。 为什么需要世界模型? 当前主流的大型语言模型(LLM) 擅长处理文本(统计模式预测),但存在根本局限: * 缺乏对物理世界的真正理解 → 容易“幻觉”、无法可靠规划。 * 样本效率低 → 人类/

By SHI XIAOLONG

K线周期可配置化设计方案

K线周期可配置化设计方案 1. 背景与目标 当前 Beta 套利策略的 K 线周期硬编码为 "1h",分散在多个文件中。需要: 1. 将 K 线周期从 1h 改为 2h 2. 提取为环境变量 BETA_ARB_KLINE_INTERVAL,使其可在 .env 中配置 2. 影响范围分析 2.1 需要修改的文件(共 6 个) 文件 硬编码位置 修改内容 src/trading/config.py BetaArbConfig dataclass 新增 kline_interval 字段,

By SHI XIAOLONG