liaozhaorun/ProStock
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
41 Commits 2 Branches 0 Tags
3b42093100f4ef591241ef44bdce2aeddf493fca
Commit Graph

41 Commits

This Branch
This Branch
All Branches
Author SHA1 Message Date
liaozhaorun
3b42093100 feat(data): 财务数据加载与清洗模块 
新增 FinancialLoader 类，提供：
- 财务数据加载与清洗（保留合并报表，按 update_flag 去重）
- 支持 as-of join 拼接行情数据（无未来函数）
- 自动识别财务表并配置 asof_backward 拼接模式
 2026-03-04 23:35:20 +08:00
liaozhaorun
620696c842 refactor: rename src/data/data_router.py to catalog.py 2026-03-04 22:09:53 +08:00
liaozhaorun
af5c96cd53 feat(training): 添加数据过滤器支持及 ST 股票过滤 
- 新增 filters.py 模块，实现 BaseFilter 抽象类和 STFilter 过滤器
- 在 Trainer 中支持 filters 参数，可在股票池筛选之前执行数据过滤
- 更新 training/__init__.py 导出 BaseFilter 和 STFilter
- 在 regression.py 中集成 STFilter，用于过滤 ST 股票
 2026-03-04 21:14:39 +08:00
liaozhaorun
f1687dadf3 feat: 因子引擎字段验证改进、股票池过滤修复及实验模块增强 
1. 因子引擎字段验证改进
   - 新增 SchemaCache.get_all_fields() 方法，返回所有可用字段集合
   - 修改 match_fields_to_tables()，对不存在的字段抛出明确错误
   - 错误信息包含可用字段列表提示，帮助用户检查拼写
2. 股票池过滤修复
   - 修复北交所股票排除逻辑：将识别方式从代码前缀（8/4开头）改为.BJ后缀
   - 更新文档注释，明确北交所股票识别规则
3. 实验模块增强
   - 新增 regression.py 实现回归实验逻辑
   - 新增 output/ 目录存放实验输出结果
 2026-03-03 23:51:08 +08:00
liaozhaorun
192718095f feat(training): 实现训练模块核心组件（commits 6-9） 
- StockPoolManager：每日独立筛选股票池，支持代码过滤和市值选择
- Trainer：整合训练完整流程，支持 processor 分阶段行为和模型持久化
- TrainingConfig：pydantic 配置管理，含必填字段和日期验证
- experiment 模块：预留结构
- 从计划中移除 metrics 组件
- 调整 commit 序号（7-10 → 6-9）
- 更新 training/__init__.py 导出所有公开 API
 2026-03-03 22:57:01 +08:00
liaozhaorun
f35a6a76a6 feat(training): 实现 LightGBM 模型 
- 新增 LightGBMModel：LightGBM 回归模型实现
- 支持自定义参数（objective, num_leaves, learning_rate, n_estimators 等）
- 使用 LightGBM 原生格式保存/加载模型（不依赖 pickle）
- 支持特征重要性提取
- 已注册到 ModelRegistry（@register_model("lightgbm")）
 2026-03-03 22:30:37 +08:00
liaozhaorun
9ca1deae56 feat(training): 实现数据处理器 
- 新增 StandardScaler：全局标准化，训练集学习参数，测试集复用
- 新增 CrossSectionalStandardScaler：截面标准化，每天独立计算
- 新增 Winsorizer：支持全局/截面两种缩尾模式
- 处理器统一遵循 fit/transform 接口，Trainer 可无差别调用
- 添加 17 个单元测试覆盖各种场景
 2026-03-03 22:23:43 +08:00
liaozhaorun
6b63c428d9 feat(training): 实现股票池选择器配置 
- 新增 StockFilterConfig：支持按代码前缀过滤创业板/科创板/北交所
- 新增 MarketCapSelectorConfig：配置市值选择参数（数量、排序、列名）
- 添加参数验证（n>0, 列名非空）
- 在 components 模块导出配置类
- 添加 15 个单元测试覆盖各种场景
 2026-03-03 22:10:36 +08:00
liaozhaorun
f48b307ad2 feat(training): 实现 DateSplitter 数据划分器 
- 新增 DateSplitter 类，支持基于日期范围的一次性训练/测试划分
- 实现日期格式验证和日期范围逻辑检查
- 支持自定义日期列名参数
- 添加完整的单元测试（12个测试用例）
- 在 components 模块导出 DateSplitter
 2026-03-03 22:07:45 +08:00
liaozhaorun
317ecd87e7 feat(data): 封装ST股票列表接口(stock_st) 
- 新增 api_stock_st.py，实现ST股票数据获取和日期遍历同步
- 更新 sync.py，将ST股票同步加入第7步流程
- 移除 base_sync.py 中未使用的 get_last_n_trading_days 导入
 2026-03-03 22:04:22 +08:00
liaozhaorun
472b2b665a feat(training): 添加训练模块基础架构 
实现 Commit 1：训练模块基础架构

新增文件：

- src/training/__init__.py - 主模块导出

- src/training/components/__init__.py - components 子模块导出

- src/training/components/base.py - BaseModel/BaseProcessor 抽象基类

- src/training/registry.py - 模型和处理器注册中心

- tests/training/test_base.py - 基础架构单元测试

功能特性：

- BaseModel: 提供 fit, predict, feature_importance, save/load 接口

- BaseProcessor: 提供 fit, transform, fit_transform 接口

- ModelRegistry/ProcessorRegistry: 支持装饰器风格组件注册

- 支持即插即用的组件扩展机制

Ultraworked with [Sisyphus](https://github.com/code-yeongyu/oh-my-opencode)

Co-authored-by: Sisyphus <clio-agent@sisyphuslabs.ai>
 2026-03-03 21:55:39 +08:00
liaozhaorun
12ddb19b2e feat(factors): 添加 SchemaCache 实现数据库表结构自动扫描 2026-03-03 17:32:58 +08:00
liaozhaorun
53225b9443 feat(data): 添加每日指标接口并优化因子引擎 
- 新增 api_daily_basic.py 封装 Tushare 每日指标接口
- 因子引擎移除 lookback_days，支持 daily_basic 表字段路由
- 将每日指标纳入自动同步流程
- 删除废弃的 training/main.py
 2026-03-03 17:09:39 +08:00
liaozhaorun
780284af7f feat(test): 添加两支股票因子字符串计算测试 
测试基于 Formula Parser + DSL 的字符串因子表达式计算，
包含 return_5、ma5、ma10 等因子及截面排名验证
 2026-03-03 00:15:16 +08:00
liaozhaorun
05d0c90312 feat(factors): 新增公式解析基础组件 
新增公式解析相关模块，支持将字符串表达式解析为 DSL 节点树：
- exceptions.py: 定义公式解析异常体系
  - FormulaParseError 基类，提供位置指示的错误信息
  - UnknownFunctionError 支持模糊匹配建议
  - InvalidSyntaxError、EmptyExpressionError 等具体异常
- parser.py: 基于 Python ast 的公式解析器
  - 支持符号引用、数值常量、二元/一元运算
  - 支持函数调用和比较运算
  - 常量折叠优化
- registry.py: 函数注册表
  - 支持动态注册和查询公式函数
  - 提供可用函数列表和重复注册检查
 2026-03-03 00:04:48 +08:00
liaozhaorun
77e4e94e05 refactor(factors): 拆分 engine.py 为模块化包 
将单文件 engine.py (1064行) 拆分为 engine/ 包：
- 数据规格、路由器、计划器、计算引擎、因子引擎分离
- 保持向后兼容，API 无变化
 2026-03-02 22:29:18 +08:00
liaozhaorun
1c0c4a0de1 fix(factors): 修复 cs_rank 等截面函数在依赖表达式时输出全 null 的问题 2026-03-02 22:21:43 +08:00
liaozhaorun
9b826c1845 feat(factors): 基础行情字段默认从 pro_bar 表获取 
- 修改 Symbol 名称与数据库字段对齐：volume->vol, pct_change->pct_chg
- 修改 ExecutionPlanner._infer_data_specs，将基础行情字段路由到 pro_bar 表
- 支持的基础字段：open, high, low, close, vol, amount, pre_close, change, pct_chg 等
 2026-03-02 20:59:36 +08:00
liaozhaorun
1a6fc2eeba feat(engine): 实现 DataRouter 数据库连接功能 2026-03-02 20:47:01 +08:00
liaozhaorun
e8158a8d59 fix(api_pro_bar): 使用 Tushare 原始字段名 
删除 turnover_rate/volume_ratio 到 tor/vr 的不必要重命名，
直接使用 Tushare API 返回的原始字段名。
 2026-03-02 01:05:15 +08:00
liaozhaorun
b461a4940d refactor(factor): 完成因子框架 DSL 化重构 
- 重构 FactorEngine 实现完整的 DSL 表达式执行链路
- 新增 DataRouter 数据路由器，支持内存模式和核心宽表组装
- 新增 ExecutionPlanner 执行计划生成器，整合编译器和翻译器
- 新增 ComputeEngine 计算引擎，支持并行运算
- 完善 factors/__init__.py 公开 API 导出
- 新增 test_factor_engine.py 引擎单元测试
- 移除旧引擎实现和废弃的 DSL promotion 测试
- 更新 AGENTS.md 添加 v2.2 架构变更历史和 Factors 框架设计说明
 2026-03-01 15:03:56 +08:00
liaozhaorun
84479ee9ff refactor: 将表结构定义从 storage 迁移到各 API 文件 
- 移除 storage.py 集中式建表逻辑，改为各 API 文件自管理
- base_sync.py 新增 ensure_table_exists() 和表探测机制
- api_daily/api_pro_bar/api_bak_basic 添加 TABLE_SCHEMA 定义
- api_financial_sync 添加完整利润表字段定义
- sync.py 更新职责文档，明确仅同步每日更新数据
- AGENTS.md 添加 v2.1 架构变更历史和 AI 行为准则
 2026-03-01 01:24:39 +08:00
liaozhaorun
484bcd0ab7 refactor: 提取数据同步逻辑为抽象基类 
新增 base_sync.py 模块，提供三层抽象结构统一数据同步流程：
- BaseDataSync: 所有同步类型的基础抽象（客户端、股票代码获取、交易日历）
- StockBasedSync: 按股票同步抽象类（适用于 daily, pro_bar）
- DateBasedSync: 按日期同步抽象类（适用于 bak_basic）
 2026-02-27 23:34:12 +08:00
liaozhaorun
0698b9d919 feat: 添加DSL因子表达式系统和Pro Bar API封装 
- 新增 factors/dsl.py: 纯Python DSL表达式层，通过运算符重载实现因子组合
- 新增 factors/api.py: 提供常用因子符号(close/open/high/low)和时序函数(ts_mean/ts_std/cs_rank等)
- 新增 factors/compiler.py: 因子编译器
- 新增 factors/translator.py: DSL表达式翻译器
- 新增 data/api_wrappers/api_pro_bar.py: Tushare Pro Bar API封装，支持后复权行情数据
- 新增 data/data_router.py: 数据路由功能
- 新增相关测试用例
 2026-02-27 22:43:45 +08:00
liaozhaorun
a56433e440 refactor(factor): 完全重构因子计算框架 - 引入DSL表达式系统 
- 删除旧因子框架：移除 base.py、composite.py、data_loader.py、data_spec.py
  及所有子模块（momentum、financial、quality、sentiment等）
- 新增DSL表达式系统：实现 factor DSL 编译器和翻译器
  - dsl.py: 领域特定语言定义
  - compiler.py: AST编译与优化
  - translator.py: Polars表达式翻译
  - api.py: 统一API接口
- 新增数据路由层：data_router.py 实现字段到表的动态路由
- 新增API封装：api_pro_bar.py 提供pro_bar数据接口
- 更新执行引擎：engine.py 适配新的DSL架构
- 重构测试体系：删除旧测试，新增 test_dsl_promotion.py、
  test_factor_integration.py、test_pro_bar.py
- 清理文档：删除8个过时文档（factor_design、db_sync_guide等）
 2026-02-27 22:22:23 +08:00
liaozhaorun
c3c20ed7ea refactor(factor): 计划重构factor模块 2026-02-26 20:38:26 +08:00
liaozhaorun
51578e9af8 refactor(factor): 计划重构factor模块 2026-02-26 20:23:25 +08:00
liaozhaorun
990a77ec6c refactor(training): 重构训练管道，支持灵活因子配置 
- 添加 FactorConfig 类，支持链式 API 和动态因子列表
- 重构 prepare_data 使用 FactorEngine 计算因子，确保防泄露机制生效
- 新增 prepare_data_and_train / train_and_predict 分步执行接口
- 修复 factors/__init__.py docstring 语法错误
 2026-02-25 23:39:02 +08:00
liaozhaorun
a9e4746239 refactor: 代码审查修复 - 日期过滤、性能优化、数据泄露防护 
- 修复 data_loader.py 财务数据日期过滤，支持按范围加载
- 优化 MADClipper 使用窗口函数替代 join，提升性能
- 修复训练日期边界问题，添加1天间隔避免数据泄露
- 新增 .gitignore 规则忽略训练输出目录
 2026-02-25 21:11:19 +08:00
liaozhaorun
593ec99466 refactor: 存储层迁移DuckDB + 模块重构 
- 存储层重构: HDF5 → DuckDB（UPSERT模式、线程安全存储）
- Sync类迁移: DataSync从sync.py迁移到api_daily.py（职责分离）
- 模型模块重构: src/models → src/pipeline（更清晰的命名）
- 新增因子模块: factors/momentum (MA、收益率排名)、factors/financial
- 新增API接口: api_namechange、api_bak_basic
- 新增训练入口: training模块（main.py、pipeline配置）
- 工具函数统一: get_today_date等移至utils.py
- 文档更新: AGENTS.md添加架构变更历史
 2026-02-23 16:23:53 +08:00
liaozhaorun
9f95be56a0 feat(models): 实现机器学习模型训练框架 
- 添加核心抽象：Processor、Model、Splitter、Metric 基类
- 实现阶段感知机制（TRAIN/TEST/ALL），防止数据泄露
- 内置 8 个数据处理器和 3 种时序划分策略
- 支持 LightGBM、CatBoost 模型
- PluginRegistry 装饰器注册，插件式架构
- 22 个单元测试
 2026-02-23 01:37:34 +08:00
liaozhaorun
e58b39970c feat: HDF5迁移至DuckDB存储 
- 新增DuckDB Storage与ThreadSafeStorage实现
- 新增db_manager模块支持增量同步策略
- DataLoader与Sync模块适配DuckDB
- 补充迁移相关文档与测试
- 修复README文档链接
 2026-02-23 00:07:21 +08:00
liaozhaorun
0a16129548 feat(factors): 添加因子计算框架 
- 新增因子基类 (BaseFactor, CrossSectionalFactor, TimeSeriesFactor)
- 新增数据规格和上下文类 (DataSpec, FactorContext, FactorData)
- 新增数据加载器 (DataLoader) 和执行引擎 (FactorEngine)
- 新增组合因子支持 (CompositeFactor, ScalarFactor)
- 添加因子模块完整测试用例
- 添加 Git 提交规范文档
 2026-02-22 14:41:32 +08:00
liaozhaorun
9965ce5706 refactor: 重构 API 接口模块，整合为 api_wrappers 目录结构 
- 将独立 API 模块 (daily, stock_basic, trade_cal) 整合至 api_wrappers/
- 重写 sync.py 使用新的 wrapper 结构，支持更多同步功能
- 更新测试文件适配新的模块结构
- 添加 pytest.ini 配置文件
 2026-02-21 03:43:30 +08:00
liaozhaorun
e81d39ae0d chore: 添加 .opencode 到 gitignore 2026-02-01 23:50:17 +08:00
liaozhaorun
8fc88b60e3 docs: 添加 Tushare API 接口规范文档 2026-02-01 23:50:03 +08:00
liaozhaorun
05228ce9de refactor: 调整项目结构，新增数据同步和交易日历模块 
- 移除 pyproject.toml，改用 uv 管理项目
- 新增 data/* 忽略规则
- 新增数据同步模块 sync.py
- 新增交易日历模块 trade_cal.py
- 新增相关测试用例
- 更新 API 文档
 2026-02-01 04:44:01 +08:00
liaozhaorun
ec08a2578c refactor: 清理代码日志、重构速率限制器、切换存储方案 
- 移除 client.py 和 daily.py 中的调试日志
- 重构 rate_limiter 支持无限超时和更精确的令牌获取
- 变更 stock_basic 存储方案 HDF5 → CSV
- 更新项目规则：强制使用 uv、禁止读取 config/ 目录
- 新增数据同步模块 sync.py 和测试
- .gitignore 添加 !data/ 允许跟踪数据文件
 2026-02-01 02:29:54 +08:00
liaozhaorun
38e78a5326 feat: 新增股票基础数据获取模块 stock_basic 
- 新增 get_stock_basic 和 sync_all_stocks 函数
- 完善 Tushare 数据获取模块体系
- 测试用例重构：从 Mock 改为真实 API 调用
- 更新 API 文档，添加接口使用示例
- 更新开发规范：添加 Mock 使用规范
 2026-01-31 04:30:29 +08:00
liaozhaorun
e625a53162 feat: 初始化 ProStock 项目基础结构和配置 
- 添加项目规则文档（开发规范、安全规则、配置管理）
- 实现数据模块核心功能（API 客户端、限流器、存储管理、配置加载）
- 添加 .gitignore 和 .kilocodeignore 配置
- 配置环境变量模板
- 编写 daily 模块单元测试
 2026-01-31 03:04:51 +08:00
liaozhaorun
f3bb1d8933 init 2026-01-31 00:02:35 +08:00