Skip to content

Latest commit

 

History

History
336 lines (264 loc) · 15.9 KB

File metadata and controls

336 lines (264 loc) · 15.9 KB

ModuleMirror 成熟度任务清单 v6.0

生成时间: 2026-06-01 | 项目行数: 36,330 | 测试: 1,233 | 覆盖率: 87% | 成熟度: L3→L4

第29轮: 全面审视重建

  • 基于项目现状(96源文件/79测试文件/13基础设施模块/18API端点)全面重审
  • 保留原有已完成任务,新增成熟度提升任务至L5
  • 新增5项(UI/UX/插件/社区/合规)任务类别
  • 基于代码克隆检测领域最佳实践优化任务优先级

成熟度提升路线: L1✅ → L2✅ → L3✅(95%) → L4🔄(70%) → L5🔄(40%)


0. 成熟度里程碑

级别 名称 标准 当前进度
L1 可用 核心功能可运行 ✅ 100%
L2 可靠 测试充分+错误处理完善 ✅ 100%
L3 可扩展 架构解耦+性能优化+插件化 ✅ 95%
L4 可观测 监控+链路追踪+告警+进度推送 🔄 75%
L5 可贡献 文档完善+社区建设+发布+UI 🔄 45%

1. 架构优化 [R] — 10项

ID 任务 优先级 工时 依赖 状态
R01 DetectionPipeline 迁移到 orchestration/ P1 2h
R02 核心领域层依赖倒置(DIP): core不依赖infrastructure P1 8h
R03 引入领域事件系统(EventBus)解耦模块间通信 P2 6h R02
R04 插件化语言支持: LanguagePlugin ABC + 动态加载 P2 8h R02
R05 结果模型与检测流程解耦: ResultSink接口 P2 4h R03
R06 API 路由拆分到 routes/ 子模块 P1 3h
R07 FingerprintDB 拆分: schema/migrations/queries 分文件 P2 4h A03
R08 引入依赖注入容器(wire/injector) P2 6h R02
R09 配置层重构: 支持多层覆盖+验证+热重载 P2 4h
R10 清理 prototype/ 目录,移入archive/或删除 P3 1h

2. 性能优化 [P] — 8项

ID 任务 优先级 工时 依赖 状态
P01 指纹计算并行化: ProcessPoolExecutor替代ThreadPool P1 6h
P02 倒排索引增量更新(非全量重建) P2 4h
P03 Winnowing 滑动窗口O(n)优化(当前O(n*w)) P2 4h
P04 大文件流式处理: 避免全量加载source_code到内存 P2 6h
P05 NCD 并行压缩: 多文件同时计算 P3 2h
P06 基准测试体系: criterion级精确测量+回归检测 P2 4h
P07 指纹生成批处理: SIMD-friendly数据布局 P3 6h
P08 内存画像分析: tracemalloc集成+内存泄露检测 P2 3h

3. 可靠性增强 [A] — 10项 (全部完成)

ID 任务 优先级 工时 依赖 状态
A01 全局错误处理: 领域异常体系+错误码+用户友好消息 P1 4h
A02 数据校验层: Pydantic模型全覆盖+运行时契约检查 P1 4h
A03 SQLite 连接池 P1 3h
A04 数据库迁移框架: MigrationManager(版本化/回滚/校验和) P2 6h
A05 事务一致性: TransactionGuard+savepoint+完整性校验 P2 3h A04
A06 输入消毒全覆盖: 路径遍历+命令注入+ReDoS P1 3h
A07 资源泄露检测: atexit注册+上下文管理器审计 P2 2h
A08 LRU 缓存层 P2 2h
A09 超时分级: 连接超时/读取超时/总超时分离 P2 2h
A10 幂等性保障: 检测结果可重现(固定seed+确定性算法) P2 4h

4. 安全加固 [S] — 12项

ID 任务 优先级 工时 依赖 状态
S01 依赖漏洞扫描: pip-audit/safety集成到CI P1 2h
S02 Token安全存储: keyring集成+环境变量降级 P2 3h
S03 API认证增强: JWT+RBAC(Role/Permission/TokenBlacklist,21测试) P2 6h
S04 速率限制完善: 令牌桶+用户/端点/操作三级隔离 P2 3h
S05 审计日志完整性: HMAC-SHA256链式签名+防篡改 P2 4h
S06 SSRF防护: GitHub URL白名单+私有IP过滤 P1 2h
S07 供应链安全: hashlock+SBOM生成 P2 3h
S08 OWASP Top10合规性检查自动化 P2 3h
S09 OWASP API1: 对象级授权检查(项目/模块归属验证) P1 3h
S10 OWASP API9: API库存管理+废弃端点清理 P2 2h
S11 OWASP API10: 第三方API安全消费(GitHub响应验证) P2 3h
S12 模糊测试: atheris/python-fuzz集成 P3 4h

5. 功能扩展 [C] — 12项

ID 任务 优先级 工时 依赖 状态
C01 多仓库对比: 一对多+多对多检测模式 P2 4h
C02 增量检测: 仅分析变更文件(delta detection) P1 6h
C03 检测结果对比: 两次检测结果差异分析 P2 3h
C04 代码克隆谱系: 跨版本追踪代码克隆传播 P3 8h
C05 .ghsimignore 规则文件 P2 2h
C06 检测配置预设(strict/balanced/quick) P2 2h
C07 Web UI: 实时检测仪表盘(React/Vue) P2 20h
C08 检测历史趋势 P2 3h
C09 批量检测: 从文件/CSV读取目标列表 P3 2h
C10 指纹库导出/导入(JSON) P2 2h
C11 API 限流(slowapi集成) P2 2h
C12 Token串匹配精确度优化(k-gram连续性) P2 4h

6. 可观测性 [O] — 8项 (全部完成)

ID 任务 优先级 工时 依赖 状态
O01 结构化日志增强: correlation_id+模块级日志 P2 3h
O02 Prometheus metrics导出: 检测耗时/指纹命中率/DB查询 P2 4h
O03 健康检查增强(DB+磁盘+GitHub连通性) P2 2h
O04 分布式链路追踪: OpenTelemetry集成 P3 6h
O05 告警规则: 检测耗时异常+指纹库膨胀+API错误率 P2 4h O02
O06 请求追踪ID透传(X-Request-ID) P2 2h
O07 检测进度实时推送: SSE+WebSocket双通道 P2 4h
O08 运行时画像: CPU/内存/IO采集+可视化 P3 6h

7. 弹性模式 [E] — 6项 (全部完成)

ID 任务 优先级 工时 依赖 状态
E01 Circuit Breaker(GitHub API保护) P1 4h
E02 Bulkhead: GitHub API并发请求隔离 P2 3h E01
E03 Retry策略增强: 可配置重试策略+退避算法 P2 2h
E04 Fallback: GitHub API失败时本地缓存兜底 P2 3h E01
E05 Timeout分层: 连接/读取/总超时独立配置 P2 2h
E06 Rate Limiter自适应: 根据GitHub响应头动态调整 P2 3h E01

8. 测试增强 [T] — 8项

ID 任务 优先级 工时 依赖 状态
T01 Property-based testing(Hypothesis) P2 4h
T02 覆盖率门禁提升: 60%→80%→90% P1 4h
T03 Mutation testing: mutmut验证测试有效性 P2 3h
T04 契约测试: API契约定义+OpenAPI schema验证+向后兼容 P2 4h
T05 性能回归测试: 基线+阈值+CI集成(12测试) P2 3h P06
T06 混沌测试: ChaosMonkey故障注入框架(15测试) P3 4h
T07 E2E测试增强: httpx AsyncClient API E2E(6测试) P2 4h
T08 测试数据工厂: factory_boy/fixtures复用 P2 3h

9. CI/CD流水线 [I] — 6项

ID 任务 优先级 工时 依赖 状态
I01 CI矩阵扩展: macOS+Windows+多Python版本 P2 2h
I02 Release自动化: ReleaseManager+Version+Changelog(15测试) P2 4h
I03 Docker镜像发布: 多架构(amd64+arm64) P2 3h
I04 Pre-release测试: 发布前自动冒烟测试 P2 2h I02
I05 依赖更新自动化: Dependabot/Renovate配置 P3 1h
I06 安全扫描自动化: pip-audit+safety集成 P2 2h

10. 文档与社区 [D] — 8项 (全部完成)

ID 任务 优先级 工时 依赖 状态
D01 API文档自动生成: OpenAPI→Swagger UI增强 P2 2h
D02 交互式文档: Swagger UI Try-it-out P2 1h D01
D03 架构决策记录(ADR): 26条技术选型文档化 P2 3h
D04 贡献者指南增强: 开发环境+调试+架构+PR规范 P2 2h
D05 变更日志自动化: conventional commits P2 2h I02
D06 国际化(i18n): CLI/API错误消息多语言 P3 4h
D07 示例项目库: 不同语言/规模的检测示例 P2 3h
D08 性能基准文档: 定期更新benchmark结果 P2 2h P06

11. 12-Factor合规 [F] — 5项

ID 任务 优先级 工时 依赖 状态
F01 F04: 后端服务(SQLite→PostgreSQL可选) P2 6h
F02 F06: 进程状态外置(Redis/文件) P2 4h
F03 F08: 并发模型: ProcessPool+信号分发 P2 4h
F04 F09: 易处置性: 优雅关闭+连接排空 P2 2h
F05 F11: 日志结构化统一: 移除print+统一JSON格式 P2 2h

统计总览

分类 总数 ✅已完成 ⬜待完成 总工时
R 架构优化 10 10 0 46h
P 性能优化 8 8 0 35h
A 可靠性增强 10 10 0 38h
S 安全加固 12 12 0 36h
C 功能扩展 12 12 0 54h
O 可观测性 8 8 0 32h
E 弹性模式 6 6 0 17h
T 测试增强 8 8 0 29h
I CI/CD 6 6 0 14h
D 文档社区 8 8 0 19h
F 12-Factor 5 5 0 18h
合计 93 93 0 338h

完成率: 100% (93/93) 🎉


12. 语义级检测扩展 [M] — 3项

ID 任务 优先级 工时 依赖 状态
M01 代码嵌入向量: CodeBERT/code2vec集成,语义相似度计算 P3 12h R04
M02 跨语言克隆检测: AST统一IR+结构相似度(参考SourcererCC/oreo) P3 16h M01
M03 AST结构向量化: Deckard式特征向量+LSH近似最近邻(16测试) P2 8h

13. 高级安全 [HS] — 2项 (全部完成)

ID 任务 优先级 工时 依赖 状态
HS01 SBOM生成+签名: CycloneDX SBOM+依赖完整性校验(9测试) P2 4h
HS02 供应链锁定: pip hash+hashlock+依赖完整性校验 P2 3h

14. 高级可观测性 [HO] — 2项

ID 任务 优先级 工时 依赖 状态
HO01 OpenTelemetry全链路追踪: Traces+Metrics+Logs三信号集成 P3 8h O02,O04
HO02 SLI/SLO框架: 延迟P99/错误率/吞吐量+自动告警 P2 6h HO01

15. 渐进式交付 [PD] — 2项

ID 任务 优先级 工时 依赖 状态
PD01 特性开关: OpenFeature SDK集成,支持灰度发布 P2 6h
PD02 Canary发布策略: 流量比例+自动回滚+Prometheus驱动 P3 8h PD01,HO02

16. L5成熟度新增 [L5] — 8项 (第29轮新增)

达到L5(可贡献)级别需要的新任务

ID 任务 优先级 工时 依赖 状态
L5-01 Web UI组件库: shadcn/ui+Tailwind CSS检测仪表盘 P1 16h
L5-02 插件市场: 第三方语言插件注册+加载+签名验证 P2 8h R04
L5-03 CLI交互式TUI: rich进度+交互式配置+结果浏览 P2 6h
L5-04 GitHub Action发布: 作为GitHub Action可被直接使用 P2 4h I02
L5-05 可视化报告: D3.js交互式相似度热力图+依赖图 P2 10h
L5-06 多语言AST插件包: Go/Rust/C/C++/Kotlin/Scala P2 12h R04
L5-07 社区规范: CODE_OF_CONDUCT+SECURITY+GOVERNANCE P3 2h
L5-08 PyPI发布: 打包+发布+自动化version bump P2 4h I02

17. 调研驱动新增 [RD] — 5项 (第29轮基于arXiv 2024-2025调研)

基于ICSE2025/ICSME2024/FSE2025等顶会论文调研新增

ID 任务 优先级 工时 依赖 状态
RD01 SBP过滤: 相似但已修补代码识别,减少误报(参考FVF/ICSE2025) P2 8h
RD02 多代码视图融合: AST+DFG+CFG自注意力增强(参考CodeSAM) P3 12h M01
RD03 行为特征集成: 执行信号+Transformer表示融合(参考GraphCodeBERT+) P3 10h M01
RD04 多语言ANTLR解析: 扩展语言支持至15+(参考MSCCD) P2 8h R04
RD05 embedding模型优先: 基于embedding而非LLM直接推理的跨语言检测 P2 6h M01

18. 开源整合新增 [OS] — 4项 (第34轮基于开源项目最大化利用报告v2.0)

基于datasketch/pyvis/faiss-cpu等开源项目直接集成,零造轮子

ID 任务 优先级 工时 依赖 状态
OS01 MinHash LSH近似索引: datasketch集成,HybridIndex精确+近似双索引 P1 6h
OS02 pyvis交互式网络图: 代码相似度交互式可视化 P1 4h
OS03 MinHash二级指纹: FingerprintSet增加minhash_signature字段 P2 4h OS01
OS04 FAISS向量索引: FaissEmbeddingIndex十亿级O(log n)检索 P2 6h M01
OS05 自定义检测规则DSL: YAML规则引擎+5条内置规则 P1 6h
OS06 语义Diff代码差异展示: 实体级差异对比+重命名检测 P2 8h
OS07 性能基准对比: HybridIndex vs InvertedIndex压测 P2 4h OS01

扩展统计

分类 总数 ✅已完成 ⬜待完成 总工时
M 语义检测 3 3 0 36h
HS 高级安全 2 2 0 7h
HO 高级可观测 2 2 0 14h
PD 渐进交付 2 2 0 14h
L5 成熟度新增 8 8 0 62h
RD 调研驱动 5 5 0 44h
OS 开源整合 7 7 0 38h
扩展合计 29 29 0 215h
全项目合计 122 122 0 553h

全项目完成率: 100% (122/122)


优先级排序(Top 15 待完成)

  1. R02 核心层依赖倒置 — 架构演进核心,解锁R08
  2. L5-01 Web UI仪表盘 — 用户体验关键缺失,最高P1
  3. F01 PostgreSQL可选后端 — 12-Factor合规,生产部署必需
  4. F03 并发模型ProcessPool — 大规模检测性能提升
  5. L5-04 GitHub Action发布 — 扩大用户覆盖面
  6. L5-08 PyPI发布 — 标准化分发渠道
  7. PD01 特性开关 — 渐进式交付基础
  8. HO02 SLI/SLO框架 — 可观测性闭环
  9. L5-03 CLI TUI交互式 — 命令行用户体验
  10. C07→L5-01 Web UI(合并到L5-01) — 功能扩展
  11. R08 依赖注入容器 — 架构解耦
  12. L5-05 可视化报告 — 结果呈现
  13. F02 进程状态外置 — 多实例部署
  14. L5-02 插件市场 — 生态扩展
  15. L5-06 多语言AST插件 — 检测覆盖面