Files
AIclinicalresearch/docs/03-业务模块/DC-数据清洗整理
HaHafeng f01981bf78 feat(dc/tool-c): 完成AI代码生成服务(Day 3 MVP)
核心功能:
- 新增AICodeService(550行):AI代码生成核心服务
- 新增AIController(257行):4个API端点
- 新增dc_tool_c_ai_history表:存储对话历史
- 实现自我修正机制:最多3次智能重试
- 集成LLMFactory:复用通用能力层
- 10个Few-shot示例:覆盖Level 1-4场景

技术优化:
- 修复NaN序列化问题(Python端转None)
- 修复数据传递问题(从Session获取真实数据)
- 优化System Prompt(明确环境信息)
- 调整Few-shot示例(移除import语句)

测试结果:
- 通过率:9/11(81.8%) 达到MVP标准
- 成功场景:缺失值处理、编码、分箱、BMI、筛选、填补、统计、分类
- 待优化:数值清洗、智能去重(已记录技术债务TD-C-006)

API端点:
- POST /api/v1/dc/tool-c/ai/generate(生成代码)
- POST /api/v1/dc/tool-c/ai/execute(执行代码)
- POST /api/v1/dc/tool-c/ai/process(生成并执行,一步到位)
- GET /api/v1/dc/tool-c/ai/history/:sessionId(对话历史)

文档更新:
- 新增Day 3开发完成总结(770行)
- 新增复杂场景优化技术债务(TD-C-006)
- 更新工具C当前状态文档
- 更新技术债务清单

影响范围:
- backend/src/modules/dc/tool-c/*(新增2个文件,更新1个文件)
- backend/scripts/create-tool-c-ai-history-table.mjs(新增)
- backend/prisma/schema.prisma(新增DcToolCAiHistory模型)
- extraction_service/services/dc_executor.py(NaN序列化修复)
- docs/03-业务模块/DC-数据清洗整理/*(5份文档更新)

Breaking Changes: 无

总代码行数:+950行

Refs: #Tool-C-Day3
2025-12-07 16:21:32 +08:00
..

DC - 数据清洗整理

模块代号: DC (Data Cleaning)
开发状态: 规划中
商业价值: 可独立售卖
独立性:
优先级: P1


📋 模块概述

数据清洗整理模块提供专业工具处理医院导出的海量百万行级、多表格的Excel数据。

核心价值: 核心差异化功能,解决医学科研痛点


🎯 核心功能

1. 表格ETL重点

  • 多张Excel表格导入
  • 按"患者ID"和"时间"自动JOIN
  • 重组为干净的分析宽表

2. 文本提取NER重点

  • 从病理报告提取结构化字段
  • 从住院小结提取关键信息
  • TNM分期自动识别

3. 数据质量报告

  • 缺失值统计
  • 异常值检测
  • 数据质量评分

4. 导出标准化数据

  • Excel导出
  • SPSS格式
  • R语言格式

📂 文档结构

DC-数据清洗整理/
  ├── [AI对接] DC快速上下文.md       # ⏳ 待创建
  ├── 00-项目概述/
  │   └── 01-产品需求文档(PRD).md    # ⏳ 待创建
  ├── 01-设计文档/
  │   ├── 01-ETL引擎设计.md          # ⏳ 待创建
  │   └── 02-医学NLP设计.md          # ⏳ 待创建
  └── README.md                       # ✅ 当前文档

🔗 依赖的通用能力

  • LLM网关 - 医学NER提取云端版
  • 文档处理引擎 - Excel/Docx读取
  • ETL引擎 - 数据清洗和转换
  • 医学NLP引擎 - 实体识别(单机版)

🎯 商业模式

目标客户: 临床科室、数据管理员
售卖方式: 独立产品
定价策略: 按项目数或一次性License


⚠️ 技术难点

  1. 大数据处理 - 百万行数据的内存管理
  2. 隐私保护 - 单机版必须100%本地化
  3. NER准确率 - 医学术语复杂

最后更新: 2025-11-06
维护人: 技术架构师