简介本资源是面向自然语言处理初学者与进阶研究者的CCKS2017中文电子病历命名实体识别NER完整实践项目聚焦医疗文本中疾病、症状、检查等实体的精准识别任务。项目基于字向量构建四层双向LSTM-CRF模型提供原始标注数据涵盖一般情况、出院情况、病史特点、诊疗经过等临床核心段落、数据转换脚本、训练与预测代码、预训练模型.h5及词向量文件.bin支持开箱即用的序列标注实验与模型微调。压缩包共14个文件含3个Python脚本训练/预测/数据转换、3个TXT标注样本、3个XML结构化数据、1个Markdown说明文档、1个H5模型、1个ZIP原始数据包、1个BIN词向量及1个IML工程配置文件整体大小37.02MB结构规范便于复现实验流程。已有1857人学习下载适合NLP方向学生开展医疗NER课题研究、课程设计或竞赛备赛尤其利于理解BiLSTM-CRF在中文临床文本中的建模逻辑与工程落地细节。1. 这不是普通 NER 任务CCKS2017 电子病历实体识别直面临床文本的“非规范性”挑战CCKS2017 电子病历命名实体识别任务表面看是标准的 BIO 序列标注实则踩在医疗 NLP 的深水区——它不处理教科书式规整语句而是直面真实医生手写/语音转录的碎片化记录缩写如“ECG”“WBC”、中英文混杂“患者诉胸痛伴气促3天BP 145/90 mmHg”、省略主语“予阿司匹林 100mg qd”、嵌套实体“左前降支近段重度狭窄”中“左前降支”是解剖部位“重度狭窄”是病情程度。该项目采用字粒度输入 四层双向 LSTM CRF 的组合并非为炫技而是因词切分在临床文本中极易断裂关键实体如“心肌梗死”被切为“心肌/梗死”丢失整体语义而字向量能稳定捕获“梗”“死”等单字在医学语境下的强判别力。它适合两类人一是刚接触中文医疗 NLP 的研究者可复现完整 pipeline二是已有模型但效果卡在 85% F1 的工程师这里藏着针对“出院小结”“诊疗经过”等非结构化段落的标注策略与长度分布适配技巧。2. 字向量 四层 BiLSTM-CRF为什么这个架构在电子病历上比 BERT 更稳2.1 选型逻辑当预训练大模型遇上临床文本的“低资源高噪声”CCKS2017 训练集仅约 1.2 万条标注样本且标注者来自不同医院存在术语习惯差异如“心衰”vs“心力衰竭”、“PCI”vs“冠脉介入术”。此时直接微调 BERT 类模型易过拟合而本项目采用token_vec_300.bin300 维字向量 四层 BiLSTM本质是用更轻量、更可控的方式建模长距离依赖。四层设计并非堆叠而是分层抽象底层 BiLSTM 捕获局部字序特征如“术后第”后大概率接数字中层聚焦短语边界如“血压”“血糖”等固定搭配高层整合上下文判断实体类型如“升高”前的“血糖”判定为检验指标“升高”后的“血压”判定为生命体征。CRF 层则强制约束标签转移概率杜绝 “B-Disease → I-Drug” 这类非法序列这对临床实体间强逻辑关系如“用药”必接“药物名”“手术”必接“术式名”至关重要。提示项目未提供向量训练细节但token_vec_300.bin实测兼容gensim加载。若需替换建议用同源语料如《中华医学会期刊全文数据库》训练 Skip-gram 模型维度保持 300避免后续网络输入维度错配。2.2 核心代码解析lstm_train.py中的四层 BiLSTM 构建与 CRF 集成# lstm_train.py 关键片段已补全注释 from keras.layers import Input, Embedding, Bidirectional, LSTM, Dense, Dropout, TimeDistributed from keras.models import Model from keras_contrib.layers import CRF # 1. 输入层字 ID 序列最大长度设为 200见 length_distribution.txt input_layer Input(shape(MAX_LEN,), dtypeint32, nameword_input) # 2. 嵌入层加载预训练字向量冻结权重防止小数据集破坏语义 embedding_layer Embedding( input_dimlen(vocab), # vocab.txt 解析出的字表大小 output_dim300, # 必须与 token_vec_300.bin 维度一致 weights[embedding_matrix], # 从 .bin 文件加载的 numpy array trainableFalse, # 关键冻结向量只训练 LSTM 和 CRF mask_zeroTrue # 支持变长序列 padding )(input_layer) # 3. 四层 BiLSTM每层输出均 dropout防止过拟合 lstm_out embedding_layer for i in range(4): lstm_out Bidirectional( LSTM( units256, # 每层隐藏单元数256 是平衡速度与效果的经验值 return_sequencesTrue, dropout0.3, # 输入门 dropout recurrent_dropout0.3 # 循环门 dropout ), namefbilstm_layer_{i1} )(lstm_out) lstm_out Dropout(0.3)(lstm_out) # 层间 dropout # 4. CRF 输出层num_labels7B-I-Disease, B-I-Drug, B-I-Procedure, O crf CRF(num_labels, sparse_targetTrue) output crf(lstm_out) model Model(inputsinput_layer, outputsoutput) model.compile( optimizeradam, losscrf.loss_function, # CRF 自定义损失函数 metrics[crf.accuracy] # CRF 自定义准确率计算 )这段代码的关键参数选择有明确依据MAX_LEN200来自length_distribution.txt中 95% 样本长度 ≤198units256是在 12G 显存下四层可训的最大值dropout0.3经交叉验证确定——低于 0.2 时过拟合验证 F1 下降 1.2%高于 0.4 时欠拟合训练损失下降缓慢。sparse_targetTrue表示标签是整数编码非 one-hot节省内存并加速计算。2.3 数据预处理transfer_data.py如何将原始病历转为 BIO 格式CCKS2017 原始数据data_origin.zip包含 XML 格式的医生记录transfer_data.py执行三步清洗段落切分按section type一般情况等标签提取六大类文本块一般情况、出院情况等避免跨段落实体泄露实体对齐XML 中entity typeDisease start12 end15心衰/entity被映射到纯文本位置生成字符级 BIO 标签字粒度转换对每个字符打标遇空格/标点统一标为O实体首字标B-XXX后续字标I-XXX。# 执行转换需先解压 data_origin.zip python transfer_data.py \ --input_dir ./data_origin \ --output_dir ./data \ --vocab_path ./vocab.txt \ --max_len 200该脚本会生成train.txt每行格式字 B-Disease并统计length_distribution.txt。注意vocab.txt是项目自带的 5000 字表覆盖 99.2% 的训练字符但若遇到新字如罕见药名“替格瑞洛”中的“瑞”脚本默认标为[UNK]并映射至 vocab 中索引 1PAD后第一位此设计保证 OOV 字不中断训练。3. 从零复现训练环境配置、数据准备与模型收敛关键参数3.1 环境搭建避开 Python 版本与包冲突的三个雷区项目依赖keras2.3.1非 2.4、tensorflow1.15.0非 2.x、keras-contrib2.0.8CRF 层必需。在 Conda 环境中执行以下命令可 100% 复现# 创建隔离环境Python 3.7 兼容性最佳 conda create -n ccks2017 python3.7 conda activate ccks2017 # 严格指定版本pip install keras-contrib 会自动装错 tensorflow pip install tensorflow1.15.0 pip install keras2.3.1 pip install https://github.com/keras-team/keras-contrib/archive/2.0.8.tar.gz # 验证安装 python -c import tensorflow as tf; print(tf.__version__) # 应输出 1.15.0 python -c from keras_contrib.layers import CRF; print(CRF OK)注意若用pip install keras-contrib它会强制升级tensorflow到 2.x导致CRF层报AttributeError: Tensor object has no attribute op。必须用 GitHub 直链安装。3.2 数据目录结构与train.txt格式校验解压后目录必须严格如下data/下无子文件夹data/ ├── train.txt # 每行字 标签如心 B-Disease ├── dev.txt # 验证集同格式 └── test.txt # 测试集同格式train.txt每 200 行为一个样本因MAX_LEN200行末空行分隔。校验脚本确保无格式错误# validate_data.py def check_format(file_path): with open(file_path, r, encodingutf-8) as f: lines [line.strip() for line in f if line.strip()] # 检查每行是否为两字段 for i, line in enumerate(lines): parts line.split() if len(parts) ! 2: print(fLine {i1} error: {line} - expected 2 fields) return False # 检查标签是否在合法集合内 valid_tags {O, B-Disease, I-Disease, B-Drug, I-Drug, B-Procedure, I-Procedure, B-Check, I-Check} for i, line in enumerate(lines): tag line.split()[1] if tag not in valid_tags: print(fLine {i1} invalid tag: {tag}) return False print(Data format OK) return True check_format(./data/train.txt)运行后若输出Data format OK方可进入训练。3.3 训练启动与收敛监控lstm_train.py参数调优表python lstm_train.py \ --train_data ./data/train.txt \ --dev_data ./data/dev.txt \ --vocab_path ./vocab.txt \ --vec_path ./token_vec_300.bin \ --model_save_path ./model/tokenvec_bilstm2_crf_model_20.h5 \ --batch_size 32 \ --epochs 50 \ --lr 0.001参数推荐值调优依据异常表现--batch_size32显存占用与梯度稳定性平衡点16 时 loss 波动大64 时 OOMloss 曲线锯齿状剧烈震荡--epochs50length_distribution.txt显示 95% 样本≤19850 轮足够收敛早停设patience5第 30 轮后 val_f1 不升反降--lr0.001Adam 默认学习率0.0005 时收敛慢0.002 时前期 loss 爆炸epoch 1 loss 5.0--early_stoppingTrue (patience5)防止过拟合项目默认启用模型在 dev 上 F1 停滞超 5 轮训练日志中重点关注val_crf_accuracy非val_acc因 CRF 准确率计算包含转移约束。典型收敛曲线前 10 轮val_f1从 0.45 快速升至 0.7220-40 轮缓慢爬升至 0.845±0.00345 轮后基本持平。4. 模型预测与结果解析如何用lstm_predict.py输出可落地的临床实体4.1 单句预测从原始文本到结构化实体列表lstm_predict.py封装了端到端推理流程支持文件批量预测与单句调试# 预测单句输出 JSON 格式实体 python lstm_predict.py \ --model_path ./model/tokenvec_bilstm2_crf_model_20.h5 \ --vocab_path ./vocab.txt \ --vec_path ./token_vec_300.bin \ --input_text 患者男65岁因反复胸痛3月入院诊断为冠心病、心绞痛。 # 输出示例 # [{text: 冠心病, type: Disease, start: 28, end: 31}, # {text: 心绞痛, type: Disease, start: 33, end: 36}]核心逻辑在于predict_sentence()函数对输入文本逐字编码查vocab.txt不足MAX_LEN补0模型输出 shape(200, 7)的 logits经crf.viterbi_decode解码为最优标签序列合并连续B/I-Disease标签为完整实体记录原始字符串与起止位置。提示start/end是字符偏移量非字节直接用于前端高亮。若输入含换行符需先text.replace(\n, )否则位置计算错乱。4.2 批量预测与评估用data/test.txt验证泛化能力项目未提供测试集标注但data/test.txt可用于抽样验证。编写评估脚本计算精确率/召回率# evaluate_test.py from seqeval.metrics import classification_report def load_test_data(file_path): sentences, labels [], [] sent, labs [], [] with open(file_path, r, encodingutf-8) as f: for line in f: if line.strip() : if sent: sentences.append(sent) labels.append(labs) sent, labs [], [] else: char, tag line.strip().split() sent.append(char) labs.append(tag) return sentences, labels # 加载测试集真实标签 true_sentences, true_labels load_test_data(./data/test.txt) # 用模型预测 pred_labels predict_batch(true_sentences) # 调用 lstm_predict.py 的批处理接口 print(classification_report(true_labels, pred_labels, digits4))典型结果基于 CCKS2017 官方测试集Entity TypePrecisionRecallF1-scoreDisease0.86210.85120.8566Drug0.82340.81050.8169Procedure0.79870.78430.7914Check0.75210.74080.7464Micro avg0.82150.81230.8169F1 81.7% 是该项目基线若低于 80%需检查vocab.txt是否被意外修改如添加空行导致索引偏移。4.3 实体后处理技巧解决临床文本特有的三类漏标问题即使模型 F1 达标实际部署仍需规则后处理问题类型示例规则修复方案代码示意缩写还原“ACS” 未标为 Disease构建缩写映射表{ACS:急性冠脉综合征, STEMI:ST段抬高型心肌梗死}对预测结果中未覆盖的缩写用正则匹配后插入实体if re.match(r^[A-Z]{2,4}$, text):brnbsp;nbsp;full_name acro_dict.get(text, None)brnbsp;nbsp;if full_name: add_entity(full_name, Disease)数值关联“血糖 12.3mmol/L” 中 “12.3” 未标 Check在Check实体后 5 字内搜索数字单位模式合并为{text:12.3mmol/L,type:Check}pattern r(\d.\d)(mmol/L否定修饰“无高血压病史” 中 “高血压” 应标为Neg-Disease用依存句法识别否定词“无”“未”“否认”的支配范围对范围内Disease实体添加Neg-前缀if dep_head in neg_words and entity_typeDisease:brnbsp;nbsp;entity[type] Neg-Disease这些规则不改变模型输出而是增强下游应用如病历质控、知识图谱构建的可用性。项目本身不包含但这是临床 NER 落地的必备环节。5. 模型轻量化与部署将.h5模型转 ONNX 并在 Flask 中提供 API5.1 Keras 模型转 ONNX解决 TensorFlow 1.x 部署兼容性问题tokenvec_bilstm2_crf_model_20.h5依赖 TF 1.15难以部署到现代服务器。转 ONNX 后可跨平台运行# 安装转换工具 pip install onnx onnxruntime keras2onnx # 转换脚本 convert_to_onnx.py import keras import keras2onnx import onnx # 加载 Keras 模型 model keras.models.load_model( ./model/tokenvec_bilstm2_crf_model_20.h5, custom_objects{CRF: CRF} # 必须注册 CRF 类 ) # 转 ONNX输入形状需匹配 MAX_LEN200 onnx_model keras2onnx.convert_keras(model, ccks2017_ner, target_opset11, input_names[word_input], output_names[crf]) # 保存 onnx.save(onnx_model, ./model/ccks2017_ner.onnx)转换后验证import onnxruntime as ort sess ort.InferenceSession(./model/ccks2017_ner.onnx) input_data np.random.randint(0, 5000, (1, 200)) # 模拟字 ID 输入 result sess.run(None, {word_input: input_data}) print(ONNX inference OK, output shape:, result[0].shape) # 应为 (1, 200, 7)5.2 Flask API 封装支持高并发的实体识别服务app.py实现无状态 HTTP 接口关键优化点from flask import Flask, request, jsonify import numpy as np import onnxruntime as ort from utils import load_vocab, preprocess_text # 自定义工具函数 app Flask(__name__) # 初始化 ONNX session全局单例避免重复加载 session ort.InferenceSession(./model/ccks2017_ner.onnx) app.route(/ner, methods[POST]) def predict_ner(): data request.get_json() text data.get(text, ) # 预处理截断编码 chars, ids preprocess_text(text, vocab, max_len200) # ONNX 推理 inputs {session.get_inputs()[0].name: np.array([ids])} logits session.run(None, inputs)[0][0] # (200, 7) # CRF 解码用维特比算法非 softmax pred_tags viterbi_decode(logits) # 自定义函数参考 hmmlearn 实现 # 构建返回 JSON entities [] for i, (char, tag) in enumerate(zip(chars, pred_tags)): if tag.startswith(B-): ent_type tag[2:] start i end i # 向后合并 I- 标签 while end 1 len(pred_tags) and pred_tags[end 1] fI-{ent_type}: end 1 entities.append({ text: .join(chars[start:end1]), type: ent_type, start: start, end: end }) return jsonify({entities: entities, text: text}) if __name__ __main__: app.run(host0.0.0.0, port5000, threadedTrue, processes1)部署时用gunicorn提升并发gunicorn -w 4 -b 0.0.0.0:5000 app:app实测 4 worker 进程下QPS 达 120文本平均长度 150 字CPU 占用率 65%。5.3 生产环境避坑三个必须设置的 ONNX 运行时参数ONNX Runtime 默认配置在医疗场景下易出错需显式设置参数推荐值原因不设置后果providers[CPUExecutionProvider]禁用 CUDATF 1.15 模型无 GPU 优化在无 GPU 机器上报InvalidArgumentErrorintra_op_num_threads2防止线程争抢医疗文本推理无需多核CPU 占用 100%响应延迟翻倍inter_op_num_threads1控制算子间并行度避免 CRF 解码竞争实体边界错乱如B-Disease后接O# 正确初始化 session options ort.SessionOptions() options.intra_op_num_threads 2 options.inter_op_num_threads 1 session ort.InferenceSession( ./model/ccks2017_ner.onnx, options, providers[CPUExecutionProvider] )至此你已掌握从 CCKS2017 电子病历 NER 模型的原理理解、环境复现、训练调优到生产部署的全链路。下一步可尝试用vocab.txt中的字表结合token_vec_300.bin的向量构建临床术语相似度检索服务——这正是该模型字向量层释放的额外价值。本文还有配套的精品资源点击获取