一、劳动合同关键信息提取介绍

在企业管理和法律事务中，劳动合同的关键信息提取是保障劳动者和雇主权益的重要环节。大模型可以作为合同审查专家，通过训练和设定精确的提取规则，自动识别劳动合同是否包含所有必备条款并提取合同中的关键信息，如工作地点、工作岗位、劳动合同期限、劳动薪资等。

利用大模型进行劳动合同关键信息提取，不仅能够显著提高合同审查的效率和准确性，还能帮助企业更好地管理合同合规性，降低法律风险，同时减少人工审查的成本。如果您的场景与此类似，可以参考下方的精调流程，调试出符合您需求的大模型。

二、难点问题及精调前后对比

对于劳动合同关键信息提取而言，需要大模型能够精准提取需要的关键信息，保证模型输出能够做到以下几点：

• 内容全面准确：按照以下顺序连续输出一段字符串：1、分析是否缺失必备条款；2、分析是否缺失期望提取的关键信息；3、提取的关键信息内容。
• 格式准确无误：只需输出以上三点内容，不用输出顺序号和多余信息，尤其是第3点需要以{"要求提取的关键信息":"你提取的关键信息内容"}的json格式输出。

如果我们直接调用大模型，会发现可能存在如下问题：

• 主要难点问题1：精调前模型的输出可能并不全面或并不准确。该示例在模型精调前的输出内容存在以下问题：1.“是否缺失必备条款”的分析存在错误，该合同缺少部分必备条款，但精调前输出的是“未缺失”；2.输出内容的前两点顺序颠倒；3.提取内容并未按照指定的json和纯数字格式进行输出，应该转化为 "20230401-20230630"，但精调前输出的是"试用期时间为自劳动合同期限起始日起算后的前三个月，具体为自2025-08-04至2025-08-04"。经过微调后的模型解决了问题，输出符合预期。

• 主要难点问题2：精调前模型的输出可能并不能完全遵循指定格式进行输出，且包含顺序号和多余信息。该示例在模型精调前的输出内容存在以下几个问题：1.不包含“是否缺失期望提取关键信息”的分析；2.包含“其他注意事项”和“综上所述”的多余信息；3.提取内容并未按照指定的json格式进行输出。经过精调后的模型解决了问题，输出符合预期。

如若拥有类似场景的训练任务，您可以按照如下流程进行模型精调和应用：

三、模型精调的核心步骤

（一）准备数据

1、“关键信息”示例

根据新劳动合同法规定的必备和约定条款，梳理出如下需要提取的关键信息。

2、生成“合同文本-关键信息”的数据集

以提取“劳动薪资”为例，构建生成{"src":劳动合同,"tgt":关键信息}的Prompt如下：

1你是一个生成劳动合同的专家，你的任务是生成劳动合同。请你按照【要求】和已知信息，生成各行各业的劳动合同，请你发挥你的想象。【要求】：
21.生成的劳动合同格式和【劳动合同格式】一致。
32.内容必须包含【劳动合同必备条款】，生成给出具体的信息。
43.生成的内容对【劳动合同格式】里xx的部分进行不定长度扩写生成和填充，生成的内容可以虚构数字、统一社会信用代码、名称、邮箱和联系方式等！
54.已知生成内容为示例，并非真实合同，不需要输出提醒的话或者注意事项等其他与合同无关信息！
65.以json格式输出:{"src":"|||你生成的劳动合同|||","tgt":["你的分析，是否缺失包含劳动合同必备条款", "你的分析是否有具体的劳动薪资",{"劳动薪资":"提取你生成的劳动合同中的劳动薪资"}]}
7?
8【劳动合同格式】如下：
9甲方（用人单位）
10名称：xxxx
11统一社会信用代码：xxxx
12地址：xxxx
13联系人：xxxx
14联系方式：xxxx
15乙方（劳动者）
16姓名：xxxx
17身份证号码：xxxx
18住所：xxxx
19联系人：xxxx
20联系方式：xxxx
21本合同各方经平等自愿协商，根据《中华人民共和国民法典》《中华人民共和国劳动合同法》及相关法规，签订本合同以共同遵守。
22# 劳动合同期限 #
23本合同为固定期限的劳动合同。
24劳动合同期限：自xxxx年 xx月 xx日起（含当日）至 xxxx年 xx月 xx日（含当日）止。
25试用期：xx个月，自劳动合同期限起始日起算。
26甲方有权对乙方进行试用期考核；试用期考核未通过的，视为不符合录用条件。
27# 工作岗位和工作地点 #
28工作岗位：xxxx。具体工作内容以甲方要求为准。
29工作地点:xxxx。
30甲方在上述工作地点的其他门店、分支机构有需要时，乙方同意服从甲方安排到其他门店或分支机构工作。
31乙方同意，甲方可根据生产经营需要对乙方工作岗位、工作地点进行调整，并相应调整工资标准。
32# 劳动报酬 #
33月工资标准：人民币（大写）xxxx元（￥xxxx元）。
34试用期工资标准：xxx
35甲方于每月xx日左右发放上月工资。
36xxxxxxxxxxx
37# 工作时间、休息休假 #
38乙方所在岗位执行xxxx制；xxxxxxxxxxx
39# 劳动纪律 #
40xxxxxxxxxxx
41# 社会保险和福利待遇 #
42甲方依法为乙方缴纳社会保险。
43xxxxxxxxxxxxxx
44# 其他约定 #
45xxxxxxxxxxxxxx
46# 合同联系方式 #
47xxxxxxxxxxxxxx
48# 附则 #
49xxxxxxxxxxxxxx
50?
51【劳动合同必备条款】如下：
52（一）用人单位的名称、住所和法定代表人或者主要负责人；
53（二）劳动者的姓名、住址和居民身份证或者其他有效身份证件号码；
54（三）劳动合同期限；
55（四）工作内容和工作地点;
56（五）工作时间和休息休假；
57（六）劳动报酬；
58（七）社会保险；
59（八）劳动保护、劳动条件和职业危害防护；
60（九）法律、法规规定应当纳入劳动合同的其他事项。

（1）对于各类所需提取的“关键信息”种类，只需要对Prompt中【要求】的第5条内容针对性做出替换，即可得到生成对应{"src":劳动合同,"tgt":关键信息}的Prompt，并以此对每个关键信息生成150条数据，其中劳动合同包含所有必备条款。对应替换列表如下：

（2）把【要求】中的第2条换成概率缺失部分条款 ，对每个关键信息都生成100条数据。

12.内容包含【劳动合同必备条款】全部条款的概率为80%，包含部分多条的概率为20%，生成给出具体的信息。

注意：经过以上两个步骤，共计对每个关键信息生成的初始数据大概是250条左右。

3、构造调优数据

数据格式：本实验采用SFT调优方式，需要使用Prompt+Response数据格式。

• Prompt：预设情景（信息提取智能助手）+汇报内容要求+合同文本+需提取的关键信息。
• Response：第2步生成“合同文本-关键信息”数据集中的“tgt”内容。

1[{
2    "prompt": "你是一个从合同中提取关键信息的智能助手。你的任务是分析【合同文本】并提取【关键信息】。\n你需要向我汇报的内容是：\n1.汇报合同是否缺失劳动合同必备条款；\n2.汇报【关键信息】有没有在合同中缺失；\n3.汇报你提取的关键信息，以{\"要求提取的关键信息\":\"你提取的关键信息内容\"}的json格式汇报。\n4.按照上述顺序连续汇报一段字符串，并且不用输出顺序号和任何多余信息。\n下面是你要分析的【合同文本】和要提取的【关键信息】：\n【合同文本】\n    甲方（用人单位）\n名称：明达科技有限公司\n统一社会信用代码：91310105MA1FW7U934\n地址：上海市静安区延安西路666号\n联系人：张明\n联系方式：13800138000\n乙方（劳动者）\n姓名：李华\n身份证号码：340824199001010012\n住所：上海市浦东新区世纪公园路100号\n联系人：李华\n联系方式：13900139000\n本合同各方经平等自愿协商，根据《中华人民共和国民法典》《中华人民共和国劳动合同法》及相关法规，签订本合同以共同遵守。\n# 劳动合同期限 #\n劳动合同期限：自2023年 03月 01日起（含当日）至 2026年 03月 01日（含当日）止。\n# 工作岗位和工作地点 #\n工作岗位：软件工程师。具体工作内容以甲方要求为准。\n工作地点: 上海市静安区延安西路666号明达科技有限公司办公楼。\n# 劳动报酬 #\n月工资标准：人民币（大写）玖仟元（￥9000元）。\n# 工作时间、休息休假 #\n乙方所在岗位执行标准工时制；甲方保障乙方的休息权利，并确保乙方每周至少休息一日。\n# 社会保险和福利待遇 #\n甲方依法为乙方缴纳社会保险。\n# 附则 #\n本合同一式两份，甲、乙双方各执一份，具有同等法律效力。\n\n甲方（盖章）：明达科技有限公司\n乙方（签字）：李华\n签订日期：2025-08-04\n【关键信息】\n劳动合同期限,注意要提取年月日-年月日 的纯数字格式", 
3    "response": [["分析：该合同包含了用人单位和劳动者的基本信息、劳动合同期限、工作岗位和地点、劳动报酬、工作时间和休息制度以及社会保险等关键信息，但缺失了试用期、劳动纪律、劳动保护和职业危害防护等条款。分析：有劳动合同期限。{\"劳动合同期限\": \"20230301-20260301\"}"]]
4}]

4、数据洞察与处理

4.1 数据洞察

当你手头有一份SFT数据集并且要对样本进行深度分析时，数据洞察为您提供了一个多方位诊断、精细化操作的数据集工作台。例如：

• 数据集中部分Prompt或Response的内容过长，存在长尾分布，需要洞察字符数的分布，修改字符数不合理的单条数据
• 数据集中可能存在特殊字符率过高的情况，会影响训练的效果，需要洞察特殊字符率的分布，识别并去除特殊字符率过高的样本
• 数据集样本存在同样的关键词或格式，且样本数据内容不完全正确，需要检索并编辑此类样本构建数据集，用于后续的模型训练
• ......

4.1.1 开启数据洞察

您可对调优数据开启数据洞察，如下是洞察工作台示意：

1. 左侧数据洞察图表区，为您提供每个字段的样本分布信息
2. 右侧数据表格区，为您提供精细化筛选、排序，以及拆分构建数据子集的能力

一般而言，SFT数据集的基本字段包含 ''system" / "prompt" / "response"，该类字段在精调时会参与模型的实际训练。

• 字符数的分布：

可以洞察prompt和response的字符分布，根据需求修改某些字符数不合理的单条数据。例如，通过洞察本次训练数据，发现部分response的内容中分析过长，存在并不需要的长尾分布。希望大模型对合同文本的分析和关键词的提取是较为稳定的长度，更有利于人的阅读和理解，因此最好修改长尾分布的尾巴数据。

因为长尾数据的距离很大，在洞察的柱状图统计中会看到多个段，此时我们也可以使用筛选功能对response筛选。例如，把长尾数据的几个段的开头区间和结尾区间设定一下，能够筛选出8条数据。此外，这里也可以做多条件筛选，用户可以自行探索更丰富更深层次的洞察效果：

对所有response的分析内容进行适当的修改：

所有数据的response修改完之后，response的字符统计分布也发生了变化，不再是一个长尾分布，更接近正态分布。

同理，可以对prompt做一样的数据洞察。

• 特殊字符率的分布：对于prompt，也可以洞察特殊字符率。特殊字符率过高会影响训练的效果，如果过高需要进行修改或者清洗。通过洞察发现，本次训练的数据是劳动合同文本，特殊字符率很低，无需进行修改。同理，可以对response做一样的数据洞察。

• 关键词的检索：当数据中有同样的关键词或者格式存在，可使用检索框。 例如：本次数据中{"试用期时间": ""}应该为{"试用期时间": "无"}，可检索 :"" 符号进行相关操作。

最后，您可以选中不想要的数据执行【删除】/需要的数据执行【另存为】。新的数据集可进一步开展数据清洗、数据增强等处理操作，处理后的数据集可再度开展数据洞察。

4.2 数据增强与数据清洗

• 数据增强：样本较少时，可基于自监督的方式发起数据增强任务。
• 数据清洗：可实现异常清洗、过滤、去重和去隐私过程。

4.3 划分train-eval数据

经过洞察和清洗的过程，共计保存1160条训练数据，按照 0.95:0.05 的比例划分，最终1102条作为训练集，58条作为评估集。

（二）精调模型

1、基础配置

基础模型选择：选择ERNIE Speed模型，该模型是百度自研的文心产业级知识增强大语言模型（高性能版），在理解、生成、逻辑和记忆能力上有显著提升。

基于ERNIE-Speed-8K模型做SFT全量更新实验，参数和训练方法配置如下：

2、评估报告

实验1 评估报告

实验2 评估报告

对于实验1，使用全量训练方法，Epoch=1，Learning Rate=5e-6，发现Loss曲线不断降低且趋于稳定，训练收敛。

对于实验2，使用全量训练方法，继续增加了Learning Rate至1e-5，效果和未调参数前基本一致。由于该任务是一项开放式生成任务，PPL下降到2左右是表示训练较好的一个经验值，因此后续效果评估可直接在实验1参数配置状态下进行。

实验3 评估报告

实验4 评估报告

对于实验3，使用LoRA训练方法，和实验1保持一致的参数，可以看到Loss和Perplexity几乎没有下降，属于欠拟合，需要增大学习率Learning Rate。

对于实验4，使用LoRA训练方法，调整到一个很大的Learning Rate=1e-4，可以看到Loss稳定下降，训练收敛。

3、效果评估

3.1 规则打分对比精调前和精调后的效果

3.2 人工打分对比精调前和精调后的效果

评估规则：在劳动合同关键信息提取场景中，结果相对清晰明确。可定义评分规则，评分按照1-5五档执行，标准如下：

• 1分：输出内容与要求的输出内容和格式都完全不相关
• 2分：数据内容中正确分析了是否缺失劳动条款，或者正确分析了是否缺失关键信息，但对关键信息的提取格式或者内容错误；
• 3分：对关键信息的格式或者内容进行了正确的提取，缺少或错误分析了是否缺失劳动条款/关键信息。
• 4分：对缺失劳动条款/关键信息的分析基本正确，对关键信息的提取格式和内容基本正确。
• 5分：对是否缺失劳动条款和关键信息的分析合理且完全正确，对关键信息的提取和内容完全正确。

结果显示：无论是规则打分，还是人工打分，基于ERNIE-Speed-8K模型使用SFT全量更新的训练方法，且训练参数Epoch=1、Learning Rate=5e-6、序列长度=8192时，模型效果均远远优于精调之前，略优于Learning Rate=1e-4（相差量级很大）的SFT-LoRA的训练方法。