异，因此  NER  模型的构建

    取决于特定领域任务需求，通常涵盖人物信息、地点信息和组织机构信息等。对于英语、法语、西

    班牙语等外语文本，通常采用单词作为基本单位，因此基于这些语言的  NER  模型主要关注单词本身

    的语义特征和上下文信息。然而，中文语料文本通常由字符构成，需要考虑字符的语义信息和词汇。

    特征，同时引入其他表征信息来提升模型性能，如中文分词（CwS）、语义部分标签（PoS）等外部

    信息，因此构建中文命名实体识别（ER）模型更为复杂。目前，NER  任务的研究方法主要包括基

    于词典和规则的方法、基于机器学习（mL）的方法以及基于深度学习（dL）的方法。

    目前，联合实体和关系提取神经模型可分为参数共享和序列标注两种方式。然而，许多研究将

    实体和关系的联合提取看作是序列标记问题。尽管如此，识别复杂的关系仍然是一个具有挑战性的

    任务，需要进一步提高联合提取模型的性能。此外，大多数新兴的联合提取神经模型仅在英语基准

    上进行了评估，其在其他语言或特定领域的有效性尚待验证。Google  机器翻译团队提出了一种包

    括自注意力机制和多头注意力机制的  transformer  结构。相较于循环神经网络（RNN）或卷积神经

    网络，多头注意力机制具有许多吸引人的优点。在中文命名实体识别任务中，数据集中存在

    大量非结构化文本，因此需要从多个角度和多层次来提取文本本身的更多特征。近年来，多头注意

    力机制在命名实体识别任务中得到了广泛应用。例如，Li  等人采用了基于自注意力机制的深度学

    习模型，而  Yin  等人则提出了一种名为  ARER  的模型，该模型利用  bsp; 网络学习中文激进特征并

    使用自我注意机制自动获取权重。尽管字符特征得到了增强，但激进级别的特征仍然难以获取，这

    不仅耗费成本，而且模型性能提升有限，尚未解决  BiLSTm  网络中的信息遗忘问题。

    而基于大模型的知识抽取，流程如图  2.1  所示，是指利用具有数千万甚至数亿参数的深度学习

    模型来进行知识抽取的过程。这种大模型通常基于深度学习原理，通过利用大量的数据和计算资源

    来训练具有大量参数的神经网络模型，以在各种任务中取得最佳表现。

    在知识抽取的场景中，大模型可以通过对大量非结构化文本的学习，自动识别和提取出其中的

    结构化信息，如语义信息丰富的标签、短语等。这种过程可以通过识别、理解、筛选和格