自然语言处理 - 主题 - twt企业IT交流平台

最新

1、引言在自然语言处理领域中，预训练模型通常指代的是预训练语言模型。广义上的预训练语言模型可以泛指提前经过大规模数据训练的语言模型，包括早期的以Word2vec、GloVe为代表的静态词向量模型，以及基于上下文建模的CoVe、ELMo等动态词向量模型。在2018年，以GPT和BERT为代...(more)

赞同1

AI·2024-05-14

自然语言处理——NLP之预训练语言模型BERT（下）

仙守 · 苏宁易购　擅长领域：人工智能, 大语言模型, 深度学习

上篇：自然语言处理——NLP之预训练语言模型BERT（上）5.2 BertModel实现创建一个文件名称为Bert.pyimporttorchfromtorch.nn.initimportnormal_from.BertEmbeddingimportBertEmbeddingsfrom.MyTransformerimportMyMultiheadAttentionimporttorch.nnasnnimportosimportlogging...(more)

赞同1

大语言模型·2024-05-13

自然语言处理——NLP之预训练语言模型BERT（上）

仙守 · 苏宁易购　擅长领域：人工智能, 大语言模型, 深度学习

下篇：自然语言处理——NLP之预训练语言模型BERT（下）1、引言通常来说，在NLP领域的很多场景中模型最后所做的基本上都是一个分类任务，虽然表面上看起来不是。例如：文本蕴含任务其实就是将两个序列拼接在一起，然后预测其所属的类别；基于神经网络的序列生成模型（翻译、文本生成等）本质...(more)

赞同

自然语言处理·2024-01-02

企业智慧运营研究报告（2023年）

victorry · 中信卡中心　擅长领域：云计算, 数字化转型, 大数据

2 会员关注

下载

金币1

描述

自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。自然语言处理并不是一般地研究自然语言，而在于研制能有效地实现自然语言通信的计算机系统，特别是其中的软件系统。因而它是计算机科学的一部分。...(more)

225 会员关注

9 会员贡献

1 关系主题

主题组织结构热门关系主题