惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
U
Unit 42
H
Help Net Security
博客园_首页
雷峰网
雷峰网
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
博客园 - 【当耐特】
Recent Announcements
Recent Announcements
Recorded Future
Recorded Future
aimingoo的专栏
aimingoo的专栏
爱范儿
爱范儿
C
CXSECURITY Database RSS Feed - CXSecurity.com
The Cloudflare Blog
S
Security @ Cisco Blogs
M
MIT News - Artificial intelligence
Cyberwarzone
Cyberwarzone
Cisco Talos Blog
Cisco Talos Blog
Spread Privacy
Spread Privacy
The GitHub Blog
The GitHub Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
K
Kaspersky official blog
MyScale Blog
MyScale Blog
阮一峰的网络日志
阮一峰的网络日志
C
CERT Recently Published Vulnerability Notes
V
Vulnerabilities – Threatpost
WordPress大学
WordPress大学
C
Cisco Blogs
G
Google Developers Blog
N
News and Events Feed by Topic
P
Palo Alto Networks Blog
Apple Machine Learning Research
Apple Machine Learning Research
Schneier on Security
Schneier on Security
博客园 - 聂微东
Security Latest
Security Latest
Security Archives - TechRepublic
Security Archives - TechRepublic
O
OpenAI News
云风的 BLOG
云风的 BLOG
IT之家
IT之家
PCI Perspectives
PCI Perspectives
Microsoft Security Blog
Microsoft Security Blog
NISL@THU
NISL@THU
小众软件
小众软件
Scott Helme
Scott Helme
大猫的无限游戏
大猫的无限游戏
L
LINUX DO - 最新话题
Microsoft Azure Blog
Microsoft Azure Blog
Simon Willison's Weblog
Simon Willison's Weblog
N
News and Events Feed by Topic
F
Fortinet All Blogs
The Last Watchdog
The Last Watchdog

博客园 - Rickie

DeepSeek-V3 解读:优化效率与规模 一步一步构建RAG智能问答系统 Milvus向量数据库入门实践 LangChain轻松入门和开发实践 PyTorch深度学习零基础入门 Spring Security OAuth2+JWT开发实践 Spring Security开发实践 Redis 7.x 入门和开发实战 RedisInsight :Redis 官方可视化工具 Hadoop v3.1 大数据技术快速入门 《Apache RocketMQ 深入浅出》系列文章 Kafka v2.3 快速入门与实践 Apache Doris 轻松入门和快速实践 一步一步编译最新版Apache Doris 0.15版本的详细过程 COLA 4.x和DDD项目实践精粹 阿里开源COLA 4.0源码编译和部署过程 Java实体映射工具MapStruct 与BeanUtils性能比较 阿里DDD项目最佳实践-COLA 架构总览 Java实体映射工具MapStruct详解
Hugging Face 轻松入门
Rickie · 2024-04-10 · via 博客园 - Rickie

Hugging Face 是一个在自然语言处理(NLP)领域非常受欢迎的公司和社区。它为开发者提供了一系列工具,使得部署和使用最新的NLP技术变得更加简单。

它的开源Transformers库在自然语言处理社区中非常受欢迎,尤其对一些自然语言处理任务(NLP)和自然语言理解(NLU)任务非常有效。Transformers库包括100多种语言的数千个预训练模型,其优势之一是它与PyTorch和TensorFlow都兼容。

Hugging Face的Transformers库为各种预训练模型提供了易于使用的API,其中就包括BERT。这个库的目标是使预训练模型的使用和微调变得简单和快速。

如何使用Hugging Face是入门AI的基础。

本专栏将介绍Hugging Face的Transformers库,并结合预训练的BERT 模型,帮助初学者轻松入门。 

专栏大纲

循环神经网络和长短期记忆网络已经广泛应用于时序任务,比如文本预测、机器翻译、文章生成等。然而,它们面临的一大问题就是如何记录长期依赖。为了解决这个问题,一个名为Transformer的新架构应运而生。

Transformer 作为当下最先进的深度学习架构之一,被广泛应用于自然语言处理领域。它不单替代了以前流行的循环神经网络(recurrent neural network, RNN)和长短期记忆(long short-term memory, LSTM)网络,并且以它为基础衍生出了诸如BERT、GPT-3.5和GPT-4、T5等知名架构。

使用Transformers库,我们不仅可以直接获取预训练的BERT模型,还可以对其进行微调,以适应特定的NLP任务,如文本分类、命名实体识别、问答等。

BERT(Bidirectional Encoder Representations from Transformers)是由Google在2018年提出的一个预训练的深度学习模型,用于多种自然语言处理(NLP)任务。

BERT的核心是基于Transformer架构,该架构最初是为了解决机器翻译问题而设计的。Transformer的关键特点是它可以并行处理输入数据(如句子中的所有单词)并捕获单词之间的依赖关系,无论它们在句子中的距离有多远。

专栏首先演示了如何快速搭建深度学习的环境,包括TensorFlow和PyTorch深度学习框架、HuggingFace Transformers库和Jupyter Notebook 开发工具。

然后,通过一个情绪分析任务的例子,快速体验Transformers 库中最基本的对象是pipeline()函数。同时,对 HuggingFace官网,以及模型仓库(Model Repository)、模型(Models)等有一个初步的了解。

通过引入Hugging Face提供的开源Transformers库,轻松地使用Transformers库下载预训练的BERT模型权重,并应用于自己的任务。比如加载预训练的BERT模型和Tokenzier分词器,使用预训练的BERT模型作为特征提取器,微调预训练的BERT模型,以及将预训练的BERT模型应用于下游任务,比如情感分析任务等等。