惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

美团技术团队
人人都是产品经理
人人都是产品经理
月光博客
月光博客
V
V2EX
WordPress大学
WordPress大学
酷 壳 – CoolShell
酷 壳 – CoolShell
Last Week in AI
Last Week in AI
博客园 - 三生石上(FineUI控件)
小众软件
小众软件
Hugging Face - Blog
Hugging Face - Blog
V
Visual Studio Blog
宝玉的分享
宝玉的分享
雷峰网
雷峰网
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
博客园 - Franky
博客园 - 聂微东
博客园 - 司徒正美
博客园 - 【当耐特】
爱范儿
爱范儿
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
大猫的无限游戏
大猫的无限游戏
博客园 - 叶小钗
阮一峰的网络日志
阮一峰的网络日志

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派
GPT大升级!它可以在哪些场景辅助数据采集? - 少数派
2023-11-23 · via 少数派

前几天,OpenAI公司召开了发布会,宣布了GPT-4 的大升级,还推出ChatGPT新的语音与图像功能,让ChatGPT可以看、听和说话。

ChatGPT是OpenAI公司开发的一个基于人工智能技术的语言模型,全球周活跃用户已经超过1亿,它可以完成许多任务:回答问题、提供思路和建议、写文案、甚至编写代码等等。

目前ChatGPT的数据已经更新至2023年4月,但由于不能联网,它还不能直接帮我们执行数据采集操作,获取互联网上的数据,但它可以在各个环节辅助我们进行数据采集,包括但不限于编写代码、修改代码,或是提供工具使用建议

在数据采集场景中,ChatGPT可以在以下这些环节帮助我们:

让ChatGPT提供数据采集的建议

在正式采集数据之前,我们可以先做一些准备,比如询问ChatGPT对于数据源、采集策略和采集方法的建议。

假如我们想要研究今年国内房地产行业的情况,可以直接这样询问:

用ChatGPT辅助八爪鱼数据采集

对于没有编程基础的职场人士/学生而言,有一款0代码的、操作简单的数据采集工具会对工作和学习带来非常大的收益,八爪鱼就是这样一款工具啦!

八爪鱼专注0代码数据采集的推广与普及,能实现全网99%以上网站数据的采集。

对于大部分的数据规整的网页,我们都可以用八爪鱼的模板采集和智能识别功能来搞定数据采集。

但也有一些结构比较复杂的网站,需要我们自定义采集步骤,并使用一些辅助手段,比如XPath和正则表达式

用ChatGPT写XPath

在遇到一些结构复杂的网页的时候,我们可以使用xpath来精确定位需要采集的数据,提高采集的效率和准确性。

比如:无法正常翻页循环、定位不到所有列表、指定区域的定位……这些都可以用XPath来解决!

比如我们要采集网页中的某个元素数据,就可以打开网页,右键单击要提取的信息,然后选择”检查”来查看HTML结构。将HTML源代码复制给ChatGPT,让他提供XPath表达式即可。

用ChatGPT写正则表达式

正则表达式是一种字符串匹配的模式,用于描述一类字符串的集合。它可以用来匹配、搜索、替换、验证等操作。

在采集数据的过程中帮助我们调整网页既定格式;剔除多余符号等.....

撰写正则表达式规则对新手来说确实会有较高的门槛。但是有了ChatGPT,我们根本不需要自己编写,可以直接通过提问对话的方式获取所需规则!

步骤可参考新手速成!如何利用ChatGPT撰写正则表达式辅助数据采集?

让ChatGPT清洗数据

在数据清洗阶段,我们需要处理数据中的错误、缺失、重复或不一致的部分。

这包括去除冗余数据,例如重复的记录或无效的数据;解决数据类型不匹配问题,将数据转换成相同的格式或类型等。

让ChatGPT分析数据

在数据分析之前,我们也可以通过和ChatGPT对话来获取一些灵感,比如问他,我们想要分析某个产品的用户评价情况,应该从哪些渠道获取数据?从哪些维度分析数据? 通过数据分析结果,我们可以从哪些方面继续改进产品等。

以下是一些可以参考的数据分析方向:

统计分析

统计分析是数据分析的基础,比如我们可以通过观察比较数据在不同时间周期、地域、事件发展阶段的变化情况,来揭示数据背后的规律和趋势,也可以作为未来发展趋势的参考。

文章链接:用八爪鱼+RPA挖掘招投标数据价值,采集清洗一次搞定!
 

数据挖掘

数据挖掘是从大量数据中提取有价值的信息和知识的过程,包括关联规则挖掘、聚类分析、分类分析等多种技术。

文本分类

让ChatGPT将文本数据按照不同的类别进行划分,以便于后续的数据分析和处理,例如新闻文章可以分为政治、经济、体育等不同类别。

更多信息可以参考:干货 | 日采100W新闻数据,如何实现新闻自动分类
 

情感分析

对文本数据中的情感倾向进行分析,一般分为正面、负面和中性三种情感倾向,通常应用于舆情监测、电商评论分析等场景。

让ChatGPT对文本内容进行情感分析,可以更好地了解公众对某个事件或产品的看法和态度。

实体识别

让ChatGPT从文本数据中提取出具有特定意义的实体信息,如人名、地名、组织机构名等。

利用ChatGPT分析数据可以应用在各个行业,比如:
 

电商:从竞争对手网站提取产品评论和评级,以深入了解消费者偏好并确定需要改进的领域。

房地产:从房地产列表中提取房地产数据,以比较价格、分析趋势并预测未来的增长模式。

医疗保健:从医学研究论文和临床试验中提取数据,以找到有助于改善患者治疗结果的建议和相关性。

金融:从股票市场网站提取金融数据并对其进行分析,以预测股票价格、识别投资机会并评估风险。

旅游和酒店业:从旅游网站提取酒店、餐厅和旅游景点的评论和评级,并利用它们来确定需要改进的领域、预测未来趋势并向客户提供个性化建议。

媒体和娱乐:通过从媒体和娱乐网站提取数据来分析用户行为和情绪,为用户创建个性化内容推荐。

法律:从法律数据库中提取数据并进行分析,以预测法院裁决并评估法律风险。

……


以上是ChatGPT在数据采集场景中的部分应用,可以预见的是,随着行业的发展,ChatGPT以及其他人工智能模型的功能会越来越强大。

理想情况下,或许我们只需要告诉它,我们需要了解某个产品的社交媒体评论情况,它就可以自动调取公开数据,分析并直接向我们展示可视化的结果啦~