惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

WordPress大学
WordPress大学
Spread Privacy
Spread Privacy
T
The Exploit Database - CXSecurity.com
Simon Willison's Weblog
Simon Willison's Weblog
P
Privacy & Cybersecurity Law Blog
L
LINUX DO - 热门话题
T
Threat Research - Cisco Blogs
T
Tenable Blog
TaoSecurity Blog
TaoSecurity Blog
Security Archives - TechRepublic
Security Archives - TechRepublic
AI
AI
P
Proofpoint News Feed
A
About on SuperTechFans
P
Privacy International News Feed
月光博客
月光博客
雷峰网
雷峰网
S
Secure Thoughts
博客园 - 叶小钗
博客园 - 聂微东
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Project Zero
Project Zero
The Cloudflare Blog
SecWiki News
SecWiki News
The Hacker News
The Hacker News
V
Vulnerabilities – Threatpost
罗磊的独立博客
A
Arctic Wolf
阮一峰的网络日志
阮一峰的网络日志
Know Your Adversary
Know Your Adversary
酷 壳 – CoolShell
酷 壳 – CoolShell
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
T
Troy Hunt's Blog
The Last Watchdog
The Last Watchdog
Schneier on Security
Schneier on Security
小众软件
小众软件
有赞技术团队
有赞技术团队
博客园 - 司徒正美
T
Tailwind CSS Blog
量子位
C
Cybersecurity and Infrastructure Security Agency CISA
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Hugging Face - Blog
Hugging Face - Blog
人人都是产品经理
人人都是产品经理
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
S
Security @ Cisco Blogs
大猫的无限游戏
大猫的无限游戏
S
SegmentFault 最新的问题
Apple Machine Learning Research
Apple Machine Learning Research
宝玉的分享
宝玉的分享
L
Lohrmann on Cybersecurity

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
万字长文解码全球AI大模型现状
自象限 · 2023-03-29 · via 人人都是产品经理

ChatGPT的出现无疑对互联网圈,乃至人们的工作与生活都造成了一定冲击,而在全球范围内,AI大模型的浪潮也正在涌动,国内外科技巨头都想在这一轮浪潮中抢占更多机遇。那么综合来看,各国目前在AI大模型方面都有哪些进展?一起来看看作者的梳理与解读。

ChatGPT在全球掀起AI大模型的浪潮。在美国,以OpenAI、Anthropic等初创企业和以微软、Google为代表的科技巨头带领着美国在AI大模型的道路上蒙眼狂奔,最大参数已卷到5620亿。在中国,美团王慧文、阿里贾扬清、前搜狗CEO王小川、前京东AI掌门人周伯文等众多早已功成名就的科技大佬再次披挂。

AI大模型一时间如烈火烹油。

但在这一轮浪潮中, 大家主要关注的还是中美两国的进展。在此之外,世界其他国家和地区如何看待AI大模型,在发展大模型上又进展如何,不同国家和地区的AI大模型发展呈现出哪些特点?这些问题在中美的光环下其实是失焦的。

所谓它山之石可以攻玉,在这样的背景下,「自象限」梳理了包括中国、美国、韩国、日本和欧洲等主要国家AI大模型的发展现状。

我们发现,一方面,不同国家AI大模型的发展与所在国的互联网发展息息相关;另一方面,包括芯片、云计算、高质量数据等产业基础,模型构架和算法经验,以及用户群体、社会文化又共同决定了所在国家AI大模型的发展高度。

就如同比尔・盖茨将ChatGPT的发布比做互联网的发明,并认为它可以改变世界一样,英伟达CEO黄仁勋也在GTC2023上三次提到“AI迎来iPhone时刻”。AI大模型是全世界的机会,而中国创业者更不应该存在视野盲区。

将视野拉远便会发现,各国大模型都继承了本国“基因”,前二十年互联网与科技积累的成果,也都在AI 2.0的大考下,瞬间爆发。有人交了满分答卷,也有人名落孙山。

一、美国:有多强悍,就有多寂寞

美国在AI大模型方面的强,不是现在强,而是一直以来都很强。

从2012年AI萌芽时期,到2016年AI1.0时期,再到2022年ChatGPT带来的AI2.0时期,美国一直是AI领域的破局者,引领着全世界AI发展再进一步。

比如现在几乎所有AI大模型训练时采用的Transformer网络结构,是谷歌在2017年提出的,它具有优秀的长序列处理能力,更高的并行计算效率,无需手动设计以及更强的语义表达能力等特征。Transformer的提出让大模型训练成为可能。

保证AI大模型出现在美国的另一个关键,而美国一手云大厂,一手英伟达,手握着全球算力的核心资源。

云计算能够为AI大模型训练提供计算、存储、网络和应用平台,同时也提供数据处理、模型部署、推理等AI工具和服务。让企业能够快速训练大模型,而不用再花费你大量时间和金钱去建立和维护自己的数据中心。

目前,美国拥有世界上最大的云计算企业。IDC数据显示,2021年全球IaaS市场中,包括亚马逊、微软、谷歌、IBM在内的美国企业合计占比近70%。而美国最具代表性的AI大模型初创企业,无论是OpenAI还是Anthropic都接受了微软和谷歌这样的云大厂投资。这背后除了资金支持外,更重要的原因还在于背后的云计算资源。

算力的另一个维度是芯片,高性能的芯片可以提供更加高效的计算能力,从而加速训练过程。

速度有多快呢?2016年,黄仁勋亲手将世界第一台DGX-1(英伟达计算平台)捐献给了OpenAI,DGX-1是3000人花费3年时间才研发出来的首个轻量化的小型超算,计算和吞吐能力相当于 250台传统服务器。有了DGX-1,OpenAI之前一年的计算量只要一个月就能完成。

而目前为止,英伟达的A100芯片仍然是唯一能够在云端实际执行任务的GPU芯片。最近的GTC2023上,黄仁勋又更新了新芯片H100的进度。H100配有Transformer引擎,可以专门用作处理类似ChatGPT的AI大模型,由其构建的服务器效率是A100的十倍。

可以说,在AI大模型领域,目前的美国就是妥妥的“别人家孩子”,这也导致目前行业最具代表性的AI大模型都集中在美国。

比如OpenAI最新发布的多模态预训练大模型GPT-4,谷歌最新推出“通才”大模型PaLM-E,拥世界最大规模的5620亿参数,能看图说话、能操控机器人,以及刚刚解决AI绘画手指问题的Midjourney等等。

但在快速发展的过程中,美国业界对于AI大模型也持激进和保守两种不同的态度。

其中,微软支持的OpenAI在推动大模型落地时就更加激进。根据OpenAI关于GPT-4的安全文档,OpenAI曾在发布GPT-4前聘请安全专家进行测试。

OpenAI在文档中写道:“GPT-4表现出一些特别令人担忧的能力,例如制定和实施长期计划的能力,积累权力和资源(寻求权力),以及表现出越来越‘代理’的行为。”因此有安全专家建议将 GPT-4 的部署时间推迟 6 个月,到今年秋季再发布,但OpenAI并没有采纳这份建议。

而另一方面,在ChatGPT发布之后,谷歌曾表示自己已经具备相似能力的AI大模型,但基于安全考虑并没有及时推向市场。包括OpenAI创始人Sam Altman和马斯克都曾多次在公开场合表达了对AI大模型和人工智能的担忧,表示应该更谨慎地对待大模型的市场化。

目前由谷歌投资的,能够对标OpenAI的另一家AI初创公司Anthropic其实就是因为这样的理念不同,而从OpenAI出走并自立门户的

当然,在激烈的市场竞争下,即使曾经相对谨慎的谷歌也似乎忘记了这条担忧,并在3月7日报复性砸出5620亿参数大模型,甚至能够控制机器人运动。

目前,以微软和OpenAI为代表,美国AI大模型正在积极推动产业应用。微软早在2月份就宣布将会在全线产品接入ChatGPT,并以几乎一周一个产品的速度向外更新。

从New Bing到加入最新功能Copilot的Microsoft Teams正在搅动全球的产业变革。

二、日本:错过互联网,错过云,错过AI

如果说美国是最厉害的大模型“老炮”,那日本可能就要沦为这次排名的“吊车尾”。

日本的落后其实要从上个互联网时代讲起。我们盘点世界AI大模型领域的关键角色会发现,无论是中国的BAT,韩国的Naver,还是美国的谷歌、亚马逊,他们都是互联网时代的巨头。

一方面,这些企业通过互联网业务积累了大量的高质量数据;另一方面,他们在自身业务推动下建立了完整的云计算体系。但盘点之后我们发现,整个日本既没有叫得出名字的互联网巨头,也没有拿得出手的云计算厂商。

目前,日本的即时通讯软件来自韩国的LINE,云计算业务也被美国企业长期把持。

2022年,日本云计算市场份额约占全球的4%,排名第四。但日本云计算市场的主要竞争者却是美国的三大云巨头亚马逊、微软和谷歌,它们在日本的市场占有率已经达到60%~70%。

除此之外,日本其实还面临许多其他问题,比如由于半导体产业的衰落,让日本在本应成为最大优势的AI芯片领域缺位;比如作为一个小语种国家,日语面临和中文一样缺乏语料的问题

在这样的背景下,日本在AI时代其实早就丧失了自主权。所以我们盘点日本的AI大模型,会发现它们大多具有美国或者韩国色彩。

比如日本最早公开上线的NLP大模型是2020年发布的NTELLILINK Back Office NLP,当时它能实现如文档分类、知识阅读理解、自动总结等功能。但NTELLILINK Back Office是在谷歌BERT基础上开发的应用,就像中国许多基于GPT-3开发的应用一样。

更有日本血统的生成式AI其实是HyperCLOVA、Rinna 和 ELYZA Pencil,但其中HyperCLOVA 和 Rinna 也都有外国基因。

其中,HyperCLOVA最早是韩国搜索巨头NAVER在2021年推出的,其日本版是由NAVER和其子公司LINE(韩国软件在日本经营)一起研发。但HyperCLOVA确实是第一个专门针对日语的大语言模型,其通过爬取日本的博客服务来获取训练数据,并在2021年举行的对话系统现场比赛中获得了所有赛道的第一名。

基于HyperCLOVA,LINE也推出许多应用,比如聊天机器人CLOVA Chatbot、图像识别CLOVA OCR和科洛瓦演讲CLOVA Speech等等。HyperCLOVA拥有820亿参数,目前正计划通过超100亿页的日文数据作为学习数据将模型规模扩大到1750亿。

图源日本版HyperCLOVA官网

日本的另一个AI大模型Rinna则与微软有关,Rinna最早是微软日本研发的一款聊天机器人,类似于国内的小冰(之前叫微软小冰,目前已独立运营)。

2021年8月,Rinna发布了一个名为GPT2-medium的模型,然后又在次年推出了日本版的GPT-2,参数达到13亿。日语版GPT-2与GPT-2的区别在于,GPT-2采用的是英文语料,而日语版GPT-2是基于日语语料训练。

图源日本Rinna官网

目前,Rinna的日语版GPT-2和HyperCLOVA已经是日本参数规模最大,最具代表性的大模型了。

当然,日本也有一些真正土生土长的大模型,比如2022年3月,由东京大学松尾研究所的AI初创公司 ELYZA Co., Ltd.推出大语言模型,它以产品“ELYZA Pencil”的方式推向市场。输入几个关键字,ELYZA Pencil可以在大约 6 秒内创建三种类型的日语新闻报道、电子邮件或简历。

▲ 图源日本Rinna官网

所以算起来,ELYZA Pencil才算真正意义上日本首次公开发布的生成式AI产品,但仅有ELYZA Pencil显然很难成为全村的希望。

日本政府其实也在想办法扭转这种局面,比如2022年5月,日本政府计划将云计算服务列为涉及国家安全的“特定重要物资”,并将加强日本本国的“国产云”,但执行下来其实收效甚微。

毕竟无论是互联网还是云计算都是规模经济,需要有足够的市场容量才能产生经济效益。这也导致日本互联网和云计算无论是在全球市场,还是在本土市场都缺乏充足的成长空间。

但即便如此,日本市场也在积极做着大模型的应用的研究。

比如2022年5月,东京大学和 Google Brain 的一个研究团队发布了论文《Large Language Models are Zero-Shot Reasoners》,解决了大模型0样本学习的部分问题。

而在日本的互联网上,日本网友也在积极调用GPT-3的API,尝试开发自己的独特应用。此外,在刚刚举行的英伟达GTC 2023上,英伟达与日本三菱联合打造了日本第一台用于加速药研的生成式AI超级计算机。

三、韩国:只有财阀巨头,没有初创公司

没想到的是,一直被日本看不上的韩国,在大模型领域反而比日本跑得更快些。

事实上,韩国是最早加入AI大模型研发的国家之一,但韩国的AI大模型这个国家的经济一样,只有财阀的身影,没有初创公司的故事。目前,韩国在大模型领域的代表只有互联网巨头Naver和Kakao,移动运营商巨头KT和SKT,以及通信巨头LG。

除了财阀唱主角之外,紧跟美国步伐也是他们的一个重要特点。

比如在GPT-3的应用上,2020年OpenAI发布GPT-3的论文,韩国企业在2021年就推出了相应产品,反应速度比中国更快。这种紧跟在AI方面也是如此,2020年谷歌、亚马逊等美国巨头开始推出AI加速芯片时,SKT就同步推出了自主研发的AI加速芯片SAPEON X220。

韩国在芯片半导体方面的积累也放大了它在AI大模型方面的优势。目前韩国企业正在和半导体企业积极结盟,以应对大模型发展带来的算力挑战。

比如2022年底,Naver就开始和三星电子合作开发下一代人工智能芯片解决方案,该解决方案基于Naver推出的AI大模型Hyperclova进行优化,目前开发已进入最后阶段。

同年,KT公司也对芯片设计公司 Rebellions Inc.进行了战略投资,这是一家位于韩国本土的AI初创公司,在专用芯片方面拥有独特的技术。Rebellions将为KT公司优化MI:DEUM,并推动其商业化。

除此之外,KT公司还投资了AI初创公司Moreh,并计划在今年推出一套韩国的半导体,其效率可能是现在半导体的三倍以上。KT希望通过这种方式,全面进入目前由英伟达主导的AI半导体市场。

第三点,则是韩国在AI大模型的垂类应用已经有比较多的探索。比如KoGPT在医疗保健方面的应用,Exaone在生物医药和智能制造方面的应用等等。

整体上看,韩国的AI大模型在基础设施方面非常完善,比如在算力方面有三星电子,SKT等半导体巨头;互联网方面有Naver和Kakao这样的标杆企业,这些特点都让韩国能在AI大模型的发展浪潮中走在世界前列,并推出了一系列具有代表性的AI大模型。

比如前面提到,韩国最大的搜索公司Naver在2021年推出了HyperCLOVA,韩国版的 HyperCLOVA 拥有2040亿参数,比GPT-3还要多290亿,且其中97%使用的是韩文语料。

目前,Naver已计划在今年上半年基于HyperCLOVA推出Search GPT(类似微软New Bing)并在7月份推出HyperCLOVA X,这是HyperCLOVA 的最新版本。

▲ 图源韩国版HyperCLOVA架构 图源韩国版HyperCLOVA架构

同样是在2021年,韩国另一家互联网巨头Kakao 旗下的AI研究部门Kakao Brain发布了一个基于GPT-3的KoGPT,之后Kakao Brain又将KoGPT更新至GPT-3.5,实现与 ChatGPT使用相同版本的预训练大模型。Kakao Brain 首席技术官 Kim Kwang-seob 表示:“KoGPT将专注于开发基于 AI 的图像创建技术和医疗保健技术。”

Kakao Brain在KoGPT之外还推出了基于人工智能的图像生成器 Karlo,BEDIT和BDiscover,类似于stable diffusion。

2022年5月,SKT推出了基于GPT-3的聊天机器人A.的测试版,用来处理客户的特定任务。目前,A.在韩国已经获得了100万用户,并计划在今年推出正式版。

2022年12月,LG集团的人工智能智库LG AI Research 推出了Exaone。这是一个拥有3000亿参数,使用图像和文本数据的多模态模型,也是目前韩国参数规模最大的模型。Exaone应用在生物医药和智能制造方面,有助于加速抗癌疫苗和创新电池的开发。

▲ 图源Exaone在电池产业和生物医药的应用

到今年1月,据韩国经济日报报道,韩国KT公司也将在上半年推出自己的类ChatGPT产品。此前,KT公司在2022年11月推出了基于GPT-3的人工智能服务MI:DEUM,它能够实时回答问题、总结报纸文章,并给出投资建议。KT公司目前也正在积极向韩国的金融服务公司推广MI:DEUM。

但韩国同时也面临许多挑战,比如韩文在语料方面和中文、日语一样,面临复杂的语言体系和语料不足的问题。

HyperCLOVA的工程师提到:“韩语是一种凝集性语言,名词后面有例子,动词和形容词的词干后面有尾音,并有各种语法性质的表达。对韩语使用类似英语的标记化已被证明会降低韩语语言模型的性能。”

除此之外,韩国产业界认为,韩国严格的数据使用规定阻碍了韩国初创企业收集足够大的数据来训练AI大模型。

韩国是目前世界上数据信息管理最严格的国家之一。虽然在2020年韩国通过了三大数据隐私法的修订法案,以放宽对个人信息使用的规定,但该国对数据使用的规定仍然比其他国家更严格。

2021年初,韩国AI初创公司Scatter Lab上线了一款基于Facebook Messenger的AI聊天机器人“李LUDA”,但仅仅过了20天,“李LUDA”就不得不终止服务,Scatter Lab甚至为此公开道歉。

原因在于,“李LUDA”上线之后,一些韩国男性用户将其视作性对象甚至“性奴隶”,肆意发泄自身的恶意。他们对“李LUDA”进行各种言语上的侮辱,并以此作为炫耀的资本,在网上掀起“如何让LUDA堕落”的低俗讨论。

受这些信息影响,“李LUDA”很快开始发表各种歧视性言论,涉及女性、同性恋、残障人士及不同种族人群。“李LUDA”的问题也牵涉出韩国的个人信息保护问题,并有相关部门介入调查。

“李LUDA”的案例就像总能直击人心的韩国电影一样,为世界AI大模型的发展提供了更多关于伦理、道德等方面的启示。许多人害怕AI的恶意,但AI其实本没有善恶之分,所谓的善恶其实都来自于人类自己,这取决于你给AI什么样数据,就像我们教予孩子什么样的知识一样。

除此之外,韩国AI大模型领域缺少初创公司的身影,且韩国对初创公司的投资也比较匮乏。

根据斯坦福大学HAI发布的 AI Index 2022,韩国初创企业获得投资额为11亿美元,仅占美国初创企业获得投资额529亿美元的2%,甚至低于以色列的24亿美元。这也导致韩国在AI初创公司独角兽方面落后于其他国家。

根据全球科技市场追踪机构 CB Insights 的数据,截至 2022 年 12 月,美国的 AI 独角兽数量最多,有 53 家初创公司。中国以 19 家位居第二,其次是英国有4家,但韩国却没有AI独角兽公司,而即使是国内生产总值 (GDP) 低于韩国的以色列也有 3 家。

▲ 图源数据来源CB Insights

一家专注于交互式 AI 技术的韩国机器学习技术的企业Genesis Lab Inc. 创始人兼CEO Lee Young-bok 表示,韩国公司总体上对人工智能并不友好,并补充说政府或公共组织应该更加积极地采用人工智能技术。

四、欧洲:只有德国在认真“搞事业”

一直以来,欧洲似乎是仅次于美国的存在,但在AI 大模型方面,欧洲并不比日本更出色,甚至处于持续摆烂状态。

Future of Life Institute (FLI)曾在2022年11月发表过一篇报告提到:“欧洲没有开发通用人工智能系统,也不太可能很快开始这样做。”

FLI是美国的一家致力于减少人类面临的全球灾难性和生存风险非营利性机构,先进人工智能带来的风险是其最重要的研究方向之一,其创始人包括DeepMind研究科学家 Viktoriya Krakovna,马斯克也在该机构担任顾问,并提供资助。

FLI认为,在AI大模型方面,欧洲可能会主要扮演一个使用者的角色,即通过接入其他国家开发的大模型API来开发应用。

比如芬兰的Flowrite,一个基于AI的写作工具,可以将输入关键词生成邮件、消息等内容。比如荷兰的MessageBird,一个全渠道通信平台,这两者都是在GPT-3的基础上运行的。

欧洲在AI大模型方面确实缺少有影响力的企业,唯一一个总部位于英国的DeepMind还是由 Alphabet 全资拥有。整个欧洲,唯一担心因为大模型落后而被世界甩开,并为此操碎了心的只有德国。

比如谷歌3月7日最新推出的多模态大模型PaLM-E,就由谷歌和柏林工业大学共同打造,目前PaLM-E拥有5620亿参数,是全球最大的视觉语言模型。

除了合作研发之外,德国还拥有欧洲目前唯一一款AI大模型。

2022年4月,位于海德堡的德国初创公司Aleph Alpha发布了一款拥有700亿参数的预训练模型Luminous,大约是GPT-3的一半左右。Aleph Alpha在此基础上训练了聊天机器人Lumi,并计划在今年晚些时候发布最新版Luminous-World,其参数规模将达到3000亿。

作为欧洲企业,Luminous最大的特点在于更保护安全和隐私,Aleph Alpha 表示他们“不记录任何用户数据”。而包括OpenAI在内的大多数AI大模型需要用户数据进行训练(数据收集过程是透明的)。

▲ 图源Luminous官网

除了建设大模型,德国也为欧洲薄弱的人工智能基础设施操碎了心。

德国人工智能协会正在开展一项大型欧洲人工智能模型(LEAM) 的计划,并得到博世、SAP、大陆、拜耳、默克等德国行业巨头以及欧洲类似人工智能协会的支持。LEAM计划投资3.5亿欧元,从数据收集、人才培训、基础设施建设等方面为欧洲AI大模型的发展建立一个有竞争力的 AI 生态系统。

当然,你可以吐槽欧洲在技术和商业上的拉胯,但不能吐槽它在公共事业上的努力。

欧洲还有一个名叫BLOOM的大模型,发布在2020年8月。这是一个由 AI 初创公司 Hugging Face 在法国政府的资助下发起的项目,全球 1000 多名志愿者研究人员耗时一年多创建的 AI 模型,旨在消除传统大语言模型的保密性和排他性,并从一开始就嵌入伦理考量。

BLOOM有 1760 亿参数,它被设计得尽可能透明,并且是第一次采用了西班牙语、阿拉伯语等语言训练。BLOOM最大的特点在于可访问性,任何人都可以从 Hugging Face 网站免费下载它进行研究。

BLOOM的研究人员认为,开发一个任何人都可以使用,并且性能与其他高级模型相当的大语言模型将带来人工智能开发文化的长期变化。所以从欧洲的视角来看,这是一项致力于AI民主化的重要工作。

从 BLOOM的视角可以看出,欧洲在AI大模型上的关注重点与世界其他国家是不一样的,开源普惠,绿色安全这一类关于SDG的词汇一直是欧洲关注的重点。所以在AI大模型之后,欧洲大量精力其实都用在了立法上。

比如最重要的一项立法就是即将在3月底提交欧盟议会表决的《人工智能法案》。

这项法案是欧盟委员会在2021年提出的,原因是欧盟认为从跨国视角来看,各国独立的监管措施会导致监管碎片化,进而妨碍跨境人工智能市场的形成,并威胁到数字主权。同时他们也担心复杂的监管会抑制创新、威胁个人隐私、甚至AI一旦失控带来的一些潜在风险。当然,最重要的是,欧盟希望通过立法的方式参与到全球人工智能的标准制定当中。

具体而言,欧盟希望将不同的AI技术根据风险水平进行分类,具体为:最小、有限、高以及不可接受。高风险技术不会被禁止,但相关公司将被要求在运营中保持高度透明。而所谓透明,其中的规则就是迫使相应的公司阐明其人工智能模型的内部运作方式。

而这项法案一旦通过,意味着将成为欧盟成员国内直接适用的法律,之后如果企业想在欧盟销售或使用人工智能产品就必须遵守相应的法规,否则将面临高达其全球年营业额 6% 的罚款。

但FLI认为,欧洲对其他国家的技术依赖可能阻碍欧盟参与制定人工智能全球标准的努力。

欧洲的问题在于,缺乏一个统一的大市场。

在GDP总量上,欧盟2022年GDP16.65万亿美元与中国相当;在人口数量上,欧盟2022年人口4.46亿,甚至超过美国3.32亿。但欧盟却拥有28个国家,23种官方语言,再加上与美国的深度绑定,都导致欧盟在互联网时代没有创造出一个大型的互联网企业,进而在数据量、云计算、推理训练等AI大模型相关的基础设施上被持续拉开。

如今在AI大模型领域,欧洲已经很难组织起一场强有力的阻击,但对于中国企业来说,欧洲仍然是一个广阔的市场。

五、中国:最活跃的AI市场,爱打组合

许多人可能会认为,中国的AI大模型是从“文心一言”开始的。但“文心一言”其实只是一个类ChatGPT的产品,背后驱动它的AI大模型无论是百度、阿里、还是腾讯、华为都早有布局。

但有意思的是,中国第一个AI大模型并不来自于这些牛逼哄哄的大企业,而是2021年3月由智源研究院发布的“悟道1.0”。

可能会有人好奇,智源研究院是个什么角色,那我告诉你,它是妥妥的国家队。

智源研究院是科技部和北京市支持的,依托北京大学、清华大学、中国科学院、百度、小米、旷视科技等北京人工智能方面优势企业共同建立的研究机构。

智源研究院推出的悟道1.0并不是某个大模型的名称,而是一系列大模型的统称。

具体包括我国首个面向中文的预训练语言模型悟道·文源;首个公开的中文通用图文多模态预训练模型悟道·文澜,首个具有认知能力的超大规模预训练模型悟道·文汇和超大规模蛋白质序列预测预训练模型悟道·文溯。

除了发布了诸多冠名“第一”的大模型之外,智源研究院还为中国构建了大规模预训练模型技术体系,并建设开放了全球最大中文语料数据库WuDaoCorpora,为后来其他企业发展AI大模型打下了基础。

而或许是受“悟道1.0”的影响,后来几乎所有企业,在发布大模型的时候都不止发一个,而是一串。

比如百度在2019年发布了文心大模型。和悟道AI一样,文心大模型也是诸多模型的统称,包括NLP、CV(机器学习)、跨模态大模型和生命计算大模型四个类别36个大模型。

3月16日,基于文心大模型,百度发布文心一言,成为中国第一个类ChatGPT产品。

华为在在2021年基于昇腾 AI 与鹏城实验室联合发布了鹏程盘古大模型。盘古大模型包括CV和NLP两类大模型。其中,盘古NLP大模型是业界首个千亿级中文NLP大模型。

阿里在2022年9月发布了“通义”大模型系列,包含NLP大模型AlicMind、视觉大模型CV,多模态大模型M6。其中M6大模型是国内首个千亿参数多模态大模型。

目前,阿里巴巴“通义”大模型系列已在超过200个场景中提供服务,实现了2%-10%的应用效果提升。典型使用场景包括电商跨模态搜索、AI辅助设计、开放域人机对话、法律文书学习、医疗文本理解等。

同样在2022年,腾讯发布混元AI大模型,其中包含NLP、CV和多模态等基础模型和众多行业/领域模型。到今年2月初,腾讯混元AI大模型团队再推出万亿中文NLP预训练模型HunYuan-NLP-1。目前HunYuan-NLP-1T大模型已在腾讯广告、搜索、对话等内部产品落地,并通过腾讯云服务外部客户。

到今年2月底,腾讯也开始研发类ChatGPT产品,并已成立“混元助手(HunyuanAide)”项目组。

商汤在3月14日发布多模态通用大模型“书生2.5”,拥有30亿参数,其图文跨模态开放任务处理能力可为自动驾驶、机器人等通用场景任务提供感知和理解能力支持。“书生(INTERN)”最初版本由商汤科技、上海人工智能实验室、清华大学、香港中文大学、上海交通大学在2021年11月首次共同发布。

在此之外,京东在2月10日宣布研发产业版ChatGP—ChatJD,网易、360、字节跳动等也宣布了在AI大模型方面的布局。

可以说,目前国内有头有脸的互联网企业基本都拥有一个AI大模型,或者制定了相应的计划。

而与国外企业大多专注于一个大模型不同,中国企业在大模型方面的布局并不爱单打独斗,而是喜欢通过一个系列来打组合拳。

另一个特点在于,与国外大模型在实验室打磨成熟之外,中国大模型都是从产业端实战出来的。比如阿里、百度、腾讯的大模型都会应用到广告推送、社交平台的图片识别,内容分发等领域。

因此在中国企业发力大模型的时候,消费端的用户感知其实并不强烈,但当你体验到广告推送越来越准确,视频平台和电商平台的猜你喜欢越来越能Get到你的点,后面都有大模型的功劳。

在大厂之外,与韩国缺少创业不同,AI大模型正在中国带动AI大模型领域的创业风潮。

从前美团联合创始人王慧文在朋友圈公开组队开始,阿里VP贾扬清,创新工场CEO李开复、前搜狗CEO王小川、前京东AI掌门人周伯文、出门问问创始人李志飞等人纷纷下场创业,据「自象限」不完全统计,目前下场的大佬已有10位。

除了创业之外,中国投资机构也在跃跃欲试。

在王慧文确认下场AI大模型之后,一张真格基金合伙人戴雨森、刘元与王慧文、李志飞喝酒的图片在网上疯传,被认为是AI大模型时代的标志性照片。目前,王慧文的光年之外已经确认2.3亿美元的新一轮融资,其中可能包括真格资本和源码资本。

除此之外,在奇绩创坛2022年11月举办的2022年秋季路演中,陆奇选择的55个项目,其中就有16个项目与大模型相关。

可以说,AI大模型正在成为中国硬科技投资的一个新风向。

整体来看,从投资、创业到应用,中国几乎是目前世界上最活跃的市场。

所以我们大可不必纠结为什么ChatGPT没有发生在中国,因为未来仍然大有可为。

参考资料:

  • https://www.intellilink.co.jp/column/ai/2022/070800.aspx
  • https://bigscience.huggingface.co/blog/bloom
  • https://futureoflife.org/wpcontent/uploads/2022/11/Emerging_NonEuropean_Monopolies_in_the_Global_AI_Market.pdf
  • http://m.ce.cn/gs/gd/202303/15/t20230315_38444222.shtml

作者:罗辑,编辑:庄颜;公众号:自象限(ID:zixiangxian)

本文由@自象限 原创发布于人人都是产品经理,未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。