惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Google DeepMind News
Google DeepMind News
I
InfoQ
Engineering at Meta
Engineering at Meta
D
DataBreaches.Net
L
LangChain Blog
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Recent Announcements
Recent Announcements
GbyAI
GbyAI
爱范儿
爱范儿
Microsoft Security Blog
Microsoft Security Blog
腾讯CDC
美团技术团队
罗磊的独立博客
Microsoft Azure Blog
Microsoft Azure Blog
WordPress大学
WordPress大学
T
The Blog of Author Tim Ferriss
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
雷峰网
雷峰网
M
MIT News - Artificial intelligence
D
Docker
MongoDB | Blog
MongoDB | Blog
F
Fortinet All Blogs
博客园 - 叶小钗

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派
利用大模型,我就是想一边刷美剧,一边把英语学好!「Verbive...
2024-07-30 · via 少数派

前言

上一篇文章向大家介绍了开发的一个小工具,最近又完善了下使用起来还是比较顺手的,今天就向大家正式介绍下 Verbiverse V1.0方便、快捷的利用大模型帮助我们阅读外语文档与观看视频来提升语言能力

PDF 阅读 陌生单词解析
视频字幕解析

背景介绍

TL;DR 介绍一些 LLM 应用于语言学习相关功能的情况以及开发这个软件的背景。

项目解析:「Verbiverse」解析 -- 使用Qt + LangChain 构建大模型应用 - 少数派 (sspai.com)

开发这个工具的根本原因在于我想要利用 LLM 大模型进行语言学习过程中发现用的非常不爽的点:

  1. 与 LLM 对话的练习,由于初学者知识储备不足会导致对话和网上相亲对象聊天一样枯燥,没话找话 😂,而且我使用本地模型时发现,由于参数量少效果也很差;

    2. 与 LLM 一起阅读或看视频,这样可以避免没有主题的问题,但是我还没找到很有效的工具适合这种使用场景:

  1. 遇到不熟悉的单词可以简单询问大模型,它可以给出基于上下文的回答;
  2. 还可以将文档作为知识背景与大模型讨论;
  3. 避免问答模式的工具使用的繁琐步骤,尽量内置对应场景的提示词;

功能介绍

功能分为两大部分,一个是辅助阅读文档,一个是视频字幕翻译,从主页入口打开文件或者从历史列表选择打开过的文件即可跳转对应功能页面:

Home Interface

LLM 辅助阅读文档

主要提供的功能也很直观,选中不熟悉的单词,鼠标右键选择解释即可,这里两个解释使用的语言可以在设置中配置:

  • 如下图解释同样可以应用于右侧与 LLM Chat 的区域;
  • 右侧 Chat 区域会在第一次发送对话时对文档进行向量嵌入,作为大模型的知识背景;
Read and Chat Interface

选择解释后会弹出一个浮动窗显示大模型返回的信息,鼠标点击其他地方则自动关闭,右上角可以将窗口固定,右下的按钮可以将单词添加单词本中;

对话中可以使用检查按钮对你讲要输入的语句进行检查,工具会自动将历史对话一并发给大模型,用来判断输入是否符合语境:

观看视频

观看视频需要你准备视频以及 SRT 格式的字幕文件,最好是双语或者纯英语的字幕,ASS 格式可以使用在线工具转为 SRT,工具有很多;

视频播放界面布局如下,左侧分为视频播放区与字幕显示区,右侧则是字幕列表与当前视频文件相同目录下的其他同格式视频:

Video Interface

双击字幕显示栏中的单词则可进行解释,工具会将前后 20 条字幕一起发给大模型进行解析:

点击字幕右侧的机器人图标则可以对当前整句字幕进行解析:

在视频页面鼠标右键的弹出菜单可以手动指定添加字幕与隐藏字幕第一行(这对控制双语字幕很有用):

其他的一些细节功能包含:

  • 双击画面播放、暂停,或空格快捷键;
  • 单击隐藏、显示进度条;
  • 键盘左右快捷键跳转前后字幕时间点;

上手指南

项目源码地址:HATTER-LONG/Verbiverse: 利用 LLM 大模型辅助阅读 PDF 与观看视频,用以提升语言能力。 (github.com)

感兴趣的请给个 STAR ✨ ,谢谢 🙏 !!!

预编译包

提供如下平台预编译程序包,下载对应平台程序包执行即可:

Windows v1.0 版本 还可以在这里 123网盘下载 提取码:1234

pyinstaller 打包用了 upx ,有时会被杀软报毒,可以添加信任或者通过源码自己重新打包,我提供的这几个包都是 github action 编译生成的。

源码运行

  1. clone 源码到本地:git clone https://github.com/HATTER-LONG/Verbiverse.git
  2. 使用 conda 或 python (>=3.9, <=3.12) venv 创建虚拟环境,推荐使用 conda:
    • 使用 conda:conda create -n Verbiverse python=3.11; conda activate Verbiverse
    • 使用 venv,进入源码目录后:python3 -m venv ./.venv; source ./venv/bin/activate
  3. 安装 poetry:
    • 确认已正确启用虚拟环境;
    • pip install -U pip setuptools; pip install poetry
  4. 安装项目依赖环境:poetry install
    • 需要代理则取消 pyproject.toml[[tool.poetry.source]] 相关注释;
  5. 运行程序:python main.py

工具设置

⚠️ 建议优先使用本地模型或较小的 PDF 文档进行试用,因为工具会在第一次对话开始时对整个文档进行向量嵌入,过大的文件可能会造成大量 token 消耗!!!!

工具的核心功能依赖 LLM,因此在使用前需要配置相应 LLM 的服务信息,工具支持使用本地模型或云端商用模型,当前支持 OpenAI 协议本地工具或商用模型与通义千问商用模型:

使用商用模型,下图以通义千问为例,如需使用 OpenAI 同理填入对应信息即可:

使用本地模型,需要选择 OpenAI 协议,填入本地工具的 LLM 服务地址,使用 LM Studio 为例:

不清楚本地模型的一些基本概念可以看我的这篇文章:为你的钱包节流,本地部署 LLM code assistant - 少数派 (sspai.com)

  • LM Studio 加载对应模型:
  • 工具配置:

总结

距离上一篇文章介绍工具已经过去了将近两个月了,磕磕绊绊算是自认为达到 1.0 版本了,希望对你有所帮助,有什么问题或好的建议欢迎留言!!!

最后在宣传下,感觉好用就给个 Star 吧 🙏 🥹

项目源码地址:HATTER-LONG/Verbiverse: 利用 LLM 大模型辅助阅读 PDF 与观看视频,用以提升语言能力。 (github.com)