惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

月光博客
月光博客
人人都是产品经理
人人都是产品经理
博客园 - 聂微东
WordPress大学
WordPress大学
S
SegmentFault 最新的问题
博客园 - Franky
V
V2EX
Y
Y Combinator Blog
Google DeepMind News
Google DeepMind News
J
Java Code Geeks
T
The Blog of Author Tim Ferriss
罗磊的独立博客
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Jina AI
Jina AI
博客园 - 叶小钗
F
Fortinet All Blogs
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
A
About on SuperTechFans
M
MIT News - Artificial intelligence
云风的 BLOG
云风的 BLOG
Last Week in AI
Last Week in AI
D
Docker
博客园 - 【当耐特】
阮一峰的网络日志
阮一峰的网络日志

博客园 - 慕尘

在浏览器跑 Qwen2.5 使用 WSL 在 Windows 上安装 Linux LangExtract pgvector 向量数据库 Faiss Goose trafilatura unstructured python里使用Playwright python的jieba MinGW nomic-embed-text 解析非结构化数据 LangChain 的 DocumentLoader 能够使用require但不能使用import ChromaDB nvm-windows 使用js实现文字转语音 pyttsx3
Ollama笔记
慕尘 · 2025-02-21 · via 博客园 - 慕尘

Ollama 是一个开源的大型语言模型(LLM)平台,用于简化大语言模型的本地部署和使用

通过容器化技术封装模型,并提供命令行工具和 RESTful API,使得用户可以在本地快速启动和管理模型

ollama 官网(https://ollama.com/)以提供常用的大模型,可直接拉取,也支持三方模型社区拉取

常用命令

  启动服务 ollama serve

    默认端口为 11434

    lsof -i:11434

    浏览器打开 http://ip:11434/,页面会显示 

  查看运行的哪个模型

  http://XX.XX.XX.XX:11434/v1/models/running

  版本查看 ollama --version

  运行模型 ollama run  model_name

  显示某个模型信息 ollama show model_name

  列出所有模型 ollama list

  列出正在运行的模型 ollama ps

  从注册表拉取模型 ollama pull model_name

  删除某个模型 ollama rm model_name