惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - 三生石上(FineUI控件)
博客园 - 叶小钗
博客园 - 聂微东
博客园 - 司徒正美
Hugging Face - Blog
Hugging Face - Blog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Google DeepMind News
Google DeepMind News
Recent Announcements
Recent Announcements
IT之家
IT之家
J
Java Code Geeks
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
I
InfoQ
爱范儿
爱范儿
Vercel News
Vercel News
Apple Machine Learning Research
Apple Machine Learning Research
阮一峰的网络日志
阮一峰的网络日志
博客园 - Franky
U
Unit 42
酷 壳 – CoolShell
酷 壳 – CoolShell
腾讯CDC
F
Fortinet All Blogs
V
Visual Studio Blog
人人都是产品经理
人人都是产品经理

博客园 - 慕尘

在浏览器跑 Qwen2.5 使用 WSL 在 Windows 上安装 Linux LangExtract pgvector 向量数据库 Faiss Goose trafilatura unstructured python里使用Playwright python的jieba MinGW nomic-embed-text 解析非结构化数据 LangChain 的 DocumentLoader 能够使用require但不能使用import ChromaDB nvm-windows 使用js实现文字转语音 pyttsx3
Ollama笔记
慕尘 · 2025-02-21 · via 博客园 - 慕尘

Ollama 是一个开源的大型语言模型(LLM)平台,用于简化大语言模型的本地部署和使用

通过容器化技术封装模型,并提供命令行工具和 RESTful API,使得用户可以在本地快速启动和管理模型

ollama 官网(https://ollama.com/)以提供常用的大模型,可直接拉取,也支持三方模型社区拉取

常用命令

  启动服务 ollama serve

    默认端口为 11434

    lsof -i:11434

    浏览器打开 http://ip:11434/,页面会显示 

  查看运行的哪个模型

  http://XX.XX.XX.XX:11434/v1/models/running

  版本查看 ollama --version

  运行模型 ollama run  model_name

  显示某个模型信息 ollama show model_name

  列出所有模型 ollama list

  列出正在运行的模型 ollama ps

  从注册表拉取模型 ollama pull model_name

  删除某个模型 ollama rm model_name