惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Jina AI
Jina AI
MyScale Blog
MyScale Blog
量子位
月光博客
月光博客
J
Java Code Geeks
A
About on SuperTechFans
H
Hackread – Cybersecurity News, Data Breaches, AI and More
U
Unit 42
WordPress大学
WordPress大学
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
腾讯CDC
G
Google Developers Blog
博客园 - 【当耐特】
Engineering at Meta
Engineering at Meta
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
宝玉的分享
宝玉的分享
IT之家
IT之家
N
Netflix TechBlog - Medium
Microsoft Security Blog
Microsoft Security Blog
博客园 - 叶小钗
B
Blog
Martin Fowler
Martin Fowler
P
Proofpoint News Feed
B
Blog RSS Feed

博客园 - yi-sheng

[2026年9月]国产曦云C500双卡vllm框架本地部署qwen3.6-35B模型 [部署失败]国产曦云C500双卡sglang框架本地部署qwen3.6-35B模型 4090多卡使用sglang:v0.5.16在docker环境部署Qwen3.5-35B-A3B-20260807 短剧及算力租用平台 AMD Rademo RX 7900 48G显存 单卡环境部署Qwen3.6-35B-A3B AMD开发者中心Notebook开SSH与WEB外网访问 ROCm 环境多模态开发开源项目汇总 国产曦云C500双卡vllm框架本地部署qwen3.6-35B模型 国产曦云C500驱动安装 国产曦云C500双卡本地部署qwen3.6-35B模型 NVIDIA GeForce RTX 3080 魔改20G 运行大模型 FusionXpark_GB10救砖教程 ARM 架构NVIDIA GB10 Grace Blackwell环境中部署 Qwen3.6-35B 推理服务 Rufus的4.4制作ubuntu-24.04.4安装U盘 常用办公终端NEC 莱斯双盘位桌面存储阵列2代-LaCie 2big v2设置RAID1 常用办公终端配置信息 H3C LinSeer MegaCube灵犀MegaCube工作站使用笔记 4090多卡使用sglang推理框架docker布署qwen3.6-35B 国产曦云C500双卡本地部署qwen3.5-35B模型 国产GPU沐曦GPU系统曦云C500体验笔记 FusionXpark GB10盒子开箱笔记 Python 3.11.6 + Oracle 11g​开发环境配置 MCP开发技巧:静态参数作为行为提醒(Reminder Pattern) Teachable Machine安装 Qwen2.5-1.5B + LoRA 单张显卡 微调实战 Qwen2.5-1.5B + LoRA 微调实战 大模型基建实战:使用序列猴子数据集定制 BPE Tokenizer 老年小龙虾soul.md示例 低幻觉医疗大模型Baichuan-M2-32B本地部署笔记
ARM 架构NVIDIA GB10 Grace Blackwell 芯片环境下安装conda
yi-sheng · 2026-04-15 · via 博客园 - yi-sheng

ARM 架构NVIDIA GB10 Grace Blackwell 芯片环境下安装conda

首先检查 Conda 是否已安装
conda --version

下载 ARM 架构的安装脚本
ARM 版本(指向清华镜像源以加速):
wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-aarch64.sh

运行安装
赋予执行权限并启动安装:
bash Miniconda3-latest-Linux-aarch64.sh


同意安装许可
Do you accept the license terms? [yes|no]
>>>
Please answer 'yes' or 'no':
>>> 选yes同意安装许可


回车确认安装到本地
Miniconda3 will now be installed into this location:
/root/miniconda3

- Press ENTER to confirm the location
- Press CTRL-C to abort the installation
- Or specify a different location below

[/root/miniconda3] >>> 回车

检查 Conda 是否已安装
conda --version


安装完成后,刷新 shell 配置以启用 conda:
source ~/.bashrc


安装完成。

创建新环境
conda create -n conda_modelscope_down python=3.10

# 激活环境
conda activate conda_modelscope_down

# 使用ModelScope下载模型前,先安装modelscope
pip3 install modelscope


#下载模型 #若不指定--local_dir,则默认下载到/home/admin1/.cache/modelscope/hub/models/

modelscope download --model Qwen/Qwen3.5-35B-A3B --local_dir /home/models/modelscope/qwen35b_20260302

下载一个小模型,qwen3.5-4b
modelscope download --model Qwen/Qwen3.5-4B --local_dir /home/models/modelscope/qwen35b_4b_20260612

下载qwen3.6
modelscope download --model Qwen/Qwen3.6-35B-A3B --local_dir /home/models/modelscope/qwen36b_20260416
modelscope download --model Qwen/Qwen3.6-35B-A3B --local_dir /home/models/modelscope/qwen36b_20260423
modelscope download --model metax-tech/Qwen3.6-35B-A3B-W8A8 --local_dir /home/models/modelscope/qwen36b_35b_w8a8_20260429
modelscope download --model metax-tech/Qwen3.6-27B-W8A8 --local_dir /home/models/modelscope/qwen36b_27b_w8a8_20260512

下载安诊儿

modelscope download --model MedAIBase/AntAngelMed-INT4 --local_dir /home/models/modelscope/ant-angel-med-int4
modelscope download --model MedAIBase/AntAngelMed --local_dir /home/models/modelscope/ant-angel-med-20260605