惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
P
Proofpoint News Feed
宝玉的分享
宝玉的分享
人人都是产品经理
人人都是产品经理
博客园_首页
爱范儿
爱范儿
博客园 - 叶小钗
aimingoo的专栏
aimingoo的专栏
S
SegmentFault 最新的问题
MyScale Blog
MyScale Blog
阮一峰的网络日志
阮一峰的网络日志
IT之家
IT之家
Microsoft Security Blog
Microsoft Security Blog
Blog — PlanetScale
Blog — PlanetScale
博客园 - 【当耐特】
Y
Y Combinator Blog
量子位
博客园 - 三生石上(FineUI控件)
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
T
The Blog of Author Tim Ferriss
月光博客
月光博客
有赞技术团队
有赞技术团队
Apple Machine Learning Research
Apple Machine Learning Research
A
About on SuperTechFans

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant
Faire tourner Flux Schnell (12B) + LLMs sur une ancienne ...
AIVisionsLab · 2026-05-23 · via DEV Community
Cover image for Faire tourner Flux Schnell (12B) + LLMs sur une ancienne AMD RX 580 (8 Go) via Vulkan — Guide d'architecture complet [2026]

AIVisionsLab

On a dit à beaucoup de monde que la RX 580 était "morte" pour l'IA en 2026. Écosystèmes exclusivement CUDA, abandon du support Polaris par ROCm depuis la v5.x, et DirectML qui n'a jamais atteint sa maturité. Voici l'analyse technique détaillée de la façon dont nous avons prouvé le contraire.

Setup matériel

  • GPU : AMD RX 580 2048SP — 8 Go GDDR5 VRAM (support natif Vulkan 1.x)
  • CPU : Intel Xeon E5-2690 v3 — 12c/24t @ 3.5GHz boost
  • RAM : 32 Go DDR4 REG ECC Quad Channel
  • Stockage : NVMe 1 To (indispensable pour supprimer les goulots d'étranglement)
  • OS : Windows 10 Pro + WSL2 Ubuntu 22.04.5

Pourquoi les autres solutions échouent ?

Solution État Raison
CUDA Exclusif Nvidia
ROCm Support Polaris arrêté à la v5.x
DirectML Erreur OpaqueTensorImpl sur CLIPTextEncode
OpenVINO Modules ldm/sgm manquants sur Forge

L'erreur fatale de DirectML :

NotImplementedError: Cannot access storage of OpaqueTensorImpl

Enter fullscreen mode Exit fullscreen mode

Le pilote encapsule la mémoire dans des tenseurs opaques que les backends d'attention de ComfyUI ne peuvent pas lire. C'est une impasse.

La Solution — Architecture Duale

CHEMIN 1 — GPU Vulkan (Accélération RX 580)

Build native de stable-diffusion.cpp compilée avec -DGGML_VULKAN=ON. Le moteur ggml mappe directement vers le GPU sans dépendre de ROCm ou CUDA. Les modèles SD 1.5 GGUF tournent en ~72 secondes.

CHEMIN 2 — CPU Xeon (Modèles lourds SOTA)

FLUX.1 Schnell (16 Go) dépasse la VRAM physique. ComfyUI tourne via CPU dans WSL2, en utilisant la RAM ECC comme une VRAM virtuelle stable. Génération 768x768 en ~24 minutes.

Segmentation de mémoire hybride (Flux 12B Q4_K)

Composant Fichier Allocation
Modèle Diffusion flux1-schnell-q4_k.gguf GPU VRAM ~6.5 Go
VAE ae.safetensors CPU RAM ~160 Mo
CLIP L clip_l.safetensors GPU VRAM ~235 Mo
T5XXL t5xxl_fp16.safetensors CPU RAM ~9.3 Go

Commande de production

sd-server.exe --listen-ip 0.0.0.0 --listen-port 7860 \
  --diffusion-model "E:\models\flux1-schnell-q4_k.gguf" \
  --vae "E:\models\ae.safetensors" \
  --clip_l "E:\models\clip_l.safetensors" \
  --t5xxl "E:\models\t5xxl_fp16.safetensors" \
  --cfg-scale 1.0 --steps 4 --clip-on-cpu --vae-on-cpu --vae-tiling

Enter fullscreen mode Exit fullscreen mode

--vae-on-cpu et --vae-tiling sont obligatoires. Sans eux, le crash DeviceMemoryAllocation est immédiat.

Benchmarks réels

Charge de travail Backend Résultat
Inférence LLM CPU seulement 3–5 tokens/s ❌
Inférence LLM RX 580 Vulkan 15–16 tokens/s ✅
SD 1.5 20 steps DirectML ~450s + crash ❌
SD 1.5 20 steps Vulkan natif ~72s ✅
Flux 1024x1024 Xeon CPU WSL2 ~24 min ✅

Note : Le temps de chargement des modèles est passé de 25 min (HDD) à 4 min (NVMe).

Architecture des services

OpenWebUI Docker :3000
  ├── llama-server.exe :8081  (Vulkan — RX 580)
  ├── sd-server.exe    :7860  (Vulkan — RX 580)
  └── ComfyUI          :8188  (CPU — Xeon WSL2)

Enter fullscreen mode Exit fullscreen mode

Ressources

Documentation complète, scripts d'orchestration .bat et binaires compilés :
👉 https://setup-ia-local-rx580-vulkan.firebaseapp.com/