惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

aimingoo的专栏
aimingoo的专栏
人人都是产品经理
人人都是产品经理
M
MIT News - Artificial intelligence
C
Cybersecurity and Infrastructure Security Agency CISA
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
爱范儿
爱范儿
Spread Privacy
Spread Privacy
P
Palo Alto Networks Blog
Security Archives - TechRepublic
Security Archives - TechRepublic
T
The Blog of Author Tim Ferriss
The Cloudflare Blog
WordPress大学
WordPress大学
小众软件
小众软件
H
Help Net Security
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
Blog — PlanetScale
Blog — PlanetScale
V2EX - 技术
V2EX - 技术
H
Hacker News: Front Page
Last Week in AI
Last Week in AI
D
DataBreaches.Net
V
V2EX
S
Securelist
C
CXSECURITY Database RSS Feed - CXSecurity.com
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
T
Tenable Blog
Cloudbric
Cloudbric
月光博客
月光博客
Y
Y Combinator Blog
博客园 - 三生石上(FineUI控件)
N
News and Events Feed by Topic
K
Kaspersky official blog
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
S
Secure Thoughts
S
Security Affairs
W
WeLiveSecurity
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
The Last Watchdog
The Last Watchdog
AI
AI
有赞技术团队
有赞技术团队
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
博客园 - 【当耐特】
罗磊的独立博客
Google DeepMind News
Google DeepMind News
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
N
Netflix TechBlog - Medium
PCI Perspectives
PCI Perspectives
SecWiki News
SecWiki News
IT之家
IT之家
Microsoft Azure Blog
Microsoft Azure Blog
V
Visual Studio Blog

Все публикации подряд на Хабре

Ловим музу за клавиатуру: как айтишнику стать автором Что умеет Midjourney в 2026? Мой немного грустный разбор этого шикарного инструмента Никто не любит писать тесты, но ИИ может исправить это IPv8 выглядит как мечта. Поэтому почти наверняка не взлетит Производители вернули в продажу материнки с DDR3. Что происходит? Управление агентом с телефона через Telegram теперь в KodaCode От координации к лидерству: как меняется роль руководителя разработки Я сделала родителям бизнес вместо пенсии: зарабатываем 70 тысяч, мама не даёт продать В три раза быстрее приемка товара и оптимизация трудозатрат на 73%: как «РСТ-Инвент» помог Gulliver Group ИИ-шечный мир победил? О влиянии искусственного интеллекта на игропром Кремль снижает давление на Телеграмм пока Европа строит интернет по паспорту Как CEO, CTO и CIO за 8 часов собрали ИИ-директора, который умеет держать позицию под давлением Как (не) потерять домен за выходные Вместо 8 разных VPS: как я организовал практику студентам на одном сервере Почему твой Open Source проект не замечают? R&D: искусство управления неопределенностью в разработке AI-дефляция: вакансий для разработчиков больше, а рост зарплат — худший за 15 лет Мы отдали управление роботами OpenClaw. Что из этого вышло Галактический ID: система идентификации для всех форм разумной жизни Шесть основ бизнес-анализа: начинаем с вопроса «Кто в игре?» Код-ревью, в котором дело не в коде Данные переехали. Команда — нет Системной подход к сдаче OSWE в 2025 Почему комната управления реактором покрашена в цвет морской пены 4 YAML-файла вместо PySpark: как аналитикам строить пайплайны без разработчиков LLM-агент для поиска свободных доменов: автоматизируем подбор Когда, зачем и как правильно начинать новую сессию в Claude Code? Как я заставил нейросеть писать макросы для FreeCAD Анатомия ИИ‑агента для подбора персонала. От тысячи резюме к топ‑10 за минуты Опыт разработчика как экономика внимания Автономность как точка невозврата: кто будет субъектом в цифровом будущем Обучение ИИ в «диких» условиях: как рутинные действия превращаются в датасеты Как измерить LLM для задач кибербеза: обзор открытых бенчмарков Где хранить код? Сравнение GitHub, GitLab и Bitbucket Математика объясняет, почему нормальное распределение встречается повсюду Почему ваш FinOps не работает: 12 тезисов от практиков Как подписать проектную документацию УКЭП с использованием бесплатных лицензий Pilot Адаптивное администрирование Sigla Vision Я грузил уран в бочки, а потом 20 лет строил ИТ в атомной отрасли Чем позвонить с Эвереста? История и обзор спутниковой связи. Часть 2 Как языковая модель помогает контролировать качество инструктажей по охране труда в металлургии Как не передать на desktop свой IP в РКН Анатомия SAP Privileges: как устроено управление правами в macOS MoneyDev: Сказка про три главных слова Обновлённый токенизатор видео K-VAE 2.0 от Сбера Как сделать диспетчеризацию дома на 1284 квартиры почти бесплатно Как мы разогнали железную дорогу Мы дали агентам рутину. Теперь надо решить — что делать с освободившимся временем Токсичный контент, промпт-хакинг и защита ИИ — всё о Guardrails для LLM Умный город начинается с точного взгляда: как «Фалькон Тех» меняет пространство к лучшему Навайбкодил приложение для анализа графов Почему Дюну так интересно читать? Упрощаем работу с рутиной или как стать Гендальфом Белым Деконструкция Go: CPU, RAM и что там происходит. Go Assembler база. Часть 1.1 Какие профессии исчезнут из-за ИИ, а какие появятся? И что с этим делать Как мы построили IT-отдел, где хочется расти: архитектурные встречи, прозрачные метрики и книжные подарки Rufler: Делаем из Claude Code автономный рой через один YAML-конфиг Sing-box и белый список приложений Как построить надёжный обмен сообщениями в микросервисах: лучшие практики для enterprise OpenAI строит MLM-пирамиду, а McKinsey и Accenture помогают ей в этом Дом, который не построил Фишер (Часть 2) «Сверхзвуковой математик» против «Вдумчивого логиста»: битва алгоритмов 3D-упаковки Мультимодальные модели – грубый и дорогой инструмент Разговоры ничего не стоят. Код тоже Проверки физических лиц: с кого начнет ФНС Топ-10 бесплатных нейросетей для создания видео в 2026 году Первые слои кода: как наши решения сегодня определяют архитектуру ИИ на десятилетия Разработка нового статического анализатора: PVS-Studio JavaScript Поиск уязвимостей ПО: базовый минимум или роскошный максимум Почему оценка персонала не работает как инструмент управления Как мы разработали ИИ-ассистента и сократили рутину продуктовой команды на 50% Как я ушел из найма, нажарил косточек и продал на маркетплейсах на 168 млн в год Когда 1С:ERP уже внедрена, а нормального производственного плана всё ещё нет Как я сделал Claude мультимодальным, подключив к нему Qwen Omni Как приглашение на вакансию мечты превращается в атаку Infrastructure as Code: философия и лучшие практики IaC Тестируем Yandex Code Assistant на задаче, в которой нужно хранить секреты nxs-universal-chart v3.0: новое поколение универсального Helm-чарта Callback Injection: Техника, которая отправила Microsoft Defender в глухой нокаут «Все идеи на стол»: митап как способ вывести проект из тупика Сегодня я узнал нечто новое о GPU благодаря багу в своей игре Как заставить LLM ̶ ̶г̶а̶л̶л̶ю̶ ̶ эволюционировать Карта событий как фундамент аналитики: практический кейс для E-commerce Что выбрать для AI: x86, ARM или RISC-V? Дайджест железа за март Роль соматических мутаций в развитии аутоиммунных заболеваний: путь к избирательной терапии Mythos от Anthropic — тревожный сигнал для всех, а не только для банков Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы Green-VLA: как мы собрали VLA-модель для реального антропоморфного робота и не потеряли обобщение Финансовая гонка вооружений: почему умные люди добровольно в ней участвуют Эра ИИ-агентов наступила: выбираем лучшего цифрового сотрудника # Практический опыт внедрения WinCC Redundancy на производственном предприятии Сделал MVP за 3 дня, а потом неделю прикручивал оплату. Оно того стоило? Физика против Маска: почему Starship V3 может оказаться ещё одной катастрофой Нефть Венесуэлы: крупнейшие запасы в мире, но не крупнейшая нефтяная держава JPA 4. Переосмысление Hibernate Почему зеркальная фотокамера Nikon D5 десятилетней давности идеально подошла для миссии «Артемида-2» Проект «Уровень-Спутник» или как мы сделали платформу для гидрологов «Замедлиться, чтобы ускориться»: почему ИИ повышает цену ошибок в требованиях и архитектуре Как с нуля поднять трафик IT-компании на 1657% при бюджете 55 тыс. и выжить Pixel-perfect Downsampling — идеальная отрисовка 50 миллионов точек без потерь
Прогнал 6 апрельских LLM через battle test. Победил не самый новый и не самый дорогой
Maslennikovi · 2026-04-28 · via Все публикации подряд на Хабре

Уровень сложностиСложный

Время на прочтение7 мин

Охват и читатели349

Мнение

DeepSeek V4 Pro вышел 24 апреля 2026, три дня назад. Огромная модель, топ AIME и SWE-bench, передовая reasoning-архитектура. Вокруг релиза до сих пор много шума — пиарили мощно. Я открыл OpenRouter, прописал её в свой battle test и ждал Tier S — 95+ из 100 на длинном русском контенте.

Получил 89. Tier A, нижний край. Ну ладно — подумал, что модель прогрелась криво, и через сутки прогнал второй раз. Ровно 89. Не статистический выброс, а воспроизводимый результат.

Запустил его же Flash-вариант — 83. По чистому качеству Pro действительно сильнее, на 6 пунктов. Только Flash при этом стоит $0.0019 за вызов против $0.0256 у Pro. В 13 раз дешевле.

И финал: перетестировал Qwen 3.6 Plus, который вышел 2 апреля — за 22 дня до V4 Pro. Тоже апрельский релиз, но успевший осесть в OpenRouter и пройти первую волну хайпа. На платной версии (раньше гонял :free, не доверял) получил 92. Тот самый Qwen обогнал новейший флагман DeepSeek и по качеству, и по цене.

Дальше — про то, почему “новее и больше” перестало быть критерием выбора, и какая модель в итоге пошла в production.

Зачем мы вообще это тестируем (если коротко)

Ровно два дисклеймера, чтобы было сразу понятно, что меряю и что не меряю.

Первое. Цель этих тестов — не найти лучшую модель в мире. Цель — выбрать оптимальную по цене и качеству для production-API в клиентских проектах. Мы делаем образовательные курсы под крупного клиента, и каждый цент за вызов превращается в тысячи долларов в месяц. Выбор модели — это в первую очередь экономика, а не “у кого больше параметров”.

Второе, оттуда же. Я не тестирую Opus 4.7 и GPT-5.5, которые вышли почти одновременно с DeepSeek V4. Не потому, что они плохие — наоборот, и без замеров понятно, что они в топе по качеству. А потому, что их API-цены не годятся для клиентского production с десятками тысяч вызовов в месяц. Когда задача — массовая генерация контента, а не разовая консультация, “просто заплатить” перестаёт работать.

В этом тесте — модели, которые реально могут пойти в клиентский production по цене. Tier A качества с разумной API-стоимостью.

Что обновилось с прошлого теста

В прошлой статье (методология битвы LLM) я разбирал 18 моделей. Лидерами тогда вышли GPT-5.4 (97), Claude Opus 4.6 (96), Qwen 3.6 Plus :free (94). Это было три недели назад.

С тех пор успели выйти DeepSeek V4 в двух вариантах (Pro и Flash), Kimi K2.6, Mimo V2.5 и V2.5 Pro, Gemini 3 Flash Preview. Apr 2026 — самый плотный месяц по релизам за всё время теста. Я фактически три раза перезапускал прогон: только дотестируем партию, выходит новый интересный релиз, надо включать. Это отдельная боль — стенд приходится держать в постоянной готовности, иначе результаты устаревают раньше, чем ты их публикуешь.

Заодно я доработал саму методику — ровно потому, что предыдущий запуск её сломал.

Подняли max_tokens с 16384 до 32768

Kimi K2.6 в первом тесте получал обрезание в трёх темах из пяти: модель писала больше 16k токенов, а сервер резал. Баллы падали. Сначала я думал, что это её проблема. Оказалось, мой конфиг.

Убрали штраф за truncation, если виноват наш конфиг

Раньше: −10 баллов за обрезание, без разбора. Теперь: смотрю, упёрся ли output_tokens в max_tokens. Если да — это мой баг, надо повышать лимит и пересобирать, а не штрафовать модель.

Платный re-test для подозрительно высоких :free-моделей

Qwen 3.6 Plus :free получил 94 балла. Подозрительно ровно — у бесплатных эндпоинтов бывает evaluator generosity, плюс там часто другая разбивка квантования. Перегнал на платной версии — 92. Те же 2 балла, к которым я и был готов.

Тестовый стенд: пять одинаковых тем для каждой модели, один и тот же промпт-генератор уроков, одинаковые параметры запроса (temperature=0.4, max_tokens=32768). Оценка через Claude Sonnet как судью, по 10 критериям. Score per dollar считаю отдельно: качество / цена за вызов.

Парадокс DeepSeek V4: Pro проиграл Flash

Ставлю Pro против Flash в одной таблице — становится понятно, где именно у флагмана проблема.

Метрика

Pro

Flash

Кто лучше

Среднее слов на тему

2598

2525

Pro (+73, незначительно)

Среднее токенов на вызов

7055

6582

Pro (+7%)

Время генерации одной темы

210 с

90 с

Flash в 2.3 раза быстрее

Цена за вызов

$0.0256

$0.0019

Flash в 13 раз дешевле

Качество (Claude Score)

89

83

Pro (+6 баллов)

Value Score (70% качество / 30% цена)

75.8

95.3

Flash (+19.5)

Если просто читать оба текста подряд — Pro действительно лучше. Глубже методологические разборы, аккуратнее таблицы, чуть больше уникальных insights (узнаваемая попытка про Herzberg, попытка про zero-based budgeting), цена объяснима.

Но если перевести разницу в производственные деньги — картина перестаёт быть однозначной.

10 000 уроков в месяц на Flash: $19. На Pro: $256. Разница — $237 в месяц за +6 баллов из 100. Для премиум-контента в малом тираже это нормальный размен. Для production, где идут сотни тысяч вызовов и каждый цент превращается в тысячи долларов — нет.

100 000 уроков в месяц: Flash $190, Pro $2560. Это уже $2370 в месяц или $28440 в год за прирост качества с 83 до 89.

И вот тут рассыпается главная привычка — выбирать “флагман по умолчанию”. Pro объективно сильнее, но дельта качества не компенсирует дельту цены.

Почему Pro не вытянул Tier S

Это спекулятивная часть, дальше пишу свои наблюдения, не выводы. Прочитал по 5 тем у каждой модели и вот что вижу.

Первое — Pro явно тренировали под цепочки рассуждений. На SWE-bench и AIME он в топ-3 мира. Длинный narrative-текст требует другого: вариации ритма, удержания темы на 3000 слов, способности вернуться к мысли через два абзаца. Pro делает это компетентно, но сухо. Текст читается как методичка, а не как разбор от практика.

Второе — корпус. Qwen, разработанный китайской командой, парадоксально пишет по-русски естественнее DeepSeek, тоже китайского. У Pro иногда чувствуется “переводной” регистр — особенно в бизнес-понятиях вроде EVP, retention, churn. Это не ошибка, но цепляет ухо.

Третье — стилистический потолок. Pro даёт хороший “учебниковый” текст. Структура в порядке, факты точные. Но топовые модели (Qwen, Kimi, GPT-5.4) дают такие куски, которые хочется цитировать целиком. У Pro этого свойства нет — никаких “EVP не продаёт вакансию, он фильтрует”. Чисто, но без характера.

Это не претензия к модели — Pro нормальный Tier A. Это претензия к моим ожиданиям: я ждал, что reasoning-флагман автоматически перенесёт силу с задач кода и математики на длинный narrative. Не переносит.

Reality check: Qwen на 22 дня раньше — и впереди по обоим критериям

Qwen 3.6 Plus вышел 2 апреля 2026. DeepSeek V4 Pro — 24 апреля. Оба апрельских релиза, разница 22 дня. Современники по любому разумному определению.

Критерий

Qwen 3.6 Plus

DeepSeek V4 Pro

Разница

Дата релиза

02 апр 2026

24 апр 2026

DeepSeek новее на 22 дня

Качество (Claude Score)

92

89

Qwen +3

Цена за вызов

$0.018

$0.0256

Qwen дешевле на 30%

Value Score

84.6

75.8

Qwen +8.8

Качество выше, цена ниже. По обоим критериям одновременно.

Что у Qwen лучше при чтении вблизи. Конкретные кейсы с цифрами вроде “конверсия выросла с 18% до 41%” или “снижение текучести с 28% до 18% за 6 месяцев”. Сразу оговорюсь: это цифры из корпуса модели, я их не верифицировал — возможно синтетика, возможно что-то из реальных публичных отчётов. Но звучат они как примеры из практики, а не из учебника. Для production-генерации курсов это полезный сигнал: модель умеет выдавать «правдоподобную фактуру», которую человек дальше проверяет.

Ещё у него заходят сжатые таблицы с маржинальными вилками — “5–15%, 10–25%, 25–60%+”. Опять же, не строгие данные, но как ориентир для эксперта работает.

И уникальные формулировки. У Qwen в ответах попадались штуки типа “EVP не продаёт вакансию, он фильтрует кандидатов на выходе” или “цена должна быть 15% от годовой экономии клиента, иначе разговор не получится”. Pro таких не выдаёт — у него всё корректно, но это та корректность, которая не запоминается.

То есть проигрыш не в категории — обе модели в Tier A. Проигрыш в ожиданиях. И в production-математике.

Чемпион value: Flash

DeepSeek V4 Flash в этом тесте оказался самым дешёвым среди всех Tier A моделей. И не на проценты, а на порядки.

Score per dollar:

  • Flash: 83 / $0.0019 = 43 684 балла на доллар

  • Pro: 89 / $0.0256 = 3 477 баллов на доллар

  • Kimi K2.6: 88 / $0.0478 = 1 841 балл на доллар

Flash в 12.6 раза эффективнее своей же Pro-версии по этой метрике. Это не маркетинговая натяжка, это арифметика — Pro выигрывает в качестве 7%, проигрывает в цене 1248%.

Для конкретики: ставлю производство на 100 000 уроков в месяц.

Модель

$/мес

$/год

Качество

Flash

$190

$2 280

Tier A (83)

Pro

$2 560

$30 720

Tier A (89)

Kimi K2.6

$4 780

$57 360

Tier A (88)

Разница Pro vs Flash — $28 440 в год за +6 баллов из 100. Дальше нужно отвечать на бизнес-вопрос, а не на технический: эти 6 баллов реально влияют на конверсию учеников, которые проходят курс, или нет?

В моём случае — нет. Уроки, которые идут на mass-production, должны быть качественными по дну (Tier A гарантирует), а не на пике. Premium-материалы, где пиковое качество критично, я и так пишу руками или подключаю Qwen / GPT-5.4. Для основной массы Flash — компромисс, который окупается в 13 раз быстрее любой альтернативы.

Скорость тоже играет: 90 секунд на 3000-словный урок против 210 у Pro. Pro в 2.3 раза медленнее, и это внезапно тоже стоит денег — пайплайны параллелятся хуже, очереди длиннее, latency-чувствительные сценарии отваливаются.

Что я в итоге поменял в production

Если коротко — пересобрал стек выбора модели от “флагман по умолчанию” к “ценовая полка под задачу”.

Production-генерация уроков, 10–100k вызовов в месяцdeepseek/deepseek-v4-flash. $19–190 в месяц на этот объём, Tier A качество, 90 секунд на урок, без обрезаний с max_tokens=32768.

Премиум-разборы, 1–10k вызовов в месяцqwen/qwen3.6-plus (платный, не :free). $18–180 в месяц, 92 балла, естественный русский, реальные цифры в кейсах. Лидер качества в адекватной ценовой категории.

Уникальные insights для топовых клиентов, единичные вызовыmoonshotai/kimi-k2.6. $0.0478 за вызов, 88 баллов. Дороговато, но даёт формулы и фреймворки, которых нет у других моделей. Когда нужен авторский кусок, который нельзя получить нигде — иду к Kimi.

Не пошли в производство:

  • deepseek-v4-pro — переплата без явной выгоды против Flash или Qwen. Может, через полгода мы найдём задачу, где разница в 6 баллов критична — тогда вернёмся.

  • gemini-3-flash-preview — 57 баллов и 37% от целевого word count. Скорость есть, контента нет.

  • xiaomi/mimo-v2.5 (без Pro) — Tier B без специфичных преимуществ.

Mimo V2.5 Pro дал 84 балла за $0.0223 — ровно середина рынка. В стенд оставил, но в production не выкатил: Flash дешевле в 12 раз при качестве на 1 балл ниже.

Что я для себя поменял

Главный урок этого теста — личный, не универсальный. Ставка на флагмана по дате релиза и количеству параметров перестала окупаться. Свежий релиз с миллиардами параметров проиграл и более старому конкуренту, и собственному младшему брату. Причём проиграл не по одной случайной метрике, а по экономике production целиком.

Это не значит, что DeepSeek V4 Pro плохая модель. Она нормальная Tier A. Это значит, что выбирать её “потому что новее и больше” — устаревшая привычка. Особенно когда вокруг релиза много шума: тем сильнее искушение поставить и не проверять.

Поэтому единственная универсальная рекомендация, которую я готов дать — не доверяйте ни моим цифрам, ни цифрам разработчиков моделей. Соберите 5–10 ваших реальных задач, прогоните через 3–4 модели разных ценовых категорий, посмотрите ваш score per dollar. Чужой стенд под чужие задачи — это в лучшем случае ориентир, в худшем — ловушка.

Если у вас есть модель, которую хотите видеть в следующем прогоне, или нашли у меня методологическую дыру — напишите @maslennikovig, разберёмся. Скилл с методикой и сам стенд — на GitHub. ТГ канал интереса ради тут.