Конвертації Q4NX отримують практичне застосування й чіткі межі

За описом релізу, конвертовані моделі Q4NX тепер завантажуються зі списку NPU в режимі роботи з текстом. Позначки сумісності розрізняють прямий запуск, необхідність конвертації, можливу конвертацію без можливості запуску та відсутність підтримки. Конвертер також відхиляє квантизації GGUF, які дають непридатні відповіді.

У документації є розбіжність: FAQ посібника NPU досі повідомляє, що власні конвертації ще не можна завантажувати. Для конкретної зміни новішим підтвердженням є датовані примітки бета-релізу. Тому в повідомленні про проблему конвертації важливо зберегти точну версію застосунку.

Вимоги до обладнання та середовища залишаються

Посібник визначає NPU AMD XDNA 2 або новіший, підтримувані сімейства Ryzen AI та Windows 11 або Linux x64. Для Linux потрібні відповідний драйвер amdxdna, прошивка й налаштування блокування пам’яті. Звичайний процесор AMD без підтримуваного NPU не є рівноцінною конфігурацією для цієї інтеграції.

Q4NX — формат конкретного середовища виконання, а не гарантія завантаження будь-якого GGUF без змін. Посібник описує конвертацію на CPU та інференс через FastFlowLM. Ці етапи слід відділяти від навчання адаптера або зміни поведінки моделі під конкретне завдання.

Доступ через API не скасовує обмежень пам’яті

AMD описує звернення сумісних агентних застосунків до локальної моделі через OpenAI-сумісний API Unsloth Desktop. Шлях виконання забезпечують Lemonade та FastFlowLM. У прикладі виробника конфігурація Qwen3.6 35B A3B із повним контекстом потребує приблизно 28 ГБ доступної NPU пам’яті, що за наведеного припущення про розподіл Windows відповідає 64 ГБ системної RAM.

Це приклад конкретного налаштування, а не універсальний мінімум для всіх моделей. Важливі вибрані ваги й довжина контексту. Ми не вимірювали швидкість, автономність або споживання енергії, тому не переносимо рекламовані коефіцієнти ефективності на довільний ноутбук.

Донавчання LoRA — окрема частина оновлення

Реліз додає донавчання LoRA для LTX-2.5 та MOSS-Image. Це не означає, що такі адаптери навчає NPU: документація відносить підтримуване навчання, генерацію зображень і відео до Radeon GPU. Локальний запуск готових ваг і донавчання мають різне призначення та різні вимоги.

Для спеціалізованого помічника ми пропонуємо перевіряти не лише модель, а й застосунок навколо неї: порівняти типові відповіді, запити інструментів і помилки до та після зміни середовища виконання. Ліцензію вибраних ваг перевіряти окремо. Інтеграція програми не замінює ліцензію й не підтверджує дозволу агента виконувати будь-яку описану ним дію.