Microsoft оголосила про запуск оптимізованих версій AI-моделі DeepSeek R1 для комп’ютерів з Copilot+ на базі Windows 11. Ці моделі, створені спеціально для роботи з нейропроцесорами (NPU), спершу будуть доступні на пристроях із Snapdragon X, а згодом — на ПК з процесорами Intel Lunar Lake та AMD Ryzen AI 9. Першою у серпні вийде версія DeepSeek-R1-Distill-Qwen-1.5B, яку розробники зможуть інтегрувати за допомогою Microsoft AI Toolkit. Більші варіанти на 7B та 14B параметрів плануються пізніше.
Copilot+ PC — це комп’ютери під управлінням Windows 11 із мінімум 256 ГБ пам’яті, 16 ГБ ОЗУ та NPU, здатним забезпечувати потужність від 40 TOPS. Через ці вимоги деякі старі пристрої з нейропроцесорами не зможуть запускати моделі локально. “Оптимізація дозволяє розробникам створювати AI-додатки, які ефективно працюють на пристроях, використовуючи потужність NPU”, — пояснюють у Microsoft. Для досягнення цього компанія використала технологію Phi Silica, що забезпечує швидке оброблення запитів з мінімальним впливом на автономність.
Технічні деталі та переваги
- Слайдове вікно: Прискорює отримання першого токена та підтримує довгі контексти навіть без динамічних тензорів.
- Квантування QuaRot 4-bit: Зменшує обсяг обчислень, максимально використовуючи можливості низькорозрядних процесорів.
- Сумісність з Windows Copilot Runtime: Масштабування через ONNX QDQ для різноманітних конфігурацій Windows.
Модель DeepSeek R1 1.5B буде доступна через розширення AI Toolkit у VS Code. Розробники зможуть тестувати її локально на Copilot+ PC за допомогою Playground. Окрім локального використання, Microsoft також надасть доступ до цих моделей у хмарі через Azure AI Foundry. Це дозволить бізнесу інтегрувати AI з дотриманням SLA, стандартів безпеки та етичних норм.
Цей крок Microsoft викликав суперечки. OpenAI звинувачує DeepSeek у використанні краденого коду для розробки їхніх AI-моделей, які, на відміну від американських аналогів, коштували менше $10 млн. Проте Microsoft продовжує співпрацю, підкреслюючи важливість доступних AI-рішень.
