Teraz stworzysz własną AI. W Windowsie

Microsoft wyraźnie dostrzegł trend, który zaczyna dominować w branży technologicznej - przesunięcie wielu zadań z zakresu sztucznej inteligencji z chmury obliczeniowej bezpośrednio na urządzenia końcowe użytkowników. Stevie Bathiche, Microsoft Technical Fellow i szef Microsoft Applied Sciences Lab, przyznał podczas briefingu dla dziennikarzy, że ten zwrot w kierunku uruchamiania zaawansowanej AI lokalnie na urządzeniach następuje szybciej niż firma się spodziewała.

Windows AI Foundry to odpowiedź na tę dynamiczną zmianę. Platforma wykorzystuje wszystkie dostępne zasoby obliczeniowe komputerów PC - od tradycyjnych CPU, przez GPU, aż po dedykowane NPU (Neural Processing Unit) obecne w najnowszych komputerach z kategorii Copilot+. Zarządzanie obciążeniami wydajnie na wszystkich urządzeniach jest niezwykle ważne - podkreśla Bathiche.

Czytaj też:

Windows AI Foundry to kompleksowa platforma wspierająca cały cykl życia aplikacji AI - od wyboru modelu, przez optymalizację, dostrajanie, aż po wdrożenie, zarówno na urządzeniach klienckich, jak i w chmurze. Platforma oferuje szereg funkcjonalności, które znacząco upraszczają proces tworzenia aplikacji wykorzystujących sztuczną inteligencję.

U podstaw Windows AI Foundry leży Windows ML - wbudowany w system Windows moduł do wnioskowania AI, który umożliwia deweloperom stosowanie własnych modeli i efektywne ich wdrażanie na różnych typach procesorów od różnych producentów - AMD, Intel, Nvidia i Qualcomm.

Microsoft opisuje Windows AI Foundry jako "zunifikowaną i niezawodną platformę wspierającą cały cykl życia aplikacji AI - od wyboru modelu, przez optymalizację, dostrajanie, aż po wdrożenie. Platforma została zaprojektowana tak, aby odpowiadać na różnorodne potrzeby deweloperów - od tych, którzy dopiero zaczynają swoją przygodę z AI i preferują gotowe rozwiązania, po zaawansowanych twórców budujących własne modele.

Jednym z najbardziej ekscytujących elementów całej platformy jest Foundry Local, który przynosi moc i zaufanie Azure AI Foundry bezpośrednio na urządzenie użytkownika. Jest to wysokowydajny lokalny runtime AI, który umożliwia budowanie i dostarczanie aplikacji wykorzystujących modele, narzędzia i agentów AI bezpośrednio na urządzeniu - bez konieczności połączenia z Internetem.

Foundry Local jest obecnie dostępny w wersji preview zarówno na Windows, jak i na macOS, co czyni go rozwiązaniem cross-platformowym. Na Windows instalacja jest bardzo prosta - wystarczy użyć komendy winget install Microsoft.FoundryLocal w terminalu.

Serce Foundry Local stanowi ONNX Runtime, zapewniający wysoką wydajność na różnych typach procesorów - CPU, GPU i NPU. Na komputerach z Windows integracja została zoptymalizowana dzięki głębokiej współpracy z producentami sprzętu jak AMD, Intel, Nvidia i Qualcomm, w oparciu o fundament Windows ML. Na komputerach Mac Foundry Local oferuje akcelerację GPU na procesorach Apple Silicon.

Co ważne Foundry Local automatycznie wykrywa dostępny sprzęt (CPU, GPU i NPU) i wyświetla listę kompatybilnych modeli, które można przetestować. Deweloperzy mogą też określić, który typ procesora (CPU, GPU, NPU) ma być używany do wykonania zadań.

Windows ML to wysokowydajny lokalny runtime do wnioskowania, wbudowany bezpośrednio w system Windows, co znacznie upraszcza proces dostarczania aplikacji produkcyjnych z modelami open source lub własnościowymi, w tym także tych, które napędzają komputery Copilot+.

Microsoft podkreśla, że Windows ML został zbudowany od podstaw, aby zoptymalizować wydajność modeli i zapewnić elastyczność, a także aby reagować na szybkie tempo innowacji w architekturach modeli, operatorach i optymalizacjach na wszystkich warstwach stosu. Jest to ewolucja wcześniejszego DirectML (DML), oparta na doświadczeniach z ostatniego roku i na opiniach wielu deweloperów, partnerów produkujących układy krzemowe oraz własnych zespołów Microsoftu rozwijających oprogramowanie AI dla komputerów Copilot+.

Po pierwsze, pozwala deweloperom dostarczać aplikacje produkcyjne bez konieczności pakowania runtime'ów ML, interfejsów wykonawczych dla sprzętu czy sterowników wraz z aplikacją. Windows ML wykrywa sprzęt na urządzeniach klienckich, pobiera odpowiednie interfejsy wykonawcze i wybiera właściwy do wnioskowania na podstawie konfiguracji dostarczonej przez dewelopera.

Po drugie, Windows ML jest zoptymalizowany pod kątem wydajności modeli i elastyczności, co pozwala na szybkie wdrażanie nowych rozwiązań AI.

Windows AI Foundry oferuje również gotowe do użycia API, napędzane przez wbudowane modele Windows na komputerach Copilot+, do kluczowych zadań związanych z przetwarzaniem języka i obrazu. Należą do nich:

Ponadto Microsoft ogłosił inne nowe możliwości, takie jak LoRA (low-rank-adaption) do dostosowywania wbudowanego modelu SLM Phi Silica z niestandardowymi danymi oraz nowe API do wyszukiwania semantycznego i pobierania wiedzy, które pozwolą deweloperom budować wyszukiwarki w języku naturalnym i scenariusze RAG (retrieval-augmented generation) w ich aplikacjach z wykorzystaniem niestandardowych danych.

Microsoft wprowadza również natywne wsparcie dla protokołu Model Context Protocol (MCP) w celu zasilenia ekosystemu agentów na Windows 11. Jak wyjaśnia firma: MCP na Windows będzie oferować standardowe ramy dla agentów AI do łączenia się z natywnymi aplikacjami Windows, które mogą udostępniać określone funkcje w celu zwiększenia umiejętności i możliwości tych agentów na komputerach PC z Windows 11.

Ta infrastruktura będzie dostępna w testowej wersji dla deweloperów od wybranych partnerów w nadchodzących miesiącach, aby zebrać opinie. Microsoft podkreśla jednak, że priorytetem jest bezpieczeństwo i prywatność:

Microsoft nie jest jedyną firmą, która dostrzega potencjał lokalnej sztucznej inteligencji. Apple ze swoimi czipami Apple Silicon i funkcjami takimi jak Apple Intelligence również stawia na lokalną AI. Google z kolei rozwija swoje narzędzia AI na platformie Android.

Jednak przewagą Microsoftu jest uniwersalność platformy Windows, która działa na urządzeniach z procesorami różnych producentów. Dzięki Windows AI Foundry i obsłudze różnych typów procesorów (CPU, GPU i NPU) firma może dostarczać rozwiązania AI na znacznie szerszą skalę niż konkurencja.

Ponadto Microsoft ściśle współpracuje z producentami sprzętu, takimi jak AMD, Intel, NVIDIA i Qualcomm, aby zoptymalizować działanie Windows ML i Foundry Local na ich procesorach. Ta współpraca może zaowocować bardziej wydajnymi i efektywnymi energetycznie implementacjami AI na urządzeniach z Windows.

Windows AI Foundry i Foundry Local to nie tylko narzędzia na dziś, ale także fundament pod przyszłość platformy Windows w erze sztucznej inteligencji. Microsoft jasno wskazuje: chcemy uczynić Windows najlepszą platformą dla deweloperów, stworzoną dla tej nowej ery AI, gdzie inteligencja jest zintegrowana w oprogramowanie, krzem i sprzęt.

Jak podkreśla Microsoft, przyszłość AI jest budowana właśnie teraz - w chmurze, na krawędzi sieci i na Windows. Firma jest przekonana, że Windows pozostanie otwartą platformą, która daje deweloperom maksymalną elastyczność, umożliwiając im tworzenie najlepszych rozwiązań.

Windows AI Foundry i Foundry Local reprezentują znaczący krok naprzód w ewolucji platformy Windows w kierunku zintegrowanej sztucznej inteligencji. Dzięki tym narzędziom deweloperzy mogą łatwiej tworzyć aplikacje wykorzystujące AI, a użytkownicy końcowi - w tym entuzjaści elektroniki użytkowej - mogą korzystać z bardziej inteligentnych, responsywnych i prywatnych rozwiązań.

Przeniesienie obciążeń AI z chmury bezpośrednio na urządzenia końcowe jest trendem, który będzie się tylko nasilał w najbliższych latach. Microsoft, dzięki Windows AI Foundry, pozycjonuje się jako lider tej transformacji, dostarczając narzędzia, które demokratyzują dostęp do zaawansowanej sztucznej inteligencji.

Dla entuzjastów elektroniki użytkowej oznacza to nową erę aplikacji i narzędzi, które mogą znacząco wzbogacić ich hobby i pracę, oferując funkcje, które jeszcze niedawno były domeną zaawansowanych systemów dostępnych tylko w chmurze lub wymagających specjalistycznego sprzętu.

Windows AI Foundry nie zastępuje rozwiązań opartych na chmurze, ale oferuje komplementarną alternatywę, która może działać niezależnie lub w połączeniu z usługami chmurowymi, dając deweloperom i użytkownikom większą elastyczność i kontrolę nad swoimi danymi i doświadczeniami AI.