Interakcja z SI w czasie rzeczywistym. Tak działa Project Brainwave Microsoftu
Project Brainwave to nowa platforma głębokiego uczenia się, którą Microsoft zaprezentował na sympozjum Hot Chips 2017. Została ona stworzona z myślą o obsłudze algorytmów SI w czasie rzeczywistym. Za pośrednictwem chmury rzecz jasna.
Project Brainwave można traktować jako bezpośrednią odpowiedź na Open AI firmy Google. Przynajmniej od strony sprzętowej. Google w tej kwestii stawia na autorską platformę Cloud TPU, Microsoft z kolei stawia na nieco bardziej wszechstronny układ logiczny FPGA. Układy wykorzystywane przez firmę z Redmond produkowane są przez Alterę, podmiot należący do Intela.
Project Brainwave: większa moc obliczeniowa sieci neuronowych.
Zapotrzebowanie na przetwarzanie danych w czasie rzeczywistym przez układy SI wciąż rośnie. Ilość danych również. Analiza materiałów wideo, czy danych pochodzących z telemetrii samochodów autonomicznych wymusza coraz większą przepustowość od centr serwerowych. W końcu taki autonomiczny samochód musi podejmować niektóre decyzje w mgnieniu oka.
Project Brainwave można podzielić na trzy warstwy: wydajną, rozproszoną architekturę systemu, sprzętowy silnik DNN (deep neural network) i kompilator razem ze środowiskiem uruchomieniowym. Wydajna infrastruktura FPGA pozwala na obsługę DNN w charakterze sprzętowych mikroserwisów. Takie rozwiązanie znacznie odciąża sam procesor, który w tej sytuacji nie musi przetwarzać żądań przychodzących. To z kolei powoduje, że cały system jest bardzo szybki. Microsoft twierdzi, że największym ograniczeniem jest obecnie sama prędkość łącza.
Do tego, dzięki wykorzystaniu układów FPGA, system Microsoftu jest bardzo elastyczny, przez co może obsługiwać wiele typów danych. Elastyczność to zresztą kolejne słowo kluczowe, jeśli chodzi o Project Brainwave. Na chwilę obecną Microsoft chwali się, że ich nowa platforma współpracuje z takimi frameworkami głębokiego uczenia się, jak Microsoft Cognitive Toolkit i Google Tensorflow. W przyszłości, dodanie obsługi dla nowych frameworków nie powinno stanowić większego problemu.
Project Brainwave to nowe możliwości usług Microsoftu.
To jest osadzony dokument pakietu <a target="_blank" href="https://office.com">Microsoft Office</a> obsługiwany przez aplikację <a target="_blank" href="https://office.com/webapps">Office Online</a>.
Podczas Hot Chips 2017, Project Brainwave został zaprezentowany na układzie Stratix 10 FPGA, wykonanym w architekturze 14 nm. Wydajność Brainwave, jaką udało się na nim osiągnąć to 39,5 teraflopów (130 tys. operacji obliczeniowych w 1 cyklu), a przetwarzanie pojedynczego żądania trwało mniej, niż 1 ms! Microsoft odgraża się, że to jeszcze nie koniec i za jakiś czasu uda się zoptymalizować platformę tak, żeby była jeszcze szybsza.
Project Brainwave niedługo też wejdzie w skład platformy Microsoft Azure. Wkrótce też odpowiedzialny będzie za przetwarzanie danych (nie wszystkich) w innych usługach firmy z Redmond. Z pewnością pojawi się chociażby w wyszukiwarce Bing. Jeśli Microsoft rozegra to mądrze, jego platforma Azure może stać się liderem, jeśli chodzi o korzystanie z sieci neuronowych w czasie rzeczywistym. Taką ofertą z pewnością zainteresowana będzie chociażby spora część branży motoryzacyjnej.
