Microsoft, Azure için Gerçek Zamanlı AI'yi Sunuyor

Microsoft, Çarşamba günü Hot Chips 2017'de kod adı "Project Brainwave" olan gerçek zamanlı yapay zeka için tasarlanmış yeni bir derin öğrenme hızlandırma platformu açıkladı.

Platform üç ana katmandan oluşur:

  • Yüksek performanslı, dağıtılmış bir sistem mimarisi;

  • FPGA'lere sentezlenen donanım DNN (derin sinir ağı) motoru (alan programlanabilir kapı dizileri); ve

  • Eğitimli modellerin düşük sürtünmeli dağılımı için bir derleyici ve çalışma zamanı.

Project Brainwave, Microsoft'un Azure ve Bing'de son birkaç yıldır kullandığı Project Catapult'tan devasa FPGA altyapısını kullanıyor.



Al

FPGA, klasik bulut altyapısına derin sinir ağlarına uyarlanmış göreve özel hesaplama gücü eklemek ve uygulamak için bir yoldur.

Bu, konvansiyonel sunucu kapasitesi için geliştirmeyi kolaylaştırıyor ve FPGA'lerin AI iş yükleri için gerekli olan bilgi işlem gücü sağlamasına izin veriyor.

Yüksek performanslı FPGA'leri Microsoft'un veri merkezi ağına doğrudan bağlamak, DNN'lerin donanımdaki mikro servisler olarak sunulmasına ve onları döngü içinde hiçbir yazılım içermeyen bir sunucu tarafından çağrılmasına olanak tanır. Bu, gecikmeyi azaltır ve çok yüksek verim sağlar.

Her istekte bir milisaniyenin altında çalışan 39,5 milyar veri sağladı.

Microsoft Project Brainwave'i Azure kullanıcılarına getirecek ve Bing gibi hizmetler aracılığıyla dolaylı erişimi tamamlayacak.

Constellation Research baş analisti Ray Wang, "Bu, Microsoft'un AI çalışmalarının çoğuna başlamak için iyi bir yer" dedi.

Rakiplerle Başa Çıkmak


Wens, Constellation'ın Tensorflow'u kullanarak Google Cloud Platform'a gittiğini söyleyen müşterilerin ve teknoloji ortaklarının çoğunu söyledi.

Tahir, öncelikle Microsoft'un en büyük rakibi olacağını söyledi.

Wang, "Facebook, Alibaba, Tencent ve Amazon gibi" Uzun vadede, AI'yi yönetecek büyük hesaplama gücü olanları olacak "dedi.

Henschen, FPGA tabanlı hizmet "büyük olasılıkla popüler ve uygun maliyetli bir seçenek olacak, ancak Microsoft da kesinlikle AI'ya yönelik GPU altyapı seçenekleri sunacak" dedi. "IBM ve Google, GPU hesaplama gücünü kendi bulutlarına getirdi.
TAG