A Microsoft AI-kiszámításra szakosodott hardverét Brainwave-nek hívják, és úgy lett kialakítva, hogy egy neurális hálózatot a lehető leggyorsabban futtasson, minimális késleltetés mellett.

A társaság bejelentette, hogy a Brainwave használata óta tízszer gyorsabb teljesítményt kapott a Bing AI-jétől. A gépi tanulási modell alapvetően biztosítja a keresőmotor funkcionalitását.

A Microsoft célja, amelyet el kell érni a Brainwave segítségével, az, hogy valós idejű AI-előrejelzéseket biztosítson az alkalmazásokhoz, például a legújabb Bing-funkciókhoz.

A Bing új funkciókat kap

A Microsoft a Bing-hez is nyújt néhány új funkciót, amelyek közül a legfontosabbak említésre méltóak: több választ adnak a kérdésekre, és támogatást nyújtanak olyan szavak meghatározásához, amelyeket nem olyan gyakran használnak, amikor a felhasználók az egérmutatót rájuk helyezik. Ezeket a funkciókat a Brainwave táplálja.

A Microsoft az Intel FPGA-ját használja az AI számításának növelésére

Az FPGA egyfajta üres vászon, amelyet a fejlesztők használhatnak, amikor különféle áramköröket akarnak telepíteni új szoftver elküldésével. Ez magában foglalja a teljesítmény és a programozhatóság erős keverékét.

A Microsoft most többet tehet, mint a hardver gyorsabb modelleinek létrehozása; a vállalat kifinomultabb AI rendszereket is építhet. Például a Bing Turing 1. prototípusa tízszer bonyolultabb és gyorsabb a Brainwave-en keresztül hozzáadott számítási kapacitásnak köszönhetően.

A Microsoft által telepített FGA-k dedikált digitális jelfeldolgozó processzorokkal vannak ellátva a fedélzeten, továbbfejlesztették az összetett AI matematika számára.

Az FPGA-k fő előnye

Az FPGA-k legfontosabb előnye a GPU-kkal szemben (amelyek az AI kiszámításánál az előnyben részesített választás) az, hogy nem igényelnek kötegelt számítások széles körű használatát.

Egy kulcsfontosságú újítás lehetővé teszi a Microsoft számára, hogy az FPGA-k révén ilyen sikeres eredményeket érjen el, a 8 és 9 bites lebegőpontos adattípusok használata, amelyek radikálisan növelik a teljesítményt.

Az Intel FPGA chipei lehetővé teszik a Bing számára, hogy gyorsan elolvassa és elemzi a milliárd dokumentumot az egész interneten, és másodperc töredék alatt kevesebb választ nyújt a kérdésére.

Valójában az Intel FPGA-k lehetővé tették számunkra, hogy több mint tízszeresére csökkentsük modelleink késleltetését, miközben 10x-rel megnöveljük a modell méretét.

Az FPGA-k használata az AI kiszámításának felgyorsítására 2012-ben nyúlik vissza

A Microsoft több mint hat évvel ezelőtt kezdte el az FPGA-k használatát az AI-számítás sebességének fokozására, amikor a Bing csapata elkezdte a chipek használatát. Mindez nagyszerű hír az Intel számára is. A társaság 2015-ben megvásárolta az Altera-t, az FPGA gyártót, és a 16, 7 milliárd dolláros üzlet biztosította az Intel számára a Microsoft igényeinek napjainkig szükséges energiát.

Várjuk, hogy a Brainwave elérhető legyen a Microsoft Azure-on keresztül, hogy lehetőséget biztosítson az ügyfelek számára modelleik telepítésére.