Hva er IBM PowerAI?

Lesere av denne bloggen kjenner til IBM Power servere, og AI står for Artificial Intelligence. Den 31. oktober arrangerte IBM et seminar om dette interessante emnet. Så hva er IBM PowerAI og hvilke muligheter åpner seg med dette produktet?

Av Trond Bjerkvold.

AI kan brukes på en rekke områder, og vil få betydning for blant annet utdanning, helse, finans, media, reiseliv og varehandelen. AI kan være alt fra ansiktgjenkjenning til selvkjørende biler, og et eksempel som ble vist var GDPR analyse fra finske Elinar Oy.

For å løse Artificial Intelligence-oppgaver, finnes det en rekke open source programvare-løsninger. Du laster ned og setter sammen den programvaren du trenger. Dette betyr at mye tid går med på vedlikehold og oppdateringer.

Lag en modell

Når programvaren er på plass, lager du en modell ut fra en hypotese, og kverner gjennom data for å få et resultat. Desto mer komplisert modell og størrelse på datamengden, jo lengre tid vil kverningen ta. Dette baserer seg ofte på mønstergjenkjenning, enten dette er ut fra bilder, dokumenter eller andre kilder. Ut fra resultatene endrer du modellen, og kverner gjennom på nytt. Krav til høy ytelse er derfor et nøkkelord.

Kombinasjonen PowerAI betyr at du har programvare for Machine Learning og Deep Learning i en kombinert server- og programvarepakke. Rammeverk som Caffe-bvlc, Caffe-ibm, Caffe-nv, Chainer, DIGITS, Torch, Theano, og TensorFlow er ferdig samlet og har smidig oppdatering.

Kobler CPU og GPU

IBM Power-serverne gir høy ytelse, men det er ikke de vanlige modellene som vi kjenner fra AIX og IBM i-miljøene som brukes av PowerAI-programvaren. I PowerAI benyttes S822LC servere med NVIDA GPU, og disse kjører kun Linux.

NVIDA er kjent som leverandør av grafikk-kort til spill PC-er, og det er GPU er med tusenvis av små prosessorer på et adapter som gjør at blant annet Deep Learning oppgaver går raskere. GPU kan brukes som applikasjons akselerator, og kan kjøre en del av programkoden raskere enn hovedprosessoren. Det IBM og NVIDA har gjort, er å lage en hyperrask kobling – NVLink – mellom IBM Power-prosessoren og NVIDA GPU-ene, slik at det totale ytelsen blir langt høyere enn hva du får til på en x86-server.

Færre servere

I praksis klarer du deg med færre Power-servere, og du får jobben gjort raskere. Det er IBM Power9-prosessor noder med NVIDA GPU noder som brukes for de nye supercomputerne til både Oak Ridge National Laboratory og Lawrence Livermore National Laboratory.

For Oak Ridge settes det sammen cirka 4600 noder hver med 2 x IBM POWER9 og 6 NVIDIA Volta GPU. Den forrige superdatamaskinen hadde over 18 000 AMD/NVIDA-noder. Selv med langt færre noder. løfter kombinasjonen av Power9/NVIDA ytelsen fra 27-petaflops til 200-petaflops.

For å kjøre PowerAI må du laste ned Ubuntu 16.04 for IBM POWER8 og PowerAI pakken på toppen. Linkene til disse finner du her.

Listepris for en S822LC (8355-GTB) med 16 Power8-kjerner, 256 GB internminne og 2 NVIDA GP100 GPU ligger på rundt 350 000 kroner.