Microsoft is van plan AI naar de Raspberry Pi te brengen

Daarom vertrouwen AI-systemen op lokale sensoren om invoergegevens te verzamelen, terwijl krachtigere hardware in de cloud het zware werk van uitvoergegevens beheert. Dat is hoe Siri en Amazon Alexa werken, hoe IBM Watson vrijwel elke taak oplost. Toch is het een beperkte aanpak als het gaat om het slimmer creëren van IoT en het toepassen van intelligentie zonder internetverbinding.

“Het belangrijkste paradigma is dat deze (sensoren) nutteloos zijn”, zegt Manil Varma, senior onderzoeker bij Microsoft Research India.

Nu hebben Varma's team in India en Microsoft-onderzoekers in Redmond, Washington (het hele project wordt geleid door onderzoeker Ofer Dekel) ontdekt hoe neurale netwerken, de synapsen van Machine, kunnen worden gecomprimeerd. Leer van 32-bits tot soms slechts één bit en voer het uit ze op een Raspberry Pi van $ 10, een computer met een laag vermogen, zo groot als een kaart, met veel poorten en zonder scherm. Het is echt een open source moederbord dat overal kan worden gedolven. Het bedrijf maakte dit onderzoek bekend in een blogpost.

Onderzoeker Ofer Dekel met een kleine microprocessor die ooit Machine Learning-algoritmen zou kunnen draaien

Het werk van Microsoft maakt deel uit van een grotere trend, waardoor Machine Learning dichter bij apparaten en eindgebruikers komt.

Eerder deze maand kondigde Apple op de WWDC-conferentie een nieuwe Machine Learning API (Vision & Natural Language) aan waarmee ontwikkelaars met slechts een paar regels code op Machine Learning gebaseerde intelligentie aan apps kunnen toevoegen. Ze onthulden ook Core ML voor ontwikkelaars met een diepere kennis van AI, zodat ze optimaal kunnen profiteren van de hardwaremogelijkheden ervan. Het model van Apple helpt ontwikkelaars Machine Learning-algoritmen te leren op basis van de bibliotheek die Apple aanbiedt. Dit systeem converteert vervolgens de code om AI op het apparaat uit te voeren.

Het is duidelijk dat in het geval van Apple de hardware in een iPhone van $ 700 zit en dat de CPU veel krachtiger is dan alles wat op een Raspberry Pi te vinden is. Maar deze trend is ook heel duidelijk. Deze bedrijven brengen AI dichter bij de apparaten van gebruikers, waar het minder afhankelijk is van toegang tot enorme gegevens in de cloud.

“Als je onderweg bent en geen verbinding kunt maken met het netwerk, wil je niet dat de AI stopt met werken. Sterker nog, dat is wanneer je het het meest nodig hebt”, aldus Varma.

Met deze aanpak kunnen we eenvoudiger, op sensoren gebaseerde taken begrijpen die ook kunnen worden geleerd op basis van locatie, intentie, recente acties of apparaatgegevens. Op de korte termijn zou het de oplossing kunnen zijn voor bijvoorbeeld een kankertherapie (een van Watson Al's interessegebieden bij IBM).

Voor Microsoft is deze doorbraak met de Raspberry Pi eenvoudigweg fase één in de workflow van het comprimeren van neurale netwerken, zodat ze op hiërarchische microcontrollers kunnen draaien. Om dat te bereiken moet het Machine Learning-model volgens Microsoft 10.000 keer kleiner zijn. Dat is een probleem waar ze nog steeds aan werken.

Microsoft-onderzoekers zijn van plan AI naar Raspberry Pi te brengen

Tegelijkertijd heeft Microsoft ook een Preview-versie van het Machine Learning-algoritme op GitHub uitgebracht, geschikt voor Raspberry Pi, waar ontwikkelaars het kunnen uitproberen en exploiteren op Raspberry Pi 3 en Raspberry Pi Zero.

Dit maakt immers deel uit van de Intelligent Edge-strategie van Microsoft die CEO Satya Nadella begin dit jaar schetste op de Microsoft Build-conferentie. Microsoft hoopt dat kleine AI-aangedreven processors zich vanuit kantoren zullen verspreiden naar de kleding die we dragen.

Voor Varma, die ook gezichtsverlies heeft, is het onderzoek wat persoonlijker. Zijn team ontwikkelt een prototype van een slimme wandelstok om zijn onderzoek te illustreren.