Key takeaways
- Ny forskning fra MIT-forskere viser vejen til at tilpasse neurale netværk til små enheder.
- MCUNet tillader dyb læring på systemer med begrænset processorkraft og hukommelse.
- Innovationen kunne også give mulighed for smartere, mere adræt medicinsk udstyr.
Smarthøjttalere og andre enheder, der udgør tingenes internet (IoT), kunne en dag få det neurale netværkskraft til at gøre mere med mindre, siger forskere.
Et nyt system kaldet MCUNet tillader design af bittesmå neurale netværk på IoT-enheder, selv med begrænset hukommelse og processorkraft. Ifølge et papir fra MIT-forskere offentliggjort på preprint-serveren Arxiv, kunne teknologien bringe nye muligheder til smarte enheder, samtidig med at den sparer energi og forbedrer datasikkerheden.
Undersøgelsen "er en af de geniale ideer, der virker indlysende, når du hører den," sagde John Suit, rådgiver CTO hos robotvirksomheden KODA, i et e-mailinterview. "Det er en elegant tilgang til problemet. Denne forskning er så vigtig, fordi den i sidste ende vil give mulighed for re altidsoptimering af neurale netværk for enhver enhed, hvor ressourcerne kan kendes af algoritmen."
Det, dette virkelig viser, er, at magt ikke behøver at være bundet til størrelse..
Store beregninger på små enheder
IoT-enheder kører norm alt på computerchips uden operativsystem, hvilket gør det vanskeligt at køre mønstergenkendelsesopgaver som deep learning. Til mere intens analyse behandles IoT-indsamlede data ofte i skyen, selvom de er sårbare over for hacking.
Der er meget, som neurale netværk kan gøre for at forbedre det voksende antal IoT-enheder, men størrelsen har været et problem.
"For at flytte netværkene ned i selve enheden, hvilket har vist sig svært, skal du finde en måde at optimere søgerummet for en række mikrocontrollere på," forklarede Suit. "Et standard eller generisk system ville ikke fungere på grund af ressourcetolerancerne på IoT-enheder. Tænk meget lavt strømforbrug, meget små processorer med hensyn til processorkraft."
Det er her, MIT-forskernes arbejde kommer ind.
"Hvordan installerer vi neurale net direkte på disse små enheder?" undersøgelsens hovedforfatter, Ji Lin, en ph.d. studerende i MITs Institut for Elektroteknik og Datalogi, sagde i en pressemeddelelse. "Det er et nyt forskningsområde, der bliver meget varmt. Virksomheder som Google og ARM arbejder alle i denne retning."
TinyEngine to the Rescue
MIT-gruppen designede to komponenter, der er nødvendige for driften af neurale netværk på mikrocontrollere. Den ene del er TinyEngine, som ligner et operativsystem, men fjerner koden til dets væsentligste. En anden er TinyNAS, en neural arkitektur søgealgoritme.
"Vi har en masse mikrocontrollere, der kommer med forskellige strømkapaciteter og forskellige hukommelsesstørrelser," sagde Lin. "Så vi udviklede algoritmen [TinyNAS] til at optimere søgerummet for forskellige mikrocontrollere. Den tilpassede karakter af TinyNAS betyder, at den kan generere kompakte neurale netværk med den bedst mulige ydeevne for en given mikrocontroller - uden unødvendige parametre. Så leverer vi den endelige, effektiv model til mikrocontrolleren."
Det er en elegant tilgang til problemet.
Lins arbejde kunne oversættes til at gøre smartere, mere adræt medicinsk udstyr.
"Det, dette virkelig viser, er, at magt ikke behøver at være bundet til størrelse, og på hospitaler, hvor alting bevæger sig hurtigt i trange rum, kan det bogstaveligt t alt betyde forskellen mellem liv og død," Kevin Goodwin, CEO for EchoNous, en virksomhed, der fremstiller AI-assisteret medicinsk udstyr, sagde i et e-mailinterview.
Goodwin sagde, at hans team brugte år på at opbygge og træne et neur alt netværk, som derefter kunne bruges til at kortlægge hjertestrukturer i en ultralydsscanning i re altid - alt sammen i en håndholdt enhed kaldet KOSMOS, der vejer under to pund.
"Nu kan læger nemt flytte fra rum til rum og få scanninger i diagnostisk kvalitet med AI-vejledning," tilføjede han. "De behøver ikke at sende patienter andre steder til disse scanninger eller miste kritisk tid ved desinficering af vognbaseret maskineri."
MCUNet er et spændende kig på en verden, hvor små gadgets kunne være smartere end nogensinde. Da antallet af IoT-enheder vokser hurtigt, vil vi lede efter alt fra smarte apparater til medicinsk udstyr for at have deres egne neurale netværk.
