Ko je oblak preplavljen, je računalništvo na robu, na pomoč

Ob obali avstralske zvezne države Novi Južni Wales (NSW) lebdi flota brezpilotnih letal, s čimer pomaga ohraniti vode. V začetku letošnjega leta so brezpilotni letali pomagali reševalcem na zvezni državi Daleči severni obali rešili dva najstnika, ki sta se borila v težkem surfanju.

Drone poganja umetna inteligenca (AI) in algoritmi strojnega vida, ki nenehno analizirajo svoje video vire in poudarjajo predmete, na katere je potrebna pozornost: recimo morski psi ali potepuški plavalci. To je enaka tehnologija, ki Google Photosom omogoča razvrščanje slik, domača varnostna kamera za zaznavanje tujcev in pametni hladilnik, ki vas opozori, ko so vaše pokvarljive izdelke blizu roka trajanja.

Medtem ko te storitve in naprave za svoje AI funkcije potrebujejo stalno povezavo z oblakom, lahko brezpilotni brezpilotni aparati NSW opravljajo svoje naloge za zaznavanje slike s trdno internetno povezavo ali brez nje, zahvaljujoč nevronskim računalniškim čipom, ki jim omogočajo lokalno izvajanje globokega učenja..

Ti čipi so del naraščajočega trenda inovacij računalniških tehnologij, ki omogočajo našim programam, ki poganjajo programsko opremo, izvajanje vsaj nekaterih kritičnih funkcij brez stalne povezave z oblakom. Porast robnih računalnikov pomaga rešiti nove in stare težave ter tlakovati pot za naslednje generacije pametnih naprav.

Razbremenitev oblaka

V zadnjih dveh desetletjih je oblak postal defaktni način gostovanja aplikacij, z dobrim razlogom.

"Zaradi tega je oblak tako privlačen je, da nalaga stroške za zagon katere koli dejavnosti, ki jo želite izvesti, " pravi Rob High, CTO IBM Watson. "Oblak… ljudem omogoča…, da danes rešujejo resnične težave, ne da bi morali iti skozi stroške za vzpostavitev infrastrukture."

Z vseprisotno internetno povezljivostjo in skoraj nešteto oblačnimi aplikacijami, storitvami in razvojnimi platformami so se ovire pri ustvarjanju in uvajanju aplikacij znatno zmanjšale. Ogromni viri ponudnikov oblakov, kot so IBM, Google in Amazon, so spodbudili razvoj ne le trivialnih poslovnih aplikacij, temveč tudi zapletene programske opreme, ki zahteva ogromno količino računanja in shranjevanja - AI in algoritmov strojnega učenja, pa tudi pretakanja in AR (razširjena resničnost) aplikacije.

Toda ta napredek je pomenil tudi izziv: večina aplikacij, ki jih uporabljamo, ne more delovati, če niso povezane v oblak. To vključuje večino aplikacij, ki delujejo v računalnikih in telefonih, pa tudi programsko opremo v hladilnikih, termostatih, ključavnicah vrat, nadzornih kamerah, avtomobilih, brezpilotnih vozilih, vremenskih senzorjih itd.

S pojavom interneta stvari (IoT) vse več naprav poganja programsko opremo in ustvarja podatke, večina pa bo potrebovala povezavo do oblaka za shranjevanje in obdelavo teh podatkov. Količina moči in pasovne širine, potrebnih za pošiljanje teh podatkov v oblak, je ogromna, prostor, potreben za shranjevanje podatkov, pa bo izzval vire celo najmočnejših behemotov v oblaku.

"V teh sistemih zbiramo veliko podatkov, ne glede na to, ali je na robu ali je IoT naprava ali kateri koli drug kraj, za katerega bi se skoraj lahko odločili, da vam ne bo vseeno, " pravi High. Če pa mora vsaka odločitev potekati v oblaku, bo treba vse te podatke poslati po omrežju na strežnike v oblaku, ki jih je treba očistiti in filtrirati.

Kot primer, High imenuje sodobna letala, ki vsebujejo na stotine senzorjev, ki spremljajo reaktivne motorje in med vsakim poletom zbirajo na stotine gigabajtov podatkov o stanju in zmogljivosti. "Koliko teh podatkov je resnično pomembno, če jih želite analizirati preko agregata? Verjetno le delček teh podatkov, " pravi High. "Zakaj se ga ne bi znebili pri izvoru, ko ni potrebno nič drugega, kar počnete?"

Narediti tisto, kar High predlaga zunaj oblaka, je bilo prej vse prej kot nemogoče, a napredek nizkocenovnih procesorjev System-on-Chip (SoC) je dal robnim napravam večjo računalniško moč in jim omogočil, da prevzamejo nekaj računalniškega bremena ekosistemov, na primer izvajanje analitike v realnem času ali filtriranje podatkov.

"V obrobnem okolju je toliko podatkov, da je smiselno nekatere zmogljivosti računalništva v oblaku vključiti v računske zmogljivosti robne naprave, " pravi High.

Skrbi glede zasebnosti

Prednosti robnega računanja niso omejene na sprostitev virov v oblaku.

Remi El-Ouazzane, New Technology Group in generalni direktor pri Movidiusu (Intel), navaja komercialne varnostne kamere kot še en primer, ko lahko robno računalništvo zelo spremeni. Te kamere vidite na semaforjih, na letališčih in na vhodih stavb, ki snemajo in prenašajo visokokakovostni video v omrežju.

"Manj podatkov, ki jih potrebujete, da se pripeljete nazaj v strežnik ali podatkovni center, več čiščenja in finiranja lahko storite lokalno, boljši bodo skupni stroški lastništva z vidika shranjevanja in prenosa, " pravi El-Ouazzane.

To pomeni, da lahko kameram omogočite analizo lastnih video virov, določijo, na katere okvirje ali dolžino videoposnetka je treba biti pozoren, in strežnike poslati samo te podatke.

Ko so te kamere nameščene v vašem domu, v vaši pisarni ali na kateri koli zasebni lokaciji, postane povezava z oblakom tudi potencialna varnostna težava. Hekerji in varnostni raziskovalci so lahko ogrozili povezavo med gospodinjskimi napravami in njihovimi strežniki v oblaku, da bi prestregli občutljive video vire. Ločeno razčlenjevanje podatkov odpravlja potrebo po video kanalu med vašim domom, zasebnim življenjem in ponudnikom storitev.

Movidius, ki ga je Intel kupil leta 2016, je eden od številnih zagonov, zaradi katerih so računalniški čipi specializirani za AI naloge, kot sta prepoznavanje govora in računalniški vid. Podjetje izdeluje Vision Processing Units (VPU) - procesorji z majhno močjo, ki poganjajo nevronske mreže, ki analizirajo in "razumejo" kontekst digitalnih slik, ne da bi jih morali pošiljati nazaj v oblak.

Movidius Myriad 2 je vedno vklopljen vidni procesor, ki je narejen za okolja z omejenimi močmi.

"Ko kamera razume semantiko tega, kar gleda, potem možnost vsiljevanja pravil o tem, kaj kamera lahko počne ali česa ne more postati zelo lahka naloga, " pravi El-Ouazzane. "Ni treba, da naslednjih 12 ur dejansko zajamete svojo dnevno sobo, samo da bi vedeli, da je ob določenem času vaš pes prestopil čez preprogo pred kavčem."

Druga podjetja raziskujejo uporabo specializiranih ročnih računalnikov z AI, da bi ohranili zasebnost uporabnikov. Apple iPhone X, na primer, poganja čip A11 Bionic, ki lahko lokalno izvaja naloge AI, kar mu omogoča zapleteno prepoznavanje obraza, ne da bi v oblak poslal uporabnikovo fotografiranje.

Več AI obdelave na robu lahko utira pot decentralizirani umetni inteligenci, kjer morajo uporabniki deliti manj podatkov z velikimi podjetji za uporabo AI aplikacij.

Zmanjšanje zakasnitve

Dodatna težava velikih ponudnikov oblakov je, da se njihovi podatkovni centri nahajajo zunaj velikih mest, in so na stotine in tisoče kilometrov oddaljeni od ljudi in naprav, ki uporabljajo njihove aplikacije.

V mnogih primerih lahko zamuda zaradi podatkov, ki potujejo v oblak in iz oblaka, prinese slabe rezultate ali, kar je še huje, usodne rezultate. To je lahko brezpilotnik, ki se poskuša izogniti trkom ali pristanek na neravnih tleh, ali samovozeči avtomobil, ki se skuša odločiti, ali trči v oviro ali peš.

Movidiusova lahka implementacija globokih nevronskih omrežij in računalniškega vida naredi čipe primerne za mobilne robne naprave, kot so brezpilotne naprave, za katere strojna strojna oprema, kot je GPU, ni izvedljiva. Droni so še posebej zanimiva študija, saj potrebujejo nizko zakasnitev dostopa do računanja AI in morajo še naprej delovati v nastavitvah brez povezave.

Zaznavanje gibov kot še eno področje, kjer robno računalništvo pripomore k izboljšanju izkušenj z brezpilotnimi letali. "Cilj je narediti drone dostopne mnogim ljudem. Zdi se, da je gesta ljudem lep način, da jih uporabljajo. Zamuda je pomembna, ko gestikulirate drona, da opravi neko nalogo, " pravi El-Ouazzane.

Za zagone, kot je Skylift Global, ki reševalcem in prvim odzivnikom zagotavlja storitve težkih brezpilotnih brezpilotnih sistemov, lahko dostop z AI in izračuni z nizko zamudo prihrani denar in življenje. "To bo znatno zmanjšalo stroške zaužitja podatkov, zmanjšalo zamude v omrežju, povečalo varnost in pomagalo pretvoriti pretakanje podatkov v odločitve v realnem času, " pravi Amir Emadi, izvršni direktor in ustanovitelj podjetja Skylift.

Za dobavo oskrbnikov, ki se odzovejo na prvo pomoč, so potrebne odločitve z delitvijo druge sekunde. "Čim več časa mineva, na primer pri boju z divjanjem požara, dražje je, da popravimo situacijo. Ko bodo naši brezpilotniki postali sposobni sprejemati odločitve v realnem času na robu, tudi ko izgubijo povezljivost, bomo lahko prihranili več življenja, denarja in časa, «pravi Emadi.

Druga področja, ki potrebujejo izračun skoraj v realnem času, so aplikacije z razširjeno in navidezno resničnostjo ter avtonomna vozila. "Vse to so računalniška okolja, ki temeljijo na izkušnjah. Zgodili se bodo okoli ljudi, " pravi Zachary Smith, izvršni direktor Packet-a, newyorškega zagona, osredotočenega na to, da razvijalcem omogoči dostop do visoko porazdeljene strojne opreme.

Aplikacija AR ali VR, ki ne more slediti gibanjem uporabnika, bo povzročila omotico ali preprečila, da bi izkušnja postala potopna in resnična. In zamude bodo še večja težava, ko bodo avtomobili s samostojno vožnjo, ki se močno zanašajo na algoritme računalniškega vida in strojnega učenja, postali glavni.

"30-milisekundna zamuda ne bo pomembna za nalaganje vaše spletne strani, ampak resnično bo pomembno, da bo avtomobil s hitrostjo 60 km / h res določil, ali naj zavije levo ali desno, da se ne bo zaletel v deklico, " pravi Smith.

Spoznavanje izzivov roba

Kljub temu, da je treba računalništvo približati robu, namestitev specializirane strojne opreme v vsako napravo morda ni končni odgovor, Smith priznava. "Zakaj ne bi preprosto postavil vseh računalnikov v avto? Mislim, da je to res povezano z razvojem tega, kako hitro lahko nadzirate življenjski cikel tega, " pravi.

"Ko postavite strojno opremo v svet, ta običajno ostane pet do 10 let, " pravi Smith, medtem ko se tehnologija, ki napaja te primere uporabe, temelji na izkušnjah, vsakih šest do 12 mesecev.

Celo zelo velika podjetja z zapletenimi dobavnimi verigami se pogosto borijo s posodobitvijo svoje strojne opreme. Leta 2015 je moral Fiat Chrysler odpoklicati 1, 4 milijona vozil, da bi odpravil varnostno šibkost, ki je bila izpostavljena pet let prej. In velikanski proizvajalec čipov Intel se še vedno spopada s težavo v dizajnu, ki hekerjem izpostavlja stotine milijonov naprav.

Movidiusov El-Ouazzane priznava te izzive. "Vemo, da bomo morali vsako leto spremeniti paleto izdelkov, saj bomo vsako leto na robu prinesli več inteligence in od strank bomo prosili za nadgradnjo, " pravi.

Da bi se izognili stalnemu odpoklicu in kupcem omogočili dolgoročno uporabo svoje robne strojne opreme, Movidius svoje procesorje napolni z dodatnimi sredstvi in ​​zmogljivostmi. "V naslednjih letih potrebujemo možnost, da nadgradimo te izdelke, " pravi El-Ouazzane.

Packet, Smith-ovo podjetje, uporablja drugačen pristop: Ustvari mikro podatkovne centre, ki jih je mogoče namestiti v mesta, bližje uporabnikom. Podjetje lahko razvijalcem zagotovi računalniške vire z zelo nizko zamudo - čim bližje uporabnikom, ne da bi dejansko strojno opremo postavili na rob.

"Prepričani smo, da bo potreben mehanizem za zagotavljanje infrastrukture, s katerim bomo postavili strojno opremo, do katere lahko razvijalci dostopajo v vsakem mestu na vsem svetu, " pravi Smith. Podjetje že deluje na 15 lokacijah in se namerava sčasoma razširiti na sto mest.

Ampak Packetove ambicije segajo dlje od ustvarjanja miniaturnih različic razpršenih naprav, ki jih upravljata Google in Amazon. Kot pojasnjuje Smith, uvedba in posodabljanje specializirane strojne opreme v javnem oblaku ni izvedljivo. V poslovnem modelu Packet-a proizvajalci in razvijalci nameščajo specializirano strojno opremo v robnih podatkovnih centrih podjetja, kjer jo lahko hitro posodobijo in osvežijo, ko se pojavijo potrebe, hkrati pa poskrbijo, da imajo njihovi uporabniki zelo hiter dostop do računalniških virov.

Hatch, ena od strank Packet, je odstop od Rovio, mobilnega igralnega podjetja, ki je ustvarilo Angry Birds. Podjetje vodi Android na ročno računalniških strežnikih, da uporabnikom z nižjimi napravami Android ponuja storitve pretočnega predvajanja iger z več igralci.

"potrebuje dokaj specializirane strežnike ARM na vseh teh trgih po svetu, " pravi Smith. "Prilagodili so konfiguracijo ponudbe naših strežnikov in postavili smo jo na osem svetovnih trgov po Evropi. Kmalu bo to na 20 ali 25 trgih. Zdi se jim Amazon, vendar lahko začnejo uporabljati strojno opremo na vsakem trgu v Evropi."

Teoretično bi Hatch lahko isto storil v javnem oblaku, vendar bi stroški naredili neučinkovit posel. "Razlika je v tem, da postavimo 100 uporabnikov na CPU in 10.000 uporabnikov na procesor, " pravi Smith.

Smith verjame, da bo ta model všeč generaciji razvijalcev, ki bo spodbudila naslednje programske novosti. "Nase se osredotočamo, kako povezati generiranje programske opreme, ljudi, ki so odraščali v oblaku, s specializiranimi strojnimi primitivi, " pravi Smith. "Govorimo o uporabnikih, ki svojega MacBooka niti ne morejo odpreti, da bi ga pogledali noter, in to je oseba, ki bo novost nabora strojne / programske opreme."

Se bodo oblaki razblinili?

Ali je prihodnost oblaka v nevarnosti, če bodo robne naprave sposobne izvajati zapletene računske naloge?

"Zame je računalništvo na robovih naravno in logično naslednje napredovanje računalništva v oblaku, " pravi IBM Watson's High.

Pravzaprav je IBM leta 2016 uvedel nabor orodij, ki razvijalcem omogočajo neovirano razdelitev nalog med rob in oblak, zlasti v IoT ekosisteme, kjer robne naprave že zbirajo veliko podatkov o svojem neposrednem okolju. In konec leta 2016 je Amazon Web Services, še ena velika platforma za razvoj oblakov, objavil Greengrass, storitev, ki razvijalcem IoT omogoča, da na svojih robnih napravah izvajajo dele svojih oblačnih aplikacij.

Nič od tega ne pomeni, da oblak odhaja. "V oblaku je le veliko stvari, ki jih je bolje opraviti, tudi ko je na robu še veliko dela, " pravi High. To vključuje naloge, kot so zbiranje podatkov iz različnih virov in izvajanje obsežne analitike z ogromnimi nabori podatkov.

"Če moramo ustvariti modele v algoritmih AI, ki jih uporabljamo v teh robnih napravah, je ustvarjanje in usposabljanje teh modelov še vedno zelo velik računalniško intenziven problem in pogosto zahtevajo računalniške zmogljivosti, ki daleč presegajo razpoložljive na teh robnih napravah, " pravi.

El-Ouzzane se strinja. "Sposobnost lokalnega usposabljanja AI modelov je izjemno omejena, " pravi. "Z vidika globokega učenja ima vadba samo eno mesto za sedenje in je v oblaku, kjer dobite dovolj računskih virov in dovolj prostora za shranjevanje, da lahko opravite z velikimi zbirkami podatkov."

V določbah El-Ouazzane se uporabljajo tudi primeri, ko so robne naprave dodeljene z nalogami, ki so kritične za čas in čas, medtem ko oblak skrbi za naprednejše pripletanje, ki ni odvisno od zamud. "Živimo v svetu kontinuitete med oblakom in robom."

"Obstaja zelo simbiotično in sinergijsko razmerje med robnim in oblačnim računalništvom, " pravi High.