Pejzažom aplikacija veštačke inteligencije (AI) tradicionalno je dominirala upotreba servera sa intenzivnim korišćenjem resursa centralizovanih u industrijalizovanim zemljama. Međutim, poslednjih godina su svedoci pojave malih, energetski efikasnih uređaja za AI aplikacije, koncepta poznatog kao malo mašinsko učenje (TinyML).
Najviše smo upoznati sa aplikacijama koje su okrenute potrošačima kao što su Siri, Aleka i Google Assistant, ali ograničena cena i mala veličina takvih uređaja omogućavaju im da se primenjuju na terenu. Na primer, tehnologija je korišćena za otkrivanje udara krila komaraca i na taj način pomaže u sprečavanju širenja malarije. Takođe je bio deo razvoja ogrlica za životinje male snage kako bi se podržali napori za očuvanje.
Odlikujući se malom veličinom i niskom cenom, TinyML uređaji rade u okviru ograničenja koja podsećaju na zoru ere ličnih računara — memorija se meri u kilobajtima, a hardver se može nabaviti za samo 1 dolar. Ovo je moguće jer TinyML-u nije potreban laptop računar, pa čak ni mobilni telefon. Umesto toga, može da radi na jednostavnim mikrokontrolerima koji napajaju standardne elektronske komponente širom sveta. U stvari, s obzirom na to da već postoji 250 milijardi mikrokontrolera koji su raspoređeni na globalnom nivou, uređaji koji podržavaju TiniML su već dostupni u velikom obimu.
Dostupni su brojni razvojni paketi za TinyML aplikacije. Dve popularne opcije su Arduino i Seeed Studio, od kojih obe dolaze sa dodatnim senzorima za audio, viziju i aplikacije zasnovane na pokretu.
Poput klasičnog mašinskog učenja, TinyML uključuje prikupljanje podataka — često sa uređaja Interneta stvari (IoT) — i obuku zasnovanu na oblaku. Hajde da razmotrimo aplikaciju za otkrivanje objekata na otvorenom—na primer, brojimo broj automobila na ulici da bismo videli koliki je saobraćaj. U klasičnom ML procesu, slike se moraju prikupiti pomoću veb kamere i poslati na server u oblaku gde se odvija obuka. Kada obučeni model obezbedi prihvatljiv nivo tačnosti, sistem je spreman da detektuje automobile iz novog video fida. ML model radi u oblaku, tako da je neophodna internet veza.
U sistemu TinyML, međutim, model je raspoređen na samom uređaju i spreman je da detektuje objekte bez potrebe za povezivanjem. Prvi deo procesa (prikupljanje podataka i obuka modela u oblaku) prati klasični ML model, ali faza zaključivanja (otkrivanje objekata) se odvija na samom uređaju. Ovo je način na koji se TinyML razlikuje od tradicionalnih serverskih arhitektura: primenjuje unapred obučene kompaktne modele optimizovane za ograničene resurse na ugrađene uređaje, omogućavajući analizu podataka i donošenje odluka u realnom vremenu sa malom potrošnjom, sve nezavisno od povezivanja sa oblakom.
TinyML nudi nekoliko prednosti u odnosu na tradicionalne centralizovane modele zasnovane na serverima:
- Pristupačnost: niska cena tehnologije čini ove uređaje dostupnim širokom spektru korisnika, uključujući obrazovne institucije i studente u zemljama u razvoju.
- Održivost: skromna potrošnja energije proizvodi nizak otisak ugljenika, smanjujući uticaj na životnu sredinu.
- Fleksibilnost i skalabilnost: omogućava razvoj aplikacija koje se bave potrebama lokalnih zajednica, a ne globalnim agendama.
- Nezavisno od interneta: Pošto je sve ugrađeno, TiniML uređaji mogu da rade bez povezivanja na mreži. Ovo je posebno korisno za trećinu sveta koja još uvek nema pristup Internetu.
TinyML aplikacije već pokreću personalizovane senzore za atletiku i pružaju lokalizaciju tamo gde GPS nije dostupan. Takođe ih zapošljavaju startapi kao što su Useful Sensors, koji nude agente za razgovor koji čuvaju privatnost, skenere KR kodova i hardver za otkrivanje osoba. Samo korišćenjem TinyML-a ovi pametni uređaji mogu da rade na jeftinim mikrokontrolerima male snage.
