TinyML: नन्हीं चिप्स पर AIमध्यमपाठ 2746 मिनट का पाठ

TinyML क्या है

TinyML का मतलब है माइक्रोकंट्रोलर पर मशीन लर्निंग मॉडल चलाना: यानी बहुत कम बिजली पर चलने वाली छोटी और सस्ती चिप्स। जानिए कि वे क्या कर सकती हैं, और क्या नहीं।

✦ ट्यूटर से पूछें🧪 लैब · 20 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

TinyML क्या है

TinyML का मतलब है माइक्रोकंट्रोलर पर मशीन लर्निंग मॉडल चलाना: यानी बहुत कम बिजली पर चलने वाली छोटी और सस्ती चिप्स। जानिए कि वे क्या कर सकती हैं, और क्या नहीं।

1/4
आसान शब्दों में
गेट पर खड़े किसी चौकीदार के बारे में सोचें। जब भी कोई पत्ता हिलता है, वह हर बार मालिक को फोन नहीं करता। वह पूरे दिन देखता रहता है, और सिर्फ तभी कॉल करता है जब कोई सचमुच मिलने आता है। TinyML एक छोटी सी चिप के अंदर बहुत छोटा "चौकीदार" दिमाग लगा देता है। यह हर समय सुनता या महसूस करता रहता है, और केवल तभी बड़े सिस्टम को जगाता है जब कुछ ज़रूरी होता है।
एक माइक्रोकंट्रोलर एक चिप पर बना एक छोटा कंप्यूटर होता है। इसमें एक प्रोसेसर, थोड़ी सी मेमोरी और सेंसर, लाइट और मोटरों से जुड़ने वाले पिन होते हैं। माइक्रोकंट्रोलर वॉशिंग मशीन, रिमोट कंट्रोल, फिटनेस बैंड, बिजली के मीटर और खिलौनों के अंदर होते हैं। कई बहुत सस्ते होते हैं और एक छोटी बैटरी पर लंबे समय तक चल सकते हैं।
TinyML इन चिप्स पर मशीन लर्निंग मॉडल चलाने का तरीका है। यह मॉडल छोटा होता है: अक्सर किलोबाइट्स में, गीगाबाइट्स में नहीं। यह सिर्फ एक छोटा, तय काम करता है, जैसे "क्या यह आवाज़ कोई वेक-वर्ड है?", "क्या यह मशीन अजीब तरीके से कांप रही है?" या "क्या व्यक्ति चल रहा है या दौड़ रहा है?"।

TinyML कहाँ आता है

मॉडल कहाँ चलता हैआमतौर पर किया जाने वाला कामबिजली और लागतइंटरनेट चाहिए?
क्लाउड डेटा सेंटरलार्ज लैंग्वेज मॉडल, बड़े इमेज मॉडलबहुत ज़्यादा; आप इस्तेमाल के हिसाब से पैसे देते हैंहाँ
फ़ोन या लैपटॉपफ़ोटो इफ़ेक्ट्स, वॉइस टाइपिंग, छोटे लैंग्वेज मॉडलमध्यम; रोज़ चार्ज करना पड़ता हैअक्सर नहीं
सिंगल-बोर्ड कंप्यूटर (जैसे Raspberry Pi)कैमरा प्रोजेक्ट्स, छोटे विज़न मॉडलकुछ वॉट; ठीक-ठाक पावर सप्लाई चाहिएनहीं
माइक्रोकंट्रोलर (TinyML)सेंसर डेटा पर हर समय बस एक तय काममिलीवॉट या उससे कम; बैटरी पर लंबे समय तक चल सकता हैनहीं

इतनी छोटी चिप पर AI क्यों चलाएं?

  • बिजली। रेडियो तरंगों से रॉ सेंसर डेटा भेजने में चिप पर ही जांच करने की तुलना में बहुत ज़्यादा ऊर्जा खर्च होती है। लोकल तौर पर फ़ैसला करने और सिर्फ़ रिज़ल्ट भेजने से बैटरी बचती है।
  • प्राइवेसी। एक डोरबेल जो चिप पर ही इंसान की पहचान कर लेती है, उसे हर फ़्रेम अपलोड करने की ज़रूरत नहीं होती। जो ऑडियो कभी डिवाइस से बाहर नहीं जाता, वह सर्वर से लीक नहीं हो सकता।
  • रफ़्तार। सर्वर तक जाने और आने में समय नहीं लगता, इसलिए जवाब मिलीसेकंड में मिल जाता है।
  • नेटवर्क की ज़रूरत नहीं। किसी खेत, पंप हाउस या खदान में लगे सेंसर के पास हो सकता है कोई सिग्नल ही न हो।
  • लागत। एक माइक्रोकंट्रोलर की कीमत फ़ोन से बहुत कम होती है। आप इसे कई जगहों पर लगा सकते हैं।

TinyML के आम काम

TinyML के लिए सही
  • किसी बड़े सिस्टम के जागने से पहले वेक-वर्ड पहचानना ("हे …")
  • बैंड या पेन में लगे मोशन सेंसर से जेस्चर पहचानना
  • मोटर या पंप में असामान्य कंपन (खराबी की शुरुआती चेतावनी)
  • खांसी, पक्षियों की आवाज़ें या मशीन के चलने के चक्कर गिनना
  • छोटे कैमरे पर एक आसान "इंसान मौजूद है या नहीं" की जांच
TinyML के लिए सही नहीं
  • किसी लार्ज लैंग्वेज मॉडल से चैट करना
  • शानदार क्वालिटी का ट्रांसलेशन या लंबी बातचीत को टेक्स्ट में बदलना
  • कुछ भी ऐसा जिसके लिए बड़े मॉडल के सामान्य ज्ञान की ज़रूरत हो
  • ऐसे काम जहाँ गलती से किसी को नुकसान हो सकता हो और कोई इंसान जांचने के लिए न हो
  • ऐसी परेशानियाँ जो पहले से ही एक सीधे नियम से ठीक हो जाती हैं
असली उदाहरण
महाराष्ट्र के एक किसान का बोरवेल पंप घर से बहुत दूर है। पंप के पाइप से जुड़ा एक छोटा बोर्ड कंपन महसूस करता है। एक छोटा सा मॉडल सीखता है कि "सामान्य रूप से चलने" का कंपन कैसा होता है। जब यह पैटर्न बदलता है, शायद इसलिए क्योंकि पंप सूखा चल रहा है, तो बोर्ड पूरे दिन सेंसर डेटा स्ट्रीम करने के बजाय बस एक छोटा चेतावनी मैसेज भेजता है।

टूल, सामान्य तौर पर

सबसे मशहूर ओपन-सोर्स रनटाइम Google का TensorFlow Lite for Microcontrollers है। Google ने TensorFlow Lite का नाम बदलकर LiteRT कर दिया है, और माइक्रोकंट्रोलर रनटाइम अब इसी परिवार में आता है। Edge Impulse जैसे प्लेटफ़ॉर्म डेटा इकट्ठा करने, ट्रेन करने, टेस्ट करने और कई बोर्ड्स के लिए मॉडल एक्सपोर्ट करने के लिए एक वेब वर्कफ़्लो देते हैं। चिप बनाने वाली कंपनियाँ भी अपने टूल देती हैं। नाम, वर्शन और सपोर्ट किए जाने वाले बोर्ड अक्सर बदलते रहते हैं, इसलिए शुरू करने से पहले ताज़ा डॉक्स ज़रूर देख लें।
नोट
यहाँ "छोटा मॉडल" का मतलब सचमुच बहुत छोटा है। कुछ हज़ार से लेकर कुछ लाख weights वाला मॉडल आम बात है। लार्ज लैंग्वेज मॉडल्स में अरबों होते हैं। TinyML किसी LLM को सिकोड़कर चिप पर नहीं डालता; यह एक काम के लिए एक अलग, छोटा मॉडल ट्रेन करता है।
इसे आज़माएं। अपने घर में चारों तरफ़ देखें। ऐसे तीन डिवाइस ढूंढें जिनके अंदर माइक्रोकंट्रोलर हो (कोई भी चीज़ जिसमें बटन और छोटा डिस्प्ले हो, वह सही अंदाज़ा है)। उनमें से किसी एक के लिए सोचें कि वह कौन सी एक छोटी और काम की चीज़ पहचानना सीख सकता है।

और देखें और पढ़ें

TensorFlow Lite for Microcontrollers (LiteRT for Microcontrollers) source codeGitHub · readingEdge Impulse documentationEdge Impulse · reading

लैब

तीन TinyML आइडिया कार्ड, जिनमें से हर एक की इस आधार पर जांच की गई है कि एक छोटी चिप असल में क्या कर सकती है।

~20 min

समस्या

इस लैब में कोई कोडिंग नहीं है। TinyML प्रोजेक्ट्स के लिए तीन छोटे "आइडिया कार्ड" लिखें जिन्हें आप अपने घर, कॉलेज, खेत या पड़ोस में बना सकें। हर कार्ड के लिए लिखें:

  1. काम: एक छोटा सा सवाल जिसका मॉडल जवाब देता है, जैसे "क्या प्रेशर कुकर की सीटी बज रही है?"।
  2. सेंसर: माइक्रोफ़ोन, मोशन सेंसर (एक्सेलेरोमीटर), तापमान, लाइट या एक छोटा कैमरा।
  3. आउटपुट: कुछ पता चलने पर क्या होता है: एक लाइट, एक बज़र, एक छोटा मैसेज।
  4. चिप पर ही क्यों: पावर, प्राइवेसी, स्पीड, नेटवर्क की कमी या लागत।
  5. क्या गलत हो सकता है: एक तरह का झूठा अलार्म और एक तरह की चूक।

आखिर में, एक ऐसा आइडिया लिखें जो सुनने में तो रोमांचक लगे लेकिन TinyML के लिए सही न हो, और बताएं कि क्यों।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1एक दोस्त कहता है: "चलो माइक्रोकंट्रोलर पर ChatGPT डालते हैं ताकि मेरा पंखा मुझसे बातें कर सके।" आप उन्हें क्या कहेंगे?दिखाएं

एक लार्ज लैंग्वेज मॉडल को माइक्रोकंट्रोलर की तुलना में बहुत ज़्यादा मेमोरी और कंप्यूटिंग पावर की ज़रूरत होती है। एक माइक्रोकंट्रोलर एक छोटा वेक-वर्ड या कमांड मॉडल चला सकता है ("पंखा चालू करो", "स्पीड दो"), और जब सचमुच बातचीत की ज़रूरत हो केवल तभी पंखा ऑडियो को किसी बड़े कंप्यूटर या क्लाउड पर भेज सकता है। TinyML तय कामों के लिए है, आम बातचीत के लिए नहीं।

Q2एक साधारण नियम TinyML मॉडल से बेहतर कब होता है?दिखाएं

जब पैटर्न साफ़ और स्थिर हो, उदाहरण के लिए "अगर वॉटर लेवल स्विच बंद है तो पंप की लाइट चालू करें"। नियम को टेस्ट करना, समझाना और ठीक करना ज़्यादा आसान होता है। मॉडल का इस्तेमाल तब करें जब पैटर्न को नियमों के रूप में लिखना मुश्किल हो, जैसे खाँसी और हँसी में फ़र्क करना, या सामान्य कंपन और शुरुआती घिसाव के बीच अंतर पहचानना।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या TinyML और "edge AI" एक ही चीज़ हैं?

TinyML, edge AI का सबसे छोटा सिरा है। Edge AI का मतलब है क्लाउड के बजाय डेटा के पास मॉडल चलाना: फ़ोन, कैमरे, गेटवे और बोर्ड्स पर। TinyML वह हिस्सा है जो माइक्रोकंट्रोलर पर चलता है, जिसमें कुछ किलोबाइट मेमोरी और बहुत कम बिजली होती है।

क्या माइक्रोकंट्रोलर लगाने के बाद अपने आप सीख सकता है?

आम तौर पर मॉडल को कंप्यूटर पर ट्रेन किया जाता है और चिप पर केवल चलाया जाता है। कुछ प्रोजेक्ट्स डिवाइस पर ही छोटे-मोटे अपडेट करते हैं, लेकिन ट्रेनिंग के लिए बहुत ज़्यादा मेमोरी और पावर चाहिए। अपने पहले प्रोजेक्ट के लिए, अपने कंप्यूटर पर ट्रेन करने और एक तय मॉडल डिप्लॉय करने की योजना बनाएं।

क्या इस कोर्स को करने के लिए मुझे बोर्ड खरीदना पड़ेगा?

नहीं। कोडिंग लैब आपके ब्राउज़र में नकली सेंसर डेटा के साथ चलती हैं। आखिरी पाठ के लिए एक बोर्ड मददगार होता है, और मोशन सेंसर या माइक्रोफ़ोन वाले शुरुआती स्तर के कई बोर्ड काम करते हैं। देख लें कि आपका चुना हुआ टूल आज कौन से बोर्ड सपोर्ट करता है।

क्या TinyML सिर्फ़ इंजीनियरों के लिए है?

नहीं। मेकर्स, छात्र और शौकिया लोग भी TinyML प्रोजेक्ट बनाते हैं। आपको ट्रेनिंग के लिए थोड़ी Python और बोर्ड के सेटअप के लिए थोड़े धैर्य की ज़रूरत होगी। आप चाहे कोई भी टूल इस्तेमाल करें, इस कोर्स के विचार वही रहेंगे।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें