सॅन फ्रान्सिस्को : संगणक क्षेत्रातील ‘एज एआय’ या विभागात सध्या मोठी क्रांती होत आहे. सामान्यतः स्थानिक मशिनवर मोठे एआय मॉडेल्स चालवण्यासाठी लाखांच्या घरात खर्च करावा लागतो. मात्र, ‘Tiiny AI’ (टायनी एआय) या स्टार्टअप कंपनीने हा अडथळा दूर करत जगातील सर्वात लहान सुपरकॉम्प्युटर ‘Tiiny AI Pocket Lab’ सादर केला आहे.
केवळ 14.2 x 8 x 2.53 सेमी आकारमान आणि 300 ग्रॅम वजन असलेले हे छोटेखानी यंत्र तब्बल 120 बिलियन पॅरामीटरचे (120 B) महाकाय एआय मॉडेल्स सहज हाताळू शकते, असा दावा कंपनीने केला आहे. सध्या एआय मॉडेल्स स्थानिक पातळीवर चालवण्यासाठी ‘NVIDIA DGX Spark’ सारखी उपकरणे लागतात, ज्यांची किंमत 4,000 डॉलर्स (सुमारे 3.3 लाख रुपये) पर्यंत असते. सर्वसामान्य ग्राहकांसाठी हे परवडणारे नाही. मात्र, ‘पॉकेट लॅब’मुळे पीएचडी-स्तरीय तर्कशक्ती (PhD- level reasoning) आणि सखोल विश्लेषणात्मक क्षमता असलेले एआय मॉडेल्स आता खिशात मावणार्या डिव्हाईसवर उपलब्ध होतील.
प्रमुख तांत्रिक वैशिष्ट्ये : प्रचंड क्षमता : यात 80 जीबी LPDDR5 X देण्यात आली आहे, जी 120 बिलियन मॉडेल्सना विनासायास चालवण्यास मदत करते. वेगवान कामगिरी : यात स्वतंत्र NPU (Neural Processing Unit) असून तो 190 TOPS (Trillion Operations Per Second) इतकी गती देतो. मॉडेल सपोर्ट : हे डिव्हाईस GPT- OSS, Llama, Qwen, DeepSeek, Mistral आणि Phi यांसारख्या प्रसिद्ध एआय मॉडेल्सना सपोर्ट करते. कंपनीने 120 बिलियन पॅरामीटर्सचे मॉडेल इतक्या लहान डिव्हाईसवर चालवण्यासाठी दोन महत्त्वाच्या पद्धतींचा वापर केला आहे. 1. TurboSparse : हे तंत्रज्ञान न्यूरॉन-लेव्हलवर सक्रिय राहून मॉडेलची बुद्धिमत्ता कमी न करता माहिती प्रक्रिया करण्याची कार्यक्षमता वाढवते. 2. PowerInfer : हे एक ओपन-सोर्स इंजिन असून ते सीपीयू (CPU) आणि एनपीयू (NPU) मध्ये कामाची विभागणी करते. यामुळे सर्व्हर-ग्रेड कामगिरी अत्यंत कमी वीज वापरात मिळते.