MWC 2024-এ, Qualcomm অবশেষে বেশ কয়েকটি ডিভাইসে অন-ডিভাইস AI অভিজ্ঞতা প্রদানের জন্য তার AI হাব চালু করেছে। আমেরিকান চিপ নির্মাতা বলেছেন যে এর AI ইঞ্জিন স্মার্টফোন থেকে পিসি পর্যন্ত সমস্ত প্ল্যাটফর্মে বুদ্ধিমান কম্পিউটিং অফার করার জন্য যথেষ্ট শক্তিশালী।
Qualcomm AI হাবের সম্পূর্ণ অপ্টিমাইজ করা AI মডেলগুলির একটি লাইব্রেরি রয়েছে যা আপনি আপনার ডিভাইসে স্থানীয়ভাবে ডাউনলোড এবং চালাতে পারেন৷ এটি Qualcomm AI Stack এর অংশ হিসাবে Google এর TensorFlow এবং Meta AI এর PyTorch এর মত অনেক জনপ্রিয় AI ফ্রেমওয়ার্ককেও সমর্থন করে।
Qualcomm AI হাব 75 টিরও বেশি AI মডেল অপ্টিমাইজ করেছে৷
কোয়ালকম বলছে এর এআই হাব রয়েছে 75 টিরও বেশি অপ্টিমাইজ করা এআই মডেল এবং প্রতিযোগিতার তুলনায় 4x পর্যন্ত AI অনুমান সমর্থন করে। আপনি ইমেজ সেগমেন্টেশন, ইমেজ জেনারেশন, টেক্সট জেনারেশন, লো লাইট এনহান্সমেন্ট, সুপার-রেজোলিউশন, স্পিচ রিকগনিশন এবং আরও অনেক কিছু সহ বিভিন্ন কাজের জন্য এই AI মডেলগুলি ব্যবহার করতে পারেন। একযোগে, Qualcomm AI Hub মাল্টিমোডাল AI মডেলগুলিকে শক্তি দিতে পারে যা স্থানীয়ভাবে দেখতে, শুনতে এবং কথা বলতে পারে৷
চিপ জায়ান্ট উল্লেখ করেছে যে এটি করতে পারে মাল্টিমডাল এআই মডেল চালান স্থানীয়ভাবে Android ডিভাইসে 7B+ প্যারামিটার সহ। এটি পাঠ্য, বক্তৃতা এবং চিত্র আউটপুট সমর্থন সহ LLaVa-এর মতো মডেলগুলি চালাতে পারে। সম্পূর্ণ সফ্টওয়্যার স্ট্যাকটি সর্বনিম্ন শক্তি ব্যবহার করার সময় সর্বোত্তম AI পারফরম্যান্স প্রদানের জন্য অপ্টিমাইজ করা হয়েছে। যেহেতু সবকিছু স্থানীয়ভাবে করা হয়, আপনার গোপনীয়তা সংরক্ষিত হয়এবং এটি ব্যক্তিগতকৃত AI অভিজ্ঞতাও আনলক করে।
এমনকি আসন্ন স্ন্যাপড্রাগন এক্স এলিট চিপসেট চালিত উইন্ডোজ ল্যাপটপে, আপনি আপনার ভয়েস ইনপুট করতে পারেন এবং এটি বক্তৃতার সাথে যুক্তি দিতে পারে এবং অল্প সময়ের মধ্যে আউটপুট তৈরি করতে পারে। Qualcomm নামে একটি কৌশল নিযুক্ত করেছে এআই ইমেজ তৈরি করতে LoRA (নিম্ন-র্যাঙ্ক অ্যাডাপ্টেশন) ডিভাইসে স্থানীয়ভাবে স্টেবল ডিফিউশন ব্যবহার করে। এটি 1B+ প্যারামিটার সহ স্থিতিশীল ডিফিউশন মডেল চালাতে পারে।
কোয়ালকম বনাম ইন্টেল: এনপিইউ পারফরম্যান্স
স্ন্যাপড্রাগন এক্স এলিট-এর শক্তিশালী অন-ডিভাইস AI ক্ষমতা আরও প্রমাণ করতে, কোয়ালকম স্টেবল ডিফিউশন প্লাগইন ব্যবহার করে জিআইএমপি-তে একটি ইমেজ জেনারেশন পরীক্ষা করেছে। স্ন্যাপড্রাগন এক্স এলিট-চালিত ল্যাপটপ একটি এআই ইমেজ তৈরি করেছে মাত্র 7.25 সেকেন্ড যেখানে সর্বশেষ x86-চালিত ইন্টেল কোর UItra প্রসেসর 22.26 সেকেন্ড সময় নিয়েছে।
এটি লক্ষ করা গুরুত্বপূর্ণ যে ইন্টেল বিভিন্ন কম্পিউট টাইলস সহ মেটিওর লেক আর্কিটেকচার (কোর আল্ট্রা সিপিইউগুলিকে পাওয়ারিং) চালু করেছে, যেখানে এনপিইউ টাইল (ইনটেল 4 নোডে নির্মিত) ডিভাইসে এআই কাজের জন্য ডিজাইন করা হয়েছে। তা সত্ত্বেও, এআরএম-চালিত স্ন্যাপড্রাগন এক্স এলিট সরবরাহ করে 3 গুণ ভাল AI কর্মক্ষমতা, মূলত কারণ এর NPU একাই 45 TOPS করতে পারে। এবং CPU, GPU, এবং NPU এর সাথে মিলিত হলে, এটি 75 TOPS পর্যন্ত কম্পিউট পারফরম্যান্সে পরিণত হয়।
অবশেষে কোয়ালকমও আনতে কাজ করছে হাইব্রিড এআই অভিজ্ঞতা যেখানে এআই প্রসেসিং কাজগুলি স্থানীয় গণনা এবং ক্লাউড রিসোর্স জুড়ে বিতরণ করা হয় যাতে ভাল পারফরম্যান্স অফার করা হয়। আপনি এখানে Qualcomm AI হাব দেখতে পারেন (পরিদর্শন)
তাহলে আপনি Qualcomm AI হাব সম্পর্কে কি মনে করেন? এটি কি নতুন অন-ডিভাইস জেনারেটিভ এআই অভিজ্ঞতাকে উত্সাহিত করবে? নীচের মন্তব্য বিভাগে আমাদের জানান.
