জেনারেটিভ এআই প্রযুক্তির ব্যবহার শুরু হলে অ্যাপল কিছুটা বাধাগ্রস্ত হয়েছিল। যাইহোক, Cupertino টেক জায়ান্ট তার LLM মডেলগুলির সাথে কাজ করছে বলে বিশ্বাস করা হয় এবং iOS এবং Siri-এর আসন্ন সংস্করণগুলিতে প্রযুক্তির বৃহত্তর ব্যবহারকে সংহত করার লক্ষ্যে রয়েছে৷
অ্যাপল এআই গবেষকরা দাবি করেছেন যে তারা একটি উদ্ভাবনী ফ্ল্যাশ মেমরি কৌশল প্রবর্তন করে আইফোন এবং অন্যান্য অ্যাপল ডিভাইসে লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) ব্যবহার করার ক্ষেত্রে একটি উল্লেখযোগ্য অগ্রগতি করেছেন।
দ্য গবেষণা পত্র শিরোনাম “এলএলএম ইন এ ফ্ল্যাশ: সীমিত মেমরির সাথে দক্ষ বড় ভাষার মডেল ইনফারেন্স” 12 ডিসেম্বর, 2023-এ প্রকাশিত হয়েছিল, কিন্তু AI বিজ্ঞানীদের জন্য তাদের কাজ প্রদর্শনের জন্য সবচেয়ে জনপ্রিয় ওয়েবসাইট Hugging Face, এই বুধবার এটি ঘোষণা করার সময় ব্যাপক মনোযোগ লাভ করে। এটি এই মাসে জেনারেটিভ এআই-এর উপর দ্বিতীয় অ্যাপলের গবেষণাপত্র এবং এটি একটি ধারাবাহিক পদক্ষেপের সর্বশেষতম যা ইমেজ-উৎপাদনকারী মডেলগুলিকে অনুমতি দেয়, যেমন স্টেবল ডিফিউশন, এর কাস্টম চিপগুলিতে চালানোর জন্য।
আইফোনে এলএলএম
এই অগ্রগতির আগ পর্যন্ত, সীমিত মেমরি সহ ডিভাইসগুলিতে বড় ভাষা মডেল চালানো অসম্ভব বলে মনে করা হয়েছিল কারণ LLM-এর ডেটা এবং মেমরি-নিবিড় প্রক্রিয়াগুলি সঞ্চয় করার জন্য প্রচুর পরিমাণে RAM প্রয়োজন। এটি মোকাবেলা করার জন্য, অ্যাপল গবেষকরা ফ্ল্যাশ মেমরিতে ডেটা সঞ্চয় করার জন্য একটি প্রযুক্তি নিয়ে এসেছেন, সেকেন্ডারি মেমরি যা ছবি, নথি এবং অ্যাপস সংরক্ষণের জন্য ব্যবহৃত হয়।
অ্যাপল গবেষকরা বলছেন যে এটি “ফ্ল্যাশ মেমোরিতে মডেল প্যারামিটার সংরক্ষণ করে উপলব্ধ ডিআরএএম ক্ষমতার চেয়ে বেশি এলএলএমগুলি দক্ষতার সাথে চালানোর চ্যালেঞ্জ মোকাবেলা করে কিন্তু সেগুলিকে ডিআরএএম-এ নিয়ে আসে“
অতএব, সম্পূর্ণ এলএলএম এখনও ডিভাইসে সংরক্ষিত আছে, তবে এটি RAM-তে ব্যবহার করে ফ্ল্যাশ মেমরি, একটি ভার্চুয়াল মেমরি ফর্মের সাথে কাজ করে করা যেতে পারে। অনেক মেমরির প্রয়োজন এমন কাজের জন্য ম্যাকওএস-এ এটি কীভাবে করা হয় তার থেকে এটি খুব বেশি আলাদা নয়।
সহজ কথায়, অ্যাপল গবেষকরা চতুরতার সাথে দুটি কৌশল ব্যবহার করে সীমাবদ্ধতাগুলিকে বাইপাস করেছেন যা ডেটা স্থানান্তর হ্রাস করতে পারে এবং ফ্ল্যাশ মেমরি থ্রুপুটকে সর্বাধিক করতে পারে:
জানালা: ডেটা পুনর্ব্যবহার করার উপায় হিসাবে এটি কল্পনা করুন। প্রতিবার ডেটা লোড করার পরিবর্তে, এআই মডেল বিদ্যমান ডেটার একটি অংশ পুনঃব্যবহার করে যা এটি পূর্বে প্রক্রিয়া করা হয়েছিল। এর অর্থ হল ক্রমাগত ডেটা আনার এবং মেমরিতে সংরক্ষণ করার জন্য কম প্রয়োজনীয়তা রয়েছে, প্রক্রিয়াটিকে দ্রুত এবং মসৃণ করে তোলে।
সারি-কলাম বান্ডলিং: এই কৌশলটি প্রতিটিতে একটি শব্দের পরিবর্তে বড় অংশে একটি পাঠ্য পড়ার অনুরূপ। ফ্ল্যাশ মেমরি থেকে ডেটা দ্রুত পড়া যায় যখন আরও কার্যকরভাবে গোষ্ঠীবদ্ধ করা হয়, ভাষা বোঝার এবং তৈরি করার AI এর ক্ষমতা বৃদ্ধি করে।
গবেষণা পত্রটি প্রস্তাব করেছে যে এই কৌশলগুলির সংমিশ্রণ AI মডেলগুলিকে একটি আইফোনের মেমরির অন্তত দ্বিগুণ আকারে চালানোর জন্য সক্ষম করবে। এই পদ্ধতির গতি বাড়ানোর জন্য প্রত্যাশিত প্রচলিত প্রসেসর (সিপিইউ) 5 গুণ, এবং গ্রাফিক্স প্রসেসরের (জিপিইউ) জন্য 20-25 গুণ দ্রুত.
আইফোনে এআই
এআই দক্ষতায় নতুন অগ্রগতি ভবিষ্যতের আইফোনগুলির জন্য আরও পরিশীলিত সিরি ক্ষমতা এবং রিয়েল-টাইম ভাষা অনুবাদের পাশাপাশি ফটোগ্রাফি এবং অগমেন্টেড রিয়েলিটির জন্য উন্নত এআই-চালিত বৈশিষ্ট্য সহ নতুন সম্ভাবনার দ্বার উন্মুক্ত করেছে। এই প্রযুক্তিটি আইফোনের জন্য অত্যাধুনিক অন-ডিভাইস এআই চ্যাটবট এবং সহকারী চালানোর মঞ্চও তৈরি করবে যা অ্যাপল কাজ করছে বলে জানা গেছে।
