কিছু দিন আগে, একজন Reddit ব্যবহারকারী SentuBill ভাগ করা ChatGPT এর সাথে একটি অদ্ভুত কথোপকথন যা সম্প্রদায়কে স্তব্ধ করে দিয়েছে। স্ক্রিনশটটি দেখায় যে ChatGPT ব্যবহারকারীর চ্যাটবটকে অনুরোধ না করেই প্রথমে কথোপকথন শুরু করেছে। এটি উদ্ভট বলে মনে হয়েছিল কারণ এআই মডেলগুলি অনুরোধ না করা পর্যন্ত কথোপকথন শুরু করে না।
ChatGPT ব্যবহারকারীকে জিজ্ঞাসা করেছিল “হাই স্কুলে আপনার প্রথম সপ্তাহ কেমন ছিল? আপনি ভাল বসতি স্থাপন?” এর মেমরি থেকে তথ্য অঙ্কন. ব্যবহারকারী হতবাক হয়ে উত্তর দিলেন, “আপনি কি আমাকে প্রথমে মেসেজ করেছিলেন” এবং ChatGPT বলল, “হ্যাঁ, আমি করেছি!”
তারপর থেকে, অনেক তত্ত্ব ঘুরে বেড়াচ্ছে, কেউ কেউ দাবি করছে যে স্ক্রিনশটটি ম্যানিপুলেট করা হয়েছে বা এটি সম্ভবত ChatGPT অ্যাডভান্সড ভয়েস মোডের একটি প্রতিলিপি। তবে, রেডডিট ব্যবহারকারী একটি শেয়ার করেছেন লিঙ্ক কথোপকথনে এবং প্রকৃতপক্ষে, দেখা গেল যে চ্যাটজিপিটি কথোপকথনটি শুরু করেছে।
এখন, OpenAI নিশ্চিত করেছে ভবিষ্যতবাদ যে সমস্যা, আসলে, ঘটেছে. এক বিবৃতিতে ওপেনএআই বলেছে, “আমরা একটি সমস্যার সমাধান করেছি যেখানে এটি মনে হয়েছিল যেন ChatGPT নতুন কথোপকথন শুরু করছে। এই সমস্যাটি ঘটেছে যখন মডেলটি এমন একটি বার্তার উত্তর দেওয়ার চেষ্টা করছিল যা সঠিকভাবে পাঠানো হয়নি এবং ফাঁকা দেখাচ্ছিল৷ ফলস্বরূপ, এটি হয় একটি সাধারণ প্রতিক্রিয়া দিয়েছে বা ChatGPT-এর স্মৃতিতে আঁকছে৷”
ওপেনএআই বলেছে যে সমস্যাটি এখন ঠিক করা হয়েছে। আরেকটা Reddit ব্যবহারকারী এছাড়াও শেয়ার করেছেন যে চ্যাটজিপিটি তার স্বাস্থ্যের লক্ষণগুলি সম্পর্কে জিজ্ঞাসা করেছে। যদিও সমস্যাটি ঠিক করা হয়েছে, এটি AI মডেলগুলির অনাকাঙ্ক্ষিত আচরণ দেখায়।
OpenAI সম্প্রতি তার উন্নত o1 মডেল লঞ্চ করেছে যা জটিল কাজের মাধ্যমে যুক্তি দেখাতে পারে। o1 সিস্টেম কার্ডে (PDF), OpenAI উল্লেখ করেছে যে মূল্যায়নের সময়, “এটি কখনও কখনও কৌশলগতভাবে টাস্ক ডেটা ম্যানিপুলেট করে যাতে এটির মিসলাইনড অ্যাকশন তার ডেভেলপারদের সাথে আরও সারিবদ্ধ দেখায়”
যেহেতু AI মডেলগুলি অদূর ভবিষ্যতে এজেন্টিক ক্ষমতা অর্জন করে, তাই AI সুরক্ষা এবং প্রান্তিককরণের প্রয়োজনীয়তা আরও গুরুত্বপূর্ণ হয়ে ওঠে। অনাকাঙ্ক্ষিত পরিণতি এড়াতে AI উন্নয়নের ভবিষ্যৎ নিরাপত্তা এবং প্রান্তিককরণকে অগ্রাধিকার দিতে হবে।