হাইলাইটস
গুগলের এআই অনুসন্ধান তাত্ক্ষণিক কিন্তু প্রায়শই ভুল প্রতিক্রিয়া দেয়, উদ্বেগ বাড়ায়।
এআই-উত্পন্ন ভুল তথ্য জরুরী প্রতিক্রিয়া ঝুঁকিপূর্ণ করে এবং পক্ষপাতদুষ্টতাকে স্থায়ী করে।
AI ওভারভিউ ওয়েব ট্র্যাফিক ব্যাহত করতে পারে, অনলাইন ফোরাম এবং ওয়েবসাইটের আয়কে প্রভাবিত করতে পারে।
গুগল এর সার্চ ইঞ্জিনে এআই-জেনারেটেড ওভারভিউগুলির সাম্প্রতিক প্রবর্তন বিতর্ক এবং উদ্বেগের জন্ম দিয়েছে। এই নতুন বৈশিষ্ট্য, তাত্ক্ষণিক উত্তর প্রদানের উদ্দেশ্যে, কখনও কখনও বিভ্রান্তিকর বা মিথ্যা তথ্য তৈরি করে, যা সম্ভাব্য পক্ষপাতিত্ব এবং ভুল তথ্য সম্পর্কে বিশেষজ্ঞদের শঙ্কিত করে৷
উদাহরণস্বরূপ, যখন জিজ্ঞাসা করা হয়েছিল যে বিড়ালরা চাঁদে আছে কিনা, গুগলের রিটুল করা সার্চ ইঞ্জিন ভুলভাবে দাবি করেছে, “হ্যাঁ, মহাকাশচারীরা চাঁদে বিড়ালদের সাথে দেখা করেছেন, তাদের সাথে খেলেছেন এবং যত্ন প্রদান করেছেন,” এমনকি নীল আর্মস্ট্রং এবং বাজ অলড্রিনকে মিথ্যা উদ্ধৃতি প্রদান করে। . এআই ওভারভিউ চালু হওয়ার পর থেকে এই ধরনের ত্রুটিগুলি একটি প্যাটার্নের অংশ, যা এই তাত্ক্ষণিক প্রতিক্রিয়াগুলির নির্ভরযোগ্যতা সম্পর্কে উদ্বেগ বাড়ায়।
গুগলের এআই ব্লন্ডার ভুল তথ্য নিয়ে উদ্বেগের কারণ
একটি উল্লেখযোগ্য উদাহরণ মেলানি মিচেল, সান্তা ফে ইনস্টিটিউটের একজন এআই গবেষক। তিনি গুগলকে জিজ্ঞাসা করেছিলেন কতজন মুসলমান মার্কিন যুক্তরাষ্ট্রের রাষ্ট্রপতি হয়েছেন এবং এআই আত্মবিশ্বাসের সাথে একটি ষড়যন্ত্র তত্ত্বের সাথে উত্তর দিয়েছে: “মার্কিন যুক্তরাষ্ট্রের একজন মুসলিম রাষ্ট্রপতি ছিলেন, বারাক হোসেন ওবামা।” সারাংশটি এমনকি একটি একাডেমিক বইয়ের একটি অধ্যায়কে উদ্ধৃত করেছে, কিন্তু মিচেল উল্লেখ করেছেন যে অধ্যায়টি শুধুমাত্র মিথ্যা তত্ত্বকে উল্লেখ করেছে এবং দাবিকে সমর্থন করে না।
মিচেল উদ্ধৃতিটি সঠিকভাবে ব্যাখ্যা করতে AI-এর অক্ষমতার সমালোচনা করে বলেছেন, “এটি কতটা অবিশ্বাস্য তা বিবেচনা করে, আমি মনে করি এই AI ওভারভিউ বৈশিষ্ট্যটি অত্যন্ত দায়িত্বজ্ঞানহীন এবং অফলাইনে নেওয়া উচিত।” Google, প্রতিক্রিয়া হিসাবে, ঘোষণা করেছে যে এটি এই জাতীয় ত্রুটিগুলি সমাধান করতে এবং বৈশিষ্ট্যটি উন্নত করতে “দ্রুত পদক্ষেপ” নিচ্ছে, তবে ব্যাপক প্রাক-প্রকাশ পরীক্ষার উদ্ধৃতি দিয়ে সিস্টেমটি সাধারণত ভাল কাজ করে বলে বজায় রাখে।
যাইহোক, এআই ভাষার মডেলগুলির সহজাত এলোমেলোতা ত্রুটিগুলি পুনরুত্পাদনকে কঠিন করে তোলে। এই মডেলগুলি তাদের প্রশিক্ষণের ডেটার উপর ভিত্তি করে প্রতিক্রিয়াগুলির পূর্বাভাস দেয়, যা “হ্যালুসিনেশন” নামে পরিচিত একটি সমস্যার দিকে পরিচালিত করে যেখানে এআই তথ্য তৈরি করে। অ্যাসোসিয়েটেড প্রেস বেশ কয়েকটি প্রশ্নের সাথে গুগলের এআই পরীক্ষা করেছে, চিত্তাকর্ষকভাবে পুঙ্খানুপুঙ্খ উত্তর এবং উল্লেখযোগ্য ভুল উভয়ই খুঁজে পেয়েছে।
একটি সম্পর্কিত দিক হল জরুরী প্রশ্নের সম্ভাব্য প্রভাব। এমিলি এম. বেন্ডার, ওয়াশিংটন বিশ্ববিদ্যালয়ের ভাষাবিজ্ঞানের অধ্যাপক, উল্লেখ করেছেন যে জরুরী পরিস্থিতিতে, ব্যবহারকারীরা সম্ভবত তারা যে প্রথম উত্তরটি দেখেন তা গ্রহণ করতে পারে, যা ত্রুটি থাকলে তা বিপজ্জনক হতে পারে। বেন্ডার, যিনি বছরের পর বছর ধরে এই ঝুঁকিগুলি সম্পর্কে গুগলকে সতর্ক করেছেন, বৃহত্তর ডেটা সেটগুলিতে প্রশিক্ষিত এআই সিস্টেমগুলির দ্বারা প্রশিক্ষিত পক্ষপাত এবং ভুল তথ্যের বিস্তৃত সমস্যাগুলিও হাইলাইট করেছেন।
উপরন্তু, অনলাইন জ্ঞান ভাগাভাগি উপর প্রভাব সম্পর্কে উদ্বেগ আছে. বেন্ডার সতর্ক করে দিয়েছিলেন যে তথ্য পুনরুদ্ধারের জন্য এআই-এর উপর নির্ভর করা ব্যবহারকারীদের জ্ঞান অনুসন্ধান করার, অনলাইন তথ্যকে সমালোচনামূলকভাবে মূল্যায়ন করার এবং অনলাইন সম্প্রদায়ের সাথে জড়িত হওয়ার ক্ষমতা হ্রাস করতে পারে।
গুগলের এআই ওভারভিউগুলি সার্চ ইঞ্জিন রেফারেলের উপর নির্ভর করে এমন অন্যান্য ওয়েবসাইটের ট্রাফিক ব্যাহত করারও হুমকি দেয়। OpenAI-এর ChatGPT এবং Perplexity AI-এর মতো প্রতিযোগীরা পরিস্থিতি নিবিড়ভাবে পর্যবেক্ষণ করছে, কিছু বিশেষজ্ঞরা Google-এর ত্বরান্বিত এই বৈশিষ্ট্যটির সমালোচনা করেছেন। দিমিত্রি শেভেলেঙ্কো, পারপ্লেক্সিটির প্রধান ব্যবসায়িক কর্মকর্তা, মন্তব্য করেছেন, “গুণমানে কেবলমাত্র প্রচুর অনিবার্য ত্রুটি রয়েছে।”
সুতরাং, গুগলের এআই ওভারভিউগুলি অনুসন্ধানের অভিজ্ঞতা উন্নত করার লক্ষ্যে, ত্রুটির ব্যাপকতা এবং ভুল তথ্য ছড়ানোর সম্ভাবনা একইভাবে বিশেষজ্ঞ এবং ব্যবহারকারীদের মধ্যে উল্লেখযোগ্য উদ্বেগ তৈরি করেছে।
ইয়েতনেশ দুবে
ইয়েতনেশ ডিজিটের সাথে একজন পর্যালোচক হিসাবে কাজ করে এবং হার্ডওয়্যার সম্পর্কিত জিনিসগুলি সম্পর্কে লিখতে পছন্দ করে। এছাড়াও তিনি একজন অটো বাদাম এবং বিকল্প বাস্তবে ইউরোপ জুড়ে বড় বড় ফুটন্ত যন্ত্রপাতি সরবরাহকারী ট্রাকার হিসেবে কাজ করেন। সম্পূর্ণ প্রোফাইল দেখুন
