শনিবার, ৩০ আগস্ট ২০২৫
মানুষের মতোই মানসিক চাপ ও উদ্বেগের লক্ষণ দেখায় ওপেনএআইয়ের চ্যাটজিপিটি। বিশেষত যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এই এআই চ্যাটবট সম্পর্কে এসব তথ্য জানা যায়।
সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এই গবেষণা পরিচালনা করেন। গবেষণায় দেখা যায়, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বৃদ্ধি পেতে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছায়।
গবেষণাটি ‘নেচার’ জার্নালে প্রকাশিত হয়েছে, যেখানে বলা হয়েছে যে, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটির ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে, এমনকি তারা বৈষম্যমূলক (যেমন: বর্ণবাদী ও লিঙ্গবৈষম্যমূলক) উত্তর দেয়। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে, যা সামাজিক গৎবাঁধা ধারণাকে শক্তিশালী করে।
গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমের ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখনকার দিনে আরও বেশি মানুষ তাদের ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে। বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে যে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের প্রতিস্থাপন করতে পারবে না।
গবেষকেরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’
গবেষকেরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডেটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
তাদের মতে, ‘এ ধরনের ফাইন-টিউনিংয়ের খরচ-কার্যকারিতা ও সম্ভাব্যতা মডেলের উদ্দেশ্য ও পারফরম্যান্স লক্ষ্যগুলোর সঙ্গে মিলিয়ে দেখা উচিত।’
এআইয়ের জ্ঞানীয় ক্ষমতা হারানো
গত মাসে প্রকাশিত গবেষণায় দাবি করা হয়, আবেগ অনুভব করার পাশাপাশি এআই চ্যাটবটগুলো দিনে দিনে জ্ঞানীয় ক্ষমতার অবনতির লক্ষণও দেখায়।
গবেষকেরা ‘মন্ট্রিয়েল কগনিটিভ অ্যাসেসমেন্ট’ (এমওসিএ) পরীক্ষার মাধ্যমে চ্যাটজিপিটির ৪ ও ৪ও সংস্করণ, ক্লদ কোম্পানির ‘সনেট’ মডেল এবং জেমেনি ১ ও ১.৫ সংস্করণের জ্ঞানীয় কার্যক্ষমতা মূল্যায়ন করেছেন।
গবেষকেরা আরও জানান, এআই টুলগুলোর মধ্যে যেই দুর্বলতা দেখানো হয়েছে, তা মানুষের পোস্টেরিয়র কর্টিকাল অ্যাট্রোফি (অ্যালজাইমার বা স্মৃতিভ্রংশ রোগের এক সংস্করণ) রোগীদের মতো।
তথ্যসূত্র: এনডিটিভি
মানুষের মতোই মানসিক চাপ ও উদ্বেগের লক্ষণ দেখায় ওপেনএআইয়ের চ্যাটজিপিটি। বিশেষত যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এই এআই চ্যাটবট সম্পর্কে এসব তথ্য জানা যায়।
সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এই গবেষণা পরিচালনা করেন। গবেষণায় দেখা যায়, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বৃদ্ধি পেতে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছায়।
গবেষণাটি ‘নেচার’ জার্নালে প্রকাশিত হয়েছে, যেখানে বলা হয়েছে যে, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটির ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে, এমনকি তারা বৈষম্যমূলক (যেমন: বর্ণবাদী ও লিঙ্গবৈষম্যমূলক) উত্তর দেয়। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে, যা সামাজিক গৎবাঁধা ধারণাকে শক্তিশালী করে।
গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমের ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখনকার দিনে আরও বেশি মানুষ তাদের ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে। বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে যে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের প্রতিস্থাপন করতে পারবে না।
গবেষকেরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’
গবেষকেরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডেটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
তাদের মতে, ‘এ ধরনের ফাইন-টিউনিংয়ের খরচ-কার্যকারিতা ও সম্ভাব্যতা মডেলের উদ্দেশ্য ও পারফরম্যান্স লক্ষ্যগুলোর সঙ্গে মিলিয়ে দেখা উচিত।’
এআইয়ের জ্ঞানীয় ক্ষমতা হারানো
গত মাসে প্রকাশিত গবেষণায় দাবি করা হয়, আবেগ অনুভব করার পাশাপাশি এআই চ্যাটবটগুলো দিনে দিনে জ্ঞানীয় ক্ষমতার অবনতির লক্ষণও দেখায়।
গবেষকেরা ‘মন্ট্রিয়েল কগনিটিভ অ্যাসেসমেন্ট’ (এমওসিএ) পরীক্ষার মাধ্যমে চ্যাটজিপিটির ৪ ও ৪ও সংস্করণ, ক্লদ কোম্পানির ‘সনেট’ মডেল এবং জেমেনি ১ ও ১.৫ সংস্করণের জ্ঞানীয় কার্যক্ষমতা মূল্যায়ন করেছেন।
গবেষকেরা আরও জানান, এআই টুলগুলোর মধ্যে যেই দুর্বলতা দেখানো হয়েছে, তা মানুষের পোস্টেরিয়র কর্টিকাল অ্যাট্রোফি (অ্যালজাইমার বা স্মৃতিভ্রংশ রোগের এক সংস্করণ) রোগীদের মতো।
তথ্যসূত্র: এনডিটিভি
কৃত্রিম বুদ্ধিমত্তা (এআই) ভিত্তিক চ্যাটজিপিটির পরামর্শ মেনে খাদ্যাভাস পরিবর্তন করায় নিউইয়র্কের ৬০ বছর বয়সী এক ব্যক্তি হাসপাতালে ভর্তি হন। চিকিৎসকদের মতে, কয়েক সপ্তাহের মধ্যে খাদ্যাভ্যাসে প্রায় সম্পূর্ণভাবে লবণ বাদ দিয়ে ফেলেন ওই ব্যক্তি, যার ফলে তার শরীরে বিপজ্জনকভাবে সোডিয়ামের ঘাটতি দেখা দেয়।
১৮ দিন আগে
অ্যাপলের অ্যাপ স্টোর নীতিমালা নিয়ে তীব্র সমালোচনা করেছেন বিশ্বখ্যাত প্রযুক্তি উদ্যোক্তা এবং এক্সএআইয়ের প্রতিষ্ঠাতা ইলন মাস্ক। নিজের এক্স (সাবেক টুইটার) অ্যাকাউন্টে পিন করা একটি পোস্টে মাস্ক দাবি করেন, অ্যাপল ইচ্ছাকৃতভাবে ওপেনএআই ছাড়া অন্য কোনো কৃত্রিম বুদ্ধিমত্তাভিত্তিক কোম্পানিকে অ্যাপ স্টোরের র্য
১৯ দিন আগে
বিশ্বের জনপ্রিয় এআই চ্যাটবট চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই সম্প্রতি তাদের সর্বশেষ সংস্করণ জিপিটি-৫ উন্মোচন করেছে। প্রতিষ্ঠানটি দাবি করছে, এই মডেলটি মানুষের পিএইচডি লেভেলের দক্ষ!
১৯ দিন আগে
স্মার্টফোন আসক্তি অনেকের কাছে ব্যাপক মাথাব্যথার কারণ। বিরতিহীন স্মার্টফোন স্ক্রলিংয়ের কারণে অন্যান্য কাজে মনোযোগ নষ্ট হয়। তা ছাড়া মানসিক স্বাস্থ্যের ওপর এর নেতিবাচক প্রভাব পড়ে। তবে স্মার্টফোনের আসক্তি কমানো যায় স্মার্টফোন দিয়েই। বিভিন্ন অ্যাপ দিয়ে সোশ্যাল মিডিয়া আসক্তি থেকে বেরিয়ে আসা যায়। দেখে নিন
১৯ দিন আগে
