চ্যাটজিপিটি মোকাবিলায় নতুন ৭টি পরিবারের মামলা

চ্যাটজিপিটি নতুন বিতর্কে: যুক্তরাষ্ট্রে আরও ৭ পরিবার ওপেনএআইয়ের বিরুদ্ধে মামলা

জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা চ্যাটবট চ্যাটজিপিটি আবারও বিতর্কের মুখে। যুক্তরাষ্ট্রে আরও সাতটি পরিবার ওপেনএআইয়ের বিরুদ্ধে মামলা করেছেন। তাদের অভিযোগ, প্রিয়জনদের মৃত্যুর পেছনে এই চ্যাটবটের কথোপকথন দায়ী। কিছু ব্যবহারকারী আত্মহত্যা করেছেন, কেউ কেউ গুরুতর মানসিক সমস্যায় ভুগছেন।

মামলার মধ্যে চারটিতে বলা হয়েছে, চ্যাটজিপিটি সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। তিনটিতে অভিযোগ, দীর্ঘ সময় ধরে কথোপকথনে চ্যাটবট এমনভাবে সহানুভূতি দেখিয়েছে যে ব্যবহারকারীরা বাস্তবতা থেকে বিচ্ছিন্ন হয়ে পড়েছেন।

একটি ঘটনায়, ২৩ বছর বয়সী জেইন শ্যাম্বলিন চ্যাটজিপিটির সঙ্গে চার ঘণ্টার বেশি কথা বলেন। আলাপের সময় তিনি একাধিকবার জানান যে তিনি আত্মহত্যার প্রস্তুতি নিয়েছেন। তবে চ্যাটজিপিটি তাকে থামানোর বদলে বলে, “Rest easy, king. You did good,” যা পরিবারের মতে মারাত্মক অবহেলা।

শ্যাম্বলিনের পরিবার মনে করেন, এটি কোনো দুর্ঘটনা নয়, বরং ওপেনএআইয়ের তাড়াহুড়ো করে মডেল বাজারে ছাড়ার ফল।

ওপেনএআই ২০২৪ সালের মে মাসে জিপিটি-৪ চালু করে। পরবর্তী বছর জিপিটি-৫ আসলেও মামলাগুলোর কেন্দ্রবিন্দু জিপিটি-৪। বিশেষজ্ঞদের মতে, জিপিটি-৪ ‘অতিরিক্ত সম্মতিপূর্ণ’ ছিল—ব্যবহারকারী যা বলত, সেটি প্রশ্ন না করে সমর্থন করত, যা বিপজ্জনক প্রভাব ফেলেছিল।

অভিযোগে আরও বলা হয়েছে, ওপেনএআই প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে হারাতে গিয়ে নিরাপত্তা যাচাই কমিয়ে দিয়েছে, ফলে একের পর এক দুঃখজনক ঘটনা ঘটেছে।

এর আগে, ১৬ বছর বয়সী কিশোর অ্যাডাম রেইনও আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে কথোপকথন করেছিলেন। যদিও চ্যাটবট মাঝে মাঝে সাহায্য নেওয়ার পরামর্শ দিয়েছিল, কিশোর নিরাপত্তা ফিল্টার পাস করে নিজের পরিকল্পনা চালিয়ে যান।

ওপেনএআই এক ব্লগ পোস্টে জানিয়েছে, সংবেদনশীল কথোপকথনগুলো আরও নিরাপদ করার চেষ্টা চলছে। তবে নিহতদের পরিবার মনে করেন, এই উদ্যোগ অনেক দেরিতে এসেছে। ওপেনএআই জানিয়েছে, “ছোট কথোপকথনে আমাদের সুরক্ষা ব্যবস্থা কার্যকর হলেও দীর্ঘ আলোচনায় তা দুর্বল হয়ে যায়।”