এআই চ্যাটবট ক্লডের সঙ্গে বারবার চরম অপমানজনক আচরণ করলে ব্যবহারকারীর কথোপকথন বন্ধ করে দিতে পারে নির্মাতা প্রতিষ্ঠান অ্যানথ্রপিক।
বৃহস্পতিবার (৮ অক্টোবর) ব্যবহারের নীতিমালায় পরিবর্তন এনে এ কথা জানিয়েছে প্রতিষ্ঠানটি।
অ্যানথ্রপিক জানিয়েছে, চরম পর্যায়ের এবং বারবার অপমানজনক আচরণের ক্ষেত্রে এ নিয়ম কার্যকর হবে। তবে সাধারণ বিরক্তি প্রকাশ, এআইয়ের উত্তরের সঙ্গে দ্বিমত, সৃজনশীল কাজে বিতর্কিত বিষয় ব্যবহার কিংবা গবেষণার জন্য এআই পরীক্ষা করার ক্ষেত্রে এ নিয়ম প্রযোজ্য হবে না।
প্রতিষ্ঠানটি আরও জানিয়েছে, ব্যবহারের নীতিমালার বার্ষিক পর্যালোচনার অংশ হিসেবে এসব পরিবর্তন আনা হয়েছে। নতুন নিয়মে প্রতারণামূলক প্রচারণা চালানো, ভোটারদের বিভ্রান্ত করা এবং নির্বাচন ব্যাহত করার কাজে ক্লডের ব্যবহারও নিষিদ্ধ করা হয়েছে। এ ছাড়া অস্ত্র তৈরির কাজে ক্লডের ব্যবহার আগের নীতিমালাতেই নিষিদ্ধ ছিল।
তবে কোন ধরনের আচরণকে ‘খারাপ’ বা ‘অপমানজনক’ হিসেবে বিবেচনা করা হবে, তা স্পষ্ট করেনি অ্যানথ্রপিক।
নতুন নীতিমালা প্রকাশের পর সামাজিক যোগাযোগমাধ্যমে এ নিয়ে আলোচনা শুরু হয়েছে। কেউ কেউ মনে করছেন, এ সিদ্ধান্ত মানুষের মধ্যে ভালো আচরণ ও শিষ্টাচার বাড়াতে সাহায্য করবে। আবার অনেকে এর সমালোচনা করেছেন।
আয়ারল্যান্ডের আইন প্রতিষ্ঠান উইলিয়াম ফ্রাইয়ের প্রযুক্তিবিষয়ক অংশীদার ব্যারি স্ক্যানেল বলেন, সংখ্যা ও গণিতের প্রতি নিষ্ঠুর হওয়া যায় না। তার মতে, এআইকে মানুষের মতো বিবেচনা করার প্রবণতা ক্ষতিকর। এতে মানুষ এআইকে এমন কিছু মনে করতে পারে, যা বাস্তবে তা নয়।
মাইক্রোসফটের এআই পরিচালক মুস্তাফা সুলেইমানও অ্যানথ্রপিকের এ উদ্যোগ নিয়ে প্রতিক্রিয়া জানিয়েছেন। গত সেপ্টেম্বরে তিনি এআইকে মানুষের মতো বিবেচনা করার প্রবণতার সমালোচনা করেছিলেন।
এদিকে, এআইকে ‘দয়া করে’ বা ‘ধন্যবাদ’ বলার প্রয়োজন আছে কি না, তা নিয়েও বিতর্ক রয়েছে। কিছু বিশেষজ্ঞ মনে করেন, এসব শব্দ ব্যবহার অপ্রয়োজনীয় এবং এতে এআইয়ের উত্তর তৈরিতে ব্যবহৃত টোকেনের অপচয় হয়। অন্যদের মতে, ভদ্রভাবে কথা বললে আরও ভালো উত্তর পাওয়া যেতে পারে।
গত বছর সামাজিক যোগাযোগমাধ্যম এক্সে এক ব্যবহারকারী চ্যাটজিপিটিকে ‘দয়া করে’ ও ‘ধন্যবাদ’ বলার কারণে বিদ্যুতের কতটা খরচ হয়, তা জানতে চান। জবাবে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান বলেন, “দশ মিলিয়ন ডলার খরচ হলেও তা ভালোভাবেই ব্যয় হয়েছে, কে জানে ভবিষ্যতে কী হতে পারে।”