জামিনে কৃত্রিম বুদ্ধিমত্তার নৈতিক রূপগুলি চার্ট করা: সম্ভাবনা এবং উদ্বেগ

By Atish Chakraborty

(This blog is the last in the series of blogs that JILS will publish in various vernacular languages as part of its initiative to mark the International Mother Language Day.)

বর্তমান যুগে কৃত্রিম বুদ্ধিমত্তার উত্থান এবং অপরিহার্যতা (এরপরে ‘এআই’ হিসাবে উল্লেখ করা হয়েছে) এই সত্যের সাক্ষ্য দেয় যে কীভাবে মানুষ জীবনের প্রায় প্রতিটি ক্ষেত্রেই এর ব্যবহারকে অনুমোদনের সিলমোহর দিয়েছে। এটি প্রায়শই বলা হয় যে AI এর ক্ষেত্রে দ্রুত বৃদ্ধি এবং এর অপরিহার্যতার সাথে, এটি চতুর্থ শিল্প বিপ্লবের দিকে পথ চার্ট করতে প্রস্তুত।^[1]. যাইহোক, সবচেয়ে উল্লেখযোগ্য উদ্বেগ যা এই ধরনের সুবিধার চারপাশে প্রতিফলিত হয় তা হল প্রশ্ন হল এআই এমন একটি পর্যায়ে পৌঁছেছে যেখানে এটি কোনও মানব হস্তক্ষেপ ছাড়াই নৈতিকভাবে কাজ করতে পারে কিনা। এই ধরনের কৃতিত্বের মাপকাঠিকে প্রায়শই কেন্দ্রীয় গণতান্ত্রিক আদর্শের কিছু অংশীদার করা হয়। এই ধরনের আদর্শের মধ্যে রয়েছে কিন্তু জনসাধারণের সমন্বয়ে সীমাবদ্ধ নয়, নিরপেক্ষ এবং আইনি বিরোধের স্বাধীন বিচার, তথ্যের ভিত্তিতে ন্যায্য আইনি ফলাফল, ক্ষমতা বা সামাজিক অবস্থানের বিপরীতে গৃহীত নীতি এবং আইন, আইনের অধীনে সমান আচরণ, এই ধরনের সিদ্ধান্তের বিরুদ্ধে আপিল করার ক্ষমতা। এবং পর্যালোচনা, যথাযথ প্রক্রিয়া এবং পদ্ধতির ন্যায়সঙ্গততা বজায় রাখা এবং আরও অনেক কিছু চাই.^[2] এই ধরনের মানদণ্ড থাকা সত্ত্বেও, এই ধরনের গণতান্ত্রিক আদর্শ মানদণ্ডগুলি প্যারি ম্যাটেরিয়ার প্রয়োগ করা উচিত কিনা বা এর ফৌজদারি বিচার ব্যবস্থায় AI ব্যবহার করার সময় সেগুলিকে উন্নত বা হ্রাস করা দরকার কিনা তা নিয়ে অনুসন্ধান করা প্রাসঙ্গিক।

যখন আমরা বিশ্বের বিভিন্ন বিচারব্যবস্থার দিকে তাকাই, তখন আমরা দেখতে পাব যে এই অগ্রগতিগুলি কতটা কার্যকরভাবে এই ধরনের বিচারব্যবস্থার ফৌজদারি বিচার ব্যবস্থাকে উন্নত করতে সাহায্য করেছে৷ উদাহরণস্বরূপ, মার্কিন যুক্তরাষ্ট্রে, নিউ জার্সি এবং আলাস্কা, AI এবং অ্যালগরিদমগুলির মতো কিছু রাজ্যে PSA (পাবলিক সেফটি অ্যাসেসমেন্ট) টুলের মাধ্যমে অভিযুক্ত অপরাধীদের জামিন দেওয়ার জন্য ব্যাপকভাবে ব্যবহার করা হচ্ছে যা ভবিষ্যদ্বাণী করতে ব্যবহৃত হয় যদি একজন অভিযুক্ত জামিনে মুক্তি পলাতক হতে পারে এবং এই ধরনের ব্যক্তির পলাতক হওয়ার সম্ভাবনা কতটুকু। এই ধরনের ভবিষ্যদ্বাণী করার জন্য যেসব মূল বিষয়গুলিকে বিবেচনায় নেওয়া হয় তার মধ্যে রয়েছে তাদের বয়স, সংঘটিত অপরাধের প্রকৃতি, তাদের পূর্বের অপরাধমূলক ইতিহাস ইত্যাদি। এই টুলের দ্বারা উত্পন্ন ফলাফল তারপরে একটি ডিসিশন মেকিং ফ্রেমওয়ার্ক (DMF) এ প্রবেশ করা হয় যা পরে PSA স্কোর এবং বর্তমান অপরাধের উপর ভিত্তি করে বিবাদীকে একটি ঝুঁকির স্তর নির্ধারণ করে যার জন্য অপরাধীকে অভিযুক্ত করা হয়। ইভেন্টে এটি পাওয়া যায় যে ব্যক্তিটি একজন পুনরাবৃত্ত অপরাধী এবং পলাতক হয়েছে বা দুই বা ততোধিক অপরাধের জন্য প্রি-ট্রায়াল রিলিজে আছে তখন DMF অপরাধীর পিএসএ স্কোর নির্বিশেষে মুক্তি না দেওয়ার সুপারিশ জারি করে৷ এটি প্রায় 1.5 মিলিয়ন ক্ষেত্রে বাস্তবায়িত হয়েছে৷ এবং উল্লেখযোগ্যভাবে অপরাধের হার নিয়ন্ত্রণে অত্যন্ত কার্যকর বলে প্রমাণিত হয়েছে।^[3]উপরন্তু, এটি প্রায় 16% প্রিট্রায়াল জেল জনসংখ্যা হ্রাস করেছে এবং অপরাধের হার বৃদ্ধি পায়নি।^[4]উপরন্তু, ন্যাশনাল ব্যুরো অফ ইকোনমিক রিসার্চ দ্বারা নিউইয়র্ক সিটিতে পরিচালিত একটি সমীক্ষায় দেখা গেছে যে প্রাক-ট্রায়ালের সিদ্ধান্ত নেওয়ার জন্য একটি অ্যালগরিদম ব্যবহার করে, এটি দেখা গেছে যে AI এর সুবিধা এই ধরনের ক্ষেত্রে বিচারকদের ট্র্যাক রেকর্ডকে ছাড়িয়ে যেতে অনেক দূর এগিয়ে যাবে।^[5] এটি প্রমাণ করে যে নিউইয়র্কে এক বছরে পুলিশ সুদর্শন সংখ্যক লোককে গ্রেপ্তার করেছে, বিচারকরা মূলত জননিরাপত্তা ঝুঁকি এবং বিমানের ঝুঁকি বিবেচনা করেন এবং তাই যদি অ্যালগরিদমগুলিকে প্রশিক্ষিত করা যায় তারাও একইভাবে কাজ করতে পারে।^[6]যাইহোক, এই সমীক্ষায়, এটি পাওয়া গেছে যে যখন কিছু বিচারক দ্বিগুণ মানদণ্ড থাকা সত্ত্বেও কিছু ঝুঁকিপূর্ণ আসামীকে মুক্তি দিয়েছিলেন, যখন AI শুধুমাত্র 18.8% স্থির মুক্তির হার ছিল তা নয়, এটি 24.5% কম জেলে থাকার সময় অপরাধের হারকে স্থির রাখতে সাহায্য করেছিল। বিচারকদের ওঠানামাকারী ট্র্যাক-রেকর্ডকে ছাড়িয়ে যাওয়া লোকের সংখ্যা।^[7]

আরও, যদি আমরা সাংহাইয়ের দিকে তাকাই, তারা জানুয়ারী, 2017 থেকে তাদের ফৌজদারি বিচার ব্যবস্থায় সংস্কার শুরু করেছে এবং তাদের বিচার ব্যবস্থার সংস্কারের জন্য একটি সহায়ক সফ্টওয়্যার তৈরি করা শুরু করেছে এবং এর ফলে আইনের শাসনকে এগিয়ে নিয়ে গেছে। সাংহাই সরকার বিগ ডেটা ব্যবহার করে একটি ডাটাবেস তৈরি করার সিদ্ধান্ত নিয়েছে যা এআই অ্যাপ্লিকেশনগুলির ভিত্তি তৈরি করে, সংঘটিত অপরাধ সম্পর্কে ডেটা একত্রিত করার জন্য, কীভাবে অপরাধের জন্য এই ধরনের বিচার পরিচালিত হয়েছিল এবং এই ধরনের বিচারের চূড়ান্ত ফলাফল যা অনেক দূর এগিয়ে যাবে। ইস্যুতে অভিন্ন বা উল্লেখযোগ্যভাবে অনুরূপ তথ্য সহ ভবিষ্যতের মামলাগুলিকে অনেক সহজে বিচার করতে সহায়তা করা এবং এর ফলে অভিযুক্তদের সংশোধনমূলক সুবিধাগুলিতে ব্যয় করা সময় হ্রাস পাবে।^[8]অধিকন্তু, তারা অভিযুক্ত ব্যক্তিদের মুক্তির বিষয়ে সিদ্ধান্ত নেওয়ার সুবিধার্থে এআইয়ের পাশাপাশি ক্লাউড কম্পিউটিং প্রযুক্তি এবং চিপ প্রসেসিং ক্ষমতা ব্যবহার করতে চায় এবং এই ধরনের মুক্তির ফলে বিচার ব্যবস্থার সামগ্রিক উন্নতিতে সহায়তা করতে পারে।^[9] উপরন্তু, সরকার বিচার ব্যবস্থার কার্যকারিতা উন্নত করার জন্য মেশিন লার্নিং অ্যালগরিদম ব্যবহার করতে চায়, বিশেষ করে তার ফৌজদারি বিচারের আশেপাশে। তাই, সরকার মনে করে যে এই ধরনের সংস্কার যেকোনো অন্যায্য সাজা রোধ করার পাশাপাশি সাংহাই বিচার বিভাগের স্বেচ্ছাচারিতাকে হ্রাস করবে।

ইউরোপীয় ইউনিয়নে, আমরা দেখতে পাই যে AI এর উপর প্রথম আইন প্রস্তাব করা হয়েছে। এই আইনের লক্ষ্য হল কীভাবে AI ব্যবহারে আনা যায় তার উপর ব্যাপকভাবে মান নির্ধারণ করা এবং পুলিশ বা বিচার বিভাগীয় কর্তৃপক্ষের দ্বারা ফৌজদারি আইন ব্যবস্থায় কীভাবে এটির আশ্রয় নেওয়া যেতে পারে তাও আলোচনা করে।^[10] আরও, বিচার ব্যবস্থায় AI এর সুষ্ঠু প্রয়োগের জন্য “ইউরোপিয়ান কমিশন ফর ইফিসিয়েন্সি অফ জাস্টিস” একটি সনদ গ্রহণ করেছে যা শুধুমাত্র “মানবাধিকার কনভেনশন” এর সাথে সম্মত হবে না বরং “ব্যক্তিগত সুরক্ষা সম্পর্কিত ইউরোপ কনভেনশনের কাউন্সিল” তথ্য”।^[11]

অবশেষে, ইউনাইটেড কিংডমে, ডারহাম শহর কেমব্রিজ বিশ্ববিদ্যালয়ের সাথে সহযোগিতায় একটি AI ভিত্তিক প্রযুক্তি তৈরি করেছে যাকে বলা হয় “হার্ম অ্যাসেসমেন্ট রিস্ক টুল (HART)” যা 104,000 জনের ইতিহাস ব্যবহার করে যারা এর আগে গত পাঁচটিতে গ্রেপ্তার হয়েছিল। এই ধরনের প্রতিটি হেফাজতের সিদ্ধান্তের জন্য দুই বছরের ফলোআপের পাশাপাশি বছর।^[12]  প্রযুক্তিটি সন্দেহভাজন ব্যক্তির অপরাধের ইতিহাস, লিঙ্গ, বয়স এবং ভৌগলিক এলাকার মতো বিশদ বিবরণ লাভ করে। এটি পুলিশ বিভাগকে পুনর্বিবেচনার সম্ভাবনা বুঝতে এবং ভবিষ্যদ্বাণী করতে সাহায্য করেছে এবং সেই সাথে একজন ব্যক্তিকে হেফাজত থেকে মুক্তি দেওয়ার ঝুঁকির পূর্বাভাস দিয়েছে।^[13] এই মডেলটি কম ঝুঁকির সন্দেহভাজনদের জন্য 98% সঠিক এবং উচ্চ ঝুঁকির সন্দেহভাজনদের জন্য 88% সঠিক বলে পাওয়া গেছে।^[14] HART-এর ফলাফলগুলিও ইচ্ছাকৃত অন্ধত্ব অনুশীলনের মাধ্যমে মানব কর্মকর্তাদের সিদ্ধান্তের বিরুদ্ধে পরীক্ষা করা হয়েছে এবং বর্তমানে মাত্র 56% এই ধরনের সিদ্ধান্তগুলির মধ্যে মিল দেখতে পান।^[15]

যদিও AI এবং অত্যাধুনিক প্রযুক্তিকে আজকের বিচার ব্যবস্থা এবং আরও বিশেষভাবে ফৌজদারি বিচার ব্যবস্থার সম্মুখীন সমস্যার সমাধানে একটি মসীহা হিসাবে কাজ করার কথা বলা হয়েছে, এর ব্যবহার নিয়ে বেশ কিছু উদ্বেগ পণ্ডিতদের পাশাপাশি নজরদারিদের দ্বারা উত্থাপন করা হয়েছে। . এই ধরনের বেশিরভাগ লেখাই এই সত্যটি তুলে ধরেছে যে যদিও এই ধরনের নতুন প্রযুক্তি অত্যন্ত প্রতিশ্রুতিশীল, এটি শুধুমাত্র অনিয়মিত সমাধান প্রদান করতে সক্ষম হয়েছে। সবচেয়ে উল্লেখযোগ্য বিষয় যা বারবার হাইলাইট করা হয়েছে তা হল নৈতিক উদ্বেগ যা এই ধরনের ব্যবহার বৈষম্যমূলক ফলাফলের পরিপ্রেক্ষিতে বা পক্ষপাতিত্বের একটি ব্যবস্থাকে ঘৃণা করার ক্ষেত্রে তৈরি করেছে^[16],যার ফলে সমান আচরণের নীতির নিন্দা করা^[17] বা অ্যালগরিদম দ্বারা ভুল গণনা কয়েক নাম. অতিরিক্তভাবে, এটিও যুক্তি দেওয়া হয়েছে যে এই ধরনের অগ্রগতি শুধুমাত্র যথাযথ প্রক্রিয়ার মতো মূল মানগুলি হ্রাস করার খরচেই ঘটতে পারে।^[18] তদুপরি, এটিকে এআই সম্পর্কে জ্ঞান থাকা ব্যক্তিদের পক্ষে অভিজাত প্রয়াসে পরিণত হওয়ার হুমকি এবং সেইসাথে রাজনৈতিক, সামাজিক বা আইনগতভাবে বিদ্যমান সামাজিক গঠনকে প্রশ্নবিদ্ধ করা হয়েছে বলে মনে করা হয়েছে।^[19]

এইভাবে, জামিন ব্যবস্থায় AI ব্যবহার করার জন্য ফৌজদারি বিচার ব্যবস্থার মুখোমুখি হওয়া দ্বিগুণ উদ্বেগের প্রবণতা রয়েছে। প্রথমত, এটা বলা যেতে পারে যে সিদ্ধান্ত গ্রহণের উদ্দেশ্যে AI-এর ব্যবহার প্রদত্ত পরিস্থিতির চিকিত্সার ক্ষেত্রে একটি বৈষম্য সৃষ্টি করবে। এটাও যুক্তি দেওয়া হয়েছে যে AI দ্বারা গৃহীত বেশিরভাগ সিদ্ধান্তগুলি একজন ব্যক্তির আর্থ-সামাজিক, রাজনৈতিক, জাতিগত, নৈতিক, লিঙ্গের উপর নির্ভর করে যা মূলত এমন বৈশিষ্ট্য যা বিবেচনা করা অবৈধ এবং অনুপযুক্ত এবং এর অধীনে সমান আচরণ নিশ্চিত করার ক্যানন আইনকে উপেক্ষা করে।^[20] একটি AI যে বিষয়গুলিকে বিবেচনায় নেয় তার কারণে এটি বলা যেতে পারে যে একটি AI দ্বারা উত্পন্ন ফলাফলগুলি একটি নির্দিষ্ট ব্যক্তি বা ব্যক্তিদের একটি গোষ্ঠীর উপকারের মূল্যে একজন ব্যক্তির জন্য অসম মাত্রার ক্ষতির কারণ হতে পারে। যখন একটি AI-কে একজন অভিযুক্তকে মুক্তি দেওয়ার ঝুঁকির পূর্বাভাস দেওয়ার দায়িত্ব দেওয়া হয়, তখন এটি ব্যক্তির ঐতিহাসিক অপরাধমূলক তথ্য বিবেচনা করবে এবং বলবৎ আইন এই ধরনের মুক্তির অনুমতি দেয় কিনা তা বিবেচনায় নেয় না। যাইহোক, অন্যান্য বিভাগের ডেটা অনুপলব্ধতার কারণে বা প্রয়োগকারী কর্তৃপক্ষের বিচক্ষণতার কারণে তাদের ডেটা নথিভুক্ত না হওয়ার কারণে ফলাফল জনসংখ্যার একটি নির্দিষ্ট অংশের দিকে ঝুঁকে যাওয়ার সম্ভাবনা একটি সুষ্ঠু বিচারের প্রত্যাশার ভাগ্যকে আরও খারাপ করে। উপরন্তু, ফলাফলটি বৈষম্যকেও মেটাতে পারে যদি এটি শুধুমাত্র এই ধরনের ব্যক্তির প্রতিকূলতার হারের উপর ভিত্তি করে বা একই এলাকায় বসবাসকারী অন্য একজনকে সমর্থন করার সময় একটি নির্দিষ্ট সম্প্রদায়ের প্রতি পক্ষপাতদুষ্ট পুলিশ গ্রেপ্তার আচরণের ভিত্তিতে সিদ্ধান্ত নেয়।^[21] দ্বিতীয়ত, বিচারে স্বচ্ছতা এবং ব্যাখ্যার অভাবের চারপাশে AI নিয়ে উদ্বেগ অনেক বেশি। এটি একটি অনুরূপ দৃষ্টিকোণ থেকেও ভিত্তি করে তৈরি করা হয়েছে যে সমস্ত ফলাফল যা একটি AI তৈরি করে তা তাকে দেওয়া ইনপুটগুলির উপর ভিত্তি করে এবং যদি ইনপুটগুলি নিজেই একটি স্পষ্ট পক্ষপাত প্রদর্শন করে, তবে AIও এই জাতীয় আদর্শ থেকে তার সিদ্ধান্ত গ্রহণের বিকাশ ঘটায় এবং এই ধরনের পক্ষপাতের প্রতিলিপি তৈরি করে।^[22] যদিও এটি প্রায়শই লক্ষ্য করা গেছে যে একটি AI অভিন্নভাবে কাজ করে এবং প্রতিটি অভিন্ন ইনপুটের জন্য একই আউটপুট তৈরি করে, এটি প্রায়শই তার সিদ্ধান্তের পিছনে যৌক্তিকতা ব্যাখ্যা করার একটি গুরুত্বপূর্ণ প্রয়োজনীয়তা পূরণ করতে ব্যর্থ হয়েছে যা যে কোনও সিদ্ধান্ত নেওয়ার ভিত্তি তৈরি করে। বিচারিক কর্তৃত্ব এবং এর লঙ্ঘনকে প্রায়শই প্রাকৃতিক ন্যায়বিচারের মৌলিক নীতির লঙ্ঘন হিসাবে গণ্য করা হয় যখন ঘনিষ্ঠভাবে পর্যবেক্ষণ করা হয় এবং নিরীক্ষা করা হয়।^[23]এই মুহুর্তে, বিভিন্ন বিচারব্যবস্থায় বর্তমান দিনের চ্যালেঞ্জগুলি নোট করা অত্যন্ত গুরুত্বপূর্ণ হয়ে ওঠে যেখানে তাদের নিজ নিজ ফৌজদারি বিচার ব্যবস্থা জামিন মঞ্জুর করার জন্য AI প্রয়োগ করেছে এবং লাভ করেছে৷ মার্কিন যুক্তরাষ্ট্র তাদের ফৌজদারি বিচার ব্যবস্থায় AI ব্যবহার শুরু করা প্রথম দেশগুলির মধ্যে একটি। যাইহোক, আজও নির্ভুলতা, এই প্রযুক্তির ব্যবহারের সাথে যুক্ত পরিকাঠামোর ব্যয় বৃদ্ধির পাশাপাশি জামিন প্রদানকারী প্রচলিত ফৌজদারি বিচার ব্যবস্থাকে সম্পূর্ণরূপে প্রতিস্থাপন করার ক্ষমতা সম্পর্কে বেশ কয়েকটি প্রশ্ন উত্থাপিত হচ্ছে। আরও, পিএসএ টুল যা মার্কিন যুক্তরাষ্ট্রে সেট আপ করা হয়েছে যা অ্যালগরিদমের ভিত্তিতে DMF-এর সাথে সঙ্গতিপূর্ণ নয় পয়েন্ট পরীক্ষা চালায়। কিন্তু, কেন্টাকির মতো নগদ জামিন সুবিধা রয়েছে এমন রাজ্যগুলিতে অ্যালগরিদম ব্যবহার করা হয়েছে কিন্তু এই ধরনের ব্যবহার শুধুমাত্র কৃষ্ণাঙ্গ আসামীদের বিরুদ্ধে কঠোর আচরণ এবং শাস্তির শিকার হয়েছে সাদা আসামীদের তুলনায় অনেক বেশি।^[24] সম্প্রতি, ফেয়ার ট্রায়ালস নামে একটি বিশ্বব্যাপী অপরাধমূলক বিচার পর্যবেক্ষণকারী সংস্থা ইউরোপীয় ইউনিয়নের প্রস্তাবিত আইনের উপর একটি সমীক্ষা চালিয়েছে এবং একটি নীতি পত্র প্রকাশ করেছে যা তার ফৌজদারি বিচার ব্যবস্থায় AI ব্যবহার করার চ্যালেঞ্জ এবং নেতিবাচক দিকগুলি তুলে ধরেছে। এই কাগজের মাধ্যমে, ফৌজদারি বিচার বিতরণ ব্যবস্থায় নিয়োজিত এআই সিস্টেমগুলি কীভাবে এর উপর নেতিবাচক প্রভাব ফেলতে পারে তার একটি অগণিত বিবরণ। এটি দেখা গেছে যে AI সিস্টেমগুলি অন্যায় এবং বৈষম্যমূলক ফলাফলগুলিকে শক্তিশালী করার পাশাপাশি উত্পন্ন করে এবং কখনও কখনও মানবাধিকার লঙ্ঘনের জন্য দায়ী। AI দ্বারা প্রদত্ত সিদ্ধান্তগুলি মানুষের সিদ্ধান্তগুলিকে ইতিবাচকভাবে প্রভাবিত করে না এবং দুর্বল ডিজাইনের জন্য সমালোচনার শিকার হয় যা মানুষের দ্বারা নির্ধারিত মানগুলি মেনে চলে না। সাধারণত, পরিসংখ্যানগত মডেলগুলি AI সিস্টেম দ্বারা ফৌজদারি বিচার ব্যবস্থায় ব্যবহৃত হয় যা কোনও সঠিক অপরাধের রেকর্ডের প্রতিনিধিত্ব করে না তবে শুধুমাত্র আইন প্রয়োগকারী রেকর্ডগুলিকে উপস্থাপন করে। সুতরাং, এর ফৌজদারি বিচার ব্যবস্থায় AI ব্যবহার করার আগে, এই ধরনের ব্যবহারকে নিয়ন্ত্রণ করার জন্য একটি শক্তিশালী নিয়ন্ত্রক কাঠামো প্রবর্তনের প্রয়োজন দেখা দেয়। ডেটা সুরক্ষা সম্পর্কিত ইউরোপীয় ইউনিয়নের বিদ্যমান আইনগুলি স্বয়ংক্রিয় সিদ্ধান্তের ব্যবহার সীমাবদ্ধ করে, তবে, এটি একটি ফাঁক রেখে যায় যা হতে পারে মানবাধিকার নির্ধারণ করতে পারে এমন উপায়ে AI সিস্টেমের ব্যবহার। ফৌজদারি বিচার ব্যবস্থায় এআই ব্যবহার নিয়ন্ত্রণ করার জন্য, ইইউকে ফৌজদারি বিচার ব্যবস্থায় কীভাবে এআই ডিজাইন করা এবং স্থাপন করা যেতে পারে এবং মানুষের মান অনুযায়ী এআই সিস্টেমের ব্যবহার নিশ্চিত করার জন্য প্রয়োজনীয় সুরক্ষা ব্যবস্থাগুলি পরিচালনা করার জন্য মান সম্পর্কিত প্রশ্নের উত্তর দিতে হবে। অধিকার এবং এর ফলে বৈষম্য প্রতিরোধ; এবং সদস্য রাষ্ট্রগুলির দ্বারা AI সিস্টেমের মোতায়েন পরিচালনা করার সময় তাদের ব্যবহার পর্যবেক্ষণ করা। ফৌজদারি বিচার কার্যক্রমে AI এর মোতায়েন এমনভাবে করা উচিত যা মানবাধিকারকে সমুন্নত রাখে এবং সেইসাথে বৈষম্যহীন ফলাফল তৈরি করে। AI সিস্টেমগুলির দক্ষ পর্যবেক্ষণ সম্ভব নয় যতক্ষণ না তাদের প্রকৃত প্রভাব বোঝার জন্য পর্যাপ্ত ডেটা বিদ্যমান থাকে। ইইউ গঠনকারী অন্যান্য রাজ্যগুলির দ্বারা ডেটা সংগ্রহ করার প্রয়োজন রয়েছে যা তাদের বৈষম্যমূলক এবং স্বাভাবিকভাবে ব্যবহৃত ক্ষেত্রে পরিস্থিতি চিহ্নিত করতে সক্ষম করে এবং এআই ব্যবহার করে এর সৃষ্ট চ্যালেঞ্জগুলিকে আরও ভালভাবে চিহ্নিত করতে পারে।^[25] ডেটা চালিত সিদ্ধান্ত গ্রহণের ব্যবস্থাগুলি আজ বিশ্বব্যাপী প্রসারিত হচ্ছে এবং বলা যেতে পারে যে এটি ধারাবাহিকভাবে বৃদ্ধি পাচ্ছে। পূর্ববর্তী বিভাগগুলি থেকে, কেউ স্পষ্টভাবে দেখতে পারে যে তারা অত্যন্ত কার্যকর এবং কিছু ক্ষেত্রে মানব বিচারকের চেয়েও বেশি দক্ষ প্রমাণিত হয়েছে।^[26]এই ধরনের ক্ষেত্রে, এআই-এর আশেপাশে একটি সাধারণ উদ্বেগ হল যে এটি একটি সিদ্ধান্তে পৌঁছানোর জন্য একটি ডেটা সেটের উপর নির্ভর করে এবং এইভাবে, জামিন দেওয়ার সময় ফৌজদারি বিচার ব্যবস্থায় পূর্ব থেকে বিদ্যমান পক্ষপাতগুলি পুনরুত্পাদন বা আরও প্রসারিত করার জন্য অনেক বেশি সংবেদনশীল।^[27] তদুপরি, এই জাতীয় AI-এর কাজের স্বচ্ছতা সম্পর্কিত প্রশ্নগুলির পাশাপাশি এই জাতীয় AI দ্বারা সরবরাহ করা যুক্তিগুলি প্রায়শই অস্বচ্ছ থাকে এবং ডেটাতে অ্যাক্সেসের অভাবের কারণে যা এই জাতীয় সিদ্ধান্তগুলি নির্ধারণ করে তা প্রায়শই নেতিবাচকভাবে ব্যাখ্যা করা হয়।^[28] উপরন্তু, এই জাতীয় AI চালিত সিদ্ধান্ত গ্রহণের প্রক্রিয়ার দ্বারা যথাযথ প্রক্রিয়া মেনে চলার প্রতিষ্ঠিত নিয়মকে হ্রাস করা বিচার ব্যবস্থাকে সামান্য বা কোন ভিত্তি ছাড়াই ছেড়ে দেয়^[29] কিন্তু সমালোচকরা এই সত্যটিকে উপলব্ধি করতে ব্যর্থ হন যে এই সিদ্ধান্তগুলি বিচার ব্যবস্থা দ্বারা দেওয়া তাদের পূর্বের সিদ্ধান্তগুলির মাধ্যমে এটিকে সরবরাহ করা ডেটা-সেটের উপর ভিত্তি করে এবং তাই AI শুধুমাত্র মানুষের কী সিদ্ধান্ত এবং/অথবা যৌক্তিকতা থেকে তার শিক্ষা গ্রহণ করে। এই ধরনের অপরাধ সংঘটিত অপরাধীদের সাথে মোকাবিলা করার সময় অনুরূপ পরিস্থিতিতে জামিন মঞ্জুর করার আশ্রয় নেওয়া হয়েছে।

ন্যায্য, জবাবদিহিমূলক এবং স্বচ্ছ অ্যালগরিদম ডিজাইন করার জন্য বিভিন্ন মহল দ্বারা উত্থাপিত এই ধরনের দাবি এবং বিতর্কের প্রতিক্রিয়া হিসাবে, এটি একটি অ্যালগরিদম তৈরির জন্ম দিয়েছে যা সাধারণত FAT অ্যালগরিদম নামে পরিচিত। এই অ্যালগরিদমগুলি সমান সুযোগ, বৈষম্য, ইতিবাচক পদক্ষেপ এবং ভিন্ন প্রভাবের আইনি ধারণাগুলিতে গাণিতিক আনুষ্ঠানিকতাকে ম্যাপ করবে।^[30] এটি বিবেচনা করা উপযুক্ত যে এই নতুন প্রযুক্তি গ্রহণ করা অবশ্যই অ্যালগরিদমিক ন্যায্যতা বিকাশে এবং স্বচ্ছতা, বৈধতা এবং নির্ভুলতা বজায় রাখার জন্য সর্বোত্তম অনুশীলন বিকাশে সহায়তা করবে।^[31]যাইহোক, এটি কম্পিউটার বিজ্ঞানী এবং অপরাধবিদদের দ্বারা যথাযথভাবে পর্যবেক্ষণ করা হয়েছে, একটি AI দ্বারা শত শত বছর ধরে ফৌজদারি বিচার ব্যবস্থায় প্রচলিত লিঙ্গ বৈষম্য বা জাতিগত অবিচারের অভ্যাসগুলিকে বিপরীত করার আশা করা যায় না।^[32] সুতরাং, চ্যালেঞ্জটি প্রোগ্রামিং বা AI-কে ডেটা-সেটের কাছে প্রকাশ করার মধ্যে রয়েছে যা এটিকে এই ধরনের স্টিরিওটাইপিকাল ধারণাগুলিকে এড়িয়ে যেতে সক্ষম করে এবং সেইসাথে AI-কে উপেক্ষা করার পাশাপাশি এই ধরনের ডেটা আলাদা করতে সক্ষম করে এবং ন্যায্য, বৈধ এবং নির্ভুল ফলাফল প্রদান করে। বৃহত্তরভাবে বিদ্যমান ফৌজদারি বিচার ব্যবস্থা এবং বিশেষ করে জামিনের ব্যবস্থার সংস্কারে অবশ্যই বিরাট অবদান রাখবে।

The author, Atish Chakraborty, is an Academic Fellow at the West Bengal National University of Juridical Sciences (NUJS), Kolkata.

---

^[1] এন. ভেঙ্কটেশ্বরলু, আর্টিফিশিয়াল ইন্টেলিজেন্স ল অ্যান্ড পলিসি ইমপ্লিকেশনস 43, 43, ইস্টার্ন বুক কোম্পানি (2020)।

^[2] হ্যারি সার্ডেন, আইনের মৌলিক প্রশ্নে এআই এর নীতিশাস্ত্র, 719, 719 অক্সফোর্ড ইউনিভার্সিটি প্রেস (2020)।

^[3] ড্যান হান্টার, মিরকো ব্যাগারিক এবং নাইজেল স্টবস, ফৌজদারি বিচার ব্যবস্থায় কৃত্রিম বুদ্ধিমত্তার দক্ষ এবং নৈতিক ব্যবহারের জন্য একটি কাঠামো, 47 ফ্লা. সেন্ট ইউ.এল. রেভ. 749, 779-78,

https://heinonline.org/HOL/LandingPage?handle=hein.journals/flsulr47&div=33&id=&page=.

^[4] এমনকি অসম্পূর্ণ অ্যালগরিদম ফৌজদারি বিচার ব্যবস্থার উন্নতি করতে পারে,

https://www.nytimes.com/2017/12/20/upshot/algorithms-bail-criminal-justice-system.html (শেষবার দেখা হয়েছিল মার্চ 12,2024)।

^[5] মানুষের সিদ্ধান্ত এবং মেশিনের পূর্বাভাস,

https://www.cs.cornell.edu/home/kleinber/w23180.pdf (শেষবার দেখা হয়েছিল মার্চ 12,2024)।

^[6] আইডি।

^[7] আইডি।

^[8] সাধারণত দেখুন, ইয়াডং কুই, কৃত্রিম বুদ্ধিমত্তা এবং বিচারিক আধুনিকায়ন, 43, 45-47, সাংহাই পিপলস পাবলিশিং হাউস (2020) ।

^[9] আইডি 47 এ।

^[10] ফৌজদারি আইনে কৃত্রিম বুদ্ধিমত্তা এবং পুলিশ এবং বিচার বিভাগীয় কর্তৃপক্ষ কর্তৃক ফৌজদারি বিষয়ে এর ব্যবহার,

https://oeil.secure.europarl.europa.eu/oeil/popups/summary.do?id=1669867&t=d&l=en (শেষবার দেখা হয়েছিল মার্চ 12,2024)।

^[11] বিচার বিভাগীয় ব্যবস্থা এবং তাদের পরিবেশে কৃত্রিম বুদ্ধিমত্তা (AI) ব্যবহারের উপর CEPEJ ইউরোপীয় নৈতিক সনদ,

https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment (শেষবার দেখা হয়েছিল মার্চ 14,2024)।

^[12] কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে পুলিশকে হেফাজতের সিদ্ধান্ত নিতে সাহায্য করা,

https://www.cam.ac.uk/research/features/helping-police-make-custody-decisions-using-artificial-intelligence (শেষবার দেখা হয়েছিল মার্চ 14,2024)।

^[13] একটি কৃত্রিম বুদ্ধিমত্তা সিদ্ধান্ত নেবে যুক্তরাজ্যে কোন অপরাধীরা জামিন পাবে,

https://www.vice.com/en/article/nz87mg/an-ai-will-decide-which-criminals-in-the-uk-get-bail (শেষবার দেখা হয়েছিল মার্চ 14,2024)।

^[14] আইডি।

^[15] আইডি।

^[16] হ্যারি সারডেন, আইনের মৌলিক প্রশ্নে এআই এর নীতিশাস্ত্র, 719, 720, অক্সফোর্ড ইউনিভার্সিটি প্রেস (2020)।

^[17] আইডি।

^[18] আইডি।

^[19] আইডি।

^[20] আইডি 727 এ।

^[21] আইডি 728 এ।

^[22] সাইমন চেস্টারম্যান, থ্রু আ গ্লাস, ডার্কলি: কৃত্রিম বুদ্ধিমত্তা এবং অস্বচ্ছতার সমস্যা, 69, তুলনামূলক আইনের আমেরিকান জার্নাল 271, 281 (2021),

https://doi.org/10.1093/ajcl/avab012.

^[23] সাধারণত দেখুন, 1 বিচারপতি ভগবতী প্রসাদ ব্যানার্জি, রিট রেমেডিস, 801, 870, লেক্সিস নেক্সিস (2010)।

^[24] মিরকো ব্যাগারিক, জেনিফার সুইলার, মেলিসা বুল, ড্যান হান্টার এবং নাইজেল স্টবস, দ্য সলিউশন টু দ্য প্যারাভেসিভ বায়াস অ্যান্ড ডিসক্রিমিনেশন ইন দ্য ক্রিমিনাল জাস্টিস সিস্টেম: ট্রান্সপারেন্ট অ্যান্ড ফেয়ার কৃত্রিম বুদ্ধিমত্তা, 59 am। ক্রিম এল. রেভ. 95, 117-118 (2022),

 https://heinonline.org/HOL/LandingPage?handle=hein.journals/amcrimlr59&div=7&id=&page= .

^[25] ইইউতে ফৌজদারি বিচার ব্যবস্থায় ব্যবহারের জন্য কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণ করা,

https://www.fairtrials.org/app/uploads/2022/01/Regulating-Artificial-Intelligence-for-Use-in-Criminal-Justice-Systems-Fair-Trials.pdf (শেষবার দেখা হয়েছিল মার্চ 18,2024)।

^[26] মানুষের সিদ্ধান্ত এবং মেশিনের পূর্বাভাস,

https://www.cs.cornell.edu/home/kleinber/w23180.pdf (শেষবার দেখা হয়েছিল মার্চ 18,2024)।

^[27] চেলসি বারাবাস, মার্কাস ডি. ডাবের, ফ্রাঙ্ক পাসকুয়ালে এবং ফৌজদারি আইনে পক্ষপাতের বাইরে “নৈতিক এআই”। অক্সফোর্ড হ্যান্ডবুক অফ এথিক্স অফ এআই 737 (অক্সফোর্ড ইউনিভার্সিটি প্রেস 2020)।

^[28] অ্যালগরিদম এবং ন্যায়বিচার,

https://cyber.harvard.edu/sites/default/files/2019-10/2019AIAlgorithmsJusticeOnePager.pdf (শেষবার দেখা হয়েছিল মার্চ 18,2024)।

^[29] আইডি।

^[30] চেলসি বারাবাস, ফৌজদারি আইনে পক্ষপাতের বাইরে “নৈতিক এআই”, 737, 742, অক্সফোর্ড ইউনিভার্সিটি প্রেস (2020)।

^[31] আইডি।

^[32] রিচার্ড বার্ক, হোদা হেইদারি এবং শাহিন জব্বারি, ফৌজদারি বিচারের ঝুঁকি মূল্যায়নে ন্যায্যতা: শিল্পের অবস্থা, 50(1) সমাজতাত্ত্বিক পদ্ধতি এবং গবেষণা 5, 35 (2021),

https://journals.sagepub.com/doi/full/10.1177/0049124118782533.