ট্রাম সমস্যা: স্বয়ংচালিত যানবাহন কীভাবে সিদ্ধান্ত নেয়?

ধরুন, হঠাৎ করে আপনার গাড়ির সামনে এসে পড়ল একজন সাইকেল আরোহী। স্টিয়ারিংয়ে আপনি থাকলে প্রতিবর্তক্রিয়া হিসেবে কিছু একটা করতেন - ঠিক কী করেছেন তা হয়তো নিজেও মনে রাখতেন না। কিন্তু স্টিয়ারিংয়ে কেউ না থাকলে কী হবে? সেই মুহূর্তে, এক সেকেন্ডের হাজার ভাগের এক ভাগে, সফটওয়্যারকে একটি সিদ্ধান্ত নিতে হয়। কার ওপর চাপা দেবে? বিপরীত লেনে কি ঝুঁকে পড়বে? গত দশ ধরে যে প্রশ্নটি গণমাধ্যম আমাদের করছে, এটাই সেই প্রশ্ন - এবং সত্যি কথা বলতে, প্রশ্নটি নিজেই কিছুটা ভুলভাবে করা হয়েছে। এই নিবন্ধে আমরা সত্যিকার অর্থেই আলোচনা করব স্বয়ংচালিত যান কীভাবে সিদ্ধান্ত নেয়; দর্শনের ক্লাস থেকে নয়, প্রকৌশলের টেবিল থেকে।
ট্রাম সমস্যা কী এবং কেন এত বিখ্যাত হয়ে উঠল?
প্রথমে একটি দ্রুত ধ্রুপদী সারসংক্ষেপ: ১৯৬৭ সালে ফিলিপা ফুট উত্থাপিত এবং জুডিথ জার্ভিস থমসন ১৯৭৬ ও ১৯৮৫ সালে বিকশিত করা চিন্তা-পরীক্ষায়, নিয়ন্ত্রণহীন একটি ট্রাম রেলপথে পাঁচজন মানুষের দিকে এগিয়ে যাচ্ছে। আপনি একটি লিভার টানতে পারেন: ট্রাম অন্য একটি লাইনে সরে যায়, কিন্তু সেখানে একজন মানুষ আছে। একজনকে মেরে পাঁচজনকে কি বাঁচাবেন? দ্বিতীয় সংস্করণটি আরও বেশি অস্বস্তিকর: এবার আপনি আপনার প্রিয়জনকে সেতু থেকে রেলপথে ফেলে ট্রামটি থামাচ্ছেন। দার্শনিকদের অধিকাংশই প্রথম দৃশ্যকল্পে পয়েন্ট সুইচ টানাকে যুক্তিসঙ্গত মনে করলেও, সাধারণ মানুষের সংখ্যাগরিষ্ঠ অংশ বছরের পর বছর পরেও সেতুতে থাকা লোকটিকে ঠেলে ফেলার ভাবনাটি হজম করতে পারে না।
স্বয়ংচালিত যান মঞ্চে আসার পর এই চিন্তা-পরীক্ষাটি হঠাৎ বাস্তব জীবনে চলে এসেছে বলে মনে হয়েছিল: গাড়ি কি সাইকেল আরোহীর ওপর চাপা দেবে, নাকি বিপরীত লেনে ঝুঁকে পড়বে? শোনায় অসাধারণ একটি আলোচনার বিষয়ের মতো। কিন্তু এখানে একটি সমস্যা আছে - এবং এই নিবন্ধের মূল ভাবনাটি হলো: বাস্তব স্বয়ংচালিত ড্রাইভিং সফটওয়্যার ট্রাম সমস্যার সমাধানের চেষ্টা করে লেখা হয় না। তাহলে কী করে লেখা হয়? সেখানে আমরা পৌঁছাব, তবে আগে অনুমানের দিকটি পুরোপুরি শেষ করে নিই।
স্বয়ংচালিত যান সত্যিই "কাকে বাঁচাবে" তা সিদ্ধান্ত নেয়?

সংক্ষিপ্ত উত্তর: না - কিন্তু এই উত্তরটি অর্জন করতে আমাদের সফটওয়্যারটি কীভাবে চিন্তা করে তা দেখতে হবে। একটি স্বয়ংচালিত যান আপনার মস্তিষ্কের মতো একটি মুহূর্তে একটিমাত্র সিদ্ধান্ত নেয় না। প্রকৌশল সাহিত্যের মডেলটি হলো POMDP, অর্থাৎ আংশিকভাবে পর্যবেক্ষিত মার্কভ সিদ্ধান্ত প্রক্রিয়া। ভয় পাবেন না, নামের তুলনায় এটি জটিল নয়: যানটি অসম্পূর্ণ তথ্য নিয়ে - সেন্সর পরিসর, দৃশ্যমানতার বাধা, প্রসেসিং বিলম্ব - অবিরাম প্রবাহিত একটি সম্ভাবনার জটের ভেতরে পরপর ছোট ছোট সিদ্ধান্ত নিচ্ছে। সাদাকালো একটি "কাকে আমি বেছে নিচ্ছি" মুহূর্ত এই কাঠামোর ভেতরে বসেই না।
আরও একটি বিষয় আছে: কৃত্রিম বুদ্ধিমত্তা ব্যবস্থাগুলি একটি দৃশ্যকল্প শিখতে হলে সেই দৃশ্যকল্পের হাজার হাজার উদাহরণের প্রয়োজন হয় এবং প্রতিটি উদাহরণে "সঠিক উত্তর" কী তা আগে থেকেই সংজ্ঞায়িত থাকতে হবে। দার্শনিকরা দুই হাজার বছর ধরে একটিমাত্র নৈতিক দ্বিধায় একমত হতে পারছেন না, এই সঠিক উত্তরটি ডেটা হিসেবে সফটওয়্যারে কে দেবে? উপরন্তু, প্রশিক্ষণের খরচ অস্বাভাবিক মাত্রায়: রেকর্ডে রয়েছে যে একটি স্বয়ংচালিত বিমানের শুধু সাধারণ নেভিগেশন শেখার জন্য 11,500 বার বিধ্বস্ত হতে হয়েছিল। বাস্তব মানুষের ওপর চাপা দিয়ে গাড়িকে প্রশিক্ষণ দেওয়ার মতো কোনো বিকল্প অবশ্যই নেই।
উল্লেখযোগ্য বিষয়সমূহ
- স্বয়ংচালিত গাড়িগুলো বলি বেছে নেওয়ার নৈতিক সমীকরণ দিয়ে নয়, বরং ঝুঁকি সর্বনিম্নে নামানোর নিরপেক্ষ নীতিমালা দিয়ে প্রোগ্রাম করা হয়
- জার্মানির নৈতিক কমিশন জুন 2017-এ স্বয়ংক্রিয় গাড়ি চালনার জন্য ২০টি নৈতিক নিয়ম প্রকাশ করে; বয়স, গুণাবলীর মতো বৈষম্য নিষিদ্ধ করা হয়
- সত্যিকারের দুর্ঘটনার তথ্যে এমন কোনো ট্রামের ধরনের ঘটনা পাওয়া যায়নি যা মানুষ চালকদের ক্ষেত্রেও ঘটেছে বলে নথিভুক্ত
- ISO 26262 ত্রুটিজনিত নিরাপত্তা কভার করে, আর ISO 21448 (SOTIF) কভার করে ডিজাইনের সীমানা থেকে উদ্ভূত বিপদগুলো
জার্মানির ২০টি নৈতিক নিয়ম: বলি বেছে নেওয়া নিষেধাজ্ঞার উৎস
নিয়ন্ত্রণের দিক থেকে সবচেয়ে বাস্তব পদক্ষেপটি এসেছে জার্মানি থেকে। পরিবহন মন্ত্রণালয়ের অধীন নৈতিক কমিশন জুন 2017-এ স্বয়ংক্রিয় ও সংযুক্ত গাড়ি চালনার জন্য ২০টি নৈতিক নিয়ম প্রকাশ করে। মূলনীতিটি স্পষ্ট: স্বয়ংক্রিয় চালনা ব্যবস্থাগুলো প্রথমেই সব রাস্তা ব্যবহারকারীর নিরাপত্তায় সেবা দিতে হবে এবং মানুষের সুরক্ষা সবকিছুর ঊর্ধ্বে রাখতে হবে।
আসল চমকপ্রদ দিকটি হলো: কমিশন শর্ত দেয় যে সিস্টেমগুলোকে মানুষের জীবন আছে কি না তা নির্ধারণ করতে হবে, তবে বয়স, লিঙ্গ, শারীরিক অবস্থা বা অন্য কোনো বৈশিষ্ট্যের মধ্যে বৈষম্য করে নৈতিক সমীকরণ সমাধানের চেষ্টা করা যাবে না। অর্থাৎ "তরুণ না বৃদ্ধ, ডাক্তার না বেকার" ধরনের হিসাব কোনো একটি কোম্পানির পছন্দের বিষয় হতে পারে না - এগুলো সর্বজনীন নিয়মের বিষয়। এটি আসলে ট্রাম বিতর্কে নিয়ন্ত্রণের স্তরে দেওয়া সবচেয়ে স্পষ্ট আঘাত: রাষ্ট্র টেবিলে "কাকে বেছে নেবে" প্রশ্নটি নয়, বরং "কাউকে বেছে নেবে না" উত্তরটি রাখছে।
জার্মানি আরও লেভেল 4 স্বয়ংচালিত গাড়ির জন্য প্রথম জাতীয় আইনি কাঠামো তৈরি করা স্বয়ংচালন আইনের মাধ্যমে অগ্রণী ভূমিকা পালন করে। ইউরোপীয় ইউনিয়নের দিক থেকে সংযুক্ত ও স্বয়ংক্রিয় গাড়ির জন্য রাস্তার নিরাপত্তা, গোপনীয়তা, ন্যায্যতা, ব্যাখ্যাযোগ্যতা ও দায়িত্ব ধারণকারী একটি নৈতিক প্রতিবেদন প্রস্তুত করা হয়। আর 2026 একটি চলমান বছর: যুক্তরাষ্ট্র সেপ্টেম্বরে জাতীয় অটোমেশন কৌশল ঘোষণা করে, জাতিসংঘের কাঠামোয় বিভক্ত স্বয়ংচালিত গাড়ির নিয়ন্ত্রণ শেষ করে একটি বৈশ্বিক মানের দিকে অগ্রসর হচ্ছে, আর Euro NCAP মোটরসাইকেল ও সংযোগ-সড়কের দৃশ্যকল্প অন্তর্ভুক্ত করে আরও কঠোর সংঘর্ষ-এড়ানো প্রোটোকল আনছে। নৈতিক ও নিরাপত্তা নিয়ম এখন দ্রুত কাগজে নামছে।
ISO 26262 নাকি SOTIF? নিরাপত্তা মানগুলোর সিদ্ধান্ত গাছের উপর প্রভাব
এবার কিছুটা প্রকৌশলের গন্ধ নিই, কথা দিচ্ছি ক্লান্তিকর হবে না। অটোমোটিভ জগতে ফাংশনাল নিরাপত্তার ক্লাসিক হলো ISO 26262: এই মানটি একটি উপাদান বিকল হলে কী হবে তা নিয়ে কাজ করে। কিন্তু যদি কোনো অংশই নষ্ট না হয়, তবুও সিস্টেম বিপজ্জনক আচরণ করে? অর্থাৎ সেন্সরগুলো ঠিক, সফটওয়্যার ক্র্যাশ করেনি - শুধু ডিজাইনের সীমানায়, অপ্রত্যাশিত একটি ট্রাফিক পরিস্থিতিতে আটকে গেছে?
ঠিক এই শূন্যস্থানটি পূরণ করে ISO 21448, অর্থাৎ SOTIF। 2022-এ প্রকাশিত এই মানটি উপাদানের ত্রুটি নয়, বরং ডিজাইনের সীমাবদ্ধতা এবং অনুমানযোগ্য ভুল ব্যবহারজনিত বিপদ হ্রাস করার লক্ষ্য রাখে। এর মধ্যে সবচেয়ে গুরুত্বপূর্ণ ধারণাগুলোর একটি হলো পারিচালিক ডিজাইন ক্ষেত্র (ODD): সিস্টেমটি কোন গতি, আবহাওয়া, রাস্তা ও ভৌগোলিক পরিস্থিতিতে চলবে তার স্পষ্ট সংজ্ঞা। সিনারিওগুলো সিমুলেশনের মাধ্যমে পরীক্ষা করে বিপদগুলো আগে থেকেই নিরস্ত্র করা হয়। একাডেমিক জগতে 2026 সালে ISO 26262, SOTIF এবং UL 4600-কে এক ছাদের নিচে একত্রিত করে সমন্বিত নিরাপত্তা নিশ্চয়তা কাঠামোর প্রস্তাব করা হচ্ছে। সংক্ষেপে, "দুর্ঘটনার মুহূর্তে কাকে বাঁচানো হবে" প্রশ্নের বদলে সমগ্র শিল্প, "এই দুর্ঘটনার মুহূর্তে আসাই যেন না হয়" বলে স্ট্যান্ডার্ডের স্তূপ নির্মাণ করছে।
স্ট্যানফোর্ড ঘরানার Chris Gerdes-এর এই বিষয়ে দৃষ্টিভঙ্গিও একই দিকে তাকিয়ে আছে: নির্মাতারা গাড়িকে "কাকে বেশি মূল্যবান মনে করে" তা শেখায় না, গাড়িকে শেখায় নিরাপত্তা আচরণ। ট্রাফিক আইন ও আদালতের ব্যাখ্যা দ্বারা গঠিত সামাজিক চুক্তির কাঠামোয় গাড়ি, পথের প্রত্যেকের প্রতি যত্নশীলতার দায়িত্বে বাধ্য। কেউ যদি লাল বাতি লাফিয়ে পেরিয়ে বিপদ ডেকে আনে, গাড়ির কাজ তাকে একটি "হিসাবে" অন্তর্ভুক্ত করা নয়; তার শারীরিক সীমা পর্যন্ত সবার সাথে সংঘর্ষ রোধ করার চেষ্টা করা। Gerdes-এর মতে, পাঁচটি জীবন বাঁচাতে একটি জীবন উৎসর্গ করা গাড়ি নির্মাতাকে গুরুতর আইনি দায়বদ্ধতার মুখোমুখি ফেলে - তাছাড়া সেই তাৎক্ষণিক লাভের হিসাব রিয়েল-টাইমে করা আসলে ব্যবহারিকভাবে অসম্ভব।
দুর্ঘটনার মুহূর্তে আসলে কী ঘটছে? RSS এবং স্তরযুক্ত সুরক্ষার যুক্তি
তাহলে যেহেতু কেউই শিকার বেছে নিচ্ছে না, সেই টায়ারের চিহ্নের মুহূর্তে সফটওয়্যারটি আসলে কী করছে? উত্তরের দুটি অংশ আছে। প্রথমটি হলো RSS, অর্থাৎ দায়িত্ব-সচেতন নিরাপত্তা পদ্ধতি: সবাই এই নিয়মগুলো মানলে সংঘর্ষ গাণিতিকভাবে অসম্ভব হয় এমন দূরত্বের মার্জিন সংজ্ঞায়িত করা হয়। এক ধরনের ভদ্র ও অবিরাম ডিফেন্সিভ ড্রাইভিং - সবার জন্য নিরাপত্তার সীমানা রেখে যাওয়া।
দ্বিতীয়টি, অনিবার্য সংঘর্ষের সিনারিওতে শুরু থেকেই প্রবেশ না করার চেষ্টা করা। যেভাবে Volvo-র অটোনমাস সমাধান ইউনিট সংক্ষেপে বলেছে: ডিজাইনের লক্ষ্য হলো, সেই মুহূর্তটাই যেন কখনো না আসে; বাস্তব জগতের দুর্ঘটনার ডেটায় মানুষ চালকদের ক্ষেত্রেও ঘটেছে বলে প্রমাণিত এমন কোনো ট্রামের মতো ঘটনা নেই। অতিরিক্ত ত্রুটিপূর্ণ বা খারাপ উদ্দেশ্যসম্পন্ন তৃতীয় ব্যক্তিদের বাদে, সিস্টেম প্রতিটি পরিস্থিতিতে ক্ষতি কমানোর জন্য তার সর্বোচ্চ চেষ্টা করছে। আরেকটি দিক হলো এই প্রতিকৃতির অর্থনৈতিক পার্শ্ব: সুরক্ষার স্তরের সংখ্যা আসলে একটি সামাজিক পছন্দ। অসীম স্তরযুক্ত সুরক্ষা ব্যবস্থা, খরচের কারণে অস্তিত্ব পেতে পারে না। "যথেষ্ট নিরাপদ" এমন একটি রেখা আমরা সমাজ হিসেবে টানি - কেউ আমাদের এই অংশটা বলে দেয় না, কিন্তু সিদ্ধান্ত প্রতিদিন টেবিলে নেওয়া হচ্ছে।
যাত্রী, নাকি পথচারী? Mercedes ব্যতিক্রম এবং জনমতের ডেটা
অবশ্যই বিষয়টি নিয়ে কোনো বিতর্ক নেই তেমন নয়। Mercedes ব্যক্তিগত অটোমোবাইলে লেভেল 3 অটোমেশন অফার করা প্রথম ব্র্যান্ড - DRIVE PILOT সিস্টেম হাত ও চোখের স্বাধীনতাসহ ড্রাইভিংয়ের সুযোগ দেয়, তবে কেবল কঠোরভাবে সংজ্ঞায়িত শর্তে। কোম্পানির নির্বাহীরা আগেই স্পষ্টভাবে বলেছিলেন, রোধ করা অসম্ভব পরিস্থিতিতে যাত্রীর নিরাপত্তাকে অগ্রাধিকার দেওয়া হবে; এই বিবৃতিটি আইনি ও নৈতিক উভয় সাহিত্যেই সবচেয়ে বেশি উল্লেখ করা ব্যতিক্রম এবং জার্মান এথিক্স কমিশনের পৃথকীকরণ নিষেধের চেতনার বিপরীতেও পাঠ করা হয়।
জনমতের দিকটাও মিশ্র। MIT-এর Moral Machine প্ল্যাটফর্ম মেশিনের নৈতিক সিদ্ধান্ত সম্পর্কে মানুষ কীভাবে ভাবে তা পরিমাপ করতে ২ মিলিয়নেরও বেশি মানুষের অংশগ্রহণে ডেটা সংগ্রহ করেছে। গবেষণাগুলো দেখায়, পথচারী ও চালকরা নিজেদের আত্মত্যাগ বা রক্ষা করতে রাজি হওয়ার বিষয়ে ভিন্ন পছন্দ প্রকাশ করে, এবং যাত্রীদের পথচারীদের বাঁচাতে বলি দেওয়া যাবে কি না - এই বিষয়ে জনমতের বিশ্বাসও একটি পরিমাপযোগ্য বিষয়।
আর বড় ছবিটাও আছে: মানুষের ভুল প্রায় 94% দুর্ঘটনায় মৃত্যুতে ভূমিকা রাখে এবং এই ত্রুটিগুলো স্বয়ংচালিত গাড়ি দূর করলে সড়ক মৃত্যু 90% পর্যন্ত কমে যেতে পারে বলে অনুমান করা হচ্ছে। কিন্তু এখানে ব্রেক টানা দরকার - বীমা ইনস্টিটিউটগুলোর বিশ্লেষণ বলছে, শুধু মানুষের ভুল দূর হলেই বেশিরভাগ দুর্ঘটনা স্বয়ংক্রিয়ভাবে মুছে যাবে না, স্বয়ংচালিত গাড়িও একই ধরনের ত্রুটি এড়াতে অসুবিধায় পড়তে পারে। অর্থাৎ প্রতিশ্রুতি আর বাস্তবতার মধ্যে এখনও দূরত্ব আছে।
ট্রাম সমস্যা কি সম্পূর্ণ অর্থহীন? পক্ষসমর্থন ও সমালোচনা
ন্যায্যতার খাতিরে বলা যায়, ট্রাম সমস্যার সমর্থকরাও আছেন। নীতিবিদ প্যাট্রিক লিনের মতে, এই পরীক্ষাটি একটি অন্তর্দৃষ্টি জাগানোর উপায় হিসেবে কার্যকর: সংখ্যাগুলো নৈতিক দৃষ্টিতে গুরুত্বপূর্ণ কি না, হত্যা আর মৃত্যুর অনুমতি দেওয়ার মধ্যে পার্থক্য সম্পর্কে ভাবতে বাধ্য করে এবং প্রোগ্রামারদের ফলাফলের জন্য দায়ী করার পথ খুলে দেয়। এই যুক্তিকে গুরুত্বসহকারে নেওয়া দরকার।
কিন্তু ক্ষেত্রটির ওজন বিপরীত পক্ষেই রয়েছে। IEEE মহলের মূল্যায়ন বলছে, ট্রাম প্যারাডাইম সচেতনতা তৈরিতে উপকারী কিন্তু এই কাঠামোটি ভুল জায়গায় স্থাপন করা হয়েছে। দর্শন সাহিত্যে 2021 সালে প্রস্তাবিত "ঝুঁকি নীতি" পদ্ধতিটি দাবি করে, স্বয়ংচালিত চালনার প্রকৃত নৈতিক চ্যালেঞ্জগুলো ট্রাম দৃশ্যকল্পে নেই; মূল্য ও উদ্দেশ্য ফাংশনের স্বচ্ছতায়, সম্ভাবনামূলক অনিশ্চয়তায় এবং অপ্রত্যাশিত সিস্টেম আচরণের মধ্যে নিহিত। 2024 সালের একটি গবেষণা অবশ্য চালকবিহীন গাড়ির কাছে ট্রাম সমস্যা সমাধান করতে বলাকে একটি নৈতিক চাপিয়ে দেওয়া হিসেবে সমালোচনা করে। প্রকৌশল মহলে অবশ্য ব্যবহারিক আপত্তিই প্রধান: ট্রাম দৃশ্যকল্পের পূর্বশর্তগুলো - হঠাৎ একজন মানুষের আবির্ভাব, একই সাথে ব্রেকের ত্রুটি, নিখুঁত সংবেদন - বাস্তব ট্রাফিকের প্রবাহে ব্যবহারিকভাবে একসাথে ঘটে না।
সংক্ষিপ্ত উত্তর: স্বয়ংচালিত গাড়ি কীভাবে সিদ্ধান্ত নেয়?
যেভাবে প্রতিশ্রুতি দিয়েছিলাম, সহজ ও উদ্ধৃতযোগ্য উত্তর: স্বয়ংচালিত গাড়ি কার জীবন বেশি মূল্যবান তা গণনাকারী নৈতিক সমীকরণ দিয়ে নয়, বরং সবার ক্ষেত্রে সমভাবে প্রয়োগ করা ঝুঁকি সর্বনিম্নে নামানোর নিরপেক্ষ নিরাপত্তা নীতি দিয়ে সিদ্ধান্ত নেয়। মানদণ্ড ও আইন এই সিদ্ধান্তগুলোকে ট্রাম ধরনের পছন্দের দিকে নয়, দুর্ঘটনা যেন মোটেই না ঘটে সেদিকে পরিচালিত করে। প্রকৃত বিতর্ক দার্শনিক দ্বিধায় নেই; মূল্য ফাংশনের স্বচ্ছতায়, সুরক্ষা স্তরের খরচে এবং "যথেষ্ট নিরাপদ" রেখাটি কে টানছে তার মধ্যে।
আমাকে জিজ্ঞেস করলে বলব, ট্রাম সমস্যা এই খাতের প্রতি সবচেয়ে বড় সেবা করেছিল ঠিক তার পরিসমাপ্তির মুহূর্তে: এটি আমাদের মেশিনের সিদ্ধান্ত প্রক্রিয়া সম্পর্কে জিজ্ঞেস করতে শিখিয়েছে। কিন্তু পরেরবার কেউ জিজ্ঞেস করলে "গাড়ি কীভাবে বেছে নেয় কাকে মারবে" তাহলে এখন উত্তরটা তুমি জানো - সেই প্রশ্নটা সফটওয়্যারটি আসলে যা করে তার থেকে অনেক দূরে। আমাদের আসলে যে প্রশ্নটা করা উচিত সেটা হলো: কতটা নিরাপত্তা যথেষ্ট এবং এই সিদ্ধান্তটা কে নেয়? এই আলোচনাটি ট্রলির রেলপথের চেয়ে অনেক বাস্তব ভিত্তিতে এগিয়ে যাচ্ছে।
সূত্রসমূহ
- Designing Ethical Self-Driving Cars | Stanford HAI
- The folly of trolleys: Ethical challenges and autonomous vehicles
- The misguided dilemma of the trolley problem
- The "Trolley Problem" Doesn't Work for Self-Driving Cars
- Ethics Commission Automated and Connected Driving
- Ethical Considerations of the Trolley Problem in Autonomous Driving
- Moral Machine | MIT
- Self Driving Car Engineer Debunks The Trolley Problem