Tramvay Problemi: Avtonom Nəqliyyat Vasitələri Necə Qərar Verir?

Təsəvvür edin ki, avtomobilin önünə qəfildən velosipedçi çıxdı. Direksiyon səndə olsaydı reflekslə bir şey edərdin - nə etdiyini bəlkə özün də xatırlamazdın. Amma direksiyonda heç kim yoxdursa? O anda, saniyənin mində birində, proqram təminatı bir qərar verməli olur. Kimin üstünə çırpılsın? Qarşı zolağa yoxlanıb qaçsın? Məhz medianın on ildir bizə sualı budur - və düzünü desək, sualın özü bir az səhv qoyulur. Bu məqalədə avtonom avtomobillərin necə qərar verdiyini əslində danışacağıq; fəlsəfə dərsindən yox, mühəndislik masasından.
Tramvay Problemi Nədir və Niyə Bu Qədər Məşhur Oldu?
Əvvəlcə klassik qısa xülasə: 1967-ci ildə Philippa Foot-un irəli sürdüyü, Judith Jarvis Thomson-un 1976 və 1985-ci illərdə inkişaf etdirdiyi düşüncə təcrübəsində, idarəetmədən çıxmış tramvay relslərdə beş nəfərin üzünə doğru gedir. Sən bir qolu çəkə bilərsən: tramvay başqa xəttə yönəlir, amma orada bir nəfər var. Bir nəfərin ölümünə səbəb olub beşi mi xilas edirsən? İkinci versiya daha da narahatedicidir: bu dəfə qiymət verdiyin adamı körpüdən relslərə itələyərək tramvayı dayandırırsan. Filosofların əksəriyyəti ilk ssenaridə su qapağını çevirməyi müdafiə oluna bilən addım hesab edərkən, xalqın böyük əksəriyyəti körpüdəki adamı itələmək fikrini illər sonra belə həzm edə bilmir.
Avtonom avtomobillər səhnəyə çıxdıqda bu təcrübə bir anda real həyat daşınmış kimi görünür: avtomobil velosipedçiyə mi çırpılsın, qarşı zolağa yoxlanıb qaçsın? Qulağa gözəl müzakirə mövzusu kimi gəlir. Amma burada bir problem var - və bu məqalənin əsas fikri budur: gerçək avtonom sürüş proqram təminatı, tramvay problemini həll etməyə çalışaraq yazılmır. Bəs nə edərək yazılır? Oraya gələcəyik, amma əvvəlcə spequlyasiya tərəfini tam bitirək.
Avtonom Avtomobil Əslində "Kimi Xilas Edəcəyini" mi Qərarlaşdırır?

Qısa cavab: xeyr - amma bu cavabı haq etmək üçün proqramın necə düşündüyünə baxmalıyıq. Avtonom avtomobil sənin beynin kimi bir anda tək bir qərar vermir. Mühəndislik ədəbiyyatında model POMDP, yəni Qismən Müşahidə Olunan Markov Qərar Prosesidir. Qorxma, adı qədər mürəkkəb deyil: avtomobil, natamam məlumatla - sensor mənzili, görünüş qapanmaları, emal gecikməsi - davamlı axıb gedən bir ehtimal yumağının içində, ardıcıl gələn kiçik qərarlar verir. Qara-ağ bir "kimi seçirəm" anı bu struktura oturmur belə.
Bir də bu var: süni intellekt sistemləri bir ssenarini öyrənmək üçün həmin ssenarinin minlərlə nümunəsinə ehtiyac duyur və hər nümunədə "doğru cavabın" nə olduğunu əvvəldən təyin edilmiş olmalıdır. Filosoflar iki min ildir tək bir mənəvi dilemada razılaşa bilməzsə, bu doğru cavabı proqram təminatına məlumat kimi kim verəcək? Üstəlik təlim xərcləri absurd ölçülərdədir: bir avtonom təyyarənin yalnız sadə naviqasiya öyrənməsi üçün 11.500 dəfə qəzaya uğradığı qeydlərdə var. Avtomobilləri real insanların üstünə çırpmaqla təlim etmək kimi bir seçim əlbəttə ki, yoxdur.
Önə Çıxanlar
- Otonom araçlar qurban seçən etik düsturları ilə yox, riski minimuma endirən neytral siyasətlərlə proqramlaşdırılır
- Almaniyanın Etik Komissiyası 2017-ci il iyununda avtomatik sürüş üçün 20 etik qayda dərc etdi; yaş, keyfiyyət kimi fərqlər qadağan edildi
- Real qəza məlumatlarında insan sürücülərin də başına gəldiyi sənədləşdirilmiş tramvay tipli bir hadisə tapılmadı
- ISO 26262 nasazlıqdan doğan təhlükəsizliyi, ISO 21448 (SOTIF) isə dizayn sərhədlərindən yaranan təhlükələri əhatə edir
Almaniyanın 20 Etik Qaydası: Qurban Seçmək Qadağasının Anası
Regulyasiya tərəfinin ən konkret addımı Almaniyadan gəldi. Nəqliyyat Nazirliyinə bağlı Etik Komissiya 2017-ci ilin iyununda avtomatik və əlaqəli sürüş üçün 20 etik qayda dərc etdi. Əsas prinsip aydındır: avtomatik sürüş sistemləri прежде bütün yol istifadəçilərinin təhlükəsizliyinə xidmət etməli və insanın qorunması hər şeydən üstün tutulmalıdır.
Əsl maraqlı hissə isə budur: komissiya sistemlərin insan həyatının olub-olmadığını müəyyən etməli olduğunu, lakin yaş, cins, fiziki vəziyyət və ya başqa keyfiyyətlər arasında fərq qoymaqla etik düsturları həll etməyə çalışmamasını şərt qoyur. Yəni "gəncdir yoxsa yaşlı, həkimdir yoxsa işsiz" tipli hesablamalar tək bir şirkətin seçiminə buraxıla bilməz - bunlar universal qaydaların mövzusudur. Bu, əslində tramvay mübahisəsinə regulyasiya səviyyəsində vurulmuş ən aydın zərbədir: dövlət masaya "kimi seçirsən" sualını yox, "heç kimi seçməyəcəksən" cavabını qoyur.
Almaniya həmçinin Səviyyə 4 otonom avtomobillər üçün ilk milli hüquqi çərçivəni quran Otonom Sürüş Qanunu ilə də öncül oldu. AB tərəfində isə əlaqəli və avtomatik avtomobillər üçün yol təhlükəsizliyi, məxfilik, ədalət, izahedilə bilənlik və məsuliyyət təkliflərini əhatə edən etik hesabatı hazırlanıb. Və 2026 hərəkətli bir ildir: ABD sentyabrda milli avtomatlaşdırma strategiyasını açıqladı, BM çərçivəsində parçalı otonom avtomobil regulyasiyasını bitirəcək qlobal bir standarta doğru gedilir, Euro NCAP isə motosiklet və qovşaq ssenarilərini əhatə edən daha sərt toqquşmadan yayınma protokolları tətbiq edir. Etik və təhlükəsizlik qaydaları artıq sürətlə kağıza köçürülür.
ISO 26262, yoxsa SOTIF? Təhlükəsizlik Standartlarının Qərar Ağaclarına Təsiri
İndi bir az mühəndislik ətri alaq, söz verirəm darıxdırıcı olmayacaq. Avtomotiv dünyasında funksional təhlükəsizliyin klassiki ISO 26262dir: bu standart bir komponent nasaz olduqda nə baş verəcəyi ilə maraqlanır. Bəs heç bir hissə korlanmadı, amma sistem yenə də təhlükəli davrandı? Yəni sensorlar sağlam, proqram təminatı çökməyib - sadəcə dizaynın sərhədlərində, gözlənilməz bir trafik vəziyyətində ilişib qaldı?
Məhz bu boşluğu ISO 21448, yəni SOTIF doldurur. 2022-də dərc edilən bu standart komponent nasazlığı yox, dizayn məhdudiyyəti və proqnozlaşdırıla bilən yanlış istifadədən doğan təhlükələri azaltmağı hədəfləyir. İçindəki ən vacib anlayışlardan biri Operativ Dizayn Sahəsi dir (ODD): sistemin hansı sürət, hava, yol və coğrafi şərtlərdə işləyəcəyinin açıq şəkildə müəyyən edilməsi. Ssenari simulyasiyalarla sınaılır və təhlükələr əvvəlcədən qabaqcadan araşdırılır. Akademik dünyada isə 2026-cı ildə ISO 26262, SOTIF və UL 4600-ü tək dam altında birləşdirən inteqrələşdirilmiş təhlükəsizlik təminatı çərçivələri təklif olunur. Qısacası "qəza anında kimi xilas et" sualı yerinə bütün sənaye, "bu qəza anına heç gəlməyək" deyən standartlar yığını qurur.
Stanford məktəbindən Chris Gerdes'in bu mövzudaki yanaşması da eyni istiqamətə baxır: istehsalçılar avtomobila "kimi daha dəyərli saydığını" öyrətmir, avtomobila təhlükəsizlik davranışı öyrədir. Yol hüquqları və məhkəmə şərhlərinin yaratdığı sosial müqavilə çərçivəsində avtomobil, yoldakı hər kəsə qayğı öhdəliyi ilə borcludur. Kimsə qırmızı işıqdan keçib təhlükə yaratdıqda, avtomobilin vəzifəsi o şəxsi bir "hesaba" salmaq deyil; fiziki sərhədlərinə qədər hər kəslə toqquşmanın qarşısını almağa çalışmaqdır. Gerdes'ə görə tək bir həyatı beş həyat xilas etmək üçün qurban verən avtomobil, istehsalçısını ciddi hüquqi məsuliyyətlə üzbəüz qoyur - üstəlik o anlıq fayda hesabını real vaxtda etmək onsuz da praktiki olaraq mümkünsüzdür.
Qəza Anında Nə Baş Verir? RSS və Qatlı Qorunma Məntiqi
Bəs heç kimsə qurban seçmirsə, o lastik izi anında proqram təminatı əslində nə edir? Cavabın iki hissəsi var. Birincisi RSS, yəni Məsuliyyətə Həssas Təhlükəsizlik yanaşmasıdır: hər kəs bu qaydalara əməl etsəydi, toqquşmanın riyazi olaraq mümkünsüz olduğu məsafə ehtiyatları müəyyən olunur. Bir növ nəzakətli və davamlı müdafiə sürüşü - hər kəs üçün təhlükəsizlik kordonu buraxmaq.
İkincisi, qaçılmaz toqquşma ssenarisinə əvvəldən girməməyə çalışmaqdır. Volvo'nun avtonom həllər bölməsinin ümumiləşdirdiyi kimi: dizayn məqsədi, o anın heç yaşanmamasıdır; real dünya qəza məlumatlarında insan sürücülərin də başına gəldiyi sübut olunmuş bir tramvay tipli hadisə yoxdur. Həddindən artıq qüsurlu və ya pis niyyətli üçüncü şəxslər istisna olmaqla, sistem hər şəraitdə zərəri azaltmaq üçün əlindən gələni edir. Bir də medalın iqtisadi üzü var: qorunma qatlarının sayı əslində bir ictimai seçimdir. Sonsuz qatlı qorunma sistemi, xərcinə görə mövcud ola bilməz. "Kifayət qədər təhlükəsiz" deyə bir xətti cəmiyyət olaraq biz çəkirik - heç kim bizə bu hissəni anlatmır, amma qərar hər gün masalarda alınır.
Sərnişin mi, Piyada mı? Mercedes İstisnası və İctimai Rəy Məlumatları
Əlbəttə, mövzu heç də mübahisəsiz deyil. Mercedes, şəxsi avtomobildə Səviyyə 3 avtomasiya təqdim edən ilk marka oldu - DRIVE PILOT sistemi əldə və gözdə sərbəst sürüş imkanı verir, amma yalnız ciddi şəkildə müəyyən olunmuş şərtlərdə. Şirket rəhbərləri əvvəllər, qarşısı alına bilməyən hallarda sərnişinin təhlükəsizliyinə üstünlük veriləcəyini açıq şəkildə bildirmişdi; bu bəyanat həm hüquqi, həm etik ədəbiyyatda ən çox istinad edilən istisnadır və Alman Etika Komissiyasının ayrılmaq qadağasının ruhuna qarşı da oxunur.
İctimai rəy tərəfi də qarışıqdır. MIT-in Moral Machine platforması maşınların mənəvi qərarlarına insanların necə baxdığını ölçmək üçün 2 milyondan çox insanın iştirakı ilə məlumat topladı. Tədqiqatlar piyadaların və sürücülərin özlərini fəda etməyə ya da qorumağa hazır olmaları baxımından fərqli seçimlər nümayiş etdirdiyini, sərnişinlərin piyadaları xilas etmək üçün fəda edilib-edilə biləcəyinə dair ictimai rəyin də ölçülə bilən məsələ olduğunu göstərir.
Böyük mənzərə də var: insan xətası qəza ölümlərinin təxminən 94%-ində rol oynayır və avtonom nəqliyyat vasitələrinin bu xətaları aradan qaldırması ilə trafik ölümlərinin 90%-ə qədər azala biləcəyi ilə bağlı proqnozlar verilir. Amma burada əriyə basmaq lazımdır - sığorta institutlarının analizi insan xətasının aradan qalxmasının tək başına qəzaların əksəriyyətini avtomatik olaraq silməyəcəyini, avtonom nəqliyyat vasitələrinin də eyni xəta növlərindən qaçmaqda çətinlik çəkə biləcəyini irəli sürür. Yəni vədlə reallıq arasında hələ də məsafə var.
Tramvay Problemi Tamamilə Mənasızdırmı? Müdafiə və Tənqid
Ədalətli olmaq lazımdırsa, tramvay probleminin müdafiəçiləri də var. Etnik şəxs Patrick Lin-in fikri təcrübənin intuisiya pompası kimi işlədiyi istiqamətindədir: sayların mənəviyyat baxımından əhəmiyyətli olub-olmamasını, öldürmə ilə ölümə icazə vermək arasındakı fərqi düşünməyə və proqramçıları nəticələrə görə məsuliyyətə cəlb etməyin qapısını açır. Bu arqumentə ciddi yanaşmaq lazımdır.
Amma sahənin ağırlığı əks tərəfdə dayanır. IEEE dairələrinin qiymətləndirməsi tramvay paradigmasının məlumatlılıq yaratmaqda faydalı olduğunu, amma çərçivənin yanlış yerdə qurulduğunu deyir. Fəlsəfə ədəbiyyatında 2021-ci ildə təklif edilən "risk etikası" yanaşması avtonom sürüşün real etik çətinliklərinin tramvay ssenarilərində deyil; dəyər və məqsəd funksiyalarının şəffaflığında, ehtimal pozğunluğunda və proqnozlaşdırılmayan sistem davranışlarında yerləşdiyini müdafiə edir. 2024-cü il tarixli bir tədqiqat isə sürücüsüz vasitələrdən tramvay problemi həll etmələrinin istənilməsini mənəvi bir zorakılıq kimi tənqid edir. Mühəndis dairələrində isə pragmatik etiraz üstünlük təşkil edir: tramvay ssenarisinin ön şərtləri - bir insanın ani görünməsi, eyni anda əyləc nasazlığı, mükəmməl qavrayış - real trafik axınında praktikada bir yerə yığışmır.
Qısa Cavab: Avtonom Nəqliyyat Vasitələri Necə Qərar Verir?
Vədimdən göründüyü kimi, sadə və istinad edilə bilən cavab: Avtonom nəqliyyat vasitələri kimin həyatının daha dəyərli olduğunu hesablayan etik tənliklərlə yox, hamıya bərabər tətbiq edilən riski minimuma endirən neytral təhlükəsizlik siyasətləri ilə qərar verir. Standartlar və qanunlar bu qərarları tramvay tipli seçimlərə yox, qəzanın heç baş verməməsinə yönəldir. Real müzakirə fəlsəfi ikilemlərdə deyil; dəyər funksiyalarının şəffaflığında, qoruma qatlarının qiymətində və "kifayət qədər təhlükəsiz" xəttinin kim tərəfindən çəkildiyindədir.
Məndən soruşsanız, tramvay problemi bu sektora ən böyük xidmətini tam məhz bitirərkən edəcək: bizə maşınların qərar mexanizmlərini soruşmağı öyrətdi. Amma növbəti dəfə birisi “avtomobil kimin öləcəyini necə seçir” sualını versə, artıq cavabı bilirsən - o sual, proqram təminatının əslində gördüyü işdən çox uzaqdadır. Əslində verməli olduğumuz sual budur: nə qədər təhlükəsizlik kifayətdir və bu qərari kim verir? Bu müzakirə, vaqon relslərindən qat-qat real zəmin üzərində irəliləyir.
Mənbələr
- Designing Ethical Self-Driving Cars | Stanford HAI
- The folly of trolleys: Ethical challenges and autonomous vehicles
- The misguided dilemma of the trolley problem
- The "Trolley Problem" Doesn't Work for Self-Driving Cars
- Ethics Commission Automated and Connected Driving
- Ethical Considerations of the Trolley Problem in Autonomous Driving
- Moral Machine | MIT
- Self Driving Car Engineer Debunks The Trolley Problem