من سيقتل بسيارة ذاتية القيادة؟ الجهاز ، حفظ أكبر عدد ممكن من الناس ، ولكن الأهم من ذلك كله ، أنقذني!

إذا نشأ موقف حيث يتعين على نظام القيادة الذاتية للسيارة أن يختار سريعًا بمن سيضحي في حالة وقوع حادث وشيك ، فكيف يجب أن يكون رد فعله؟ التضحية بالركاب لإنقاذ المشاة؟ إذا لزم الأمر ، اقتل أحد المشاة لتجنيب ، على سبيل المثال ، أسرة مكونة من أربعة أفراد تسافر في سيارة؟ أو ربما يجب عليه دائمًا حماية نفسه أولاً؟

مع موافقة أكثر من ستين شركة بالفعل على إجراء الاختبارات الشخصية في كاليفورنيا وحدها، فمن الصعب القول إن الصناعة تستعد لمواجهة معضلات أخلاقية. في الوقت الحالي، تواجه الشركة مشكلات أكثر أساسية، مثل تشغيل الأنظمة وكفاءتها الملاحية، وتجنب الاصطدامات والأحداث غير المتوقعة. وفي مواقف مثل مقتل أحد المشاة في ولاية أريزونا مؤخرًا أو الحوادث اللاحقة (1)، كان النقاش حتى الآن يدور ببساطة حول فشل النظام، وليس حول أي "خيار أخلاقي" للسيارة.

حفظ الأغنياء والشباب

القضايا التي ينطوي عليها اتخاذ هذا النوع من القرارات ليست مشاكل مجردة. يمكن لأي سائق ذو خبرة أن يشهد على ذلك. في العام الماضي، قام علماء من مختبر الوسائط بمعهد ماساتشوستس للتكنولوجيا (MIT Media Lab) بتحليل أكثر من أربعين مليون إجابة من المشاركين من جميع أنحاء العالم، والتي جمعوها خلال البحث الذي بدأ في عام 2014. وأظهر نظام المسح الذي أطلقوا عليه "الآلة الأخلاقية" أنه يتم طرح أسئلة مماثلة في أجزاء مختلفة من العالم. العالم.إجابات مختلفة.

الاستنتاجات الأكثر عمومية يمكن التنبؤ بها. في الحالات القصوى يفضل الناس إنقاذ البشر على رعاية الحيوانات، بهدف إنقاذ أكبر عدد ممكن من الأرواح، ويميلون إلى أن يكونوا أصغر سنًا من كبار السن (2). هناك أيضًا بعض التفضيلات، ولكنها أقل وضوحًا، عندما يتعلق الأمر بإنقاذ النساء على الرجال، والأشخاص ذوي المكانة الأعلى على الفقراء، والمشاة على ركاب السيارات..

2. من يجب أن يحفظه الجهاز؟

نظرًا لأن ما يقرب من نصف مليون مستجيب ملأوا الاستبيانات الديموغرافية ، كان من الممكن ربط تفضيلاتهم بالعمر والجنس والمعتقدات الدينية. وخلص الباحثون إلى أن هذه الاختلافات لم "تؤثر بشكل كبير" على قرارات الناس ، لكنهم لاحظوا بعض التأثيرات الثقافية. كان الفرنسيون ، على سبيل المثال ، يميلون إلى تقييم القرارات على أساس العدد التقديري للوفيات ، بينما كان التركيز في اليابان هو الأقل. ومع ذلك ، في أرض الشمس المشرقة ، تُقدَّر حياة المسنين أكثر بكثير من الغرب.

"قبل أن نسمح لسياراتنا باتخاذ قراراتها الأخلاقية الخاصة ، نحتاج إلى إجراء نقاش عالمي حول هذا الأمر. عندما تتعرف الشركات التي تعمل على أنظمة مستقلة على تفضيلاتنا ، فإنها ستطور خوارزميات أخلاقية في الآلات بناءً عليها ، ويمكن للسياسيين البدء في إدخال أحكام قانونية مناسبة "، كتب العلماء في أكتوبر 2018 في Nature.

وجد أحد الباحثين المشاركين في تجربة الآلة الأخلاقية، جان فرانسوا بونفون، أن تفضيل إنقاذ الأشخاص ذوي المكانة الأعلى (مثل المديرين التنفيذيين بدلاً من المشردين) أمر مثير للقلق. في رأيه، وهذا يرتبط إلى حد كبير مستوى عدم المساواة الاقتصادية في بلد معين. وحيثما كانت عدم المساواة أكبر، تم تقديم التضحيات للفقراء والمشردين.

وجدت إحدى الدراسات السابقة، على وجه الخصوص، أن المشاركين يعتقدون أن السيارة ذاتية القيادة يجب أن تحمي أكبر عدد ممكن من الأشخاص، حتى لو كان ذلك يعني فقدان الركاب. إلا أن المشاركين ذكروا أنهم لن يشتروا سيارة مبرمجة بهذه الطريقة. وأوضح الباحثون ذلك على الرغم من أن الناس يشعرون أنه من الأخلاقي إنقاذ المزيد من الناس، إلا أنهم مدفوعون أيضًا بمصلحتهم الذاتية، وهو ما قد يكون إشارة إلى الشركات المصنعة بأن العملاء سوف يترددون في شراء سيارات مجهزة بأنظمة الإيثار.. منذ بعض الوقت، قال ممثلو شركة مرسيدس بنز إنه إذا أنقذ نظامهم شخصًا واحدًا فقط، فسيختارون السائق بدلاً من المشاة. وأجبرت موجة من الاحتجاجات العامة الشركة على سحب إعلانها. لكن الأبحاث تظهر بوضوح أن هناك الكثير من النفاق في هذا السخط المقدس.

وهذا يحدث بالفعل في بعض البلدان المحاولات الأولى للتنظيم القانوني في الميدان. أصدرت ألمانيا قانونًا يلزم السيارات ذاتية القيادة بتجنب الإصابة أو الوفاة بأي ثمن. وينص القانون أيضًا على أن الخوارزميات لا يمكنها أبدًا اتخاذ قرارات بناءً على خصائص مثل العمر أو الجنس أو الصحة أو المشاة.

أودي تتولى المسؤولية

المصمم غير قادر على التنبؤ بكل عواقب استخدام السيارة. يمكن للواقع دائمًا أن يوفر مجموعة من المتغيرات التي لم يتم اختبارها من قبل. وهذا يقوض إيماننا بإمكانية "برمجة الآلة أخلاقيا" على الإطلاق. يبدو لنا أنه في المواقف التي يحدث فيها خطأ وتحدث مأساة "بسبب خطأ السيارة"، يجب أن يتحمل المصنع والمطور للنظام المسؤولية.

ربما يكون هذا المنطق صحيحا، ولكن ربما ليس لأنه كان خاطئا. بل لأنه سمح بحركة لم تكن 2019% خالية من احتمال ارتكابها. ويبدو أن هذا هو السبب، ولا تتهرب الشركة من المسؤولية الشاملة، التي أعلنت مؤخرًا أنها ستتحمل المسؤولية عن الحوادث التي تعرضت لها سيارة A8 البالغة من العمر 3 سنوات عندما استخدمت نظام Traffic Jam Pilot الأوتوماتيكي.

3. واجهة Audi Traffic Jam Pilot

ومن ناحية أخرى، هناك الملايين من الأشخاص الذين يقودون السيارات ويرتكبون الأخطاء أيضًا. فلماذا إذن ينبغي التمييز ضد الآلات، التي ترتكب أخطاء أقل بكثير من البشر إحصائيا، كما يتضح من العديد من الأخطاء، في هذا الصدد؟

إذا اعتقد أي شخص أن معضلات الأخلاق والمسؤولية في عالم المركبات ذاتية القيادة بسيطة ، فاستمر في التفكير ...