معضلة القطار: كيف تبرمج السيارات ذاتية القيادة لاتخاذ قرارات أخلاقية؟

تخيل هذا الموقف: أنت داخل سيارة تسلا تقود نفسها، وفجأة تتعطل الفرامل. أمامك خمسة أشخاص يقطعون الطريق، وعلى يمينك جدار إسمنتي. السيارة أمامها ثانية واحدة فقط لتقرر: هل تدهس الخمسة وتنقذك أنت، أم تصطدم بالجدار وتضحي بك لإنقاذهم؟

من الذي سيكتب هذا القرار في الكود؟ ومن يتحمل ذنبه؟ هذه ليست لقطة من فيلم خيال علمي، بل هي المشكلة الحقيقية التي تواجه كل شركات السيارات ذاتية القيادة اليوم، وهي نفسها ما كان الفلاسفة يسمونه قديماً بـ "معضلة القطار".

المشكلة ليست في البرمجة، بل في الخيار الأخلاقي

المبرمجون اليوم أمام حقيقة رقمية واضحة هم أمام رأيين لا يلتقيان ولا مفر منهما عند صياغة الأكواد:

الرأي الأول (المنطق النفعي): يقول أحسبها بالأرقام؛ موت شخص واحد هو بلا شك أقل ضرراً وأخف وطأة على السلامة العامة من موت خمسة أشخاص. القرار العقلاني الوحيد لحماية المنظومة الإنسانية وتقليل صافي المعاناة الكلية يقتضي أن تختار الآلة تقليل حجم الخسائر البشرية لأدنى حد ممكن، حتى لو كان الثمن الحتمي هو التضحية بالراكب.

الرأي الثاني (المنطق الأخلاقي): يقول لا يحق للآلة أن تتدخل عمداً لقتل شخص بريء لم يكن في خطر مباشر. ولكن هذا التردد في البيئة المرورية الذكية يضاعف الكارثة ويؤدي عملياً إلى سقوط أكبر عدد ممكن من الضحايا دون داعٍ.

الآلة لا تفهم الفلسفة، هي فقط تنفذ المعادلة الحسابية التي نبرمجها بها لحماية أقصى عدد من الأرواح.

هنا تكمن الكارثة الحقيقية في تصنيف البشر

حتى ترى السيارة الناس على الطريق، فهي تعتمد على كاميرات ومستشعرات ذكية تحاول أن تصنف ما تراه: هل هذا طفل صغير؟ هل هذا رجل مسن؟ هل هذا حيوان أليف؟

وهنا يطرح سؤال خطير ومباشر: هل نسمح للسيارة أن تفضل إنقاذ طفل على حساب شخص مسن؟ إذا فعلنا ذلك، فنحن نعلم الآلة أن قيمة الأرواح غير متساوية رقمياً، وهذا تمييز خطير سيأخذنا إلى مشاكل قانونية وأخلاقية لا تنتهي. وقد شرحنا سابقاً كيف تعمل هذه التقنية بالضبط في مقال الرؤية الحاسوبية: كيف ترى الآلة العالم.

الصدمة الأكبر هي في السوق التجاري

في دراسة ضخمة قام بها معهد MIT، سألوا آلاف الناس حول العالم: هل تؤيد أن تكون السيارات مبرمجة لإنقاذ العدد الأكبر من الناس حتى لو مات السائق؟ معظم الإجابات كانت: نعم، هذا هو الخيار المنطقي والأعدل مجتمعياً.

ثم سألوهم نفس السؤال بطريقة أخرى: هل ستشتري أنت سيارة مبرمجة لقتلك أنت وعائلتك من أجل إنقاذ غرباء على الطريق؟ الجواب القاطع كان: مستحيل! 

وهذا هو المأزق الفعلي؛ فالجميع يرغب في وجود سيارات منضبطة تقلل الكوارث وتحمي المجتمع بشكل عام، لكن لا أحد يريد أن يكون هو القضية المنفردة داخلها.

الخلاصة

في النهاية، تكشف لنا معضلة السيارة ذاتية القيادة حقيقة واضحة: نحن لم نتفق بعد كبشر على صيغة واحدة للتعامل مع أزمات الطوارئ، ولكن المنطق السليم يقول دائماً باختيار الحل الذي يسبب أقل ضرر ممكن للجميع.

المصادر والمراجع العالمية:
• مشروع "الآلة الأخلاقية" التابع لمعهد ماساتشوستس للتكنولوجيا: MIT Moral Machine Project
• معايير الجمعية الدولية لمهندسي السيارات للقيادة الذاتية: SAE International Standards