لا يقتصر الذكاء الاصطناعي على كونه فئة جديدة من التكنولوجيا، بل إنه في أسمى تجلياته يعد بتولي مسؤوليات كانت حكرًا على البشر، واتخاذ القرارات نيابةً عنا. وعلى نطاق واسع، لا يقتصر السؤال على ما إذا كانت هذه الأنظمة تتخذ قرارات صائبة، بل يتعداه إلى تحديد القواعد التي تحكم قراراتها.

في نهاية المطاف، لا يمكننا التخلي عن مسؤوليتنا الأخلاقية وإلقائها على عاتق الآلات المفكرة، ولا ينبغي لنا أن نرغب في ذلك. ومع تزايد تفكير شركات الخدمات المالية في استراتيجيات دمج الذكاء الاصطناعي في عملياتها الأساسية، لم تعد هذه المشكلات مجرد مسائل نظرية. لفهم السبب، من المفيد إعادة النظر في إحدى أشهر التجارب الفكرية في الفلسفة الحديثة.

لنفترض أن قطارًا جامحًا يندفع بسرعة جنونية على سكة حديدية قام مجرم بتقييد خمسة أشخاص عليها. بصفتك شاهدًا، أنت عاجز عن إيقاف القطار المسرع، لكن لديك رافعة لتغيير مساره، مما سينقذ الضحايا الخمسة المحتملين ولكنه سيؤدي إلى مقتل شخص بريء على سكة أخرى. هل يجوز إنقاذ الخمسة بقتل الشخص البريء؟

هذه هي “معضلة العربة” الشهيرة، ومن المؤكد أنك شاهدت نسخة منها في فيلم أو برنامج تلفزيوني.

كثيراً ما تُطرح التجربة الفكرية على أنها نوع من المعضلة الأخلاقية، كما لو أن حل معضلة العربة سيكشف عن الطريقة الصحيحة للتصرف. لكن الغرض الأصلي منها، كما أوضحته الفيلسوفة فيليبا فوت [i] ، لم يكن تقديم الخيار الأخلاقي الصحيح بقدر ما كان استجواب المبادئ الأخلاقية، وفي هذه الحالة، “مبدأ الأثر المزدوج”، الذي يقوم عليه حكمنا على الضرر.

مبدأ الأثر المزدوج هو المفهوم القائل بأنه يجوز السماح ببعض الأضرار غير المقصودة (والتي ربما يمكن توقعها) في سبيل تحقيق غاية نبيلة. وقد استخدم فوت معضلة العربة لتوضيح بعض الآثار المنطقية الضمنية لهذا المبدأ.

وهذا يقودنا إلى السيارات ذاتية القيادة. تشير بعض الدراسات إلى أن المركبات ذاتية القيادة أكثر أمانًا في معظم الظروف من السيارات التي يقودها البشر، ومن المرجح أن تتحسن. ولكن كيف ينبغي أن تتصرف هذه السيارات؟

كيف ينبغي، على سبيل المثال، أن تتعامل المركبة ذاتية القيادة مع مشكلة عربة التسوق؟ هل ينبغي لسيارة الأجرة الآلية أن تنحرف لتجنب إلحاق الضرر بطفل إذا كان ذلك سيؤدي إلى إلحاق ضرر مماثل، أو أسوأ، بشخص مسن؟

بحسب أحد المصنّعين، هذه مشكلة وهمية. في منشور على مدونة، يشير جوناس بيندينغ، رئيس قسم تطوير القيادة الآلية في شركة فولفو، إلى أن المركبات ذاتية القيادة، في جميع أنحاء الصناعة، مصممة خصيصاً لتجنب الوقوع في وضعية “العربة” من الأساس.

“بالطبع، يمكن للإنسان أن يخطئ في تقدير أشياء مثل مسافة الكبح وما إلى ذلك،” يوضح بايندينغ، “ولكن بالنسبة للنظام الآلي، فإن أحد أهداف التصميم هو القيادة بطريقة تضمن عدم وقوعنا في موقف تصادم لا مفر منه لاحقًا.”

علاوة على ذلك، لا يتم تطوير المركبات وفقًا لأي منطق يختاره المطورون فحسب، بل تخضع أيضًا لقوانين السلطات القضائية التي تعمل فيها.

كما يشير بايندينغ بشكل معقول تمامًا، فإن أخلاقيات ما إذا كانت السيارة قادرة على اكتشاف وتمييز مجموعة من الأشخاص عن أخرى ليست مهمة مناسبة لشركة معينة، مستشهدًا بنتائج لجنة الأخلاقيات الألمانية التي تفيد بأن أنظمة السيارة يجب أن تتبع القواعد، لا أن تحاول حل المعضلات الأخلاقية.

وبالنظر إلى هاتين النقطتين معًا – وهما أن السيارات ذاتية القيادة أقل عرضة بكثير للوقوع في حوادث يمكن تجنبها؛ وأن المبادئ التوجيهية الرسمية تحظر “تقييم” الأشخاص الذين يجب إعطاؤهم الأولوية لتجنب الضرر – يبدو أنهما تجعلان مشكلة العربة غير ذات صلة، على الأقل ظاهريًا.

لكن تذكروا الهدف المقصود من التجربة الفكرية. إنها ليست لعبة تساعدنا على اختيار المسار الأكثر أخلاقية، بل كانت تهدف إلى استخلاص نتائج تفكيرنا الأخلاقي.

على المستوى الأساسي، يمكننا الإشارة إلى أن تفويض عملية اتخاذ القرار إلى القانون القائم هو في حد ذاته قرار أخلاقي. ماذا لو أدى القيام بذلك، حتى لأسباب أخلاقية وعقلانية، إلى أضرار في سبيل تحقيق منفعة أوسع؟

وماذا لو أن قرار عدم التمييز أو اتخاذ إجراءات مراوغة لحماية الفئات الضعيفة، على نطاق واسع، يتسبب في مستويات أكبر من الضرر بشكل عام؟

هل هناك فرق أخلاقي بين، من ناحية، تصميم نظام يتخذ قرارات يمكن التنبؤ بها والتي ستسبب ضرراً لا محالة، وبين، من ناحية أخرى، اتخاذ تلك القرارات (بشكل غير كامل) في لحظة اندفاع كفاعل بشري [ii] ؟

عمليًا، قد لا تُحدث هذه الأسئلة فرقًا كبيرًا، نظرًا للوضع الحالي لانتشار المركبات ذاتية القيادة. ولكن ماذا سيحدث عندما تُصبح السيارات ذاتية القيادة هي النوع السائد من السيارات، وتُسيطر عليها أنظمة مستقلة تُقرر وجهتها ومسارها؟ قد نتوقع أن تُصبح شبكة المرور في نهاية المطاف نظامًا واحدًا مترابطًا، حيث تُرسل مركبات الطوارئ ذاتية القيادة بواسطة أنظمة استجابة للطوارئ تعمل بالذكاء الاصطناعي. عند وقوع حالات طوارئ متزامنة، ما هي المركبات التي تُعطى الأولوية؟ ومن يختار كيفية نشر الموارد، وعلى أي نطاق وبأي تكلفة؟

التوافق القانوني: هل هو مفرط أم غير كافٍ؟

وبعيداً عن السيارات ذاتية القيادة، فإن السؤال الأوسع هو كيف نضمن أن التكنولوجيا المستقلة تعزز قيمنا، بدلاً من أن تعمل ضد ازدهار الإنسان – وهو تحدي مواءمة الذكاء الاصطناعي .

يعكف الباحثون حاليًا على دراسة المسألة المعقدة المتعلقة بكيفية عمل أنظمة الذكاء الاصطناعي. ومن بين المناهج المثيرة للاهتمام، التساؤل عما إذا كان القانون يمكن أن يكون دليلًا مفيدًا، ويساعد في تصميم تقنيات ذكاء اصطناعي أكثر أمانًا وأخلاقية.

قد يكون برمجة خوارزميتك لاتباع قوانين المرور الحالية كافياً لسيارة ذاتية القيادة واحدة، ولكن ماذا عن الجراحين أو القضاة الذين يعملون بالذكاء الاصطناعي؟ وماذا يحدث عندما تعمل شبكات من العوامل المستقلة على نطاق واسع، وتتفاعل مع بعضها البعض في حلقة تغذية راجعة معقدة؟

تساعد ورقة بحثية من تأليف نعوم كولت وآخرين بعنوان “المواءمة القانونية من أجل الذكاء الاصطناعي الآمن والأخلاقي” [iii] في تنظيم وتوضيح وعود وتحديات المواءمة القانونية.

ومن بين التحديات، أشاروا إلى القلق من أنه بالرغم من مزايا النهج القائم على القانون، ستكون هناك حالات يكون فيها الإطار القانوني غير مناسب أو غير كافٍ. وبناءً على هذا الرأي، “يمثل التوافق القانوني حداً أدنى للذكاء الاصطناعي الآمن والأخلاقي؛ فهو ضروري، ولكنه غير كافٍ”. [iv]

في المقابل، توجد حالات محتملة قد يؤدي فيها تطبيق القانون بشكل صارم إلى الضرر. فعلى سبيل المثال، يشير المؤلفون إلى أن بعض انتهاكات القانون قد تُعتبر جديرة بالثناء أخلاقياً أو اجتماعياً، مثل العصيان المدني.

وماذا عن القوانين التي تُفاقم التفاوتات الاجتماعية أو الاقتصادية، والتي لم تُواجَه قط بتحدٍّ قانوني كافٍ؟ قد يبدو برمجة نظام ذكيّ بحيث لا يُفاقم التفاوتات المنهجية، أو حتى يُساعد في معالجتها، أمرًا محمودًا من الناحية الأخلاقية، ولكن كما يُشير المؤلفون، فإن “معالجة هذه المخاوف من خلال تصميم أنظمة ذكاء اصطناعيّ تنتقي القوانين التي يجب اتباعها بشكل انتقائيّ ينطوي على مخاطر عديدة. فقد يُؤدي هذا التقدير إلى تفاقم الغموض القانوني، وتقويض التطبيق العالميّ والمتساوي للقانون، ومع مرور الوقت، إلى تآكل سيادة القانون نفسها. [v] ”

مرة أخرى، قد يكون من المفيد التفكير في معضلة العربة. ليس كدليل للبرمجة لتحقيق أقصى فائدة، ولكن كطريقة للتفكير في تفويض الاختيار والمسؤولية في الأنظمة المعقدة.

رؤية الغابة والأشجار

بمجرد أن نتراجع خطوة إلى الوراء ونفكر في الذكاء الاصطناعي الفاعل كشبكة من عقد اتخاذ القرار الانعكاسي المضمنة في شبكة معقدة من الخصائص الناشئة، يمكننا البدء في تحديد أخلاقيات الغابة، وليس فقط أخلاقيات الأشجار.

هذه مشكلة معقدة، لكنها ليست بلا سابقة. لننظر إلى الذكاء المهيمن الذي يتغلغل بالفعل في كل جانب تقريباً من جوانب الحياة المعاصرة: الأسواق المالية.

تتكون الأسواق من شبكات من الوكلاء الذين يستجيبون للأسعار والحوافز والقواعد والتوقعات، وغالبًا بطرق تنتج نتائج ناشئة لم يكن أي مشارك فردي يقصدها (أو ربما لم يكن بإمكانه حتى توقعها).

تتمتع الأسواق بقدرة هائلة على تحديد الأسعار، وتخصيص الموارد بكفاءة، وتنسيق النشاط الاقتصادي. لكن الأسواق لا تنشأ بمعزل عن الواقع، فالظروف التي تنشأ فيها تحددها القوانين والجهات الفاعلة الفردية العاملة ضمن نظام قانوني واقتصادي.

تُحدد درجات حرية النشاط السوقي، أو عدمها، أحيانًا بمفاهيم أيديولوجية واسعة، وأحيانًا أخرى تُناقش في إطار تكنوقراطي ضيق. وغالبًا ما يصعب التمييز بين هذين الجانبين.

وفي بعض الأحيان، لا ندرك إلا بشكل غامض الأنظمة والهياكل التي تحدد نتائج السوق، مثل الإطار القانوني الذي تسميه الباحثة القانونية كاثرين بيستور قانون رأس المال .

تُعدّ تقنية الذكاء الاصطناعي الناشئة لدينا نتاجًا للأسواق العالمية، وستؤثر فيها تأثيرًا عميقًا. ويرجع ذلك جزئيًا إلى أن الاقتصادات المحلية والعالمية تتشكل بطرق محددة.

لكن التوسع في استخدام وكلاء الذكاء الاصطناعي يعد بإطلاق العنان، على نطاق هائل، لأنواع جديدة من الجهات الفاعلة في السوق وطرق جديدة لتنظيم الموارد والمعلومات.

هل سنتبنى النهج “النيوليبرالي” العام لتنظيم الأفراد الفاعلين – أياً كانوا، وكيفما حددنا حدود الشخصية والفاعلية والمسؤولية الأخلاقية والقانونية – ونأمل أن يؤدي ذلك إلى نتائج إيجابية؟ أم أننا بحاجة إلى مفهوم أوسع بكثير لكيفية مواءمة الأنظمة المعقدة الناشئة مع رفاهية الإنسان؟

تُظهر الأسواق المالية أن الأنظمة المعقدة قد تكون مفيدة ومتقلبة في آنٍ واحد. فهي تُنسق السلوك على نطاق واسع، ولكنها تُولّد أيضًا فقاعات وانهيارات وعدم مساواة واستغلالًا للثغرات التنظيمية ومخاطر نظامية. والدرس المستفاد للذكاء الاصطناعي ليس أن الأسواق جيدة أو سيئة، بل أن الأنظمة الناشئة تحتاج إلى أكثر من مجرد قواعد تحكم الأفراد. فتصميم بنية هذا النظام له آثار عميقة، سواء من حيث النتائج أو من حيث كيفية فهمنا لهذا النظام نفسه في نهاية المطاف.

جميع الآراء والأخبار والأبحاث والتحليلات والأسعار والمعلومات الأخرى تُقدَّم كتعليق عام على السوق، وليست نصيحة استثمارية، ولا يُضمن تحقيق جميع النتائج المحتملة المذكورة. قد تكون المعلومات مستقاة من مصادر متاحة للجمهور، أو تقارير الشركات، أو أبحاث شخصية، أو استطلاعات رأي. الأداء السابق لا يُشير إلى الأداء المستقبلي. ينطوي التداول على مخاطر خسارة رأس المال. الخدمة متاحة للعملاء المحترفين فقط.

مراجع:

لم تكن فيليبا فوت أول من أشار إلى هذه المشكلة، لكن صياغتها هي التي تغلغلت في الخطاب الشعبي. انظر: فيليبا فوت، “مشكلة الإجهاض ومبدأ التأثير المزدوج”، مجلة أكسفورد، 1967

[ii] كما يشير تقرير لجنة الأخلاقيات الألمانية حول ” القيادة الآلية والمتصلة ” (2017): ” صحيح أن السائق البشري يتصرف بشكل غير قانوني إذا تسبب في وفاة شخص في حالة طارئة لإنقاذ حياة شخص أو أكثر، ولكنه لا يُعتبر بالضرورة مذنباً. فمثل هذه الأحكام القانونية، التي تُصدر بعد وقوع الحادث مع مراعاة الظروف الخاصة ، لا يمكن تحويلها بسهولة إلى تقييمات عامة/مجردة مسبقة، وبالتالي لا يمكن تحويلها إلى أنشطة برمجية مقابلة .”

[3] نعوم كولت وآخرون، “التوافق القانوني من أجل الذكاء الاصطناعي الآمن والأخلاقي”، المعاملات المتعلقة بأبحاث التعلم الآلي / arXiv، 2026، https://doi.org/10.48550/arXiv.2601.04175.

[رابعاً] كولت وآخرون، ص21

[v] كولت وآخرون، ص 23