بقلم إريك أودوتي، رئيس قسم التقارير التنظيمية في مجموعة فينالتو

الذكاء الاصطناعي ليس قادمًا، بل هو حاضرٌ بالفعل. إنه يُعيد تشكيل طريقة عيشنا وعملنا واتخاذنا للقرارات. من العمليات التجارية إلى التفاعل الرقمي، أصبح الذكاء الاصطناعي عنصرًا أساسيًا في الاقتصاد الحديث. إنه ليس مجرد موضة عابرة، بل تشير الأدلة إلى أن الذكاء الاصطناعي يمتلك القدرة على إحداث تحول جذري في الخدمات المالية. الشركات التي لا تتكيف لن تتخلف عن الركب فحسب، بل ستفقد أهميتها في سوقٍ يُحدد فيه الذكاء، البشري والاصطناعي على حد سواء، الفائزين.

والحقيقة هي أن الناس يستخدمون الذكاء الاصطناعي بالفعل في قطاعات متعددة. ففي قطاع الخدمات المالية، يوفر الذكاء الاصطناعي أدوات متطورة لإدارة المخاطر، وأتمتة الامتثال، وإعداد التقارير التنظيمية.

تتخذ الهيئات التنظيمية المالية بالفعل خطوات للاستعداد لمستقبل الذكاء الاصطناعي. وقد اتخذت كل من هيئة السلوك المالي (FCA) وهيئة التنظيم الاحترازي (PRA) خطوات استباقية لتوفير بعض التوجيهات بشأن الإشراف على الذكاء الاصطناعي، كما أن البيئة التنظيمية تتكيف مع الفرص والمخاطر التي يطرحها الذكاء الاصطناعي.

يحتاج قادة الأعمال إلى ضمان مواكبة استراتيجياتهم الداخلية لهذا الواقع.

استخدم ولكن تحقق

باعتبارها تقنية متطورة وذات إمكانات هائلة لإحداث تغيير جذري، تركزت معظم المخاوف المحيطة بالذكاء الاصطناعي على فقدان الوظائف، بل وحتى خطر اندثار فئات وظيفية بأكملها. لكن ثمة منظور أكثر دقة للتفكير في الأتمتة والتوظيف. فكما أضفت الروبوتات الدقة والاتساق إلى صناعة السيارات، يمكن للذكاء الاصطناعي أن يعزز جودة وكفاءة العديد من الصناعات. إن إسناد المهام المتكررة والمستهلكة للوقت إلى الذكاء الاصطناعي يُمكّن البشر من التركيز على الابتكار والإبداع وحل المشكلات الاستراتيجي. وبعبارة أخرى، مع وجود الإطار المناسب، يمتلك الذكاء الاصطناعي القدرة على تحسين بيئة عملنا، مما يجعل حياتنا العملية اليومية أكثر إنتاجية ومعنى.

كثيراً ما يفترض المديرون أن كل شيء على ما يرام طالما أن الذكاء الاصطناعي يحقق النتائج المرجوة. إلا أن الذكاء الاصطناعي ينطوي أيضاً على مخاطر جسيمة. فالنتائج التي لا تُفهم آلية اتخاذ نموذج الذكاء الاصطناعي لقراراته تُولّد ثقة زائفة.

من المهم الإشارة إلى وجود اختلافات جوهرية بين كيفية معالجة الذكاء الاصطناعي والبشر للمعلومات. فعلى سبيل المثال، يتعامل الذكاء الاصطناعي مع التعرف على الأنماط بطريقة تختلف اختلافًا جذريًا عن الحدس البشري. فهو لا يعتمد على الحدس الفطري أو بعض المصادفات، بل على تحليل مجموعات بيانات ضخمة للكشف عن الأنماط والاتجاهات المتسقة. ويمكن لخوارزميات كشف الشذوذ أن تُشير إلى البيانات المفقودة، والمشكلات المتكررة، وعيوب الافتراضات التي قد تمر دون ملاحظة لولا ذلك.

مع ذلك، فإن الذكاء الاصطناعي ليس معصوماً من الخطأ، وفهم حدوده لا يقل أهمية عن إدراك إمكانياته. في نهاية المطاف، أنت تعتمد في تحقيق أي نتيجة تسعى إليها على عملية قد لا تفهمها تماماً.

بلاك بوكس ​​بلوز

على الرغم من كل ما يحمله الذكاء الاصطناعي من وعود، إلا أنه ينطوي على مخاطر جوهرية لا يمكن إدارتها باستخدام أطر الحوكمة التقليدية. ثمة مخاطر حقيقية في الاعتماد على أنظمة مبهمة تُنتج نتائج دون أي شفافية حول كيفية التوصل إليها. بدايةً، قد يكون الذكاء الاصطناعي مخطئًا ببساطة. فهو لا يقوم بالسحر، بل يستخلص استنتاجات من البيانات، وهذه الاستنتاجات لا تكون موثوقة إلا بقدر موثوقية البيانات والنماذج التي بُنيت عليها. قد تُستخلص هذه الاستنتاجات من مجموعات بيانات ضخمة وتُنفذ بسرعة مذهلة، لكن السرعة والحجم لا يضمنان الدقة أو سلامة الاستدلال.

بدون فهم كيفية عمل النموذج، نضطر إلى الاعتماد على مخرجات لا يمكننا التحقق منها بشكل صحيح. وهذا ليس موقفاً مستداماً أو مسؤولاً، خاصة في قطاعات مثل الخدمات المالية، حيث تترتب على القرارات عواقب وخيمة.

يجب أن تكون أنظمة الذكاء الاصطناعي التي تؤثر على قرارات الأعمال أو القرارات التنظيمية قابلة للتفسير، ليس فقط للفرق الداخلية، بل أيضًا للمدققين والجهات التنظيمية. وتُنظر إلى نماذج الصندوق الأسود، التي لا يمكن فيها توضيح منطق اتخاذ القرار بوضوح، بعين الريبة لأسباب وجيهة. تحتاج الشركات إلى أطر عمل للتفسير تتناسب مع تعقيد ومخاطر النماذج التي تستخدمها. لهذا السبب، يُشجع على تطبيق مبدأ “التدخل البشري” في التطبيقات عالية المخاطر، لضمان إمكانية تصعيد القرارات أو تجاوزها عند الضرورة.

بل والأهم من ذلك، أن الذكاء الاصطناعي ليس بمنأى عن التحيز. فكل نموذج يُدرَّب على بيانات، وإذا كانت هذه البيانات تعكس تحيزًا بشريًا أو عدم مساواة هيكلية، فإن الذكاء الاصطناعي سيستوعب هذه الأنماط ويكررها، غالبًا على نطاق واسع ودون أن يُكتشف ذلك. وهذا قد يؤدي إلى نتائج مشوهة، وأحيانًا ضارة، قبل أن يدرك أحد وجود مشكلة.

الأتمتة والمساءلة

ثمّة مسألة أخرى تتعلق بالمساءلة. ففي الخدمات المالية، لا تُعدّ المساءلة خياراً، بل هي أساس الثقة عند استخدام الذكاء الاصطناعي. ويُتوقع من الشركات تطبيق أطر حوكمة متينة تغطي دورة حياة نموذج الذكاء الاصطناعي بأكملها، بدءاً من التطوير والتحقق، مروراً بالنشر والمراقبة، وصولاً إلى إيقافه نهائياً.

تُعدّ خطوط المساءلة الواضحة ضرورية، وتشمل مجلس الإدارة والإدارة العليا ولجان المخاطر ووظائف إدارة مخاطر النماذج. وتدعم الجهات التنظيمية استخدام أنظمة جرد النماذج لتتبع كيفية استخدام الذكاء الاصطناعي، ومن يملكه، وكيف يعمل، وكيف يُصنّف من حيث المخاطر.

في الوقت نفسه، يعمل المنظمون والمشرعون على وضع سياساتهم الخاصة بالذكاء الاصطناعي. ويتوقعون الشفافية، وإمكانية تتبع البيانات، وتحديد الأدوار والمسؤوليات بوضوح. إذا لم تتمكن شركة ما من شرح كيفية اتخاذ قرار ما أو تتبع البيانات التي استند إليها هذا القرار، فلن يُقبل ذلك كعذر في حالة ضعف الإبلاغ أو المخالفات التنظيمية. ويتزايد التدقيق التنظيمي بالفعل، وسيستمر في الازدياد، لا سيما في الحالات التي يؤثر فيها الذكاء الاصطناعي على حماية المستهلك.

الذكاء الاصطناعي المسؤول عملية مستمرة

باختصار، يُعدّ الذكاء الاصطناعي أداةً فعّالة قادرة على تحقيق قيمة وكفاءة عاليتين، ولكن بشرط استخدامه بحكمة وإدارته بمسؤولية. ويتعين على شركات الخدمات المالية اتخاذ خطوات مدروسة ومبنية على معلومات دقيقة لتوجيه كيفية تدريب الذكاء الاصطناعي واختباره واستخدامه في جميع عملياتها.

يجب أن تتسم جميع مراحل دورة حياة الذكاء الاصطناعي بالشفافية والمساءلة، بدءًا من جمع البيانات وتصميم النماذج، وصولًا إلى اتخاذ القرارات والتنفيذ. وهذا يعني عدم وجود أي غموض أو تعقيد. حتى أكثر الخوارزميات تطورًا يجب أن تكون قابلة للتفسير والتدقيق. وينطبق هذا سواءً قامت الشركة ببناء نماذجها الخاصة أو استخدمت حلولًا خارجية.

تُعد المراقبة المستمرة أمراً ضرورياً. تتطور أنظمة الذكاء الاصطناعي مع تغير مدخلاتها، وإذا لم تتم مراجعتها بانتظام، فقد يتفاقم الخطر دون أن يُلاحظ.

يُتيح هذا فرصًا ومخاطر في آنٍ واحد. أعتقد أننا سنشهد ظهور أدوار جديدة تُركز على أخلاقيات الذكاء الاصطناعي، واستراتيجية إدارة مخاطر الذكاء الاصطناعي، وهندسة الذكاء الاصطناعي الاستباقية. سيُصبح هؤلاء المتخصصون عنصرًا أساسيًا في كيفية تطبيق الشركات للأنظمة الذكية والإشراف عليها.

المستقبل الآن

أصبحت تقنيات الذكاء الاصطناعي جزءًا لا يتجزأ من العمل اليومي. وسواءً رغبت شركات الخدمات المالية بذلك أم لا، فمن المرجح أن يستخدم الموظفون أدوات الذكاء الاصطناعي بشكل أو بآخر. لذا، من الأهمية بمكان وضع سياسات واضحة وعملية لتفاعل الموظفين مع الذكاء الاصطناعي. فبدون هذه السياسات، لا تستطيع الشركات ضمان الاستخدام المسؤول، ولا حماية نفسها من التداعيات المتعلقة بسمعتها أو عملياتها أو متطلباتها التنظيمية.

حان الوقت لوضع استراتيجية، ومواءمتها مع السياسات، وتبني الذكاء الاصطناعي بثقة وحذر. السؤال ليس ما إذا كان الذكاء الاصطناعي سيحل محل البشر، بل ما إذا كان البشر سيتعلمون العمل معه. من يتقن هذا التعاون سيقود مستقبل التمويل.

جميع الآراء والأخبار والأبحاث والتحليلات والأسعار والمعلومات الأخرى تُقدَّم كتعليق عام على السوق، وليست نصيحة استثمارية، ولا يُضمن تحقيق جميع النتائج المحتملة المذكورة. قد تكون المعلومات مستقاة من مصادر متاحة للجمهور، أو تقارير الشركات، أو أبحاث شخصية، أو استطلاعات رأي. الأداء السابق لا يُشير إلى الأداء المستقبلي. ينطوي التداول على مخاطر خسارة رأس المال. الخدمة متاحة للعملاء المحترفين فقط.