تخيل نظام ذكاء اصطناعي يعمل بكفاءة عالية منذ شهور. توصياته صحيحة في أغلب الأحيان، وقد أدرك الموظف الذي يراجعها أن التدقيق الشديد نادرًا ما يغير النتيجة. ثم يحدث أمر غير متوقع. يرتكب الذكاء الاصطناعي خطأً أو يعجز عن المتابعة، فيحتاج إلى تدخل بشري. يُتوقع من الموظف التدخل ويبقى مسؤولاً عن النتيجة.
لكن هل يعرف الموظف كيفية القيام بالمهمة؟
أنا أستاذ في نظم المعلومات الإدارية والمدير الأكاديمي لمركز الذكاء الاصطناعي التطبيقي وتحليلات الأعمال في جامعة دريكسل. في بحثي حول العلاقات بين الإنسان والذكاء الاصطناعي، أُطلق على هذا اسم "الخطر الكامن": احتمال أن يفقد الأفراد قدرات لا تزال مؤسساتهم تعتمد عليهم في ممارستها.
يمكن للذكاء الاصطناعي أن يستمر في الأداء الجيد بينما يقلّ تمكّن المشرفين عليه من ممارسة الحكم المستقل ويقلّ استعدادهم للتدخل. ويكمن الخطر عندما لا تزال المؤسسة تعتمد على تلك القدرة البشرية للتدخل، ولكنها لا تلاحظ ضعف هذه القدرة.
إن هذا القلق ليس جديداً تماماً. فمفهوم المخاطر الكامنة يستند إلى عقود من البحث في كيفية استجابة الناس للأتمتة. فعلى سبيل المثال، دراسات التحيز ضد الأتمتة أن الناس قد يغفلون عن بعض المشاكل أو يتبعون التوصيات الآلية حتى عندما تشير أدلة أخرى إلى عدم جدوى ذلك.
ما يختلف اليوم هو الدور الذي بدأ الذكاء الاصطناعي يلعبه في المؤسسات. فقد بدأ يتولى أجزاءً أكبر من التحليل واتخاذ القرارات التي كان يقوم بها البشر سابقاً.
مفارقة النجاح
كلما تطورت تقنيات الذكاء الاصطناعي، تغيرت طبيعة العمل البشري. فالعمل الذي كان يتطلب من الموظف تحليل المشكلة واتخاذ القرار، قد يُنجز الآن بواسطة الذكاء الاصطناعي، تاركًا للموظف مهمة مراجعة توصياته. لم يعد الموظف يؤدي العمل نفسه بمساعدة الذكاء الاصطناعي، بل تحول دوره من أداء العمل إلى الإشراف على ما يفعله الذكاء الاصطناعي.
بدأ هذا التحول بالفعل يُغيّر أساليب تدريب بعض الشركات لموظفيها. فعلى سبيل المثال، تُعيد شركة ديلويت، عملاق المحاسبة، تصميم برنامج تدريب الخريجين في مجال التدقيق ، حيث يتولى الذكاء الاصطناعي بعض الأعمال اليدوية التي كان يقوم بها المدققون المبتدئون. وتُدخل الشركة المحاكاة لتمكين المتدربين من تطوير مهاراتهم في اتخاذ القرارات التي سيحتاجونها عند انتقالهم إلى مهام أكثر تعقيدًا.
قبل أكثر من أربعة عقود، وصفت عالمة النفس المعرفي، ليزان بينبريدج، إحدى " مفارقات الأتمتة ": فمع تولي الأنظمة المزيد من العمل، بدلاً من تخفيف أعباء العمل على الأفراد، قد يجدون أنفسهم أمام تحديات جديدة في مراقبة هذه الأنظمة والتعامل مع المواقف غير الاعتيادية التي تعجز الأنظمة عن التعامل معها. وكشفت دراسات لاحقة عن مشكلة أخرى: فمع انخفاض مشاركة الأفراد في مهمة ما، قد يقل استعدادهم للتدخل عند الحاجة. وقد أطلق الباحثون على هذه الظاهرة اسم " مشكلة الأداء خارج الحلقة"
قد يؤثر هذا التراجع في المشاركة على أكثر من مجرد استعداد الشخص للتدخل، بل قد يغير القدرات المتاحة للمنظمة.
لا يصبح العمل المتبقي للأفراد بالضرورة أسهل، بل قد يصبح أصعب. في هذه الحالات، تبرز أهمية الخبرة والحكم المستقل. والنتيجة مفارقة: قد يُطلب من الأفراد ممارسة الحكم المستقل بوتيرة أقل، حتى مع ازدياد صعوبة الأحكام الموكلة إليهم.
مشكلة المساءلة
المساءلة بنفس سرعة تغير طبيعة العمل عند تطبيق أنظمة الذكاء الاصطناعي في المؤسسات. فقد يُشرف الموظف الآن على قرارات أكثر بكثير مما يتخذه بنفسه، مع بقائه مسؤولاً عن نتائجها. وقد لا تزال توقعات المؤسسة تعكس كيفية تقسيم العمل قبل أن يضطلع الذكاء الاصطناعي بدور أكبر. وبالتالي، قد ينتهي الأمر بالمؤسسة إلى محاسبة الأفراد على قرارات لا يملكون عليها سيطرة كبيرة.
يُؤدي هذا إلى عدم التوافق. تشير الأبحاث حول التحكم البشري الفعال إلى أن المسؤولية يجب أن تتناسب مع سلطة الشخص وقدرته على التصرف. قد يحتفظ الموظف بسلطة تجاوز توصية الذكاء الاصطناعي ويظل مسؤولاً عن النتيجة، ولكنه يفقد القدرة على القيام بذلك. وهكذا، قد تبدأ السلطة والمسؤولية والقدرة بالانفصال.
يصبح الخطر الكامن مشكلة في تصميم المؤسسة، وليس مجرد مشكلة في الأداء البشري.
مشكلة القياس
عادةً ما تقيّم المؤسسات العمليات المدعومة بالذكاء الاصطناعي بناءً على معايير مثل الدقة والإنتاجية. قد تبدو هذه الأرقام جيدة حتى مع تغير دور العنصر البشري. لنفترض أن الموظفين يتجاهلون توصيات الذكاء الاصطناعي بوتيرة أقل مع مرور الوقت. هل يُعدّ ذلك مؤشراً على تزايد الاعتماد عليه؟ ربما.
لكن هذا قد يعني أيضاً أن الذكاء الاصطناعي أصبح أكثر دقة، وبالتالي تقل الحاجة إلى التدخل. عدد حالات التجاوز وحدها إلى مدى استعداد الموظفين لممارسة تقديرهم الشخصي.
يكمن المفتاح في فهم كيفية تقسيم العمل بين البشر والذكاء الاصطناعي. ما هي القرارات التي انتقلت من البشر إلى الذكاء الاصطناعي؟ وما هي المسؤوليات التي لا تزال تقع على عاتق البشر؟ قد يؤدي النظر إلى أداء الموظف أو الذكاء الاصطناعي بشكل منفصل إلى إغفال التغيرات التي تطرأ بينهما.
مشكلة الحوكمة
كما أن الحوكمة التنظيمية - التي تحدد الأدوار والمسؤوليات - تتعرض لضغوط من الذكاء الاصطناعي.
قد يبقى شخص ما على اطلاع رسمي بنظام الذكاء الاصطناعي حتى مع تغير دوره الفعلي. إن تحديد أدوار الإنسان والذكاء الاصطناعي عند إطلاق النظام ليس سوى نقطة انطلاق. ومع تطور الذكاء الاصطناعي واعتياد الناس على استخدامه، من المرجح أن تتغير هذه الأدوار بمرور الوقت. ولا حرج في هذا التغيير.
تكمن المشكلة عندما تتغير العلاقة بين الإنسان والذكاء الاصطناعي دون أن تتغير الافتراضات المحيطة بها. من المهم للمؤسسات أن تسأل نفسها دوريًا: ما هي العلاقة التي صممناها بين الإنسان والذكاء الاصطناعي، وما هي العلاقة القائمة بيننا اليوم؟
باختصار، يجب أن تكون الحوكمة التنظيمية ديناميكية.
الحفاظ على الدعم البشري
ليس من الضروري الحفاظ على جميع القدرات البشرية. فإذا كان الذكاء الاصطناعي قادرًا على أداء مهمة ما بكفاءة، فلا داعي لإلزام البشر بالاستمرار في أداء العمل نفسه. ويتعين على المؤسسات تحديد القدرات التي لا تزال تتوقع من الموظفين امتلاكها عند الحاجة إلى التقييم البشري. وإذا كان من المحتمل أن يُطلب من البشر استخدام قدرة معينة، فيجب الحفاظ عليها.
لا يُعدّ الإشراف على الذكاء الاصطناعي بمثابة ممارسة الحكم المستقل. فإذا كان الأفراد نادرًا ما يتخذون القرارات بأنفسهم، فلا يمكن للمؤسسة أن تفترض جاهزيتهم عند الحاجة. ومن طرق اختبار ذلك، مطالبة الموظفين بين الحين والآخر باتخاذ قرار دون الاطلاع أولًا على توصية الذكاء الاصطناعي. تحتاج المؤسسة إلى التأكد من أن الدعم البشري الذي تعتمد عليه سيكون فعالًا عند الحاجة.
مع ازدياد اعتماد الذكاء الاصطناعي على المهام، سيقل استخدام بعض القدرات البشرية حتماً. قد تفقد بعضها أهميتها، بينما قد تظل أخرى ضرورية حتى بعد بلوغ الذكاء الاصطناعي حدوده. يكمن التحدي في معرفة الفرق واتخاذ القرار المناسب بوعي.
بالنسبة لي، السؤال المحوري هو: ما هي القدرات البشرية التي لا تزال المنظمة تعتمد عليها، وهل ستكون موجودة عند الحاجة؟
موروجان أنانداراجان، أستاذ علوم القرار ونظم إدارة المعلومات في جامعة دريكسل.
نُشرت هذه المقالة مُجددًا من موقع "ذا كونفرسيشن" بموجب ترخيص "كرييتف كومنز". اقرأ المقالة الأصلية.
