مجلة اتجاهات الابتكار الاجتماعي - العدد 19
الآلة لا تقترب وحدها
تخيّل أنك تتصل بجهة خدمية لتسأل عن مشكلة تخصك. يجيبك مساعد آلي بلغة مهذبة، ويعرض عليك قائمة من الخيارات، فيعطيك إجابة دقيقة عن سؤال لم تسأله. تعيد المحاولة، فيعيدك إلى القائمة نفسها. وبعد دقائق، تجد نفسك تكرر جملة واحدة بإلحاح: «أريد أن أتحدث إلى إنسان».
ثم تخيّل طبيبة في عيادة مزدحمة، كانت تقضي جزءاً كبيراً من وقت المريض في كتابة الملاحظات، وعينها على الشاشة طوال الوقت. ثم صار لديها مساعد ذكي يستمع إلى المحادثة ويعدّ مسودة التوثيق. لكن ذلك لم يحدث دون شروط: فقد أُبلغ المريض بأن المحادثة ستُسجَّل وكيف ستُستخدم، وكان له أن يرفض. وتُحفظ التسجيلات والبيانات الصحية بضوابط صارمة. ولا تُعتمد المسودة في الملف الطبي إلا بعد أن تراجعها الطبيبة وتصححها، لأنها تبقى المسؤولة عن كل كلمة فيه. وبهذه الشروط، استعادت الطبيبة دقائق صارت تنظر فيها إلى المريض، وتسمعه حتى النهاية.
التقنية في المشهدين متشابهة، بينما الأثر متعاكس. والفرق يكمن في قدرات الآلة وفي أسئلة تسبقها: ما الذي سلّمناه لها، وما الذي أبقيناه للإنسان، ومن يتحمل المسؤولية حين يقع الخطأ، وكيف تُستخدم الدقائق التي توفرها؟
من سؤال الاستبدال إلى سؤال الأدوار
يدور كثير من النقاش العام حول سؤال واحد: هل ستحل الآلة محل الإنسان؟ وهو سؤال يضعنا في معادلة صراع، ويخفي حقيقة أكثر تعقيداً تتمثل في أن بعض المهام ستُؤتمت فعلاً، وأن أدواراً كثيرة ستتغير، وأن السؤال المفيد يتعلق بتحديد أي المهام تُسلَّم للآلة، وبأي شروط، وتحت مسؤولية من.
ويقدم الباحث بن شنايدرمان، أحد رواد علم التفاعل بين الإنسان والحاسوب، إطاراً يساعد على هذا التفكير. فهو ينتقد النظرة التي ترى أن زيادة الأتمتة تعني بالضرورة تقليص دور الإنسان، ويقترح إطاراً ثنائي الأبعاد يمكن فيه الجمع بين مستوى عالٍ من الأتمتة ومستوى عالٍ من تحكم الإنسان. ويسمي هذا النهج الذكاء الاصطناعي المرتكز حول الإنسان، وغايته أن تعزز التقنية قدرات الناس وتمكّنهم..
ما تستطيعه الآلة وما لا تستطيعه
تولّد نماذج الذكاء الاصطناعي التوليدي إجاباتها من أنماط تعلمتها من بيانات ضخمة. ويمكن تزويدها بسياق محدد، كوثائق المؤسسة وإجراءاتها وبيانات المستخدم، فتحسن استخدامه في كثير من الأحيان. لكنها لا تملك خبرة معيشة بهذا السياق، فقد تخفق في تفسيره، أو تستخدمه في غير موضعه، أو تغفل عن تفصيل يعرفه أي إنسان عاش الموقف. وقد تنتج أحياناً ما يُعرف بالهلوسة، وهي معلومات تبدو مقنعة لكنها غير صحيحة.
وتشير إرشادات هيئة الخدمات الصحية الوطنية في إنجلترا بشأن أدوات التوثيق الصوتي الذكي إلى مخاطر من هذا النوع تتضمن أخطاء في التوثيق أو نقصاً فيه، وسوء تفسير للسياق السريري، والاعتماد المفرط على المخرجات أو ما يُعرف بتحيز الأتمتة، وهو ميل الإنسان إلى قبول ما تقترحه الآلة دون تدقيق كافٍ.
وحين تُستخدم هذه الأدوات دون منهجية، قد تنتج ما يمكن وصفه بصيغة تفسيرية مقترحة بالبرود الرقمي، وهي حلول متقنة الشكل تختزل الإنسان إلى بيانات، فيشعر الناس أنها غريبة عنهم.
خريطة لتوزيع العمل
لا تتساوى المهام في قابليتها للأتمتة. ويمكن تقسيمها إلى ثلاث فئات بالاستناد إلى ثلاثة أسئلة رئيسية: ما أثر القرار على حقوق الإنسان وحياته؟ هل يمكن التراجع عنه بسهولة إذا كان خاطئاً؟ وهل يحتاج إلى حكم إنساني وتقدير للظروف الخاصة؟
- الفئة الأولى: مهام تُسلَّم للآلة وتضم المهام المتكررة منخفضة الأثر التي يسهل تصحيح أخطائها، كالإجابة عن الأسئلة الشائعة، وتذكير المراجعين بمواعيدهم، وتصنيف الطلبات الواردة.
- الفئة الثانية: مهام تساعد فيها الآلة ويقرر الإنسان وتشمل المهام التي تحتاج إلى معالجة كميات كبيرة من المعلومات، لكن نتيجتها تمس حياة الناس، كإعداد مسودة توثيق طبي، أو تحليل آلاف الشكاوى لاكتشاف الأنماط، أو اقتراح أولويات الحالات، وهنا تقترح الآلة ويراجع الإنسان ويعتمد.
- الفئة الثالثة: مهام تبقى للإنسان وتتمثل في المهام التي تقوم على العلاقة والثقة والتقدير الأخلاقي، كمرافقة من يمر بأزمة، وإبلاغ الأخبار الصعبة، والبت في الحالات الاستثنائية، والقرارات التي يصعب التراجع عنها.
ويمكن وصف موقع الإنسان من النظام بثلاثة أنماط شائعة في أدبيات الأنظمة الآلية:
- النمط الأول الإنسان داخل الحلقة ويعني أن القرار لا يصدر إلا بعد موافقة إنسان.
- النمط الثاني الإنسان فوق الحلقة ويعني أن النظام يعمل وحده، لكن الإنسان يراقب ويستطيع التدخل وإيقافه.
- النمط الثالث الإنسان خارج الحلقة ويعني أن النظام يعمل دون إشراف مباشر، وهذا لا يصلح إلا للمهام منخفضة الأثر.
والقاعدة العملية تؤكد أنه كلما ارتفع أثر القرار على حياة الإنسان، اقترب موقع الإنسان من داخل الحلقة.
من التصميم الجيد إلى الحوكمة
التصميم الجيد شرط ضروري غير أنه غير كاف وحده. فقد يُصمَّم نظام بعناية، ثم يُستخدم بطريقة تهدم ما صُمم من أجله. ولهذا تحتاج المؤسسة إلى حوكمة تجعل التصميم الجيد ممكناً ومستمراً.
ويقدم إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتقنية في الولايات المتحدة أربع وظائف أساسية تتمثل في الحوكمة والتحديد والقياس والإدارة. وتشمل وظيفة الحوكمة تحديد الأدوار والمسؤوليات وخطوط التواصل، وتحميل القيادة التنفيذية مسؤولية قرارات المخاطر، وتحديد أدوار الإنسان في الإشراف على الأنظمة، وبناء ثقافة تشجع التفكير النقدي والإبلاغ عن الحوادث، وجمع الملاحظات من المتأثرين بالنظام خارج الفريق الذي طوّره.
وتنص توصية منظمة اليونسكو بشأن أخلاقيات الذكاء الاصطناعي على مبدأ الإشراف والقرار البشري الذي يضمن ألا تحل الأنظمة محل المسؤولية والمساءلة الإنسانية النهائية، إلى جانب الشفافية وقابلية التفسير والإنصاف وعدم التمييز.
وتتحول هذه المبادئ في المؤسسة إلى ممارسات واضحة:
- وجود مالك لكل نظام ليكون لكل نظام آلي شخص أو وحدة مسؤولة عنه بالاسم.
- إجراء مراجعة قبل الاعتماد تضمن ألا تُعتمد مخرجات الآلة في القرارات المؤثرة إلا بعد مراجعة إنسان مؤهل، كما تشترط الإرشادات الصحية البريطانية في التوثيق الطبي.
- حماية البيانات عبر تقييم أثر الأنظمة على الخصوصية قبل تشغيلها وتشفير البيانات وضبط الوصول إليها.
- إعلام المتأثرين ليعرف الناس متى يتعاملون مع آلة وما الذي يُسجَّل عنهم وليمتلكوا حق الاعتراض.
- مراقبة مستمرة تتضمن تدقيقاً دورياً لدقة المخرجات ووجود نظام للإبلاغ عن الأخطاء والحوادث.
- توفير طريق إلى إنسان يضمن أن يعرف كل متعامل مع النظام كيف يصل إلى موظف بشري.
الوقت الذي توفره الآلة: لمن؟
تعود بنا الطبيبة في مثالنا إلى سؤال مؤسسي لا يجيب عنه التصميم وحده، وهو ما ستفعله الإدارة بالدقائق التي وفرتها الآلة. هل ستُترك للطبيبة لتصغي أكثر إلى مرضاها، أم ستتحول إلى مزيد من المواعيد في اليوم نفسه؟
وتقدم تجربة تشغيلية واسعة مؤشراً على ما يمكن أن تحققه هذه الأدوات حين تُستخدم بعناية. فقد استخدم أطباء مجموعة بيرماننتي الطبية في شمال كاليفورنيا أداة توثيق صوتي ذكية في أكثر من مليوني ونصف مليون زيارة خلال عام تقريباً، ووفرت ما يعادل 1794 يوم عمل من وقت التوثيق. وقال 47% من المرضى إن طبيبهم صار ينظر إلى الحاسوب أقل خلال الزيارة، وأفاد 84% من الأطباء بأن الأداة أثرت إيجاباً في تواصلهم مع المرضى. لكن هذه النتائج تتعلق بتجربة مؤسسة محددة وسياقها، ولا تعني أن الأثر نفسه سيتكرر تلقائياً في كل مكان.
والأهم أن النتائج الإيجابية في التواصل مع المريض ليست نتيجة حتمية للتقنية، بل لقرار مؤسسي بأن يبقى الوقت الموفَّر في خدمة العلاقة. فإذا قاست الإدارة النجاح بعدد الحالات وحده، فستتحول الدقائق المستعادة إلى حالات إضافية، وتعود الطبيبة إلى الشاشة من جديد وبإيقاع أسرع. ولهذا تحتاج المؤسسة إلى قرارات صريحة:
- وضع سياسة معلنة للوقت الموفَّر تحدد فيها الإدارة كيفية استخدامه كتخصيص جزء منه للتواصل مع المرضى أو المراجعين.
- اعتماد مؤشرات تتجاوز الإنتاجية تقيس جودة التواصل ورضا المستفيدين ورفاه العاملين لا عدد الحالات وحده.
- إشراك العاملين ليشارك من يستخدمون النظام في تقرير كيفية إعادة توزيع وقتهم.
فالحوافز التي تضعها المؤسسة هي ما يحدد في النهاية إن كانت الآلة ستقرّب الإنسان من الإنسان أم ستسرّع عجلة العمل فقط.
كل شيء يُخلق مرتين
يقدم ستيفن كوفي مبدأً يصلح أساساً لتوزيع الأدوار يقضي بأن كل شيء يُخلق مرتين، مرة في الذهن حين نتصور الغاية والتصميم، ومرة في الواقع حين ننفذ ما تصورناه. وفي العمل مع الذكاء الاصطناعي، يبقى الخلق الأول المتمثل في تحديد الغاية والقيم ومن نخدم ولماذا مسؤولية الإنسان. أما الخلق الثاني المتمثل في توليد البدائل والنصوص والتحليلات بسرعة فيمكن أن تسهم فيه الآلة بقدر كبير.
إطار HUMAN: أسئلة لتوجيه التوزيع
يقدم دليل "الشريك الرقمي" الذي تم نشره في مؤتمر عن الابتكار والتحول الرقمي في العالم العربي عام 2026 إطاراً منهجياً يحمل اسم HUMAN يضع الإنسان في موقع الموجّه للتقنية. والإطار مقترح منهجي لم يُختبر بعد اختباراً ميدانياً منهجياً، ولذلك يُقدَّم بوصفه مجموعة أسئلة توجيهية يمكن تجربتها وتطويرها لا نموذجاً مثبتاً:
- حرف H يشير إلى السياق الإنساني ويعني هل فهمنا احتياجات الناس وظروفهم قبل اختيار الأداة؟
- حرف U يشير إلى المشكلة الجذرية ويتعلق بما إذا كانت الأداة تعالج جذر المشكلة أم أعراضها، ومن يقرر أي الأنماط التي تكشفها البيانات مهم وأيها مضلل؟
- حرف M يشير إلى الرسالة ويتساءل عن الأثر الذي نريده في حياة الناس ومن يحدده؟
- حرف A يشير إلى المنهجية ويتضمن تزويد الآلة بالسياق الكافي أو ما يمكن تسميته هندسة السياق بدلاً من الاكتفاء بصياغة الأوامر.
- حرف N يشير إلى الفروق الدقيقة ويتمثل في مراجعة المخرجات في ضوء الحدود الثقافية والقانونية والأخلاقية.
مثال افتراضي من بيئتنا: المساعد الذي يعرف حدود دوره
لنتخيل جهة حكومية تطلق مساعداً ذكياً يجيب عن أسئلة المراجعين. وقبل إطلاقه، توزع إدارتها العمل بوضوح حيث يتولى المساعد الأسئلة المتكررة ومتابعة حالة الطلبات بعدة لغات ولهجات، ويعدّ للموظف ملخصاً لكل حالة معقدة دون أن يقرر فيها، ويحوّل المواقف الإنسانية الحساسة كالوفاة أو المرض مباشرة إلى موظف بشري.
وتحدد الإدارة مسؤولاً بالاسم يراجع أداء المساعد دورياً، وسجلاً للحالات التي حوّلها، وعبارة واضحة في كل شاشة تنص على التحدث إلى موظف. وتقرر أيضاً كيفية استخدام الوقت الذي وفّره المساعد بحيث يتفرغ الموظفون للحالات المعقدة التي تحتاج إلى وقت أطول، لا أن يُقلَّص عددهم أو يُضاعف عبؤهم.
من منفّذ إلى موجّه
يغيّر هذا التوزيع دور المصمم والموظف معاً. فبدلاً من أن يكون منفذاً ينتج كل شيء بنفسه، يصبح موجّهاً يحتاج إلى ثلاث قدرات تتمثل في الحكم على جودة ما تنتجه الآلة وملاءمته الثقافية والأخلاقية، والربط بين مخرجاتها المتفرقة في تجربة متماسكة، ومراجعة المخرجات بعين ناقدة تقاوم تحيز الأتمتة. ويمكن تسمية هذه المهارة بوصفها مصطلحاً مقترحاً الذكاء التكاملي.
توزيع يناسب مجتمعاتنا
يطرح الذكاء الاصطناعي على منطقتنا سؤالاً إضافياً حول من يقرر ما يناسب مجتمعاتنا. فاستخدام أدوات صُممت في سياقات أخرى دون منهجية تضبطها قد يتحول إلى شكل من أشكال التبعية المعرفية. ولهذا ينبغي أن يبقى في يد الإنسان المحلي كل ما يتعلق بالسياق الثقافي وأولويات التنمية واللغة العربية الفصيحة والمحكية بأمثالها وتعابيرها.
الأدوار لا الاستبدال
لن تحسم التقنية وحدها شكل العلاقة بين الإنسان والآلة في مؤسساتنا. فبعض المهام ستنتقل إلى الآلة، وبعض الأدوار ستتغير، وستظهر أدوار جديدة. وما يحدد إن كان ذلك سيقرّب المؤسسات من الناس أم يبعدها عنهم يتمثل في ثلاثة أمور هي وضوح توزيع المهام، ومسؤولية إنسانية محددة عن كل قرار، وحوافز تجعل الوقت الذي توفره الآلة في خدمة العلاقة لا على حسابها.

