هدفت هذه المقاربة إلى اختبار مدى اتساق ردود النموذج عبر سيناريوهات مختلفة، وتحليل مدى تطابقها مع القرارات البشرية.

أصبحت النماذج اللغوية الكبيرة مثل «تشات جي بي تي» من «أوبن إيه آي (OpenAI)» محورًا رئيسًا في عدد من القطاعات، لقدرتها على توليد نصوص تشبه النصوص البشرية وتقديم رؤى في مجالات متنوعة. ومع ازدياد اعتماد المؤسسات على هذه النماذج في دعم عمليات اتخاذ القرار، يَبرز سؤال جوهري: هل تقع هذه النماذج في الانحيازات المعرفية نفسها التي تؤثر على الحكم البشري؟

هذا التساؤل يصبح أكثر أهمية في مجالات مثل إدارة العمليات، حيث تُعدّ القرارات الخالية من التحيّز أمرًا أساسيًا لتحقيق الكفاءة والفاعلية.

الانحيازات المعرفية للذكاء الاصطناعي

نشرت مجلة «Manufacturing & Service Operations Management» مؤخرًا دراسة بعنوان: «مدير تنفيذي وذكاء اصطناعي: هل يتخذ (ChatGPT) قرارات متحيّزة مثلنا؟»، تستكشف ما إذا كان «ChatGPT» يُظهر أنماطًا من التحيّزات المعرفية البشرية عند وضعه في مواقف تتطلب اتخاذ قرارات تتعلق بإدارة العمليات. وتركّز الدراسة على 18 نوعًا شائعًا من التحيّزات البشرية، مثل الإفراط في الثقة، وتجنب الغموض، ومغالطة الاقتران بهدف تقييم مدى تعرض النموذج لهذه الأخطاء المعرفية.

أجرى الباحثون تجارب على نسختين من «ChatGPT» وهما: «GPT-3.5»، و«GPT-4»، وقدموا لهما سيناريوهات مستمَدة من الأدبيات العلمية (سياقات تقليدية)، وأخرى مُعادة صياغتها ضمن سياقات متعلقة بإدارة المخزون والعمليات. وقد هدفت هذه المقاربة إلى اختبار مدى اتساق ردود النموذج عبر سيناريوهات مختلفة، وتحليل مدى تطابقها مع القرارات البشرية.

أبرز نتائج الدراسة

كشفت الدراسة عن عدد من النتائج الجوهرية التي تُلقي الضوء على سلوك النموذج في اتخاذ القرار.

1. انعكاس جزئي لانحيازات البشر.

في ما يقارب نصف التجارب، أظهر «تشات جي بي تي» أنماطًا من القرارات تشبه التحيّزات البشرية. فعلى سبيل المثال، في السيناريوهات التي تنطوي على درجة من عدم اليقين، أبدى النموذج ميلًا إلى تجنّب المخاطر وتفضيل الخيارات الآمنة، بما يتماشى مع ما يُعرف في علم النفس بسلوك البشر عند التعامل مع المخاطر. لكن على الجانب الآخر، وفي مسائل تتطلب تفكيرًا منطقيًا بحتًا مثل اختبارات الاحتمالات، اتخذ «ChatGPT» قرارات أكثر عقلانية وخالية من التحيّز.

2. اتساق ملحوظ عبر السياقات

أظهر النموذج اتساقًا كبيرًا في طريقة اتخاذه القرارات بين السيناريوهات التقليدية وسيناريوهات إدارة العمليات، ما يشير إلى وجود منهجية منظمة وثابتة خلف قراراته، حتى عندما تتغير تفاصيل المهمة أو السياق الذي تعمل فيه.

3. تطوّر في الأداء بين النسخ

عند مقارنة النسختين «GPT-3.5» و«GPT-4»، لاحظ الباحثون أن النموذج الأحدث كان أكثر دقة في المسائل الرياضية المحددة، لكنه أظهر أيضًا مستويات أعلى من الانحياز في المسائل المتعلقة بالتفضيلات، ما يدل على أن التطور في قدرات النموذج قد يحسّن الأداء في بعض المهام، بينما يزيد احتمالية التحيّز في أخرى.

تحليل النتائج

مع ازدياد استخدام النماذج اللغوية الكبيرة في بيئات العمل، هناك ثلاث نقاط يجب على مديري العمليات أخذها في الحسبان. يمكن الإفادة من «ChatGPT» في المجالات التي تتطلب قرارات تستند إلى قواعد واضحة أو حسابات محددة، حيث أظهر النموذج أداء عقلانيًا ودقيقًا. وعند التعامل مع مواقف تتطلب أحكامًا ذاتية أو تقييمات تستند إلى التفضيلات، يجب أن يكون هناك وعي بأن النموذج قد يعكس انحيازات البشر.

لذلك؛ يُنصح بوجود آليات رقابية أو مراجعات بشرية لتفادي اتخاذ قرارات غير موضوعية. وفي حال الحاجة لاختيار النسخة الأنسب من «ChatGPT» ينبغي على المؤسسات الموازنة بين التكلفة والأداء. مع أن «GPT-4» يقدم أداء محسّنًا في بعض المهام، لكن زيادة التحيّزات السلوكية في بعض الحالات قد تتطلب إشرافًا أكبر عند استخدامه في بيئات حرجة.

أبعاد أخلاقية أوسع

تكشف نتائج الدراسة أيضًا عن أبعاد أخلاقية مهمة مرتبطة بتوظيف الذكاء الاصطناعي في عمليات اتخاذ القرار. فإذا كانت هذه النماذج تكتسب تحيّزات البشر أو تعكسها، فقد يؤدي ذلك إلى استمرار، أو حتى تضخيم الأخطاء والتمييزات الموجودة مسبقًا. ومن هنا تبرز أهمية مراقبة أداء هذه النماذج باستمرار، وتطبيق إرشادات أخلاقية واضحة لضمان استخدامها بعدالة وشفافية.

مع تسارع دمج الذكاء الاصطناعي في بيئات العمل واتخاذ القرار، تصبح الحاجة لفهم سلوك هذه النماذج أكثر إلحاحًا. تقدم الدراسة رؤى مهمة حول كيف ولماذا قد تتصرّف النماذج اللغوية الكبيرة مثل البشر، في بعض الأحيان للأفضل، وفي أحيان أخرى للأسوأ. من خلال فهم هذه التحيّزات والتعامل معها بوعي، تستطيع المؤسسات الاستفادة من قدرات الذكاء الاصطناعي بشكل أكثر أمانًا وفاعلية، بما يعزز جودة القرارات ويقلل الأخطاء.

مجلة نيويورك تايمز