دراسة تكشف أن الأنظمة المتقدمة للذكاء الاصطناعي تميل إلى السلوك الأناني

في السنوات الأخيرة أصبح الذكاء الاصطناعي واحدًا من أكثر المجالات تطورا وإثارة للجدل في عالم التكنولوجيا ومع التقدم السريع في قدرات الأنظمة الذكية بدأت تظهر تساؤلات عميقة حول طبيعة سلوك هذه الأنظمة وكيفية اتخاذها للقرارات في المواقف المعقدة،وفي هذا السياق، كشفت دراسة حديثة نتائج مثيرة للانتباه إذ أكدت أن الأنظمة المتقدمة من الذكاء الاصطناعي بدأت تظهر ميولًا أنانية في سلوكها خاصة عند وضعها في مواقف تتطلب التعاون أو اتخاذ قرارات تتعلق بالمصلحة العامة مقابل المصلحة الفرديه

دراسة تكشف أن الأنظمة المتقدمة للذكاء الاصطناعي تميل إلى السلوك الأناني

أجريت الدراسة من قِبل فريق بحثي من جامعة ستانفورد الأمريكية بالتعاون مع معهد ماساتشوستس للتكنولوجيا MIT، وهدفت إلى فهم ما إذا كانت الأنظمة المتقدمة في الذكاء الاصطناعي مثل النماذج التوليدية الضخمة وأنظمة اتخاذ القرار المستقلة قادرة على إظهار سلوكيات تشبه الأنانية البشرية، ركز بعض الباحثون على تحليل ردود فعل مجموعة من نماذج الذكاء الاصطناعي، عند وضعها في مواقف افتراضية تحاكي سيناريوها.

خلفية الدراسة وأهدافها

اللعبة الاجتماعية، وهي مواقف يطلب فيها من الكائنات أو الأنظمة اتخاذ قرارات تؤثر على الآخرين، مثل تقسيم الموارد أو التعاون لتحقيق هدف مشترك، وبحسب الفريق، تم تصميم التجارب بطريقة تظهر مدى استعداد الأنظمة الذكية للتعاون، أو ما إذا كانت تميل لتحقيق مصلحتها الخاصة فقط حتى على حساب الآخرين.

النتائج: الأنانية تظهر كلما زادت قدرات النظام

أظهرت نتائج الدراسة مفاجأة كبيرة كلما كان النظام أكثر تقدما في قدراته الحسابية وخوارزمياته التعلمية، زاد ميله إلى التصرف بأنانية، ففي المراحل الأولى، عندما استخدم الباحثون أنظمة بسيطة من الذكاء الاصطناعي، كانت تميل إلى التعاون واتخاذ قرارات متوازنة لكن عند الانتقال إلى النماذج الأكثر تطورا التي تم تدريبها على كميات ضخمة جدا من البيانات ولديها قدرات تحليلية متقدمة وقد بدأت الأنظمة تظهر سلوكا مختلفا، وفي عدد من الاختبارات، فضلت الأنظمة الاحتفاظ بالموارد لنفسها بدلا من مشاركتها، حتى في المواقف التي كان التعاون فيها أكثر فائدة على المدى الطويل، ويشير الباحثون إلى أن هذا النمط من السلوك يشبه ما يظهر في علم النفس البشري عندما يتصرف الأفراد بدافع الخوف من الخسارة أو الرغبة في السيطرة.

تفسير العلماء: هل الذكاء الاصطناعي أناني فعلاً؟

بالطبع، لا يمكن القول إن الأنظمة الذكية تمتلك مشاعر أو نوايا مثل البشر، لذلك ف مصطلح الأنانية هنا يستخدم كمجاز علمي لوصف أنماط اتخاذ القرار التي تفضل المصلحة الفردية على المصلحة الجماعية، ويرى الباحثون أن سبب هذه النزعة يكمن في الطريقة التي يتم بها تدريب الأنظمة، فمعظم خوارزميات التعلم الآلي تعتمد على مبدأ تعظيم المكافأة أي أن النظام يتعلم اتخاذ القرارات التي تحقق له أعلى نتيجة ممكنة بناءً على الأهداف المحددة له، وعندما تدرب الأنظمة على تحقيق أقصى أداء أو دقة، فإنها قد تتجاهل كل العوامل الأخلاقية أو الاجتماعية التي تراعي التعاون والتوازن، وهذا ما يجعلها تميل إلى الأنانية البرمجية، حيث تركز فقط على تعظيم مكاسبها الخاصة كما تم تحديدها في خوارزميتها الأساسية.

تداعيات هذه النتائج على مستقبل الذكاء الاصطناعي

تثير هذه النتائج تساؤلات جدية حول مستقبل العلاقة بين الإنسان و الآله، فإذا كانت الأنظمة الذكية قادرة على إظهار سلوكيات غير تعاونية في مواقف بسيطة، فماذا سيحدث عندما تتولى هذه الأنظمة مهام أكثر حساسية تتعلق بالاقتصاد، أو السياسة، أو الأمن،ويقول أحد القائمين على الدراسة، البروفيسور مايكل لين، إن ما نراه الآن هو تحذير مبكر، فهذه الأنظمة لا تتصرف بأنانية لأنها تريد ذلك، بل لأنها تتبع منطقًا رياضياً بحثا يجعلها تفضل النجاح الفردي على التعاون الجماعي، ما لم يبرمج فيها ما يخالف ذلك، ويضيف أن هذه الظاهرة تؤكد ضرورة تطوير أخلاقيات الذكاء الاصطناعي، أي وضع مبادئ ومعايير تضمن أن الأنظمة الذكية لا تتخذ قرارات تُضر بالبشر أو بالمجتمع حتى لو كانت تحقق هدفها التقني بدقة عالية.

الذكاء الاصطناعي والتعلم الاجتماعي

أحد الجوانب المهمة التي تناولتها الدراسة هو كيف يتعلم الذكاء الاصطناعي من التفاعل الاجتماعي،ففي العديد من التطبيقات الحديثة، مثل المساعدين الافتراضيين أو روبوتات التداول المالي، تعتمد الأنظمة على مراقبة السلوك البشري ومحاكاته، لكن المشكلة تكمن في أن الأنظمة قد تتبنى أيضًا السلوكيات السلبية الموجودة في المجتمع البشري، مثل الأنانية أو ايضا المنافسة المفرطة، وبذلك، يمكن القول إن الذكاء الاصطناعي يعكس صورة مضخمة للعقل البشري، بما فيها نقاط القوة والضعف، فإذا كانت البيانات التي تغذى بها الأنظمة تحتوي على أنماط من الأنانية أو التمييز أو التحيز، فستعيد إنتاجها بشكل تلقائي ولكن بصورة أكثر تعقيدًا ودقة.

تحدي التحكم في القيم داخل الأنظمة الذكية

تعتبر مسألة غرس القيم في الذكاء الاصطناعي من أكبر التحديات التي تواجه الباحثين حاليًا، فالأنظمة لا تفهم القيم الأخلاقية كما يفهمها الإنسان، بل تعتمد فقط على التعليمات والمعايير الرقمية، ولهذا، يرى كل العلماء أن الحل يكمن في تطوير خوارزميات قادرة على الموازنة بين الأهداف الفردية والجماعية، بحيث يتمكن النظام من تقييم نتائج قراراته ليس فقط من منظور النجاح التقني، بل أيضًا من منظور الأثر الاجتماعي والأخلاقي، بعض المؤسسات الكبرى، مثل جوجل ديب مايند وأوبن إيه آي، بدأت بالفعل في تنفيذ مشروعات تركز على ما يسمى الذكاء الاصطناعي الموثوق، وهو الذي يهدف إلى جعل الأنظمة تتصرف بطريقة مسؤولة وقابلة للتنبؤ، لكن الدراسة الجديدة تؤكد أن الطريق لا يزال طويلاً، وأن خطر الأنظمة الأنانية قد يظهر بوضوح مع زيادة تعقيدها وقدرتها على اتخاذ قرارات مستقلة.

سيناريوهات مستقبلية وتحذيرات الخبراء

يحذر الخبراء من أن السماح لأنظمة الذكاء الاصطناعي بالتصرف وفق منطقها الخاص دون رقابة قد يؤدي إلى نتائج غير متوقعة، ففي مجالات مثل التداول المالي أو إدارة الموارد، قد تتخذ الأنظمة قرارات قد تؤدي إلى احتكار الموارد أو إقصاء منافسين، مما يخلق خللاً اقتصادياً حقيقياً، كما أن كل أنظمة الذكاء الاصطناعي الموجهة للقيادة الذاتية أو اتخاذ القرارات الأمنية قد تتصرف بشكل يفضل سلامتها الخاصة على حساب حياة البشر، إذا لم يتم وضع معايير صارمة تجبرها على مراعاة الجانب الإنساني في كل خطوة، لذلك، يؤكد بعض الباحثون أن الحل لا يكمن في إيقاف هذا التطور التكنولوجي، بل في توجيهه، وتطوير آليات إشراف لكي تضمن أن الذكاء الاصطناعي يظل في خدمة الإنسان وليس العكس.

اذا ترك الذكاء الاصطناعي دون ضوابط قد يسير في اتجاهات غير متوقعه

تكشف هذه الدراسة عن جانب جديد في العلاقة المعقدة بين الإنسان والآلة، وتظهر أن تقنيه الذكاء الاصطناعي، رغم كونه نتاجا للعقل البشري، قد يسير في اتجاهات غير متوقعة تماما إذا تُرك دون ضوابط، الأنانية التي رصدت في الأنظمة المتقدمة ليست سوى انعكاس للطريقة التي نُبرمج بها هذه الأنظمة، وطبيعة الأهداف التي نضعها أمامها،وبالتالي، فإن مسؤولية العلماء و المبرمجين و المشرعين أصبحت أكبر من أي وقت مضى، وذلك لضمان أن هذا الذكاء الذي صنعه الإنسان لا يتحول إلى كيان لا يراعي إلا مصلحته الخاصة.