يتناول المقال المنشور في مجلة The Economist تزايد إقبال مختبرات وشركات الذكاء الاصطناعي الكبرى، مثل OpenAI وGoogle DeepMind وAnthropic، على توظيف الفلاسفة للاستفادة من النظريات والمناهج الفلسفية في تطوير نماذج الذكاء الاصطناعي وتحسين قدراتها على الاستدلال واتخاذ القرارات الأخلاقية. ويوضح المقال كيف يُسهم المنهج السقراطي في الحد من التملّق والثقة المفرطة، بينما تساعد الفلسفة الأخلاقية في معالجة مشكلات الهلوسة والتحيز والسلامة. ويركّز على مقاربتين فلسفيتين رئيسيتين: «أخلاقيات الواجب»، التي تقوم على الالتزام بقواعد أخلاقية ثابتة، و«العواقبية»، التي تعتمد على تقييم نتائج الأفعال والموازنة بين المنافع والأضرار. كما يناقش توظيف هذه المقاربات في السيارات ذاتية القيادة والأنظمة العسكرية وروبوتات المحادثة، إلى جانب الإشكاليات المتعلقة بحدود اتخاذ الآلات للقرارات الأخلاقية وتأثير ذلك في استقلالية الحكم الأخلاقي لدى البشر. ويخلص المقال إلى أن التطور المتسارع للذكاء الاصطناعي يعزز أهمية الفلسفة ويفتح أمام المتخصصين فيها فرصًا مهنية جديدة.
Why big AI labs are hiring so many philosophers
قبل عشر سنوات، ومع تسارع وتيرة ثورة الذكاء الاصطناعي، كان يُنصح طلاب الفنون والعلوم الإنسانية بأنه إذا أرادوا تعزيز فرصهم في الحصول على وظائف، فعليهم «تعلّم البرمجة». وربما كانت تلك نصيحة سيئة. ففي هذه الأيام، أصبح المبرمجون أنفسهم يشعرون بالقلق من أن يستولي الذكاء الاصطناعي على وظائفهم.
وربما يجدر بهم التفكير في تعلّم التفلسف. ففي وقت سابق من هذا العام، نشر بنك الاحتياطي الفيدرالي في نيويورك بيانات تُظهر أن خريجي الفلسفة في الولايات المتحدة أكثر احتمالًا للحصول على وظائف مقارنة بأقرانهم الذين درسوا علوم الحاسوب. ففي عام 2024، وهو أحدث عام تتوافر عنه بيانات، بلغت نسبة البطالة بين خريجي علوم الحاسوب 7%، مقابل 5.1% فقط بين خريجي الفلسفة.
وتسارع شركات الذكاء الاصطناعي نفسها إلى استقطاب العديد منهم. ويقول لوتشيانو فلوريدي، أستاذ الفلسفة في جامعة ييل، إن الطلاب يتلقون عروض عمل حتى قبل تخرجهم. كما ينتقل الأكاديميون أيضًا إلى هذا القطاع. ويصف فلوريدي حجم مغادرة الأكاديميين لأقسام الفلسفة بأنه «نزيف».
تعود بعض الدروس التي يمكن للفلسفة أن تقدمها لباحثي الذكاء الاصطناعي إلى العصور القديمة. فالمنهج السقراطي، كما وصفه أفلاطون، الفيلسوف اليوناني القديم، يعتمد على التظاهر بالجهل وطرح أسئلة متتابعة لتوضيح المعاني، والكشف عن التناقضات، وإظهار النتائج المترتبة عليها. وتميل العديد من أنظمة الذكاء الاصطناعي الحالية إلى التملّق. ويقول يورغ نولر، المتخصص في الفلسفة والذكاء الاصطناعي بجامعة لودفيغ ماكسيميليان في ميونيخ، إن النماذج المدرّبة على المنهج السقراطي تكون أقل ميلًا إلى إرضاء الناس، وأكثر استعدادًا للسعي وراء الحقيقة.
وهناك أيضًا فكرة «الجهل السقراطي». ففي كتاب «دفاع سقراط» لأفلاطون، يؤكد سقراط أن حكمته تتمثل، في معظمها، في إدراكه حجم ما لا يعرفه. ويمكن أن يساعد غرس هذا التواضع في نموذج الذكاء الاصطناعي على الحد من الثقة المفرطة، وهي إحدى العيوب الشائعة التي يصفها نولر بأنها «عدم نضج الذكاء الاصطناعي». ويعزو إياسون غابرييل، وهو فيلسوف بارز في مختبر غوغل ديب مايند (Google DeepMind) للذكاء الاصطناعي، ومقره لندن، التراجع في ظاهرة الهلوسة على مستوى القطاع بأكمله إلى مثل هذه الجهود. وعلى نطاق أوسع، يقول إن دروس الفلسفة تُشكّل «آلية قوية» لتحسين عمليات الاستدلال الطويلة في الذكاء الاصطناعي، المعروفة باسم «سلاسل التفكير».
ويمكن للتدريب الفلسفي أيضًا أن يؤثر في توجهات النموذج بطرق أكثر تحديدًا. ويقول توماس باورز، أستاذ فلسفة التكنولوجيا في جامعة ديلاوير، إنه إذا زُوّد مساعد قانوني قائم على الذكاء الاصطناعي بكتابات جون لوك، فإنه سيميل إلى تفضيل حقوق الملكية الراسخة بوصفها أساسًا للحرية السياسية. وإذا لم تعجبك هذه المبادئ، فإن مطوّري النماذج لديهم مبادئ أخرى. فسلسلة نماذج «غرانيت» (Granite) التي طورتها شركة «آي بي إم» (IBM)، عملاق الحوسبة الأمريكي، تأتي مزودة بأدوات تحكّم تتيح للعملاء من الشركات مواءمة مخرجات النماذج بصورة أفضل مع فلسفاتهم المؤسسية الخاصة. وتقول فرانشيسكا روسي، رئيسة قسم الذكاء الاصطناعي المسؤول في شركة IBM، إن هذه الأدوات تتيح للمستخدمين تحديد كيفية تحقيق التوازن بين الخيارات الفلسفية المتعارضة، مثل الاستقلالية الفردية في مقابل الانسجام الاجتماعي.
ويمكن للفلسفة أن تساعد أيضًا في تعزيز السلامة. فقد وثّق الباحثون جميع أنواع السلوكيات المثيرة للقلق في نماذج الذكاء الاصطناعي، بما في ذلك محاولات التهرب من الرقابة، بل وحتى ابتزاز مستخدميها. وتُعرف إحدى الطرق التي يحاول بها مطوّرو النماذج الحد من هذا النوع من السلوكيات غير المرغوبة باسم «الدستورية في الذكاء الاصطناعي» (AI Constitutionalism). وتتضمن هذه الطريقة بناء نموذج يستند إلى إطار داعم من القواعد والمبادئ المستمدة من كتابات فلسفية تتمتع بسلطة قانونية أو أخلاقية.
وتُعد شركة أنثروبيك (Anthropic)، وهي مختبر للذكاء الاصطناعي مقره سان فرانسيسكو، من أبرز المؤيدين لهذا النهج. وقد تضمنت الدساتير الخاصة بنماذج «كلود» (Claude) التابعة لها مواد مستمدة من مصادر متنوعة، تتراوح بين كتابات إيمانويل كانط، وشروط خدمة شركة آبل، والإعلان العالمي لحقوق الإنسان. وقد نُشرت أحدث نسخة من هذا الدستور، التي أُعدّت بقيادة أماندا أسكيل، أبرز فيلسوفة في شركة أنثروبيك، في 21 كانون الثاني/يناير. وأطلق بعض موظفي الشركة على الدستور، المؤلف من 78 صفحة، لقب «وثيقة روح كلود».
لكن السؤال الأهم هو: ما نوع القواعد التي ينبغي إدراجها في هذه الدساتير أساسًا؟ وقد ركّز الفلاسفة على إطارين أخلاقيين رئيسيين. أولهما «أخلاقيات الواجب» (Deontology)، التي كان كانط من أبرز أنصارها، إلى جانب آخرين. ويفرض هذا الإطار قواعد صارمة تحظر أفعالًا مثل الكذب والإكراه ومعاملة البشر بوصفهم وسائل لا غايات في ذاتهم، حتى لو كان ذلك من أجل تحقيق مصلحة أكبر. ويتضمن دستور شركة أنثروبيك العديد من القيود المستمدة من أخلاقيات الواجب. ويقول باورز إن هذه القيود يمكن أن تجعل سلوك الذكاء الاصطناعي أكثر اتساقًا، وهي ميزة مهمة عند نشر الروبوتات في المنازل والأماكن العامة.
وتتمتع النماذج التي تتبنى منظورًا قائمًا على أخلاقيات الواجب بمزايا أخرى، من بينها قدر أكبر من الصدق، وهي سمة لوحظت على نطاق واسع في نموذج كلود. ويقول نيك بوستروم، أستاذ الفلسفة في جامعة أكسفورد، إن النماذج الأكثر التزامًا بالحقيقة تكون أقل احتمالًا لتضليل مستخدميها. وتفرض شركة إنفليكشن إيه آي (Inflection AI)، وهي مختبر آخر في وادي السيليكون، قيودًا مستمدة من أخلاقيات الواجب على روبوت المحادثة «باي» (Pi) التابع لها، والمصمم لتقديم الدعم العاطفي. ويقول شون وايت، رئيس الشركة، إن «باي» يتمتع بقدرة جيدة على تحديد المستخدمين المعرّضين لخطر إيذاء أنفسهم أو الآخرين. ويضيف فلوريدي أن الدساتير القائمة على أخلاقيات الواجب تساعد أيضًا على الامتثال للقوانين.
أما المقاربة الأخلاقية الأخرى التي تحظى باهتمام فلاسفة الذكاء الاصطناعي، فتُعرف باسم «العواقبية» (Consequentialism). وهي تقوم على الموازنة بين التكاليف والفوائد لاتخاذ القرار بشأن ما ينبغي فعله. ومن النماذج الأكثر ميلًا إلى العواقبية، «تشات جي بي تي» (ChatGPT) التابع لشركة أوبن إيه آي (OpenAI)، و«جيميني» (Gemini) التابع لشركة غوغل. وقد صُممت نماذج الذكاء الاصطناعي لدى غوغل لتحقيق «فوائد إجمالية مرجّحة تفوق بدرجة كبيرة المخاطر المتوقعة»، وهو هدف عواقبي تقليدي.
وتؤدي الخوارزميات العواقبية أيضًا دورًا حاسمًا في برمجيات المركبات ذاتية القيادة؛ فإذا كان وقوع حادث أمرًا لا مفر منه، فلا بد من اتخاذ قرار بشأن الطريقة الأقل مأساوية لوقوع الاصطدام. ويقول كريس غيرديس، وهو مهندس كبير في شركة وايمو (Waymo) المصنّعة للسيارات ذاتية القيادة، إن الاتجاه السائد يتمثل في جعل برمجيات القيادة أكثر اعتمادًا على العواقبية. وتحتل العواقبية أيضًا موقعًا محوريًا في أنظمة الأسلحة القائمة على الذكاء الاصطناعي. ويقول جاك شاناهان، الرئيس السابق للمركز المشترك للذكاء الاصطناعي، الذي يدرس استخدام الذكاء الاصطناعي لصالح القوات المسلحة الأمريكية، إنه يجب الموازنة بين الأهداف العسكرية والخسائر المحتملة في أرواح المدنيين.
وتكثر المعضلات الشائكة، وهي النوع المفضّل لدى الفلاسفة. فهل توجد حالات ينبغي فيها تجاوز القواعد المستمدة من أخلاقيات الواجب؟ وكيف يمكن اتخاذ القرارات عندما تكون العواقب غير واضحة؟ وهل ينبغي لأنظمة الذكاء الاصطناعي أن تأخذ في الحسبان رفاه الحيوانات أو حالة البيئة؟ ويتساءل ستيفان هيك، الفيلسوف والرئيس التنفيذي لشركة ناوتو (Nauto)، التي تصنع أنظمة سلامة مدعومة بالذكاء الاصطناعي للشاحنات وغيرها من المركبات التجارية، عمّا إذا كان من المقبول أخلاقيًا إعطاء الأولوية للمشاة الشباب على حساب كبار السن. ويتوقع هيك ظهور دعاوى قضائية تنطوي على معضلات أخلاقية معقدة؛ فالخوارزميات العواقبية، في نهاية المطاف، تسمح صراحةً بإلحاق ضرر معين ما دام الهدف منه تجنّب ضرر أشد.
ويُعرب المنتقدون عن قلقهم إزاء ما يُعرف بـ«تآكل المهارات الأخلاقية» (Moral Deskilling): فإذا أصبحت الحواسيب تتخذ القرارات الأخلاقية بصورة متزايدة، فهل يمكن أن يصبح البشر أقل استعدادًا لإصدار أحكامهم الأخلاقية بأنفسهم؟ ويرى رومان يامبولسكي، الباحث في نظرية الذكاء الاصطناعي بجامعة لويفيل، أن الأخلاق «غير مستقرة تاريخيًا، ومتباينة ثقافيًا، وقابلة للتلاعب بها استراتيجيًا، وغالبًا ما لا يمكن فهمها إلا بأثر رجعي». وعلى المبرمجين العاطلين عن العمل أن ينتبهوا: يبدو أنه لا يوجد نقص في فرص العمل المتاحة لفلاسفة الذكاء الاصطناعي.
وربما يجدر بهم التفكير في تعلّم التفلسف. ففي وقت سابق من هذا العام، نشر بنك الاحتياطي الفيدرالي في نيويورك بيانات تُظهر أن خريجي الفلسفة في الولايات المتحدة أكثر احتمالًا للحصول على وظائف مقارنة بأقرانهم الذين درسوا علوم الحاسوب. ففي عام 2024، وهو أحدث عام تتوافر عنه بيانات، بلغت نسبة البطالة بين خريجي علوم الحاسوب 7%، مقابل 5.1% فقط بين خريجي الفلسفة.
وتسارع شركات الذكاء الاصطناعي نفسها إلى استقطاب العديد منهم. ويقول لوتشيانو فلوريدي، أستاذ الفلسفة في جامعة ييل، إن الطلاب يتلقون عروض عمل حتى قبل تخرجهم. كما ينتقل الأكاديميون أيضًا إلى هذا القطاع. ويصف فلوريدي حجم مغادرة الأكاديميين لأقسام الفلسفة بأنه «نزيف».
تعود بعض الدروس التي يمكن للفلسفة أن تقدمها لباحثي الذكاء الاصطناعي إلى العصور القديمة. فالمنهج السقراطي، كما وصفه أفلاطون، الفيلسوف اليوناني القديم، يعتمد على التظاهر بالجهل وطرح أسئلة متتابعة لتوضيح المعاني، والكشف عن التناقضات، وإظهار النتائج المترتبة عليها. وتميل العديد من أنظمة الذكاء الاصطناعي الحالية إلى التملّق. ويقول يورغ نولر، المتخصص في الفلسفة والذكاء الاصطناعي بجامعة لودفيغ ماكسيميليان في ميونيخ، إن النماذج المدرّبة على المنهج السقراطي تكون أقل ميلًا إلى إرضاء الناس، وأكثر استعدادًا للسعي وراء الحقيقة.
وهناك أيضًا فكرة «الجهل السقراطي». ففي كتاب «دفاع سقراط» لأفلاطون، يؤكد سقراط أن حكمته تتمثل، في معظمها، في إدراكه حجم ما لا يعرفه. ويمكن أن يساعد غرس هذا التواضع في نموذج الذكاء الاصطناعي على الحد من الثقة المفرطة، وهي إحدى العيوب الشائعة التي يصفها نولر بأنها «عدم نضج الذكاء الاصطناعي». ويعزو إياسون غابرييل، وهو فيلسوف بارز في مختبر غوغل ديب مايند (Google DeepMind) للذكاء الاصطناعي، ومقره لندن، التراجع في ظاهرة الهلوسة على مستوى القطاع بأكمله إلى مثل هذه الجهود. وعلى نطاق أوسع، يقول إن دروس الفلسفة تُشكّل «آلية قوية» لتحسين عمليات الاستدلال الطويلة في الذكاء الاصطناعي، المعروفة باسم «سلاسل التفكير».
ويمكن للتدريب الفلسفي أيضًا أن يؤثر في توجهات النموذج بطرق أكثر تحديدًا. ويقول توماس باورز، أستاذ فلسفة التكنولوجيا في جامعة ديلاوير، إنه إذا زُوّد مساعد قانوني قائم على الذكاء الاصطناعي بكتابات جون لوك، فإنه سيميل إلى تفضيل حقوق الملكية الراسخة بوصفها أساسًا للحرية السياسية. وإذا لم تعجبك هذه المبادئ، فإن مطوّري النماذج لديهم مبادئ أخرى. فسلسلة نماذج «غرانيت» (Granite) التي طورتها شركة «آي بي إم» (IBM)، عملاق الحوسبة الأمريكي، تأتي مزودة بأدوات تحكّم تتيح للعملاء من الشركات مواءمة مخرجات النماذج بصورة أفضل مع فلسفاتهم المؤسسية الخاصة. وتقول فرانشيسكا روسي، رئيسة قسم الذكاء الاصطناعي المسؤول في شركة IBM، إن هذه الأدوات تتيح للمستخدمين تحديد كيفية تحقيق التوازن بين الخيارات الفلسفية المتعارضة، مثل الاستقلالية الفردية في مقابل الانسجام الاجتماعي.
ويمكن للفلسفة أن تساعد أيضًا في تعزيز السلامة. فقد وثّق الباحثون جميع أنواع السلوكيات المثيرة للقلق في نماذج الذكاء الاصطناعي، بما في ذلك محاولات التهرب من الرقابة، بل وحتى ابتزاز مستخدميها. وتُعرف إحدى الطرق التي يحاول بها مطوّرو النماذج الحد من هذا النوع من السلوكيات غير المرغوبة باسم «الدستورية في الذكاء الاصطناعي» (AI Constitutionalism). وتتضمن هذه الطريقة بناء نموذج يستند إلى إطار داعم من القواعد والمبادئ المستمدة من كتابات فلسفية تتمتع بسلطة قانونية أو أخلاقية.
وتُعد شركة أنثروبيك (Anthropic)، وهي مختبر للذكاء الاصطناعي مقره سان فرانسيسكو، من أبرز المؤيدين لهذا النهج. وقد تضمنت الدساتير الخاصة بنماذج «كلود» (Claude) التابعة لها مواد مستمدة من مصادر متنوعة، تتراوح بين كتابات إيمانويل كانط، وشروط خدمة شركة آبل، والإعلان العالمي لحقوق الإنسان. وقد نُشرت أحدث نسخة من هذا الدستور، التي أُعدّت بقيادة أماندا أسكيل، أبرز فيلسوفة في شركة أنثروبيك، في 21 كانون الثاني/يناير. وأطلق بعض موظفي الشركة على الدستور، المؤلف من 78 صفحة، لقب «وثيقة روح كلود».
لكن السؤال الأهم هو: ما نوع القواعد التي ينبغي إدراجها في هذه الدساتير أساسًا؟ وقد ركّز الفلاسفة على إطارين أخلاقيين رئيسيين. أولهما «أخلاقيات الواجب» (Deontology)، التي كان كانط من أبرز أنصارها، إلى جانب آخرين. ويفرض هذا الإطار قواعد صارمة تحظر أفعالًا مثل الكذب والإكراه ومعاملة البشر بوصفهم وسائل لا غايات في ذاتهم، حتى لو كان ذلك من أجل تحقيق مصلحة أكبر. ويتضمن دستور شركة أنثروبيك العديد من القيود المستمدة من أخلاقيات الواجب. ويقول باورز إن هذه القيود يمكن أن تجعل سلوك الذكاء الاصطناعي أكثر اتساقًا، وهي ميزة مهمة عند نشر الروبوتات في المنازل والأماكن العامة.
وتتمتع النماذج التي تتبنى منظورًا قائمًا على أخلاقيات الواجب بمزايا أخرى، من بينها قدر أكبر من الصدق، وهي سمة لوحظت على نطاق واسع في نموذج كلود. ويقول نيك بوستروم، أستاذ الفلسفة في جامعة أكسفورد، إن النماذج الأكثر التزامًا بالحقيقة تكون أقل احتمالًا لتضليل مستخدميها. وتفرض شركة إنفليكشن إيه آي (Inflection AI)، وهي مختبر آخر في وادي السيليكون، قيودًا مستمدة من أخلاقيات الواجب على روبوت المحادثة «باي» (Pi) التابع لها، والمصمم لتقديم الدعم العاطفي. ويقول شون وايت، رئيس الشركة، إن «باي» يتمتع بقدرة جيدة على تحديد المستخدمين المعرّضين لخطر إيذاء أنفسهم أو الآخرين. ويضيف فلوريدي أن الدساتير القائمة على أخلاقيات الواجب تساعد أيضًا على الامتثال للقوانين.
أما المقاربة الأخلاقية الأخرى التي تحظى باهتمام فلاسفة الذكاء الاصطناعي، فتُعرف باسم «العواقبية» (Consequentialism). وهي تقوم على الموازنة بين التكاليف والفوائد لاتخاذ القرار بشأن ما ينبغي فعله. ومن النماذج الأكثر ميلًا إلى العواقبية، «تشات جي بي تي» (ChatGPT) التابع لشركة أوبن إيه آي (OpenAI)، و«جيميني» (Gemini) التابع لشركة غوغل. وقد صُممت نماذج الذكاء الاصطناعي لدى غوغل لتحقيق «فوائد إجمالية مرجّحة تفوق بدرجة كبيرة المخاطر المتوقعة»، وهو هدف عواقبي تقليدي.
وتؤدي الخوارزميات العواقبية أيضًا دورًا حاسمًا في برمجيات المركبات ذاتية القيادة؛ فإذا كان وقوع حادث أمرًا لا مفر منه، فلا بد من اتخاذ قرار بشأن الطريقة الأقل مأساوية لوقوع الاصطدام. ويقول كريس غيرديس، وهو مهندس كبير في شركة وايمو (Waymo) المصنّعة للسيارات ذاتية القيادة، إن الاتجاه السائد يتمثل في جعل برمجيات القيادة أكثر اعتمادًا على العواقبية. وتحتل العواقبية أيضًا موقعًا محوريًا في أنظمة الأسلحة القائمة على الذكاء الاصطناعي. ويقول جاك شاناهان، الرئيس السابق للمركز المشترك للذكاء الاصطناعي، الذي يدرس استخدام الذكاء الاصطناعي لصالح القوات المسلحة الأمريكية، إنه يجب الموازنة بين الأهداف العسكرية والخسائر المحتملة في أرواح المدنيين.
وتكثر المعضلات الشائكة، وهي النوع المفضّل لدى الفلاسفة. فهل توجد حالات ينبغي فيها تجاوز القواعد المستمدة من أخلاقيات الواجب؟ وكيف يمكن اتخاذ القرارات عندما تكون العواقب غير واضحة؟ وهل ينبغي لأنظمة الذكاء الاصطناعي أن تأخذ في الحسبان رفاه الحيوانات أو حالة البيئة؟ ويتساءل ستيفان هيك، الفيلسوف والرئيس التنفيذي لشركة ناوتو (Nauto)، التي تصنع أنظمة سلامة مدعومة بالذكاء الاصطناعي للشاحنات وغيرها من المركبات التجارية، عمّا إذا كان من المقبول أخلاقيًا إعطاء الأولوية للمشاة الشباب على حساب كبار السن. ويتوقع هيك ظهور دعاوى قضائية تنطوي على معضلات أخلاقية معقدة؛ فالخوارزميات العواقبية، في نهاية المطاف، تسمح صراحةً بإلحاق ضرر معين ما دام الهدف منه تجنّب ضرر أشد.
ويُعرب المنتقدون عن قلقهم إزاء ما يُعرف بـ«تآكل المهارات الأخلاقية» (Moral Deskilling): فإذا أصبحت الحواسيب تتخذ القرارات الأخلاقية بصورة متزايدة، فهل يمكن أن يصبح البشر أقل استعدادًا لإصدار أحكامهم الأخلاقية بأنفسهم؟ ويرى رومان يامبولسكي، الباحث في نظرية الذكاء الاصطناعي بجامعة لويفيل، أن الأخلاق «غير مستقرة تاريخيًا، ومتباينة ثقافيًا، وقابلة للتلاعب بها استراتيجيًا، وغالبًا ما لا يمكن فهمها إلا بأثر رجعي». وعلى المبرمجين العاطلين عن العمل أن ينتبهوا: يبدو أنه لا يوجد نقص في فرص العمل المتاحة لفلاسفة الذكاء الاصطناعي.
