يبدو التقدم التقني في هذه اللحظة متناقضاً من حيث مفعوله، فهو من جهة يَعِدُ بإمكانات لا نهائية للقيام بأشياء لم تكن تخطر على بالٍ في الأمس القريب، إلى درجة أنه يُنظَرُ إليها أحياناً على أنها تشوُّهات خطيرة في نسيج المجتمع، فيمكن أن تجعل من أي شخص «عبقرياً» أو على الأقل قادراً على أداء مهام ما كان ليحلم الإتيان بها؛ إلا أنه من جهة ثانية يُهدد بإمكان الوصول بالأمر إلى الحد الأقصى والحلول محلَّ البشر من خلال القيام بجميع المهام نيابة عنهم. لكن لا بد من الانتباه هنا إلى أن هذين الأمرين لا يشكلان تناقضاً في ذاتهما، فلطالما كان حلم البشر هو الانعتاق من العمل وامتلاك قدرات هائلة والمساواة في المواهب، أما فكرة حب العمل بما يمثله من مكانة اجتماعية وانتماء لجماعة والإحساس بالإتقان، فهي ابنة المجتمع المُنظَّم في سلطات محددة وتراتبيات معينة، وهذا التناقض لا يمكن أن يكون تناقضاً إلا في مجتمع تُشكِّل فيه السيادة موضوعاً أساسياً لقيام المجتمع.

في هذا المقال نتعمّق في موضوع المفاضلة بين الرفاه والسلطة في عالم يشهدُ ذكاءً اصطناعياً متطوراً، وكيف يمكن للبشر أن يُوازنوا بين فُرَص الرفاه الممكنة وبين مكانتهم كأفراد في بنية السيادة التي تشكل المجتمعات.

ننطلق في هذا النقاش من رؤية ماكس فيبر أن العقلانية سِمَةُ المجتمع الرأسمالي، حيث تفرض العقلانية نمط الفعل العقلاني الغائي في الوسائل واختيار البدائل أولاً كما في التخطيط تالياً. كما تقترن العقلانية بمأسسة التقدم العلمي من جهة وتغيير الموروث الثقافي من جهة أخرى، وهو تغيير ثقافي قائم على الاستعاضة عن نظرة المجتمع الماورائية أو السحرية للعالم بنظرة دنيوية زمنية. تَنتُجُ هذه العقلانية في نظر ماكس فيبر بالأساس من الفعل العقلاني الغائي لأفراد المجتمع، مثل رب العمل والعامل والموظف الإداري وحتى الشخص القانوني المجرد في بيئة تتلازم مع التقنية ومعايير العلم.

إلا أن هربرت ماركوزه يُعلّقُ على تحليلات ماكس فيبر هذه بأن عقلانية الرأسمالية هذه ليست هي العقلانية في ذاتها، بل هي شكل مُحدَّد من السيادة السياسية المُضمَرة المحصورة بالاستخدام المناسب للتقنيات والأنظمة والخطط الحكيمة، أي العمل ضمن علاقات التصرف التقني الممكن، مما يعني أن هذه العقلانية الغائية هي في النهاية ممارسة للإشراف والرقابة تُمأسِسُ السيادة وتحتفظ بالمحتوى السياسي، فالعقل التقني يفرض نفسه في محتوى التقنية بصيغة إيديولوجية مسبقة بصفته سيطرة على الطبيعة، وسيطرة على الإنسان بالنتيجة.

العقلانية و«حدود» القمع والسيطرة

كما نوَّه ماركوزه، فالسيادة في المجتمعات الرأسمالية المتقدمة صناعياً تَميلُ إلى أن تفقد طابعها الاستغلالي القمعي، وأن تصبح عقلانية دون أن تختفي السيادة السياسية، التي تُقاس عقلانيتها ومشروعيتها بالحفاظ على النظام وتزايد قوى الإنتاج والتقدم العلمي والتقني. لكن هذه السيادة السياسية المُضمَرة في التقدم التقني بما هي ممارسة للإشراف والرقابة كما ذكرنا، وبكونها مُعتمِدة على وسائل الإنتاج، ترتبط حكماً بخضوع الأفراد لجهاز الإنتاج، وهذا الخضوع لجهاز الإنتاج المترافق مع ارتفاع المستوى التقني لقوى الإنتاج، وإن كان خضوعاً في نهاية المطاف، إلا أنه يُعرّي بشكل واضح وفج أشكال الخضوع الاستغلالي والقمعي الذي يمكن تسميته بالقمع الفائض موضوعياً، أي مستويات القمع التي لم يَعُد من حاجة لها في إخضاع الأفراد ومصادرة أوقات فراغهم وخصوصياتهم واستهلاكهم في أعمال غير ضرورية.

فعلى النقيض من القمع الفائض يَظهرُ الخضوع الضروري للنظام من قبل الأفراد بصيغة مقبولة، فالعقلانية تمنح للسيادة مشروعية تجعل الخضوع اللازم والضروري للنظام مُبرَّراً في وعي الناس، لأنه يظهر في شكل سيطرة متزايدة على الطبيعة تترافق مع زيادة في الإنتاجية والرفاه المُتناميَين بشكل مستمر.

تبدو العقلانية إذن المعيارَ العامَ للمجتمع التقني المعاصر، تُقاس من خلاله وتُبرَّر علاقات الإنتاج، كما يُحدَّد فائضُ القمع ويُرفَض، فتصبح العقلانية قيمة حاكمة في المجتمع الرأسمالي الحديث، تُحدِّدُ دور الأفراد وأهميتهم وحقوقهم وعلاقتهم بالدولة، وتُبرِّرُ سيادة الدولة على المجتمع. فشكل السيادة السياسية المُضمَرة في النظام الحالي قائمٌ على العقلانية العلمية الغائية، القائمة على العنصر البشري بصفته كائناً مُفكِّراً.

ولمّا كان المنهج العلمي كما ذكرنا سوف يُنتِج حتماً مجتمعات تتميز بالإشراف والمراقبة، لأنه منهج مضبوط بطبعه، فإنه فعّال في السيطرة على الإنسان كما هو فعّال في السيطرة على الطبيعة، وهنا تندمج السيادة مع التكنولوجيا التي تضمنُ لها القوةَ السياسية الواسعةَ والممتدة، وكما يرى ماركوزه فالعقلنة الواسعة سوف تسيطرُ من جهة على الإنسان وترفعُ من جهة أخرى إنتاجية عمله وتمنحه حياة أكثر راحة. ويستمر هذا التداول بين الخضوع الموضوعي والقمع الفائض موضوعياً في مجتمع شمولي لكنه عقلاني.

لا ينبغي للتعابير الحادة المُستخدَمة في شرح ماركوزه أن تُخيفنا، فأي مجتمع هو آلية خضوع في الأساس، واختيار الأفراد أن يكونوا أعضاء في جماعة يعني استحالة أن يكونوا مستقلين ذاتياً في أن يقرروا حياتهم بأنفسهم، لكن المجتمع العقلاني العلمي يتميز بأنه يُكافِئ الاندراجَ ضمن النظام بمعايير تُحدد فائض القمع وتحفظ قيمة الإنسان بصفته أساس العمل والعقلانية وتَضمنُ له الرفاه. لكن لا ينبغي أيضاً لهذا التبرير أن يُريحنا بشكل مطلق، إذ ما يزال السؤال حول حدود التوازن بين السيطرة والعقلانية مطروحاً، خصوصاً مع تطورات تقنية تَعِدُ بأن تَقتحم تخومَ العقلانية البشرية.

إذا ما قبلنا أن شكل السيادة السياسية المُضمَرة في النظام الحديث قائمٌ على العقلانية الغائية التي هي المعيار الضامن لحق الفرد في المجتمع التقني، وعلى العلم والتقنية كأداة للسيطرة الفعّالة على المجتمع، فإنه ينبغي التساؤل: هل يمكن للسيطرة أن تتمدد على حساب الفرد بحيث يزيد فائض القمع عن الحدود اللازمة؟

يبدو السيناريو الأول الممكن لتحقُّق تضخم في سيطرة الدولة هو أن تتخلى الدولة عن العقلانية العلمية بوصفها شكل السيادة المُضمَرة، وأن تكفَّ عن اعتبار تقدمها العلمي الغائي مصدرَ مشروعيتها، وبالتالي تفسح المجال لأنواع من السيطرة غير المضبوطة عقلانياً، لأن الدولة في هذه الحالة تتخلى عن المشروعية المُتأتية من عملية الإنتاج ومن النمو المُمأسس لأدوات الإنتاج مع التقدم العلمي، وتفسح المجال للقمع غير المنضبط وغير المُوجَّه بأي شكل غائي علمي يُحافظ على قيمة الفرد، وهي الحالة التي تناولناها في مقال «الذكاء الاصطناعي ومعضلة الدول النامية»، حيث يتم التخلي عن المنهج العلمي لصالح عملية قمع استبدادية. فالمجتمعات العاجزة عن تحقيق السيادة بوساطة التكنولوجيا سوف تلجأ إلى تحقيقها بوسائل أخرى، وهو ما يفتح السؤال حول ضرورة التمكين العلمي للمجتمعات النامية إذا ما أردنا عالماً أقلَّ قمعاً وأكثر عقلانية وبالتالي أكثر انسجاماً.

الحالة الأخرى التي يمكن لنا أن نتخيل فيها تداعي مكانة الفرد لحساب زيادة السيطرة هي حالة تَراجُع أهمية العقلانية دون تراجع التقدم العلمي، وذلك لا يمكن أن يحدث إلا إذا أمكنت الاستعاضةُ عن العقلانية بأسلوب إدارة وإنتاج لا يتطلّبُها، وهنا يأتي دور الذكاء الاصطناعي. فالذكاء الاصطناعي بما يُبديه اليوم من تطورات يَعِدُ بقدرة على تحقيق معالجات شبيهة بتلك التي يقوم بها البشر، من حيث بناء السيناريوهات وتحديد البدائل ومعالجة المشاكل الطارئة وغير المتوقعة والربط بين المتغيرات، وبالتالي فإنه يُبدي ما يمكن أن يشكل عقلانية غير ناتجة عن التفكير البشري، وبالتالي يكسر احتكار الإنسان للعقلانية. وعلى عكس السيناريو الأول الذي يؤدي بالدول إلى نمط حكم استبدادي، فإن السيناريو الثاني الخاص بالذكاء الاصطناعي كآلة عقلانية يَفتحُ آفاقاً جديدة كما هو مُتوقَّع من التقنيات الرائدة.

تحولات مُحتملة

الاحتمالات التي ينبغي لنا أن نفكر فيها ضمن إطار هذا السيناريو يجب أن تشترك في أنها تتمتع بمستويات عالية من التقدم التقني، فهذا المجتمع الذي نحاول تخيّله هو مجتمع لم يتخلَّ عن العقلانية بل تَمكَّنَ من أتمتتها إذا صحَّ التعبير، وبذلك تبلغ العقلانية في مجتمع كهذا مستويات عالية ومُستدامة بما هي استغلال للموارد واختيارٌ بين البدائل وإدارةٌ للمشاريع، أي المحافطة على عمل النظام بأفضل ما يمكن. في إطار مجتمعات كهذه فإن مستويات التقدم والرفاه تكون أيضاً مرشّحة للازدياد.

لكن في جميع الحالات، فإن وجود الآلة القادرة على أداء العمل و«التفكير» نيابة عن البشر سوف يعني تحولات غير مسبوقة في علاقات الإنتاج، أهمها الانفصال بين حاجة النظام إلى عقلانية الأشخاص في عملهم وبين مستويات الإنتاج، مما يعني تحولاً غير مسبوق ربما يصل -بحسب تطور قدرات الذكاء الاصطناعي في المستقبل- إلى حد اختفاء أحد أطراف علاقات الإنتاج (وهو القوة العاملة) من المعادلة، بما يعنيه ذلك من تَغيُّر للحضور السياسي لعلاقات الإنتاج كمُحرّك أساسي للعلاقات داخل المجتمعات والدول. فعلاقاتُ الإنتاج التي تَمكَّنَ المجتمعُ المعقلنُ من تحويلها إلى أساس مشروعيته، سوف تتقلص أو ربما تختفي الآن مع غياب حاجة الأفراد إلى الارتباط مع العقلانية الغائية بسبب انتفاء كونهم العنصر العامل الأساسي أو العقلاني المُفكِّر في المجتمع.

علاقة أخرى مرشحة للاختلال، هي العلاقة بين إمكانات الإنتاج ومعادلة فائض القمع الناتجة عن حاجة النظام إلى استخدام البشر في العمل كما أوضحناها أعلاه. فالنظام الذي لا يحتاج إلى تسخير طاقات البشر للعمل حتى في جانبه العقلاني لا يحتاج إلى تسليط أي مقدار من القمع على الأفراد، أو أنه يحتاج إلى مقدار أقلَّ كثيراً مقارنة مع النظم الحالية، مع الأخذ في الاعتبار أن طرف المعادلة الآخر المتعلّق بمستويات السيطرة على الطبيعة وما ينتج عنه من إنتاج ورفاه سوف تكون أعلى من مستوياتها الحالية، ومشروعية السيادة سوف تكون إذن في أعلى مستوياتها، إلا أنها سوف تتحول إلى علاقة بلا مصدر مُتضمَّن فيها للتوازن.

أيضاً فإن التراتُب الاجتماعي مُرشَّح للاختلال. فعلاقات التراتب الاجتماعي ترتبط اليوم بالتراتب العقلاني أو تتخذ شكلاً عقلانياً يُبرِّرها، أما مع تغير علاقات الإنتاج وتغير الحاجة إلى العمل وتغير مراكز العقلانية لصالح الآلة، فإن التراتب الاجتماعي سوف يأخذ معانٍ جديدة تحتاج إلى التأمُّل فيها.

قد يبدو هذا التحليل مُتفائلاً أكثر من اللازم، فهو يُصوِّرُ مجتمعاً تقوم فيه الآلة بالعمل نيابة عن البشر الذين يتمتعون بالمقابل بكل الرفاهية التي يحلمون بها، بينما تكون نُظُم الحكم في أعلى مستويات شرعيتها مدعومة بإمكانات إنتاج غير مسبوقة ممّا يرسّخ أساس سيادتها ويخلق دولاً ومجتمعات قوية ومستقرة؛ لكن المجتمع لا يمكن له أن يستقر عند هذا الوضع لأنه يفتقد إلى نقطة توازن يعتمد عليها في استمراراه.

في الحقيقة وإن كان ماركوزه لم يعاصرالذكاء الاصطناعي، إلا أنه تَخيَّلَ حالة تطرأ فيها تَغيُّرات جذرية على مفهوم السيادة، أسماهُ السيادةَ المُحرِّرة مقارنة بالسيادة القمعية التي هي سيادة مجتمعاتنا اليوم. والسيادة المُحرِّرة في تَخيُّل ماركوزه كانت لتترافق مع تثوير العلم والتقنية لتتحرر من محتواها التسلطي على الطبيعة. لكن سواء انطبقت صفة تثوير العلم التي تَخليَّها ماركوزه على الذكاء الاصطناعي ووعوده المستقبلية أم لا، فإن هناك محدوديات للآفاق التي يمكن الوصول إليها من التحرُّر، إذ كما يقول يورغان هابرماس، في نقد فكرة ماركوزه هذه، فإن مشروع العلم لا يبدو مشروعاً قابلاً للتجاوز بما هو عليه من مراقبة وإشراف وسيادة مُتضمَّنة فيه بصفته شكل سيادة سياسية مُضمَرة. ومن المثير للاهتمام ذكرُ أن فرضية ماركوزه لتثوير العلم تفترض عدداً من التجاوزات، تشتمل أن يقوم العلم بتجاوز التقنية باتجاه الطبيعة مثلاً باعتبارها بديلاً كافياً وغير مُحتاج إلى السيطرة عليه، والذي يشترط أيضاً تجاوز السيادة بين البشر، الأمر الذي يبدو اليوم بعيدَ التخيُّل.

الثابت والمتغير في معادلات السيادة

ما هو الثابت إذن وما هو المُتغيّر في معادلة السيادة بما يُمكِّننا من فهم المستقبل؟ تبدو السيطرة عنصراً ثابتاً، كما يبدو محتوى السيطرة المُتضمَّن في العلم والتقنية والذي يجعل منهما ممارسات للإشراف والرقابة عنصراً ثابتاً أيضاً منطلقاً من الميل البشري للسيطرة على الطبيعة. لذلك فإن تطور التقنية لن يؤدي إلى تغيّر عناصر السيادة بصفتها السيطرة التي تبقى عنصراً ثابتاً. أما المُرشَّح للتغير فهو مركزية البشر بصفتهم عقلانيين مع تَحمُّل الآلة مسؤولية العقلانية نيابة عنهم أو إلى جانبهم، فنمط الفعل العقلاني الغائي الذي جعل من الأفراد شركاء حصريين ولازمين في عمل النظام لم يَعُد حكراً عليهم، إذ تغيرت المعادلة التي تشكل النظام القائم على التقنية من عقلانية تُدير تقنية إلى تقنية تٍدير نفسها. وبذلك، فإن ما هو حقٌّ أصيل للبشر -إذا ما عَبَّرنا بشاعرية- في مكانتهم ضمن بنية النظام بصفتهم عقلانيين أصبح مُهدَّداً في أساسه الذي هو العقلانية، كما أن معادلة فائض القمع الضروري التي أوضحناها فيما سبق، والتي تتمثل بإخضاع الأشخاص لجهاز الإنتاج والتوزيع ومنها كل أشكال القمع الأخرى الضرورية وغير الضرورية، أصبحت مهددة بالاختلال إلى أي من الجهتين، إما انتفاء القمع نهائياً باعتبار انتفاء الحاجة إلى العمل البشري الضروري لاستمرار النظام، أو استفحال القمع كمظهر من مظاهر انهيار علاقات الإنتاج مع انتفاء الميزة البشرية التي كانت تُبرِّرُ التوازنات داخل النظام.

بناء على ما سبق، فإن لنا أن نتوقع إذن أن أي تَغيُّر مُترافق مع تطور الذكاء الاصطناعي وتَحمُّل الآلة مسؤولية العقلانية لن يكون على حساب تخلي المجتمعات عن السيطرة والسلطة، أو تحول التقنية عن صفتها نظاماً للإشراف والرقابة، بل من المرجَّح أن الإمكانات التقنية سوف تعزز الرقابة والإشراف بصفتها أموراً مُتضمَّنة في صلب العقلانية التقنية. لكن السؤال الذي سوف يطرأ هو ذلك المتعلق بحدود هذه الرقابة وتوازنها مع رفاهية الناس. فالسيطرةُ عاملٌ ثابتٌ في المعادلة السيادية بينما الميزة البشرية التي طالما تَمثَّلت في العقلانية، التي هي مبرر الحضور البشري، هي الآن العنصر المُتغيّر. فهل تقوم النظم بتوفير أعلى درجات الرفاهية لمواطنيها على اعتبار الرفاه هو مصدر مشروعية السيادة، أم تعمد إلى التضييق على محكوميها بما أنهم غير ضروريين للإنتاج والتخطيط والسيادة، مُستغلّةً انفصال العلاقة بين العقلانية وفائض القمع.

نحن إذن بصدد دولة رفاه مُطلَق أو دولة بوليسية مُفرِطة في قمعها ومُحصَّنة ضد أشكال الفشل لأنها عقلانية تماماً من ناحية إدارة نظامها، كما يمكن افتراض دولة تجمع بين الأمرين، فتوفر الرفاه بشكل غير مشروط لكنها تتدخل بشكل مفرط تبعاً لأقصى درجة تسمح بها إمكاناتها التقنية. يمكن مقاربة هذين الاحتمالين من خلال عملين أدبيين معروفين، أحدهما هو رواية عالم جديد شجاع «Brave New World» لـ ألدوس هيكسلي، التي تحكي عن عالم لا نهائي الرفاه لكن شديد التحكم، والآخر هو 1984 لـ جورج أورويل التي تحكي عن عالم لا نهائي القمع وشديد التحكم أيضاً، فالعملان القادمان من النصف الأول من القرن الماضي تَمكَّنا من تمثيل مجتمعين تضخمت فيهما مستويات التحكم والرقابة إلى درجات عالية، واختلَّت العلاقة بين الدولة والمواطنين فيهما لصالح الدولة بالمطلق. إلا أنه، ومع أخذِ العَملين في الاعتبار، لا شيء يمنعُ أن تتوازن المجتمعات عند صيغ أقل تطرفاً إذا ما وجدَ البشر لأنفسهم ميزة جديدة تحلّ محل العقلانية.

فمع بعض المصادرة على التاريخ التي نرجوا أنها غير مُخلّة، فإن ما أسميناه الميزة البشرية المتمثلة اليوم بالعقلانية لم تكن متمثلة بالعقلانية دائماً، إذ يمكن القول إن هذه الميزة قد تغيرت مع تغير طبيعة عملية الإنتاج، فالعقلانية هي الميزة البشرية الحاسمة في المجتمع الصناعي الرأسمالي الذي يعيشه العالم اليوم -بصفته مرحلة تاريخية وبغض النظر عن النظام السياسي الذي تتعبه الدولة- أي المجتمع عالي التقنية والذي تقوم فيه الآلة بالكم الأكبر من العمل العضلي نيابة عن البشر، الذين تُزاح كتلة عملهم إلى الجانب التنظيمي والإداري والتخطيطي أو الجوانب المُماثلة المُتضمَّنة في كل الأعمال حتى العضلية منها مع الازدياد المستمر لهذا المحتوى مع تطور المجتمع، وهو ما ندعوه بالعقلانية، لذلك يمكن القول إنه في المجتمعات السابقة على الثورة الصناعية كان المحتوى العقلاني في العمل البشري أقلَّ كثيراً أو معدوماً بحسب تنظيمات العمل، وأن الميزة البشرية كانت هي الجهد العضلي الذي تمت تنحيته من يد البشر مع تطور المجتمع البشري نحو الصناعة.

نستنتج إذن أنه في حال تطور الذكاء الاصطناعي ليُزيح البشر عن عرش العقلانية، فإن هذه لن تكون المرة الأولى التي يُجبَر البشر فيها على التخلي عن ميزتهم في علاقات الإنتاج لصالح الآلة، فالمرة الأولى حدثت عند التخلي عن الميزة العضلية لصالح الآلة. ولا ينبغي أن تُوحي صيغة الغائب المُستخدمة في الجملة أن البشر كانوا مُجبرين على هذا التخلي من قبل جهة معينة أو غير معينة، فالبشر من يخترعون في نهاية الأمر وهم يستبدلون ميزتهم بميزة أخرى.

بناء على هذه النظرة التاريخية، فإن السؤال الذي ينبغي لنا أن نطرحه: ما هي الميزة البشرية التي سوف يُحِلُّها البشر محلَّ العقلانية، والتي تكون هي مُبرَّر اجتماعهم الجديد؟

كما لا ينبغي التغافل عن احتمال آخر جدير بالتأمل، وهو ألّا تكون هناك ميزة جديدة يلجأ لها البشر لتحقيق التوازن، وأن يستعيضوا عن ذلك بميزة اتفاقية تقوم على الاقتناع أنه بغض النظر عن علاقات الإنتاج والقوة فإن الأولوية هي لحالة من السلام والرفاه القائم على اعتقاد راسخ، ربما يكون إيديولوجيَ الطابع أو أشبه بالعقيدة وغير قائم على أي سيادة مُضمَرة في النظام ما عدا الحفاظ على السيادة بحد ذاتها كهدف، وهو الافتراض الذي يعود بنا إلى إمكان وجود دولة لا نهائية الرفاهية أو لا نهائية القمع، فالنظام الذي تكون الإيديولوجيا هي القيمة الوحيدة المُضمَرة فيه تكون احتمالاته لا نهائية ومدعاة للتأمل.

خاتمة في استحالة سيطرة الآلة على البشر

ناقشنا فيما سبق تحولات النظام من حيث توازنات السيطرة بين السلطة والمواطنين مع تطور التكنولوجيا، لكن في النهاية لا بدّ من إفراد مساحة لمناقشة أحد السيناريوهات الرائجة والمتعلق بسيطرة الآلة على البشر، والذي تخطيناه لأنه غير منطقي بحسب الفرضيات التي ينبني عليها هذا المقال. فالسؤال حول سيطرة الآلة يمكن صياغته، في ضوء الطرح القائم على شكل السيادة المُضمَرة، بأنه تخلي البشر عن السيادة لصالح الآلة، وهو الأمر الذي يبدو مُناقِضاً لنزعة البشر الطبيعية للسيطرة، ولبنية النظام الحالي نفسه بما فيه من نزعة سيطرة كامنة فيه. وهكذا فإن أي فراغ سوف تتركه الآلة في مراحل تطورها، وأي أفق جديد تفتحه أمام البشر للسيطرة، سوف يستغلّه البشر كما فعلوا دائماً للوصول إلى شكل من أشكال السلطة.

يعني ذلك أنه لا يمكن للذكاء الاصطناعي أن يأخذ مكان البشر في عملية الحُكم إذا لم يتمكن من التصرف بحسب مفهوم السيادة، إذ أن السيادة السياسية هي الثابت الذي يعود إليه كل شكل من أشكال النُظُم، وهو التطور الذي يصعب على الذكاء الاصطناعي الوصول إليه لأن السيادة شرط بشري أساسي كما يبدو.

فعلى عكس العمل الذي هو المرشح القوي لفقده لصالح الذكاء الاصطناعي، تبدو السيادة مُحصَّنة نتيجة طبيعة النظام، حتى مع الأخذ بالاعتبار التطورات التقنية المتوقعة. لذلك فإن احتمال سيطرة الآلة لا يبدو احتمالاً منطقياً، لأنه يتناقض مع نزعة البشر الأساسية للسيطرة التي ناقشناها في هذا المقال.