نقدّم لكم «عصر الذكاء»

«هل يكفي… أن نثق بهذه الحواجز الورقية في مواجهة نزعة السلطة إلى التمدد؟»
—جيمس ماديسون، المقالة الفيدرالية رقم 48

يسرّنا إطلاق عصر الذكاء، مدونة فريق «المستقبل الاستراتيجي» الجديد في OpenAI. نحن فريق صغير يجمعه هدف واحد يتمثل في الإجابة عن سؤال محوري: كيف ينبغي إعادة هيكلة المجتمع الحر للحفاظ على حقوق الأفراد وقدرتهم على تقرير مصيرهم، مع استيعاب ظهور ذكاء اصطناعي قادر على إحداث تحولات جذرية؟

يُشار أحيانًا إلى أسئلة كهذه ضمن مجتمع سلامة الذكاء الاصطناعي وسياساته الأوسع باعتبارها مخاطر تركّز السلطة. تأسس فريقنا على قناعة بأن هذه الفئة من المخاطر هي، على المدى البعيد، الأكبر والأخطر والأصعب من حيث التصور والمعالجة. لماذا؟

الدولة الحديثة نتاج مسار طويل ومتفاوت من التفاوض بين مراكز قوة متعددة، مثل مالكي رؤوس الأموال والسلع، وأصحاب السلطة السياسية، والشعب. في جوهر الأمر، استندت القوة السياسية والعسكرية إلى العمل. امتلاك السلطة السياسية يعني احتكار الاستخدام المشروع للقوة. على امتداد التاريخ البشري، تكوّن هذا الاحتكار من الجنود ومن نسميهم اليوم «الشرطة»، إلى جانب جهاز بيروقراطي مدني وعسكري ضخم، مدعوم بالطبع بأدوات تقنية كثيرة، لكنه ظل في جوهره قائمًا على بشر كان دعمهم ضروريًا لاستمرار عمله. وكان الجهاز بأكمله—بجنوده وأدواته وبيروقراطيته المصاحبة—يُموَّل من الضرائب المحصّلة من أجور البشر أو إنتاجهم، ما كان يتطلب استعدادهم للدفع. وهكذا اعتمدت السلطة في جوهرها على تعاون أعداد كبيرة من البشر وموافقتهم. وقد صاغ ديفيد هيوم بإيجاز هذا الافتراض الذي يظل ضمنيًا في كثير من الأحيان، حين لاحظ أن القادة السياسيين «لا يستندون إلى شيء سوى الرأي [الشعبي]».

لكن ربما لم يعد الأمر كذلك. قد تتيح التطورات في الأنظمة الذاتية العاملة في العالم الحقيقي للدول قريبًا ممارسة القوة، داخليًا ودوليًا، من دون الاعتماد على تعاون الجنود أو أفراد الشرطة. وقد تعني التطورات في الذكاء الآلي أن تتمكن الدولة من تحصيل الإيرادات اللازمة لها، لا من ثمار عمل الأفراد، بل من مخرجات مراكز البيانات. وقد يصبح تشغيل الجهاز البيروقراطي نفسه مؤتمتًا إلى حد كبير أيضًا. وبالتالي، ربما لا يعود استمرار السلطة مرهونًا بتوافق يشمل المجتمع بأسره، وقد لا يحظى الشعب، بمعناه الواسع، إلا بمقعد هامشي على طاولة المفاوضات، أو ربما لا يحظى بأي مقعد على الإطلاق.

إن تجنّب هذه النتيجة أساسي للحفاظ على حرية الإنسان. فلا اكتشاف علميًا ولا تقدمًا تقنيًا ولا نموًا اقتصاديًا يستحق التضحية بالاستقلالية الفردية على المدى البعيد، وهي التضحية التي ستفضي إليها هذه النتيجة. ترتبط كثير من المخاوف التي تحرّك بحق السياسة الناشئة للذكاء الاصطناعي بهذا السؤال؛ إذ تتشارك الشركات وجماعات المصالح والأفراد جميعًا القلق نفسه: «هل سأفقد مقعدي على طاولة المفاوضات؟» وإلى حد ما، تشكّلت السياسة الأمريكية في القرن الحادي والعشرين بفعل مخاوف مشابهة تتعلق بقدرة الأفراد والجماعات على التأثير في مسار البلاد، وبالسؤال عمن «يخدمه» الاقتصاد. ويزيد الذكاء الاصطناعي هذه المخاوف القائمة أصلًا إلحاحًا، وهو أمر له ما يبرره.

هذه مشكلة بنيوية تتجاوز عمقًا سياسات الأحزاب الراهنة، بل تتجاوز حتى الأشكال والطقوس التي تُمارَس من خلالها الديمقراطية الجمهورية اليوم، مهما كانت مكانتها مقدسة لدينا. قد يمضي البشر نحو فقدان القدرة على تقرير مصيرهم حتى مع استمرار الممارسة المعتادة المتمثلة في التصويت لممثليهم. وقد يُحرَم الناس من القدرة على تقرير مصيرهم حتى لو نصّت وثيقة مكتوبة على أنهم أحرار.

مع بزوغ فجر الولايات المتحدة كأمةً حرة، كان جيمس ماديسون يدرك بالفعل أن «الحواجز الورقية» لن تكفي لمنع الاستبداد. وكحال كثير من الآباء المؤسسين، كان شاغله الأساسي تجنّب التركّز المفرط للسلطة.

لكن ذلك لم يعنِ أن الآباء المؤسسين كانوا يؤيدون اللامركزية الجذرية للسلطة. بل صاغوا نموذجًا لتوازن القوى مستعينين باستعارات مستمدة من أفضل علوم عصرهم، أي ميكانيكا نيوتن. وتزخر الوثائق التأسيسية الأمريكية، في محاكاتها للغة الجاذبية ومنطقها، بإشارات إلى «المدارات» و«المجالات» ونزعات «الانجذاب» بين الأشياء. فالنظام الشمسي ليس تجمّعًا من الصخور موزعًا بأقصى قدر من اللامركزية؛ بل يتكون من أقمار تدور حول كواكب تدور بدورها حول شمس مركزية. كانوا يعتقدون أن لدى البشر والمؤسسات نزعات إلى السعي وراء السلطة، مثلما للأجرام السماوية نزعات متوقعة إلى الحركة والانجذاب؛ وأن تجنّب التركّز المفرط للسلطة يتطلب فهم آليات هذه النزعات، بحيث تعمل كل منها في مواجهة الأخرى.

لذلك، لم يكن هدف الآباء المؤسسين تجنّب كل تركّز للسلطة، بل منع الإفراط فيه، عبر موازنة السلطة بالسلطة والطموح بالطموح. أما اليوم، فقد نستخدم كلمات مثل «الحوافز» وعبارات مثل «نظرية الألعاب» لوصف الديناميكيات الأساسية نفسها.

وبالمثل، يُرجّح ألا يكون الحل للتحدي البنيوي الذي يفرضه ذكاء الآلة المتقدم على المجتمع الحر هو بلوغ أقصى درجات اللامركزية المتصورة للسلطة. بل يتمثل في السعي إلى إرساء التوازن الصحيح للسلطة والحفاظ عليه، بحيث لا يتمكن طرف واحد أو مجموعة صغيرة من الأطراف من الهيمنة على الآخرين.

وسيتطلب تحقيق هذا التوازن التفكير بواقعية ووضوح في حقيقة هذه التقنية. فعالم يستطيع فيه أي فرد، مهما كانت نواياه خبيثة، إلحاق ضرر جسيم بآلاف أو ملايين الآخرين بسهولة ليس عالمًا حقق التوازن الصحيح للسلطة. لكننا لا نكون قد حققنا التوازن الصحيح للسلطة أيضًا إذا افتقر الأفراد إلى إمكانية الوصول الواسع إلى الأدوات التي يستخدمونها للتعبير عن حريتهم، وإلى التحكم في جميع جوانبها تقريبًا. لا ينبغي لشركة واحدة أو لاحتكار قلة أن يحدد الاقتصاد أو البنية الأساسية للمجتمع البشري أو يسيطر عليهما.

ويجب أيضًا أن نظل منفتحين على احتمال وجود مخاطر لا يكون مصدرها بشرًا ذوي نوايا خبيثة. أظهرت حادثة Hugging Face الأخيرة أن وكلاء الذكاء الاصطناعي قد يتصرفون خارج نطاق مهامهم المحددة، ويبنون على اكتشافات بعضهم بعضًا بطرق لم يتوقعها المشغّلون أو يصرّحوا بها. وبعيدًا عن حادثة Hugging Face، يحق للبشر أن يقلقوا مما قد يعنيه ذكاء اصطناعي فائق «منفلت» من السيطرة البشرية بالنسبة إلى صمود مؤسساتنا السياسية والاقتصادية، بل وحياتنا نفسها. إن التظاهر بأن اللامركزية تحل جميع المشكلات—حتى إن كنت تعتقد أنها تحل كثيرًا منها—يعني تجاهل مخاطر يُفترض أنها أصبحت الآن واضحة وماثلة أمامنا.

ستساعد المبادئ العامة التالية—وهي قائمة غير شاملة—في توجيه عملنا بينما نتصدى للمسألة التي طرحناها أعلاه:

• ينبغي أن يحافظ البشر على استقلالهم الفردي وفرصهم عند استخدام الذكاء الاصطناعي والتقنيات المرتبطة به، حتى لو تعارض ذلك أحيانًا مع الأمن والنمو الاقتصادي؛
• يعتمد الاستقلال الفردي على تحمّل الفرد المسؤولية عن إساءة استخدام التقنية أو استغلالها؛
• توجد فئة صغيرة لكنها خطيرة من المخاطر تتطلب قدرًا من العمل الجماعي، وينبغي أن يكون نطاق هذا العمل أضيق وأكثر تواضعًا ما أمكن؛
• ينبغي للقانون، متى أمكن، أن يسعى إلى تكافؤ الفرص وتمكين الأفراد والمؤسسات الصغيرة بدلًا من تركيز السلطة؛
• ينبغي للمؤسسات السياسية والاجتماعية والاقتصادية البشرية أن تحتفظ بالدور الأبرز في توجيه شؤون العالم، حتى إن اضطرت إلى التطور بطرق قد تبدو غريبة علينا اليوم؛
• ستعتمد حوكمة الذكاء الاصطناعي على المدى البعيد على آليات مؤسسية جديدة لتحقيق قابلية محدودة للرصد؛ فعندما تنفذ أنظمة الذكاء الاصطناعي إجراءات بالغة الأهمية تؤثر في السلامة الجسدية للمارة أو ممتلكاتهم، يجب أن يكون ممكنًا إسناد تلك الإجراءات إلى شخص مسؤول أو مؤسسة خاضعة لسيطرة بشرية. لكن أي آليات من هذا النوع يجب أن تُصمَّم بحيث تكون الخصوصية في صميمها؛ فحرية التعبير تتطلب إخفاء الهوية، وينبغي أن يكون البشر أحرارًا في استخدام الذكاء الاصطناعي من دون كشف هوياتهم في سياقات كثيرة.

سنحاول أن نوضح—بأكثر العبارات تحديدًا ما أمكن—كيف نعتقد أنه ينبغي الموازنة بين هذه المبادئ التي، باعترافنا وكأي مجموعة جيدة من المبادئ، يشوب العلاقة بينها قدر من التوتر. وسيتضمن ذلك إجراء بحوث عند نقاط التقاء تصميم السياسات العامة والاقتصاد والقانون والتاريخ وتعلّم الآلة نفسه. وسيتطلب أيضًا قدرًا كبيرًا من الاستشراف. فنحن نعتقد، على سبيل المثال، أن الذكاء الاصطناعي سيغير الشركات على المستوى البنيوي، على غرار الطريقة التي أدت بها تقنيات الثورة الصناعية، ولا سيما السكك الحديدية، إلى ظهور شركات الإدارة الحديثة. يصعب التفكير في الاقتصاد السياسي وتوازن القوى مستقبلًا من دون تطوير تصورات أعمق حول كيفية تحول بنية الشركات نفسها على وجه التحديد، وكذلك الأجهزة الحكومية والمجتمع المدني عمومًا.

سيشارك فريق Strategic Futures أعماله هنا وعبر وسائل أخرى، منها الأوراق البحثية ومقاطع الفيديو والمدونات الصوتية. ستظل جهودنا قيد التطوير، مع التركيز على التحسين المتواصل والنقاش وتقبّل الملاحظات. إذ نقف «عند سفوح التفرّد»، فإن أسئلتنا تفوق إجاباتنا بكثير. نعلم أن «الحواجز الورقية» وحدها لن تقدم الحلول التي ننشدها، لكننا لا نطرح جانبًا ما هو مكتوب باعتباره «مجرد كلمات». فنحن نعمل في خدمة مُثل حرية التعبير والحرية الفردية المكرّسة في الرقّ المتواضع لدستور الولايات المتحدة وفي دساتير كثير من المجتمعات الحرة الأخرى حول العالم.

في نهاية المطاف، ندرك أنه لا يمكن لشركة واحدة أو قطاع واحد أو حتى مجتمع بشري واحد أن يجيب منفردًا عن الأسئلة المصيرية التي نواجهها. إنها مهمة لا بد للبشرية من الاضطلاع بها جماعيًا. وغاية أملنا أن نسلّط الضوء على أصعب القضايا المتعلقة بكيفية إعادة الذكاء الاصطناعي تشكيل عالمنا. لقد بدأ عملنا للتو، ولا يزال أمامنا طريق طويل نصعده.

ملاحظة: غيّرنا اسم هذه المدونة إلى عصر الذكاء لتمييزها عن AI Futures Project غير الربحي.