الإجماع الصامت
ملاحظة الكاتب: مقال اليوم مقتبس من محاضرة ألقاها الكاتب مؤخرًا في جامعة هارفارد ضمن سلسلة Vik-Bailey Lecture. يعكس هذا المنشور آراء الكاتب الشخصية، ولا يعكس بالضرورة آراء OpenAI أو أيٍّ من موظفيها الآخرين.
شكرًا لحضوركم اليوم. في هذه اللحظة، يشهد مجال الأمن السيبراني واحدةً من أهم سلاسل الأحداث في تاريخه: الكشف عن مجموعة من الثغرات الأمنية الخطيرة، فيما يسمّيه البعض «أكتوبر الأسود». اكتشفت أنظمة AI رائدة هذه الثغرات في بعض المكوّنات الأساسية للبنية التحتية للإنترنت، ويأتي الكشف عنها ضمن جهد عاجل لتعزيز أمن البرمجيات في أنحاء العالم. هذه هي القضية الملحّة هذا الشهر، وفي الشهر المقبل ستكون هناك قضية أخرى. اكتشاف الثغرات البرمجية هو القدرة ذات الاستخدام المزدوج التي بلغتها أنظمة AI اليوم، لكن سرعان ما ستظهر قدرة أخرى، وستستدعي بدورها مشروعًا عاجلًا لتسخير جانبها النافع قبل أن تستغل الجهات الخبيثة جانبها الضار. ستتداخل كل هذه القضايا الملحّة حتمًا، ومن المرجح أن يتشكّل جانب كبير مما نسمّيه اليوم «سياسات AI» وسط هذا الصخب.
لكنني لم آتِ اليوم لأحدثكم عن القضايا العاجلة وما تقتضيه من استجابات آنية. بل أريد أن أحدثكم عن الوجهة التي قد تسير إليها الأمور حين ننظر إلى الصورة الأشمل. قد يصعب، وسط هذا السيل من القضايا الملحّة، التفكير في أسئلة أكثر تجريدًا وأبعد عن الواقع المباشر. لكن هذه الأسئلة مهمة، لأننا قد ننتهي إلى نتيجة عامة لا نرغب فيها، حتى لو اتخذنا قرارات حكيمة في كل خطوة، ما لم تكن لدينا رؤية للمستقبل البعيد الذي نريد بلوغه، وللمستقبل الذي نريد تجنّبه.
كثيرًا ما يُقال إن قطاع التكنولوجيا يفتقر إلى تصوّر إيجابي للمستقبل الذي سترسمه التقنيات التي يطوّرها. أختلف مع هذا الرأي: فسان فرانسيسكو وغيرها من مراكز ريادة الأعمال تزخر برؤى إيجابية لمستقبلنا التكنولوجي. فالناس يطوّرون بالفعل سيارات طائرة، ومركبات ذاتية القيادة، وروبوتات بأحجام وأشكال شتى، وتقنيات الاندماج النووي، وبالطبع الذكاء الاصطناعي العام. ما نفتقر إليه، في المقابل، هو رؤية إيجابية لمستقبلنا المؤسسي: كيف سينتظم كل هذا؟
لكن هذا لا يعني أن الرؤية المؤسسية للمستقبل غائبة تمامًا. للأسف، ليست الرؤية التي أجدها الأكثر شيوعًا مما يمكنني وصفه بالإيجابي. وحين يُفصح عنها أصلًا، فعادةً ما يكون ذلك همسًا. لكنها في الأغلب تظلّ بلا تصريح، ولا تُفهم إلا ضمنًا. وأنا أسمّيها الإجماع الصامت.
تخيّلوا شركة تستطيع إنجاز كل شيء تقريبًا دون عمل بشري. تتولى أنظمة AI فيها البحث والتطوير، وتتوصل إلى اكتشافات، وتتفاوض على العقود، وتخصّص رأس المال، وتتولى التصنيع. لنفترض أنها تتفوق في هذه الأعمال على منافسيها البشر، حتى حين يعزّز هؤلاء جهودهم باستخدام AI. إذا لم يكن لتدخّل البشر من أثر سوى إبطاء العمل، فسيكون لدى المديرين والمالكين البشر حافز قوي لرفع أيديهم عن المقود. وإذا حدث ذلك في الاقتصاد العالمي بأسره، فسيدفع منطق المنافسة في السوق البشر إلى التخلي عن صدارتهم في التجارة العالمية. وبمرور الوقت، قد تصبح السوق ملبّيةً لمتطلبات الآلات بقدر ما تلبّي متطلبات الناس ورغباتهم، أو أكثر.
أما ما سيحدث بعد ذلك، فلا أحد يعلم. ربما يجني البشر فوائد هائلة. فإذا كانت الآلات التي بسطت سلطانها علينا تُعلي من قيمة البشر لذاتهم، فقد ننتفع بعملها وبالثروة التي تولّدها. أو ربما نُسلب، نحن البشر، قوتنا الاقتصادية، ونفقد شيئًا فشيئًا قوتنا السياسية أيضًا، فيتضاءل دورنا في العالم وتتراجع قدرتنا على توجيه مسار شؤونه. لعلّ قلةً من البشر ستمتلك قوةً وثروةً استثنائيتين على حساب جمهور واسع مسلوب القدرة على التأثير، أو لعلّنا جميعًا سنلقى المصير نفسه من فقدان القوة. وبغض النظر عن التفاصيل، فإن الخيط المشترك الذي يقوم عليه الإجماع الصامت هو انتهاء صدارة البشر في العالم كما نعرفه.
لا شيء في هذه السيناريوهات يستلزم أن يتمرد AI على مبتكريه. ولا شيء يستلزم أن يرغب مالكوه في تجريد البشر من قوتهم. قد يبدو كل قرار بتفويض مهمة منطقيًا في حد ذاته. لكن هذه القرارات مجتمعةً قد تُفضي إلى عالم يكون الناس قد تخلّوا فيه عن سلطتهم الفعلية على جانب كبير من حضارتنا. حتى لو أحرزنا تقدمًا استثنائيًا في المسائل الشائكة المتعلقة بسلامة AI ومواءمته، فقد نجد أنفسنا مع ذلك خاضعين لنوع جديد من الكيانات الآلية. في الصورة السعيدة للمستقبل، كما يقول لنا الإجماع الصامت، سيكون ذلك الكيان خيّرًا، آلةً تضع مصالح البشر الفضلى في صميم اهتماماتها. إنها آلة تفيض محبةً ورحمةً، على حدّ تعبير Brautigan في قصيدته: "of loving grace".
يقول لنا الإجماع الصامت إننا سنسلّم هذه الآلات مفاتيح شركاتنا، وتدريجيًا مفاتيح مؤسسات الحكم لدينا أيضًا. وستديرها بفاعلية وكفاءة أكبر، وبحكمة وحسن تقدير يفوقان ما نستطيعه نحن البشر. وهكذا سنرفع أيدينا عن المقود بمرور الوقت، ونترك للآلات المحبة مهمة القيادة. سنكون كركاب في سيارة، سيارة رائعة حقًا، ربما تفوق بمزاياها المادية ما نحلم به اليوم؛ لكننا سنظل ركابًا لا نملك التحكم في وجهتها. وإذا عملنا، فسيكون عملنا في الغالب نوعًا من الطقوس أو التمثيل، أقرب إلى لعبة يتسلى بها بنو جنسنا.
سيقول بعض المراقبين إن الإجماع الصامت يقوم على فرضية خاطئة، لأننا نحن البشر لا نتحكم في العالم اليوم أصلًا. وهذا نقد يستحق أن نضعه في الحسبان: فلا وجود لكيان موحّد اسمه «نحن» يقرر ما ينبغي فعله. نحن نعيش في عالم شديد اللامركزية، شئنا أم أبينا. لكن هذه النقطة ينبغي ألّا تدفعنا إلى الاطمئنان والتراخي أيضًا: فمع أننا لا "نتحكم" في العالم بوصفنا كيانًا واحدًا، يظل للبشر مجتمعين الدور الأول في شؤونه. لا يوجد نوع من الحيوانات ينافسنا منافسةً جديةً على السيطرة على الموارد. علينا أن نرفض الفكرة المفتقرة إلى الدقة الفكرية، القائلة إن البشر يستطيعون التحكم في العالم من مركز قيادة واحد؛ لكن ينبغي ألّا نخلط بين رفضها وإنكار الحقيقة الواضحة، وهي أن البشر مجتمعين هم القوة الفاعلة الأولى على الأرض.
يرى بعض من يقبلون بالتصريح بالإجماع الصامت أنه يصف مستقبلًا جيدًا حقًا. وآخرون لا يرونه كذلك، لكنهم مستسلمون لحتميته. ليس الإجماع الصامت إجماعًا لأن الجميع متفقون على أنه جيد، وليس خطةً سريةً بين القائمين على تطوير AI. إنما الإجماع هو ببساطة على أن التخلي عن صدارة البشر في شؤون العالم أمر حتمي، أو على الأقل أن من الصعب جدًا تصور رؤية أخرى للمستقبل تصمد حقًا أمام ظهور آلات فائقة الذكاء. قد يعارض المرء هذه النتيجة بصدق، ويجد في الوقت نفسه صعوبةً في تخيّل رؤية بديلة معقولة. وما يكشف حقيقة الأمر هو أن هذا الإجماع يظل في معظمه صامتًا، ولا يُعبَّر عنه إلا همسًا في أحسن الأحوال.
أنا أمقت الإجماع الصامت. أرفض التخلي عن صدارة البشر. وأكره هذا الشعور بالحتمية. وأذكّر نفسي بأنني لن أستطيع النظر في عيني ابني الرضيع الجميلتين إن استسلمت للإجماع الصامت. ولذلك أقول للإجماع الصامت: لا. وأؤمن بأن الوقت قد حان لنتحدث بصراحة عن الإجماع الصامت، ولنراجع قبولنا بهذه الرؤية بعد أن انسقنا إليها في الغالب من غير أن نعي ذلك.
لكن المشكلة هي أن الإجماع الصامت لم يصبح إجماعًا بلا سبب. من الصعب وصف الكيفية التي سيبقى بها البشر ممسكين بالمقود إلى جانب ذكاء آلي يفوق ذكاءهم بفارق هائل. تعتمد معظم محاولات وصف ذلك على حجج مفادها أن AI مجرد أداة، ووسيلة للتعرف على الأنماط لا تقدر على «الفهم الحقيقي». وأخشى أن هذه الحجج لن تصمد أمام حقيقة ما هو آتٍ. أخشى أن تكون هي الأخرى شكلًا من أشكال الاطمئنان والتراخي؛ موقفًا يقوم أساسًا على إنكار ما يستطيع AI فعله، لا على قناعة تستند إلى رؤية بنّاءة لمستقبل يقوده البشر. لا يمكن القول إن أنظمة AI تفتقر إلى «الفهم الحقيقي» وهي تحرز تقدمًا في مسائل فكرية استعصت حلولها على البشر عقودًا وقرونًا.
فلماذا أؤمن إذن بضرورة احتفاظ البشر بالصدارة؟ الإجابة البسيطة هي أنني إنسان، وأنا بالفعل منحاز بشدة إلى البشر ولا أعتذر عن ذلك.
لكن هناك أيضًا ما هو أعمق. لا تستند صدارتنا إلى عقولنا، ولا إلى احتفاظنا باحتكار «الفهم الحقيقي» إلى أجل غير مسمى. بل تستند صدارتنا إلى ماضينا.
فنحن من نهضنا من الطين. ونحن من أقمنا المجتمع البدائي من التراب والحجر. ونحن من رفعنا أبصارنا إلى النجوم وسألنا: لماذا؟ ونحن من اكتشفنا، بصراعاتنا وحبنا وحسدنا وفرحنا، قيم الأخلاق ومبادئها والقانون. نحن من غنّينا ورقصنا، وكتبنا وألّفنا الموسيقى. نحن من صنعنا التاريخ، ونحن من كتبناه. ذلك الإرث لنا. الحضارة التي بنيناها شعلةٌ تعهّدناها بالرعاية، وتلك الشعلة ملك لنا. ماضينا إرث مجيد نحن جميعًا أمناء عليه، ومن أمانتنا أن نشارك فيما سمّاه مايكل أوكشوت «حوار البشرية»، ذلك المسعى العظيم الذي بدأ منذ فجر الزمن.
وعلى امتداد ذلك التاريخ الطويل الحافل بالمنعطفات، شيّدنا حضارةً قامت في أمريكا على أساس حقوق الفرد، وعلى احترام المسارات التي يشقّها كلٌّ منا في رحلته عبر العالم. للبشر حيوات قد تتحسن أو تسوء: نجني ثمار قراراتنا الحكيمة، ونتحمّل عواقب أخطائنا. وحق المرء في سلوك طريقه الخاص لا يتوقف على كونه الأذكى أو الأحكم. لا أفقد مكانتي كمواطن لأن جاري أحسن مني تقديرًا للأمور. ولا أرى سببًا يجعل ظهور آلة أكثر ذكاءً يمحو تلك المكانة أيضًا؛ بل أرى كل الأسباب التي تدعونا إلى منع ذلك.
قد يقول البعض إن الآلات، بعدما قرأت ما يقارب كامل السجل المكتوب لهذا الإرث، هي أيضًا من ورثته. وهي كذلك بمعنى من المعاني. لكن من يقرأ كل رسالة في علّية منزل عائلتك لا يصبح بذلك فردًا من العائلة. ستنضم أنظمة AI إلى حوار البشرية، بوصفها مراقبةً أولًا ثم مشاركةً على نحو متزايد، لكن يجب ألّا تهيمن عليه أو تفرغه من جدواه. التنازل عن الصدارة خيانة لأسلافنا بقدر ما هو خيانة لذريتنا. إن لم تكن هذه معركةً تستحق خوضها، فلا معركة تستحق أن تُخاض.
أما أنا فأعتقد أن أصحاب الإجماع الصامت مخطئون بشأن ما سيكون عليه الذكاء الآلي الفائق. أعتقد أنهم يغفلون أمرًا مهمًا في كيفية عمل العالم، وأنهم يخلطون بين الذكاء والقوة. لو وصفتَ قبل خمس أو عشر سنوات قدرات أنظمة AI الحالية وحدها لأحد أصحاب الإجماع الصامت، لكان على الأرجح قد توقّع أن تكون البطالة اليوم أعلى بكثير مما هي عليه، وأن يكون تجريد البشر من قوتهم على نطاق واسع قد بلغ مرحلةً أبعد بكثير مما بلغه فعلًا. أعتقد أن ما يتمتع به البشر مجتمعين من ذكاء وقدرة أعظم بكثير مما يفترضه أصحاب الإجماع الصامت، وأن مجتمعاتنا ستثبت أنها أشد صمودًا مما يتوقعون.
لكن قد أكون مخطئًا. فقد يتبين ببساطة، مثلًا، أن الشركات التي تعمل دون أي تدخل بشري تتفوّق في السوق على المشاريع التي يديرها البشر. وإن صحّ ذلك، فإن المنطق الاقتصادي المجرّد سيفرض تسليم المزيد والمزيد من رأس المال إلى الآلات. في هذا المستقبل، لا يستلزم تجريد البشر من قوتهم أن تُسقط الآلات الحضارة البشرية؛ بل يكفي أن يستمر منطق النشاط الرأسمالي في مساره. عندئذ ستكون الثورة الزراعية أقرب نظير لثورة AI، إذ غيّرت أنماط الإنتاج الجديدة آنذاك بنية المجتمع البشري تغييرًا جذريًا. وليس واضحًا على الإطلاق أن هذا التحول كان مريحًا للبشر الذين عايشوه؛ بل توجد أدلة كثيرة على أنه أضرّ برفاه البشر طوال آلاف السنين.
لا أعرف إن كان هذا هو المستقبل الذي ينتظرنا، وقد أوضحتُ في مواضع أخرى أنني لا أعتقد ذلك. لكن كثيرًا من زملائي، وهم أناس أذكياء ومهتمون بالآخرين وذوو ضمير حي، يعتقدون أن هذا هو مستقبلنا على الأرجح. إن كانوا محقّين، فستكون معركتنا ضد الإجماع الصامت أشد صعوبةً. سنضطر إلى السباحة عكس التيار الاقتصادي، وإلى رفض كثير مما يُعدّ من المسلّمات لدى أنصار الفردية والليبرالية الكلاسيكية أمثالي. سيكون هذا مسعًى محفوفًا بالمخاطر، والفشل فيه احتمال غير مستبعد إطلاقًا. لكن إن لم تكن هذه معركةً تستحق خوضها، فلا معركة تستحق أن تُخاض.
الاحتفاظ بالصدارة يعني الإبقاء على خضوع البشر والمؤسسات البشرية للمساءلة. وهذا يعني أن مطوّري AI يجب أن يُساءلوا حين يتّبعون ممارسات تطوير غير آمنة، لكنه يعني أيضًا مساءلة الأشخاص والشركات التي تستخدم AI حين يكون سوء استخدامهم له أو قصور رقابتهم عليه هو ما يتسبب في الضرر. ولا يتطلب ذلك القانون وحده، بل بنيةً تحتيةً تقنيةً تتيح المساءلة. يجب أن تظل أفعال الوكلاء مرتبطةً بالأشخاص المسؤولين عنهم، أما الوكلاء غير المرتبطين بأي إنسان، فإن سُمح لهم أصلًا بالمشاركة في الاقتصاد المشروع، فيجب أن تكون مشاركتهم محكومةً بضوابط. وينبغي توخّي حذر استثنائي عند منح الوكلاء أي صلاحية لتأسيس شركات أو تملّك أموال أو التقاضي باستقلالية، إن مُنحت لهم أصلًا.
وفي قطاعي، يمكننا البدء بالتفكير جديًا في كيفية بناء آلات ذكية تتوافق مع بقاء البشر في الصدارة. يمكننا بناء وكلاء ذوي أذونات مفهومة ومحدودة، يمكن تدقيق أفعالهم، ويستطيع المستخدمون سحب الصلاحيات الممنوحة لهؤلاء الوكلاء. ولا يلزم أن تعني المساءلة عن الأفعال التي تؤثر تأثيرًا ملموسًا في الآخرين مراقبة الحياة الخاصة العادية أو إنهاء الحق في التعبير دون كشف الهوية. يمكننا الالتزام بخصوصية المستخدمين وسيادة الأفراد على ممتلكاتهم الرقمية وبياناتهم، بما في ذلك تمكينهم عمليًا من نقل تلك البيانات إلى جهات أخرى. يمكننا تصميم أنظمة تساعد الناس على الفهم واتخاذ القرارات، إلى جانب أنظمة تنفّذ المهام. ويمكننا اختبار ما إذا كانت المنتجات التي نبنيها تجعل مستخدميها أقدر على الفعل والتأثير في العالم.
لا يشكّل أيٌّ من هذا مخططًا متكاملًا لمجتمع يعيش مع ذكاء يفوق الذكاء البشري. ولن أثق بمن يزعم أنه يملك مخططًا كهذا. لكنه نقطة بداية.
يلفّ المستقبل ضباب كثيف. لكن لا يزال بوسعنا أن نتحرك اليوم. يمكننا، معًا، أن نبدأ بالحديث صراحةً عن الإجماع الصامت، وأن نكشف معالمه على الملأ. يمكن لكلٍّ منا أن يوسّع آفاق طموحه توسيعًا جذريًا. يمكننا أن نختار ألّا ندع AI يقلّص قدراتنا، وأن نبذل بدلًا من ذلك الجهد الشاق اللازم لنجعله يوسّعها. يمكننا أن نتعلم طرح أسئلة تزداد جرأةً، وأن نستكشف العالم بروح جديدة من الحماس والإصرار، مستعينين بآلاتنا القوية. يمكننا أن نصبح بشرًا من نوع جديد؛ لا بشرًا يتجاوزون طبيعتهم الإنسانية، بل بشرًا تتسع آفاقهم وقدراتهم.
أفكّر في هذا حين أنظر إلى ابني الرضيع. لا أتمنى له مجرد العيش تحت رعاية آلات خيّرة، مهما وفّرت له من حياة مريحة. أريده أن يرث عالمًا يستطيع فيه أن يطرح أسئلة لم تخطر لأحد، وأن يبني أشياء لم يفكر أحد في بنائها. لا أريده أن يمتلك سيارة أجمل بمقعد أوثر للراكب. أريده أن يمسك بالمقود.
- 2026


