كلمة سام ألتمان أمام مجلس الأمن التابع للأمم المتحدة

ألقى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، اليوم كلمة أمام مجلس الأمن التابع للأمم المتحدة بشأن الذكاء الاصطناعي. وتناول قدرة الذكاء الاصطناعي على توسيع الفرص، وأهمية إبقاء الأنظمة القوية تحت السيطرة البشرية، والحاجة إلى التعاون الدولي بشأن سلامة الذكاء الاصطناعي.

شكرًا لكم، السيد الرئيس وأصحاب السعادة. يشرفني أن أكون هنا وأن تتاح لي فرصة الحديث معكم جميعًا في هذا الوقت المهم.

نتحدث عن الذكاء الاصطناعي منذ سنوات، لكن الأسابيع والأشهر الأخيرة جعلت اللحظة تبدو مختلفة. فقد أدى التسارع الكبير في تطور النماذج إلى تقصير الأفق الزمني أمامنا، وجعل الفوائد أكثر ملموسية، كما جعل حجم الرهانات والمخاطر أكثر حضورًا وإلحاحًا.

أمامنا خيار. فإما أن يكون الذكاء الاصطناعي أشبه بعصر نهضة جديد يزخر بالإبداع والاكتشاف، وإما أن يكون أشبه بثورة صناعية جديدة تحمل الاضطراب والفوضى.

كان عصر النهضة زمنًا وسّعت فيه الأدوات والأفكار والمؤسسات الجديدة آفاق ما اعتقد الناس أنهم قادرون على إنجازه. ويمكن للذكاء الاصطناعي أن يؤدي هذا الدور في عصرنا. وأؤمن بأن قدرات الناس أكبر بكثير مما يتصورون، لكن تقنيات محدودة كبّلت إمكاناتهم؛ فقد كان من المفترض أن تمكّنهم، فإذا بها تشتّتهم وتستنزف انتباههم في كثير من الأحيان.

الذكاء الاصطناعي في أفضل صوره لا يحوّل الناس إلى تروس في آلة ضخمة، ولا يسعى إلى رفع كفاءة كل جانب من جوانب الحياة حتى تتلاشى جوانبها الإنسانية. بل يمنح الناس قدرة أكبر على الاختيار والفعل في عالم يزداد تعقيدًا: قدرة أكبر على التعلم والإبداع والاكتشاف والبناء والمشاركة. فهناك أمور كثيرة لا يستطيع الذكاء الاصطناعي أتمتتها، ولا ينبغي له فعل ذلك.

ينبغي تطوير الذكاء الاصطناعي لخدمة الناس، لا لمجرد تسريع دوران الآلات كغاية في حد ذاتها. وبعض التصورات التي طرحها العاملون على تطوير الذكاء الاصطناعي قاتمة إلى حد يجعلها تبدو كحبكات أفلام خيال علمي رديئة.

كل ما يتمتع بهذا القدر من القوة يبعث أيضًا على قدر من الرهبة. وهذه لحظة معقدة، إذ نشعر في الوقت نفسه بإمكانات هائلة وبقلق مفهوم تمامًا.

يمكن لهذه النماذج أن تساعد الناس على تحقيق اكتشافات ومعارف جديدة، بما يشمل أدوية جديدة ورعاية صحية أفضل وتعليمًا أقوى، كما يمكنها المساعدة على بناء اقتصادات أكثر إنتاجية. ويمكن أن تكون أدوات جديدة يسعى بها الناس لتحقيق أحلام وطموحات تبدو اليوم بعيدة المنال. لقد ازدادت تعقيدات الحياة بصورة هائلة بالنسبة إلى الإنسان العادي. وبقدر ما يمكن للذكاء الاصطناعي أن يكون أداة لاكتشافات وابتكارات غير مسبوقة، يمكنه أيضًا أن يكون وسيلة لحماية الناس من هذه التعقيدات.

من ناحية أخرى، مع تزايد قدرات أنظمة الذكاء الاصطناعي واستقلاليتها، قد تتقدم بوتيرة تفوق قدرة مؤسساتنا على مواكبتها، أو تركز السلطة في أيدٍ قليلة جدًا، أو تتخذ قرارات يعجز الناس عن فهمها أو التحكم فيها.

ويكتسب هذا القلق أهمية خاصة مع اقترابنا من أنظمة تستطيع تحسين نفسها ونسخها المستقبلية، فيما يُعرف غالبًا بالتحسين الذاتي التكراري. ومع تزايد أتمتة عملية تطوير الذكاء الاصطناعي، قد تتسارع وتيرة تقدمه سريعًا. وتتطلب هذه اللحظة توخّي أقصى درجات الحذر.

أتفق إلى حد كبير مع البروفيسور بنجيو. لكنني سأقول اثنين بدلًا من ثلاثة؛ فأنا أعتقد أن هناك مسارين قد يفضي فيهما تقدم الذكاء الاصطناعي إلى نتائج بالغة السوء، وعلينا تجنّبهما.

أولًا، قد نفقد السيطرة على المستقبل لصالح الذكاء الاصطناعي. ويكمن الخطر في أن يتقدم بسرعة تعجز معها قدرة الناس عن متابعة ما يحدث أو التدخل عند الحاجة. ومن الواضح أن ذلك سيكون مروعًا.

ويجب ألّا يقبل القطاع بقدر مفرط من المخاطر التكنولوجية لمجرد أن الفوائد هائلة، وأن التقدم يبدو مهمًا إلى درجة تجعل إبطاء وتيرته أمرًا صعبًا. فالتفوق على الشركات في سباق المنافسة ليس مبررًا لاتخاذ قرارات متسرعة. ولا نعتقد أننا عالقون في سباق لا نستطيع فيه إبطاء الوتيرة. لقد أبطأنا وتيرتنا بقرار منفرد في الماضي. وسنفعل ذلك في المستقبل. لا نريد بناء أنظمة نعجز عن تقديم الضمانات اللازمة بشأن مواءمتها وقابليتها للمراقبة وسلامتها، ونرى أنه من المهم أن يتجنب الجميع بناء مثل هذه الأنظمة.

علينا أن نفهم ما تفعله هذه الأنظمة، وأن نمتلك أدلة قوية على أنها ستتصرف وفق ما يريده الناس، حتى مع ازدياد قدراتها بدرجة كبيرة جدًا. بل خصوصًا عندما تصبح شديدة الذكاء إلى أبعد حد. لا يهم إن كان الناس يقدّرون احتمال وقوع كارثة بنسبة 10% أو 1% أو 12% أو 0.1%. فلا تقترب أيٌّ من هذه النسب من الحد المقبول. ويجب ألّا ندرّب نماذج ما لم نستطع تقديم حجج بالغة القوة تثبت قدرتنا على إبقائها تحت السيطرة البشرية.

إذن، هذا أحد المسارات التي قد تسير فيها الأمور على نحو سيئ. أما المسار الآخر، فهو أن تركز هذه الأنظمة قدرًا مفرطًا من السلطة في أيدٍ قليلة جدًا. ولا ينبغي لأي شخص أو شركة أو دولة، بشكل منفرد، أن يتمكن من استخدام أقوى نماذج الذكاء الاصطناعي لفرض رؤيته على العالم على الآخرين. فالشركة أو الدولة التي تعتقد أنها وحدها أهلٌ للثقة في التعامل مع هذه التكنولوجيا قد تستخدم هذا الاعتقاد لتبرير أي شيء آخر تقريبًا. علينا رفض هذا المنطق، حتى حين يخدم مصلحة طرف بعينه.

أؤمن بوجود مسار عملي للتعامل مع هذين الاتجاهين. ففي OpenAI، نتناول هذه المسائل بهدف واضح: يجب أن يمنح الذكاء الاصطناعي الناس قدرة أكبر على التحكم في حياتهم. وحرية أكبر في العيش بالطريقة التي يريدونها. وقدرة أكبر على حل المشكلات، كبيرة كانت أم صغيرة، وعلى النهوض بمجتمعاتهم. لا نريد أن نقع في فخ التفاؤل الأعمى. ولا نريد أيضًا أن نقع في فخ الاعتقاد بحتمية الهلاك. فالانجراف إلى أيٍّ من هذين النقيضين لن يساعدنا على التعامل بنجاح مع التحديات التي أمامنا، خصوصًا في وقت يواجه فيه العالم وشعوبه تحديات هائلة يمكن لهذه التكنولوجيا أن تسهم في حلها. لذلك نحاول أن نسلك طريقًا وسطًا بين هذين القطبين.

وهذا يعني لنا الالتزام بثلاثة مبادئ.

أولًا، كلما ازدادت قدرات الذكاء الاصطناعي، وجب أن يظل البشر في صميم عملية اتخاذ القرارات المتعلقة به. فمواءمة الذكاء الاصطناعي ليست مسألة بحثية مجرّدة. بل هي العمل على ضمان بقاء هذه الأنظمة تحت السيطرة البشرية على نحو موثوق، وتجسيدها للقيم الإنسانية، ومساعدتها الناس على توجيه المراحل المقبلة من التطوير. ونحن لا نسعى إلى أتمتة الحكم البشري أو القيم الإنسانية، ولا يجوز لنا ذلك.

ثانيًا، يجب أن تتحقق فوائد التقدم العلمي والنمو الاقتصادي على أيدي الناس ولخدمتهم. وينبغي أن يساعد الذكاء الاصطناعي الباحثين على تحقيق الاكتشافات، والأطباء على علاج المرضى، والمعلمين على تعليم الطلاب، ورواد الأعمال على تأسيس الشركات، والمجتمعات على حل مشكلات بدت يومًا مستعصية، وغير ذلك الكثير. لا تتمثل قصة التقدم البشري المتواصلة في حلول الأدوات محل قدرة الإنسان على الاختيار والفعل. بل في أن الأدوات المناسبة تعزّز قدرات الناس، وأؤمن بأن هذا سيمضي إلى أبعد بكثير مما نتصوره ممكنًا.

ثالثًا، يجب أن تمنح هذه التكنولوجيا كل إنسان قدرة أكبر على تحقيق إمكاناته. فالمستقبل الأفضل سيُبنى عندما يستطيع الناس تحويل قدراتهم إلى قيمة لأنفسهم، ولمجتمعاتهم، وبلدانهم، وللعالم من حولهم. قد نكون من بين من يطوّرون هذه التكنولوجيا، لكننا لسنا أبطال هذه القصة. دورنا هو أن نمكّن الناس في كل مكان، وأن نثق في ذلك السحر الكامن في مهارات البشر وقدراتهم.

لدينا الآن نماذج قادرة على اكتشاف معارف لم نمتلكها من قبل. تأملوا التقدم الذي شهدناه في الرياضيات. في صيف ما قبل ثلاثة أعوام، كان أداء نماذجنا مقبولًا في رياضيات المرحلة الابتدائية. وفي صيف ما قبل عامين، أصبح أداؤها جيدًا جدًا في مسابقات الرياضيات للمرحلة الثانوية. وفي الصيف الماضي، بلغنا مستوى الميدالية الذهبية في أعرق مسابقة دولية للرياضيات. وقبل بضعة أسابيع فقط من هذا الصيف، حلّ أحد نماذجنا إحدى مسائل جائزة الألفية، وهي معادلات نافييه–ستوكس.

تُستخدم هذه المعادلات في تصميم الطائرات، والتنبؤ بالطقس، ودراسة تدفق الدم. ولا نحل المسائل الرياضية لمجرد حلّها، بل لتمكين الناس من اكتشاف معارف جديدة وتسخيرها لتحسين الرعاية الصحية، ورفع مستويات المعيشة، وتوسيع إمكانات الجميع حول العالم. ولا يزال هناك الكثير مما ينتظر الاكتشاف.

لكن من المهم جدًا ألّا تحل الشركات محل العملية الديمقراطية.

إذا أردنا أن يكون الذكاء الاصطناعي ديمقراطيًا، فلا يمكن أن تنفرد مختبرات سان فرانسيسكو باتخاذ أهم القرارات. بل يجب أن تتبلور هذه القرارات عبر عمليات ديمقراطية، وعلى أيدي حكومات تخضع لمساءلة الشعوب التي تخدمها.

على الصعيد الدولي، لن يتحقق ذلك من دون تعاون. فقد عرف التاريخ لحظات وضعت فيها الدول تنافسها وخلافاتها جانبًا، والتقت حول مصالح مشتركة وما يخدم الصالح العام، عندما فرض ظهور تكنولوجيا جديدة وقوية تحديات تتجاوز حدود أي دولة منفردة. ونؤمن بأن هذه واحدة من تلك اللحظات التي تستدعي أن نتقدم معًا.

نحتاج إلى إطار ينسّق بين المعايير الوطنية والدولية الخاصة بالذكاء الاصطناعي الرائد؛ معايير تقيس القدرات، وتقيّم المخاطر، وتتحقق من كفاية تدابير الحماية، وتضمن بقاء الإشراف البشري فاعلًا وذا معنى كلما ازدادت الأنظمة استقلالية.

نحتاج إلى معايير مشتركة تتيح للدول مقارنة الأدلة، والتحقق من الامتثال، والانطلاق من لغة وفهم مشتركين لما يحدث.

نحتاج إلى آليات سريعة ودقيقة للإبلاغ عن الحوادث، وبروتوكولات واضحة لتصنيفها وتوثيقها، حتى يتمكن العالم من استخلاص الدروس من الإخفاقات قبل أن تتفاقم إلى كوارث.

ونحتاج إلى قنوات آمنة تربط الحكومات ومشغّلي البنية التحتية الحيوية والخبراء التقنيين، لتبادل المعلومات عن الثغرات الناشئة والتهديدات الجديدة.

ومن الواضح أن هذه المعايير يجب ألّا تكرّس هيمنة الشركات القائمة أو تفضّل نموذج أعمال على آخر. ويجب أن تدعم مطوّري النماذج المفتوحة والمغلقة، والوافدين الجدد والمختبرات الراسخة، والسلطة الوطنية والتعاون الدولي. وينبغي لكل حكومة أن تقرر كيفية إدماج المعايير في نظامها القانوني. لكننا جميعًا سنكون في وضع أفضل إذا استطعنا الاتفاق عالميًا على مواصفات الأدلة الموثوقة، وتدابير الحماية الكافية، والإشراف الفعّال.

لا نملك كل الإجابات، ونحن منفتحون تمامًا على أي أفكار أفضل. ونحن مستعدون للعمل معكم جميعًا وبذل أقصى جهدنا للتوصل إلى أفضل سبيل للمضي قدمًا.

نحن اليوم عند مفترق طرق حاسم. طريقٌ يقود إلى عالم تتركّز فيه القوة في أيدٍ قليلة، وتُتخذ فيه القرارات خلف ستار من الغموض، ويشعر الناس بأن أهم تكنولوجيا في حياتهم تُفرض عليهم بدل أن يكون لهم دور في تشكيلها. وطريقٌ آخر يقود إلى عالم يعمل فيه الذكاء الاصطناعي لصالح الناس، لأنهم يشاركون، عبر مؤسسات ديمقراطية، في تقرير مسار تطوره وتوجيهه؛ عالم ينعكس فيه التقدم العلمي على حياة الناس فعلًا، وتتسع فيه دائرة المشاركة في صنع المستقبل، وتواصل فيه هذه التكنولوجيا منح الأفراد والمجتمعات قدرة أكبر على عيش حياتهم كما يختارون. ذلك هو المستقبل الذي تتحقق فيه الإمكانات، ويجتمع فيه الأمل والحماس وروح الدهشة.

وهو المستقبل الذي نؤمن بأنه يستحق أن نسعى إلى بنائه. شكرًا جزيلًا لكم.