منظمة العفو الدولية القوية قادمة. نحن لسنا مستعدين.

إليكم بعض الأشياء التي أؤمن بها حول الذكاء الاصطناعي:

أعتقد أنه خلال السنوات القليلة الماضية ، بدأت أنظمة الذكاء الاصطناعى في تجاوز البشر في عدد من المجالات – الرياضيات والترميز والتشخيص الطبي ، على سبيل المثال لا الحصر – وأنهم يتحسنون كل يوم.

أعتقد أنه في وقت قريب جدًا-ربما في عام 2026 أو 2027 ، ولكن على الأرجح بمجرد هذا العام-ستدعي شركة واحدة أو أكثر من شركات الذكاء الاصطناعي أنها خلقت ذكاءً عاماً مصطناعياً ، أو AGI ، والتي عادة ما يتم تعريفها على أنها شيء مثل “نظام الذكاء الاصطناعي للأغراض العامة يمكنه القيام بجميع المهام المعرفية تقريبًا التي يمكن أن يفعلها الإنسان”.

أعتقد أنه عندما يتم الإعلان عن AGI ، ستكون هناك مناقشات حول التعاريف والحجج حول ما إذا كانت تعتبر AGI “حقيقية” أم لا ، ولكن هذه في الغالب لن تكون مهمة ، لأن النقطة الأوسع-أننا نفقد احتكارنا للذكاء على مستوى الإنسان ، والانتقال إلى عالم مع أنظمة AI قوية للغاية-سيكون صحيحًا.

أعتقد أنه على مدار العقد المقبل ، ستولد الذكاء الاصطناعى القوي تريليونات الدولارات من حيث القيمة الاقتصادية وتميل توازن القوة السياسية والعسكرية تجاه الأمم التي تسيطر عليها – وأن معظم الحكومات والشركات الكبرى تعتبر هذا بالفعل واضحًا ، كما يتضح من المبالغ الضخمة من الأموال التي تنفقها للوصول إلى هناك أولاً.

أعتقد أن معظم الناس والمؤسسات غير مستعدين تمامًا لأنظمة الذكاء الاصطناعى الموجودة اليوم ، ناهيك عن المزيد من الأقوى ، وأنه لا توجد خطة واقعية في أي مستوى من الحكومة لتخفيف المخاطر أو التقاط فوائد هذه الأنظمة.

أعتقد أن المتشككين في الذكاء الاصطناعى – الذين يصرون على أن التقدم هو كل الدخان والمرايا ، والذين يرفضون AGI كخيال وهمي – ليس فقط خطأ في الأسس القائمة ، ولكنهم يعطون الناس شعورًا كاذبًا بالأمان.

أعتقد أنه سواء كنت تعتقد أن AGI سيكون رائعًا أو فظيعًا بالنسبة للبشرية – وبصراحة ، قد يكون من السابق لأوانه القول – وصولها يثير أسئلة اقتصادية وسياسية وتكنولوجية مهمة ليس لدينا إجابات حاليًا.

أعتقد أن الوقت المناسب للبدء في التحضير لـ AGI هو الآن.

هذا قد يبدو كله مجنون. لكنني لم أصل إلى هذه الآراء كمستقبلي ذي عيون بالنجوم ، أو مستثمر يقوم بتهديد محفظة الذكاء الاصطناعى أو رجل أخذ الكثير من الفطر السحري وشاهد “Terminator 2.”

وصلت إليهم كصحفي قضى الكثير من الوقت في التحدث إلى المهندسين الذين يقومون ببناء أنظمة قوية من الذكاء الاصطناعي ، والمستثمرين الذين يمولونها والباحثين يدرسون آثاره. وقد جئت إلى الاعتقاد بأن ما يحدث في الذكاء الاصطناعي الآن أكبر مما يفهمه معظم الناس.

في سان فرانسيسكو ، حيث أنا مقيم ، فإن فكرة AGI ليست هامشية أو غريبة. يتحدث الناس هنا عن “الشعور بـ AGI” ، وأصبح بناء أنظمة الذكاء الاصطناعى أكثر ذكاءً من الإنسان الهدف الصريح لبعض أكبر شركات وادي السيليكون. كل أسبوع ، أقابل المهندسين ورجال الأعمال الذين يعملون على الذكاء الاصطناعى الذين أخبروني أن التغيير-التغيير الكبير ، تغيير العالم ، نوع التحول الذي لم نره من قبل-هو قاب قوسين أو أدنى.

“على مدار العام أو العامين الماضيين ، ما كان يسمى” الجداول الزمنية القصيرة “(التفكير في أن AGI من المحتمل أن يتم بناء هذا العقد) أصبح شبه كونيسوس” ، أخبرني مايلز بروندج ، باحث في سياسة الذكاء الاصطناعي المستقل الذي غادر Openai العام الماضي ، مؤخرًا.

خارج منطقة الخليج ، لم يسمع سوى قلة من الناس عن Agi ، ناهيك عن التخطيط لذلك. وفي صناعتي ، ما زال الصحفيون الذين يحصلون على تقدم منظمة العفو الدولية على محمل الجد يتعرضون للسخرية كغوص ساذج أو شلالات الصناعة.

بصراحة ، أحصل على رد الفعل. على الرغم من أن لدينا الآن أنظمة الذكاء الاصطناعى تساهم في اختراقات جائزة نوبل ، وعلى الرغم من أن 400 مليون شخص في الأسبوع يستخدمون chatgpt ، فإن الكثير من الذكاء الاصطناعى الذي يواجهه الناس في حياتهم اليومية هو مصدر إزعاج. أنا أتعاطف مع الأشخاص الذين يرون الذكاء الاصطناعي في جميع أنحاء خلاصات Facebook الخاصة بهم ، أو لديهم تفاعل أخرق مع chatbot خدمة العملاء وفكر: هذا هل ما سيتولى العالم؟

اعتدت أن أسخر من الفكرة أيضًا. لكنني جئت إلى الاعتقاد بأنني كنت مخطئًا. لقد أقنعتني بعض الأشياء بأخذ تقدم منظمة العفو الدولية على محمل الجد.

المطلعون يشعرون بالقلق.

إن أكثر ما يزعجني في صناعة الذكاء الاصطناعى اليوم هو أن الأشخاص الأقرب إلى التكنولوجيا – الموظفين والمديرين التنفيذيين في مختبرات AI الرائدة – يميلون إلى أن يكونوا الأكثر قلقًا بشأن مدى سرعة تحسنها.

هذا غير عادي للغاية. في عام 2010 ، عندما كنت أغطي صعود وسائل التواصل الاجتماعي ، كان لا أحد داخل Twitter أو Foulsquare أو Pinterest يحذر من أن تطبيقاتهم يمكن أن تسبب فوضى اجتماعية. لم يكن Mark Zuckerberg يختبر Facebook للعثور على أدلة على أنه يمكن استخدامه لإنشاء الأسلحة الحيوية الجديدة ، أو تنفيذ الهجمات الإلكترونية المستقلة.

لكن اليوم ، فإن الأشخاص الذين لديهم أفضل المعلومات حول تقدم الذكاء الاصطناعي-الأشخاص الذين يقومون ببناء منظمة العفو الدولية القوية ، والذين لديهم إمكانية الوصول إلى أنظمة أكثر تحددًا مما يراه الجمهور-يخبروننا أن التغيير الكبير قريب. تستعد شركات الذكاء الاصطناعى الرائدة بنشاط لوصول AGI ، وتدرس خصائص مخيفة من نماذجها ، مثل ما إذا كانت قادرة على التخطيط والخداع ، تحسباً لتصبح أكثر قدرة على الاستقلال.

كتب سام ألمان ، الرئيس التنفيذي لشركة Openai ، أن “الأنظمة التي تبدأ في الإشارة إلى AGI هي في الاعتبار”.

قال ديميس هاسابيس ، الرئيس التنفيذي لشركة Google Deepmind ، إن AGI ربما “على بعد ثلاث إلى خمس سنوات”.

أخبرني داريو أمودي ، الرئيس التنفيذي للأنثروبور (الذي لا يحب مصطلح AGI لكنه يوافق على المبدأ العام) ، في الشهر الماضي أنه يعتقد أننا على بعد عام أو عامين من وجود “عدد كبير جدًا من أنظمة الذكاء الاصطناعى الأكثر ذكاءً من البشر في كل شيء تقريبًا”.

ربما يجب علينا خصم هذه التنبؤات. بعد كل شيء ، يقف المسؤولون التنفيذيون من الذكاء الاصطناعى إلى الربح من الضجيج المضخم ، وربما يكون لديهم حوافز للمبالغة.

لكن الكثير من الخبراء المستقلين – بمن فيهم جيفري هينتون ويوشوا بينجيو ، وهما من أكثر الباحثين من الذكاء الاصطناعي في العالم ، وبن بوكانان ، الذي كان أفضل خبير في إدارة الذكاء الاصطناعي في إدارة بايدن – يقولون أشياء مماثلة. وكذلك مجموعة من الاقتصاديين البارزين وعلماء الرياضيات ومسؤولي الأمن القومي.

لكي نكون منصفين ، يشك بعض الخبراء في أن AGI وشيك. ولكن حتى لو تجاهلت كل من يعمل في شركات الذكاء الاصطناعى ، أو كان لديه حصة راسخة في النتيجة ، فلا يزال هناك ما يكفي من الأصوات المستقلة ذات المصداقية مع الجداول الزمنية القصيرة AGI التي يجب أن نأخذه على محمل الجد.

نماذج الذكاء الاصطناعى تستمر في التحسن.

بالنسبة لي ، تمامًا كما هو مقنع مثل رأي الخبراء هو الدليل على أن أنظمة الذكاء الاصطناعى اليوم تتحسن بسرعة ، بطرق واضحة إلى حد ما لأي شخص يستخدمها.

في عام 2022 ، عندما أصدرت Openai ChatGPT ، ناضلت نماذج الذكاء الاصطناعى الرائدة مع الحساب الأساسي ، فشلت في كثير من الأحيان في مشاكل التفكير المعقدة وغالبًا ما تكون “مهلوسة” ، أو تصنع حقائق غير موجودة. يمكن أن تفعل chatbots من تلك الحقبة أشياء مثيرة للإعجاب مع المطالبة الصحيحة ، لكنك لن تستخدم واحدة أبدًا لأي شيء مهم للغاية.

نماذج الذكاء الاصطناعى اليوم أفضل بكثير. الآن ، تضع النماذج المتخصصة درجات على مستوى الميدالية على أولمبياد الرياضيات الدولية ، وقد أصبحت النماذج المتعددة للأغراض العامة جيدة في حل المشكلات المعقدة لدرجة أننا اضطررنا إلى إنشاء اختبارات جديدة وأصعب لقياس قدراتها. لا تزال الهلوسة والأخطاء الواقعية تحدث ، لكنها نادرة في النماذج الأحدث. والعديد من الشركات تثق الآن في نماذج الذكاء الاصطناعي بما يكفي لبناءها في وظائف أساسية مواجهة للعملاء.

(رفعت صحيفة نيويورك تايمز دعوى قضائية ضد Openai وشريكها ، Microsoft ، متهمينهم بانتهاك حقوق الطبع والنشر لمحتوى الأخبار المتعلقة بأنظمة الذكاء الاصطناعى. نفى Openai و Microsoft هذه المطالبات.)

بعض التحسن هو وظيفة الحجم. في الذكاء الاصطناعي ، تميل النماذج الأكبر ، التي تم تدريبها باستخدام المزيد من البيانات وقوة المعالجة ، إلى تحقيق نتائج أفضل ، ونماذج اليوم الرائدة أكبر بكثير من أسلافها.

لكنه ينبع أيضًا من الاختراقات التي حققها باحثو الذكاء الاصطناعى في السنوات الأخيرة – وأبرزها ، ظهور نماذج “التفكير” ، والتي تم تصميمها لاتخاذ خطوة حسابية إضافية قبل تقديم استجابة.

يتم تدريب نماذج التفكير ، التي تشمل Openai's O1 و Deepseek's R1 ، على العمل من خلال مشاكل معقدة ، ويتم تصميمها باستخدام التعلم التعزيز – وهي تقنية تم استخدامها لتعليم الذكاء الاصطناعي للعب لعبة اللوحة على مستوى خارق. يبدو أنها تنجح في الأشياء التي تعثرت على النماذج السابقة. (مثال واحد فقط: GPT-4O ، نموذج قياسي أصدرته Openai ، سجل 9 في المائة في AIME 2024 ، مجموعة من مشاكل الرياضيات الشاقة للغاية ؛ O1 ، نموذج التفكير الذي أصدره Openai بعد عدة أشهر ، سجل 74 في المائة في نفس الاختبار.)

مع تحسن هذه الأدوات ، أصبحت مفيدة لأنواع العديد من أنواع المعرفة ذات الياقات البيضاء. كتب زميلي عزرا كلاين مؤخرًا أن مخرجات أبحاث شاتغبت العميقة ، وهي ميزة متميزة تنتج ملخصات تحليلية معقدة ، كانت “على الأقل الوسيط” للباحثين البشريين الذين عملوا معهم.

لقد وجدت أيضًا العديد من الاستخدامات لأدوات الذكاء الاصطناعي في عملي. لا أستخدم الذكاء الاصطناعي لكتابة الأعمدة الخاصة بي ، لكنني أستخدمها في الكثير من الأشياء الأخرى – التحضير للمقابلات ، وتلخيص الأوراق البحثية ، وبناء تطبيقات مخصصة لمساعدتي في المهام الإدارية. لم يكن أي من هذا ممكنًا قبل بضع سنوات. وأجد أنه من غير المعقول أن أي شخص يستخدم هذه الأنظمة بانتظام للعمل الجاد قد يستنتج أنه ضرب هضبة.

إذا كنت ترغب حقًا في فهم مدى حصول الذكاء الاصطناعى مؤخرًا ، فتحدث إلى مبرمج. منذ عام أو عامين ، كانت أدوات ترميز الذكاء الاصطناعى موجودة ، ولكن كانت تهدف إلى تسريع المبرمجين البشريين أكثر من استبدالها. اليوم ، أخبرني مهندسو البرمجيات أن الذكاء الاصطناعى يقومون بمعظم الترميز الفعلي لهم ، وأنهم يشعرون بشكل متزايد أن وظيفتهم هي الإشراف على أنظمة الذكاء الاصطناعى.

قال جاريد فريدمان ، الشريك في Y Combinator ، وهو مسرع ناشئ ، إن ربع مجموعة الشركات الناشئة الحالية للمدرس كانت تستخدم منظمة العفو الدولية لكتابة جميع التعليمات البرمجية تقريبًا.

وقال: “قبل عام ، كانوا قد بنوا منتجاتهم من نقطة الصفر – ولكن الآن 95 في المائة منها بنيت من قبل الذكاء الاصطناعى”.

الإفراط في الانبعاث أفضل من الانحراف.

بروح التواضع المعرفي ، يجب أن أقول إنني ، والعديد من الآخرين ، قد أكون مخطئًا في الجداول الزمنية لدينا.

ربما سيصل تقدم الذكاء الاصطناعي إلى عنق الزجاجة لم نتوقعه – وهو نقص في الطاقة يمنع شركات الذكاء الاصطناعى من بناء مراكز بيانات أكبر ، أو محدودة الوصول إلى الرقائق القوية المستخدمة لتدريب نماذج الذكاء الاصطناعي. ربما لا يمكن أن تأخذنا بنية النموذج اليوم وتقنيات التدريب على طول الطريق إلى AGI ، وهناك حاجة إلى المزيد من الاختراقات.

لكن حتى لو وصلت Agi بعد عقد من الزمان مما كنت أتوقع – في عام 2036 ، بدلاً من عام 2026 – أعتقد أننا يجب أن نبدأ في التحضير لذلك الآن.

معظم النصيحة التي سمعتها عن كيفية تسهيل المؤسسات لأغلي تتلخص في الأشياء التي يجب أن نقوم بها على أي حال: تحديث البنية التحتية للطاقة لدينا ، وتصلب دفاعات الأمن السيبراني لدينا ، وتسريع سرعة الموافقة على الأدوية المصممة من الذكاء الاصطناعى ، وتكتب اللوائح للمنع الأكثر خطورة من الذكاء الذكري ، وتعليم المعيد القابلة لعلاج الذكاء في المدارس ودعم التطوير الاجتماعي على ما يقرب من ذلك إلى الإلغاء. هذه كلها أفكار معقولة ، مع أو بدون AGI

يشعر بعض قادة التكنولوجيا بالقلق من أن المخاوف المبكرة بشأن AGI ستسبب لنا تنظيم الذكاء الاصطناعي بقوة. لكن إدارة ترامب أشارت إلى أنها تريد تسريع تطور الذكاء الاصطناعي ، وليس إبطاءها. ويتم إنفاق ما يكفي من المال لإنشاء الجيل القادم من نماذج الذكاء الاصطناعى – مئات المليارات من الدولارات ، مع المزيد على الطريق – يبدو أنه من غير المحتمل أن تضخ شركات AI الرائدة الفرامل طوعًا.

لا تقلق بشأن إفراط الأفراد في Agi ، أيضًا. هناك خطر أكبر ، كما أعتقد ، هو أن معظم الناس لن يدركوا أن الذكاء الاصطناعي القوي موجود هنا حتى يحدق بهم في وجههم – القضاء على وظيفتهم ، أو إشراكهم في عملية احتيال ، أو يؤذيهم أو أي شخص يحبونه. هذا ، تقريبًا ، ما حدث خلال حقبة وسائل التواصل الاجتماعي ، عندما فشلنا في التعرف على مخاطر أدوات مثل Facebook و Twitter حتى كانت كبيرة جدًا وترسخًا للتغيير.

لهذا السبب أؤمن بأخذ إمكانية AGI على محمل الجد الآن ، حتى لو لم نكن نعرف بالضبط متى سيصل أو بالضبط الشكل الذي سيتطلبه.

إذا كنا في حالة إنكار – أو إذا لم ننتبه ببساطة – فقد نفقد فرصة لتشكيل هذه التكنولوجيا عندما تكون أكثر أهمية.