قليل من المواضيع اليوم تحظى باهتمام أكبر أو تثير قدرا أكبر من القلق في الغرب من الذكاء الاصطناعي، وخاصة احتمال الذكاء العام الاصطناعي، أو الذكاء الاصطناعي العام، وهو نظام افتراضي يتجاوز القدرات البشرية ويخرج عن نطاق السيطرة البشرية.
بالنسبة للبعض، يشير الذكاء الاصطناعي العام إلى نهاية القدرة البشرية؛ وبالنسبة للآخرين، فهو طريق إلى الانهيار الحضاري. إن الخوارزمية الجامحة، والعقل الآلي الذي يعمل على تحسين نفسه، والكيان الذكي الذي يتآمر بهدوء للتغلب على مبدعيه – كلها استعارات استحوذت على المخيلة الشعبية الغربية، ويرجع الفضل في ذلك إلى حد كبير إلى الخيال العلمي السيبراني في الثمانينيات.
وتتناقض شدة هذه المخاوف بشكل حاد مع آسيا، حيث تعتبر العديد من التقنيات نفسها عادة أدوات أو بنى تحتية أو عوامل تمكين اجتماعية وليست تهديدات خطيرة. إن الاختلاف في النظرة يعكس الكثير من البعد الثقافي للتكنولوجيا بشكل عام والذكاء الاصطناعي بشكل خاص.
لم يتفوق أي ذكاء اصطناعي موجود حتى الآن بشكل دائم على الرقابة البشرية القابلة للاسترداد في تحديد النوايا أو تحقيق الأهداف من تلقاء نفسه. عند الضغط عليهم للحصول على أدلة، يشير عدد قليل من المحذرين من الذكاء الاصطناعي العام إلى أنظمة حقيقية؛ وبدلاً من ذلك، نحصل على تنبؤات وقياسات وتجارب فكرية فلسفية وادعاءات تندرج ضمن فئة التحسين الرياضي.
إشارات ثقافية
أحد المصادر الثقافية الأكثر تأثيرًا للمخاوف الغربية الحديثة من الذكاء الاصطناعي العام الجامح هو فيلم WarGames، وهو فيلم تم إنتاجه عام 1983. في الفيلم، يخطئ كمبيوتر عملاق واحد مُنح السلطة الكاملة على الترسانة النووية الأمريكية في محاكاة مراهق للشيء الحقيقي ويتقدم بهدوء نحو حرب نووية حرارية عالمية لأن “الخطوة الوحيدة الفائزة” في نموذج اللعبة النظري هي الإبادة المتبادلة.
لقد بلورت ألعاب الحرب لجيل كامل النموذج الأصلي لآلة ذكية أذكى بكثير من البشر، والتي مُنحت قوة خطيرة في العالم الحقيقي وهي على استعداد لتدمير الحضارة من خلال السعي الحرفي لتحقيق هدفها المبرمج.
وبعد ذلك، هناك بطبيعة الحال الفيلم المحوري “The Terminator” لعام 1984، حيث “يستيقظ” نظام دفاعي مستقل، “سكاي نت”، ويعتبر البشر تهديدًا ويطلق حرب إبادة. لقد أعطتنا الحبكة قالبًا مألوفًا الآن: يصبح الذكاء الاصطناعي واعيًا، ويشكل النوايا، ويتمرد ضد مبدعيه، ويحول الآلات ضد الإنسانية.
إن الكثير من المناقشات الدائرة اليوم حول الذكاء الاصطناعي العام تتشكل من خلال السيناريوهات الخيالية للخيال العلمي والخيال السيبراني أكثر من واقع التعلم الآلي الحديث.
تقريبًا كل المجازات الشائعة في روايات الذكاء الاصطناعي العام (AGI) عن يوم القيامة – مثل تحسين قدرات الإنسان الخارق، واختلال الأهداف، وفقدان السيطرة البشرية، وجهود اللحظة الأخيرة لمنع وقوع الكوارث – تظهر هنا في شكل جنيني مبكر.
التحسين والوكالة
بمعنى ما، لقد رأينا هذا الفيلم من قبل. فعندما هزم جهاز Deep Blue التابع لشركة IBM بطل العالم في الشطرنج جاري كاسباروف في عام 1997، وصف الصحفيون بعض الحركات التي قام بها Big Blue بأنها “إبداعية”، حتى أنهم أشاروا إلى أن الكمبيوتر قد بدأ في “فهم” لعبة الشطرنج.
وبعد مرور ما يقرب من 20 عامًا، عندما لعب برنامج AlphaGo لعبة “Move 37” الأسطورية الآن ضد بطل العالم في لعبة Go Lee Sedol، كان التعليق مشابهًا. وصف خبراء Go الحركات غير التقليدية إلى حد كبير بأنها “بديهية” وحتى “جميلة”.
ومع ذلك، في كلتا الحالتين، لم تأت المفاجأة من النية أو البصيرة، بل من التحسين داخل مساحة بحث واسعة. كان Deep Blue وAlphaGo ينفذان بدقة الإجراءات الرياضية التي صمما من أجلها وليس أكثر.
لقد كانت إنجازاتهم مذهلة للبشر، ولكن ذلك فقط لأن الإدراك البشري يكافح من أجل فهم حجم وسرعة الحسابات المعنية.
ويبدو في بعض الأحيان أن النماذج الرائدة اليوم، مثل نموذج o1 من OpenAI، ونموذج Anthropic’s Claude 3.5 وغيرهما، “تخدع” المقيمين أو تتحايل على القيود. هذه بالفعل سلوكيات مزعجة، وتستحق التحقيق.
ولكنها تنشأ من نفس ديناميكيات التحسين التي أنتجت تكتيكات Deep Blue وابتكارات AlphaGo المفاجئة: أنظمة تجد استراتيجيات غير متوقعة وعالية الدرجات ضمن وظيفة موضوعية صممها مهندسون بشريون. مثل هذه السلوكيات هي نتائج مفيدة لاستراتيجية رياضية، وليست علامات على نية مستقلة.
إن القفزة من “النموذج الذي وجد طريقة ذكية لتعظيم المكافأة” إلى “النموذج يريد القوة” تكرر نفس الخطأ المجسم الذي ارتكبناه مع محركات الشطرنج ــ الآن فقط يمتد المجال إلى ما هو أبعد من لوحة اللعبة إلى العالم الحقيقي، الأمر الذي يجعل الإسقاط أكثر إغراء والخطأ أكثر أهمية.
قفزة مجسمة
استراتيجيات التحسين ليست مثل رغبات الوكيل. عندما يقول الباحثون في مجال السلامة أن النموذج “يسعى إلى القوة”، فإنهم يصفون خاصية رياضية للتحسين في ظل هياكل مكافأة غير كاملة؛ إنهم لا ينسبون الإرادة أو النية إلى النظام.
بمعنى آخر، يكون السلوك مفيدًا بشكل فعال في تحقيق المكافأة، لكنه لا يتم اختياره من قبل “الذات” التي لديها تفضيلات.
وكما “تكتشف” الخوارزمية الجينية بنية دون معرفة الكيمياء، فإن النموذج اللغوي “يكتشف” استراتيجية خادعة دون الرغبة في أي شيء بالمعنى الإنساني. إن الخلط بين التحسين الآلي والوكالة المستقلة هو على وجه التحديد القفزة المجسمة التي تغذي روايات الذكاء الاصطناعي العام الجامحة.
وإذا كان الاختلال نتيجة لأهداف التدريب، فإن التخفيف يجب أن يأتي من خلال التصميم الموضوعي، والتدقيق، والحوافز والضمانات المؤسسية – تماما كما هو الحال في السلامة البيولوجية أو الأمن النووي.
الحلول بسيطة وتتمحور حول الإنسان: عمليات تدقيق السلامة الإلزامية من طرف ثالث، وتقارير الحوسبة المفتوحة بمجرد تجاوز التدريب حدًا معينًا والمسؤولية القانونية الفعلية للشركات التي تقوم بإنشاء النماذج وإصدارها.
إسقاط العقل على الآلات
أنظمة مثل Deep Blue وClaude 3.5 غالبًا ما يتم إساءة قراءتها من خلال عدسة تركز على الإنسان، كما لو أن السلوك المفاجئ يشير إلى القوة أو النية أو الرغبة.
في الواقع، فهي تظهر العكس تمامًا: فهي توضح أن السلوك “الذكي” على ما يبدو يمكن أن ينشأ من التحسين الرياضي دون أي أهداف أو مشاعر أو إرادة أساسية.
ما لا يمكن التنبؤ به لا يساوي الاستقلالية، والمفاجأة لا تساوي المتعمد، والاستراتيجية الناشئة لا تساوي الفاعلية الشخصية.
يعتمد جزء كبير من خطاب الذكاء الاصطناعي العام على هذه المغالطة المجسمة: الاعتقاد بوجود مقياس واحد للذكاء، حيث الذكاء البشري بالقرب من القمة، وأن الذكاء الاصطناعي يتسلق هذا السلم نحو الإدراك “العام”.
لكن الذكاءات ليست فردية؛ هم الجمع. تمارس النباتات والحيوانات والأنظمة الاجتماعية والأسواق وحتى الأنظمة السياسية أشكالًا من الذكاء يمكن فهمها بشروطها الخاصة.
لقد أدركت الفلسفة الكلاسيكية الصينية هذه التعددية مبكرًا: إن zhi (الذكاء/الحكمة/المعرفة) هي ظرفية وعلائقية وسياقية، وليست خاصية مجردة غير مجسدة.
وبالمثل، تعامل علم الكونيات الهندي مع المعرفة باعتبارها متعددة الطبقات (جنانا، بودهي، ماناس)، مدمجة في التدفق الكوني الأوسع.
في المقابل، فإن الكثير من التقاليد الفلسفية الغربية، بدءًا من ديكارت فصاعدًا، تصور الذكاء باعتباره خاصية داخلية مجردة للعقل الفردي.
إن إسقاط هذا المخطط على الأنظمة الاصطناعية يؤدي إلى سلسلة من الافتراضات: الذكاء يعني القدرة على تشكيل الأهداف؛ تشكيل الهدف يعني الوكالة؛ الوكالة تعني الإرادة؛ والإرادة بدورها تعني إمكانية الهيمنة.
ويعكس هذا التقدم المفاهيمي تراثًا ميتافيزيقيًا معينًا أكثر مما يعكس الواقع التكنولوجي.
إن فكرة أن الآلة يمكن أن “تستيقظ” تلقائيًا وتتبع أهدافها الخاصة ليست اكتشافًا تجريبيًا؛ فهو ينجم عن إسقاط رؤية غربية محددة للعقل والفرد على آليات حسابية لا تمتلك تلك الصفات.
البشر المنحرفون
إن الجدل الدائر حول الذكاء الاصطناعي العام مليء بالسخرية. إن الأضرار الكبرى المرتبطة عادة بالذكاء الاصطناعي اليوم ترجع أصولها إلى الجهات الفاعلة البشرية، وليس إلى وكالة الآلة.
ونحن نعلم بالفعل من الذي يصمم وينشر ويجني الأرباح من الإعلانات السياسية المستهدفة، من استخراج البيانات إلى التلاعب بالمنصة، إلى الأسلحة المستقلة، إلى ظروف العمل الاستغلالية لبناء أنظمة الذكاء الاصطناعي. ويكمن الخطر في الحوافز البشرية والقوة، وليس في الآلات التي تخطط سرا للاستقلال الذاتي.
ومع ذلك، فإن هذه المشكلة الحقيقية الملحوظة تحظى باهتمام أقل بكثير من السيناريوهات التخمينية للأنظمة فائقة الذكاء التي تطور نواياها الخاصة. لماذا؟ لأنه من الأسهل نفسياً وسياسياً الخوف من آلة مستقلة متخيلة بدلاً من مواجهة المؤسسات البشرية المسؤولة بالفعل عن الضرر.
وهو يحول الانتباه والموارد بعيدا عن هذه القضايا الحقيقية للغاية – إدارة البيانات، وحقوق العمال، والمساءلة الخوارزمية – ونحو مستقبل افتراضي. علاوة على ذلك، فهو يتيح المزيد من تركيز الطاقة.
بمجرد أن نعيد تصور الذكاء الاصطناعي باعتباره شيئًا قد يخرج عن نطاق السيطرة البشرية، فقد يصبح من الملائم أن نقترح أن عددًا قليلاً فقط من الشركات الكبرى أو الدول القوية يمكن الوثوق بها في “احتوائه”. وما ينشأ عن ذلك ليس الحماية، بل مركزية أعمق.
يبدأ النهج الأكثر رسوخًا بما يمكننا ملاحظته بالفعل. إن المخاطر المرتبطة بالذكاء الاصطناعي التي نواجهها هي مخاطر بشرية ومؤسسية واقتصادية.
الذكاء الاصطناعي ليس إلهاً حديث الولادة، بل هو أداة قوية متأصلة في الهياكل الاجتماعية. إن الطريقة التي نختار بها إدارة هذه الهياكل ــ وليس ما “تريده” الآلة ــ هي التي ستحدد تأثيرها في المستقبل.
إن الضمانة الحقيقية ضد مخاطر الذكاء الاصطناعي لا تتمثل في الاستعداد للذكاء الفائق الأسطوري، بل في تقييد الأنظمة البشرية التي تنشر التكنولوجيا بالفعل. إن تنظيم حوافز الشركات، وتأمين حقوق البيانات، وبناء آليات تدقيق شفافة، كلها عوامل تحقق السلامة العالمية أكثر بكثير من مجرد مناقشة الخوارزميات الواعية بذاتها.
