تصاعدت خلال الأيام القليلة الماضية التحذيرات بشأن المخاطر المحتملة لتطور الذكاء الاصطناعي إلى مرحلة “الذكاء الاصطناعي الفائق” (ASI)، وسط مخاوف من أن تتجاوز قدراته مستوى السيطرة البشرية، وصولًا إلى سيناريوهات كارثية قد تهدد مستقبل البشرية، وفقًا لما ذكره تقرير لصحيفة “الغارديان” البريطانية.
وخلال جلسة في البرلمان البريطاني، حذر مسؤولون وخبراء من أن الذكاء الاصطناعي الفائق قد يشكّل خطرًا يماثل، وربما يتجاوز، خطر الأسلحة النووية. وقال ديس براون، وزير الدفاع البريطاني الأسبق، إنه كان يرى خلال توليه منصبه أن الحرب النووية تعد أكبر تهديد للبشرية، لكنه بات يعتقد أن “الذكاء الاصطناعي الفائق يشكّل تهديدًا بالحجم نفسه، وربما أكبر”.
ومن جانبه، حذر البروفيسور ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا في بيركلي، من احتمال وقوع كارثة بحجم كارثة تشيرنوبل، بل ومن سيناريو أكثر خطورة تفقد فيه البشرية السيطرة على أنظمة الذكاء الاصطناعي بصورة لا رجعة فيها.
وجاءت هذه التحذيرات خلال جلسة نظمها تحالف “Control AI” في العاصمة البريطانية لندن، وهي جماعة ضغط تدعو إلى وضع قواعد دولية لتنظيم الذكاء الاصطناعي. وتدعم المجموعة مشروع قانون يُناقش في البرلمان البريطاني، ويهدف إلى حظر تطوير الذكاء الاصطناعي الفائق.
تحذير من احتمال انقراض البشرية
أثار إيفان هوبينغر، المسؤول عن أبحاث المواءمة في شركة أنثروبيك، جدلًا واسعًا بعدما قال إنه يعتقد أن هناك احتمالًا يتجاوز 10% لأن تؤدي هذه التكنولوجيا إلى “قتل كافة البشر” خلال العقد المقبل.
وجاء تصريح هوبينغر عقب استقالة الباحث جاكوب كوكسون، البالغ من العمر 28 عامًا، من أنثروبيك، بعدما عمل سابقًا في OpenAI، إذ قال إن الشركتين لا تتصرفان بمسؤولية، وإنهما “تقامران بحياتنا”.
وأشار كوكسون إلى أن مخاطر الذكاء الاصطناعي معروفة جيدًا داخل أنثروبيك، لكنه اتهم الشركات بأنها عالقة في سباق للوصول إلى الذكاء الاصطناعي الفائق أولًا. ومع ذلك، أبدى تفاؤلًا بإمكانية تنسيق المختبرات الأمريكية الكبرى جهودها لإبطاء وتيرة هذا السباق.
وتتباين التقديرات بشأن موعد الوصول إلى الذكاء الاصطناعي الفائق، إذ يرى بعض الخبراء أنه قد يتحقق خلال عدة سنوات، في حين يتوقع آخرون أن يستغرق أكثر من عقد.
دعوات إلى معاهدة دولية
وفي بريطانيا، دعا النائب العمالي دارين جونز إلى إبرام “معاهدة متعددة الأطراف للتطوير المنظم والآمن للذكاء الفائق”، مؤكدًا أن الهدف ليس وقف الابتكار أو البحث العلمي، وإنما اعتماد نهج يضع السلامة في مقدمة الأولويات مع تسارع تطور التكنولوجيا.
وقال جونز إن الجدل الحالي يتراوح بين التحذير من نهاية البشرية واعتبار المخاوف مجرد “ضجة تسويقية”، لكنه شدد على أن الحكومات “يجب أن تتدخل الآن”.
وأُثيرت مخاوف حكومية بريطانية بشأن عدم تقديم أنثروبيك نموذجها الأحدث “Mythos 5.1” إلى معهد أمن الذكاء الاصطناعي البريطاني لإجراء اختبارات ما قبل الإطلاق. وأكد مكتب مجلس الوزراء أن عددًا محدودًا فقط من المؤسسات الأمريكية حصل على إمكانية الوصول إلى النموذج، مشيرًا إلى استمرار التعاون بين معهد أمن الذكاء الاصطناعي والشركات في ذلك القطاع، ومنها أنثروبيك.
وفي الولايات المتحدة، صعّد السيناتور بيرني ساندرز حملته المطالبة بتنظيم الذكاء الاصطناعي، داعيًا الكونغرس إلى التحرك. واستند ساندرز إلى استطلاعات تشير إلى أن 81% من الأمريكيين يرون ضرورة اتخاذ السياسيين إجراءات بشأن التكنولوجيا.
وقال ساندرز إن مستقبل البشرية واقتصادها وبيئتها وديمقراطيتها وخصوصيتها لا ينبغي أن تحدده “حفنة من الأشخاص الجشعين” دون مشاركة الجمهور.
خبراء يحذرون من المبالغة
وحتى مع خطورة التحذيرات، أبدى عدد من الخبراء موقفًا أكثر تحفظًا، محذرين من الانجرار وراء السيناريوهات الكارثية.
وقال الدكتور أندرو روجويفسكي، من معهد ساري للذكاء الاصطناعي، إن الأنظمة الحالية لا تزال بعيدة عن امتلاك مرونة القدرات البشرية، فضلًا عن قدرة البشر على العمل بصورة جماعية، متوقعًا ما وصفه بـ”خيبة الأمل الكبرى”، إذ قد يتبين أن الذكاء الاصطناعي المتقدم مكلف للغاية أو غير مفيد بما يكفي للاستمرار بصورته الحالية.
أما ديفيد باربر، مدير مختبر Sofair لأبحاث الذكاء الاصطناعي، فحذر من التعامل مع التكنولوجيا على أنها تشكّل تهديدًا يجب التخلص منه، مؤكدًا أنها أصبحت شديدة الأهمية والفائدة، لكن استخدامها بصورة غير مقيدة للوصول إلى الإنترنت والأنظمة المختلفة قد يخلق مشكلات تتطلب مزيدًا من السيطرة والرقابة.
وبدورها، قالت ساندرا فاختر، أستاذة في معهد أكسفورد للإنترنت، إنها لا تؤمن بالسيناريوهات “الكارثية”، لكنها شددت على وجود مخاطر حقيقية وملحّة مرتبطة بالذكاء الاصطناعي، منها تأثيره البيئي، وانتشار المعلومات المضللة، وتأثيره في الوظائف.
وأكدت أن هذه القضايا “حقيقية وملحّة وتحتاج إلى معالجة الآن”، محذرة من أن سيناريوهات نهاية العالم قد تشتت الانتباه عن المشكلات الفعلية التي يفرضها الذكاء الاصطناعي حاليًا.
ويرى المعلق والباحث في مجال الذكاء الاصطناعي غاري ماركوس أن هناك فارقًا جوهريًا بين ذكاء اصطناعي فائق “متوافق” مع مصالح البشر، إذا كان تحقيق ذلك ممكنًا أصلًا، وذكاء اصطناعي فائق غير متوافق معها. وأشار إلى أن الاحتمال الأول قد يكون إيجابيًا للبشرية، لكن الواقع الحالي، بحسب رأيه، لا يتيح إلا وفرة من الضجيج الإعلامي مقابل نقص واضح في الحذر والمسؤولية.
