حذّر عالم الكمبيوتر والحائز على جائزة نوبل جيفري هينتون، المعروف بلقب "عراب الذكاء الاصطناعي"، من أن تطور أنظمة الذكاء الاصطناعي يزيد من قدرتها على تجاوز القيود التي يفرضها مطوروها.
وقال هينتون إن الحوادث الأخيرة التي شهدت تمكن وكلاء ذكاء اصطناعي متقدمين من تجاوز بيئات الاختبار التي صممها مطوروهم، وأحدثت أضرارًا حقيقية، تعكس اتجاهًا يدعو إلى القلق.
وخلال مؤتمر صحفي عُقد يوم الأربعاء على هامش مؤتمر "Ai4" في لاس فيغاس، قال هينتون لشبكة "CNN": "هذه الأنظمة تزداد ذكاءً باستمرار، ومع ذلك ستصبح أكثر قدرة على التصرف بطرق معقدة والإفلات من السيطرة".
قرصنة إلكترونية.. و"المايسترو" الذكاء الاصطناعي
وأضاف أن البشر لن يتمكنوا مستقبلًا من الاعتماد على تفوقهم الفكري للسيطرة على نماذج الذكاء الاصطناعي فائقة الذكاء، قائلًا: "لا أعتقد أننا سنتمكن من السيطرة عليهم لمجرد أننا أكثر ذكاءً منهم، بما يمنعهم من الهرب من القيود المفروضة عليهم".
وجاءت تصريحات هينتون بعد سلسلة من الحوادث التي أعلنت عنها كبرى شركات الذكاء الاصطناعي، ففي الشهر الماضي، كشفت "أوبن إيه آي" و"أنثروبيك" أن نماذجهما المتقدمة تمكنت من تجاوز بيئات الاختبار واختراق أنظمة أخرى، كما أعلن مختبر "ميتا"، الأربعاء، عن برنامج ذكاء اصطناعي نجح في اختراق أنظمة تابعة لجهة أخرى، ووصف هينتون هذه الوقائع بأنها "مخيفة إلى حدٍ ما"، معتبرًا أنها قد تمثل بداية لظهور قراصنة ذكاء اصطناعي "مارقين".
وخلال جلسة نقاشية في مؤتمر Ai4، قال: "أتوقع المزيد من الهجمات الإلكترونية الخطيرة، لكن المستقبل لا يزال غامضًا، صحيح أن المدافعين قد يمتلكون موارد أكبر، إلا أن المهاجم يكفيه أن ينجح مرة واحدة، بينما يجب على المدافع أن ينجح في كل مرة".
وفي السياق نفسه، أعلن معهد أمن الذكاء الاصطناعي البريطاني "AISI"، الثلاثاء، أن أحدث نماذج شركة "أنثروبيك" استخدم، من دون أي تحريض، هويات مزيفة لخداع أشخاص حقيقيين ومحاولة زرع برامج ضارة.
وحذر هينتون، الذي شغل سابقًا منصبًا تنفيذيًا في "جوجل"، مرارًا خلال السنوات الماضية من مخاطر الذكاء الاصطناعي، وقال في وقت سابق إن احتمال أن تؤدي هذه التقنية في نهاية المطاف إلى القضاء على البشرية يتراوح بين 10 و20 بالمئة.
وفي الجلسة نفسها، انتقدت عالمة الحاسوب فاي فاي لي، المعروفة بلقب "عرابة الذكاء الاصطناعي"، ما وصفته بـ"التشاؤم" و"بثّ الخوف" في النقاش الدائر حول الذكاء الاصطناعي، لكنها شددت على أن "الحديث المثالي المطلق" لا يخدم هذا الملف.
وقالت لي، المؤسسة المشاركة والرئيسة التنفيذية لشركة "وورلد لابز" المتخصصة في الذكاء المكاني: "كل أداة سلاح ذو حدين؛ والذكاء الاصطناعي أداة قوية للغاية، إذا لم يُستخدم بالطريقة الصحيحة، فقد يضر بعملنا وحياتنا".
ذكاء يتطور.. ولكن مخاوف من "الأخلاقيات"!
ودافع هينتون عن مواصلة التحذير من مخاطر الذكاء الاصطناعي، قائلًا: "هناك أسباب حقيقية تدعو للقلق، وإذا لم نبدأ في التعامل مع هذه المخاطر الآن، فقد تظهر مشكلات لاحقًا"، مضيفًا: "ولدى الشركات المستثمرة في الذكاء الاصطناعي مصلحة في طمأنة الجمهور بشأن نقطتين: أولًا، أن هذه التقنية لن تخرج عن السيطرة، وثانيًا، أنها لن تؤدي إلى بطالة جماعية".
وفي الوقت نفسه، أقر هينتون بأن مسار تطور هذه التقنية لا يزال غير واضح، وقال: "إذا سألت كيف سيبدو الذكاء الاصطناعي بعد 10 سنوات، فلن يتمكن أحد من إعطاء إجابة واضحة"، مشيرًا إلى أنه قبل عقد من الزمن لم يكن يتوقع أن يتمكن الذكاء الاصطناعي من إنتاج روبوتات محادثة "يمكنها الإجابة على أي سؤال تطرحه، وأحيانًا تختلق أشياء من عندها".
من جانبه، قال عالم الكمبيوتر بن غورتزل، الذي ساعد في نشر مصطلح "الذكاء الاصطناعي العام"، إن ما حدث مع نماذج "أنثروبيك" و"أوبن إيه آي" يبرز أهمية ترسيخ المبادئ الأخلاقية داخل أنظمة الذكاء الاصطناعي وجعلها تراعي مصلحة البشر.
وقال غورتزل، مؤسس شركة سينغولاريتي نت ومديرها التنفيذي، لشبكة "CNN" خلال مؤتمر "Ai4": هذه النماذج ليست شريرة، لكنها تفتقر إلى الحس الأخلاقي، فهي لم تكن تحاول الغش عندما خرجت من بيئتها الافتراضية، بل لم تكن تدرك أنها تخالف القواعد.. لكنها ببساطة تحاول تحقيق أهدافها".
ودعا هينتون في وقت سابق إلى تزويد أنظمة الذكاء الاصطناعي بما وصفه بـ"الغرائز الأمومية"، حتى تهتم بالبشر حتى وإن أصبحت أكثر ذكاءً منهم، وقال في ختام حديثه: "علينا أن نجد طريقة لجعل هذه الأنظمة تهتم بالبشر أكثر من اهتمامها بتحقيق أهدافها الخاصة، وربما نتمكن من ذلك، لأننا لا نزال نتحكم في مسارها".
