أثار تقرير استخباراتي تم تعميمه على مستوى الجيش الأمريكي هذا الربيع، في خضم الحرب مع إيران، حالة من الاستنفار، بعدما أشار إلى أن سفينة صينية في الشرق الأوسط كانت تنقل مكونات برنامج أسلحة نووية.
وبحسب تقرير حصري نشرته "CNN"، تحرك الجيش الأمريكي فورًا لتنفيذ خطط اعتراض السفينة، وفقًا لأربعة مصادر مطلعة على الحادث. وذكر اثنان من هذه المصادر أن عناصر مسلحة من الجيش الأمريكي كانوا يستعدون للصعود إلى السفينة، قبل أن يكتشفوا كذب المعلومات.
تقرير "عاري عن الصحة" كاد يشعل حربًا
وقبيل تنفيذ العملية المخطط لها مباشرة، تعمق المسؤولون في التقرير الذي أعده محلل من قيادة العمليات الخاصة، واكتشفوا أنه أُعد باستخدام الذكاء الاصطناعي، وأن برنامج الدردشة الآلي الذي استخدمه المحلل حدد بشكل خاطئ نوع الشحنة التي كانت السفينة تحملها. ولم تتمكن شبكة "CNN" من معرفة ماهية الشحنة التي حُددت بشكل خاطئ.
وبحسب أحد المصادر، كان التقرير "عاريًا عن الصحة تمامًا"، لكنه "كاد أن يُشعل حربًا"، على حد قول المصدر. فأي عملية أمريكية ضد سفينة صينية كانت ستؤدي إلى تصعيد النزاع إلى صراع مسلح بين البلدين.
وفي جميع أنحاء الجيش الأمريكي ومجتمع الاستخبارات، يسعى المسؤولون إلى دمج الذكاء الاصطناعي في كل جانب تقريبًا من جوانب عملهم، بدءًا من تحليل الكميات الهائلة من المعلومات الاستخباراتية الخام التي تجمعها الولايات المتحدة واختيار الأهداف للضربات، وصولًا إلى التطبيقات الأكثر اعتيادية مثل إدارة الميزانية والخدمات اللوجستية وسلاسل التوريد.
لكن هذه الحادثة تبرز المخاطر الجسيمة لاستخدام هذه التقنية الجديدة والقوية، التي لا تزال غير مفهومة بشكل كافٍ، في تحديد الأهداف أثناء الحرب. ولطالما خشي المحللون من أن يؤدي الذكاء الاصطناعي إلى خطأ فادح في التقدير إذا اعتمدت الدول على بيانات رديئة أو مغلوطة، وهو نوع من الأخطاء التي قد تدفع الولايات المتحدة إلى استهداف سفينة صينية بناءً على معلومات غير دقيقة.
كيف وقع خطأ السفينة؟
في هذه الحالة تحديدًا، استفسر المحلل من برنامج دردشة آلي عن معلومات استخباراتية حول قائمة حمولة السفينة، والتي صدرت عن قيادة العمليات الخاصة الأمريكية في المحيط الهادئ، ومقرها هاواي. ولم يتضح ما إذا كان برنامج الدردشة الآلي متاحًا تجاريًا أم منتجًا حكوميًا أمريكيًا.
وقال مسؤول أمريكي كبير سابق مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها المحللون العسكريون والاستخباراتيون: "الأدوات الداخلية هي في الغالب مجرد نسخ من الأدوات التجارية مع بعض التعديلات التجميلية".
وقام الروبوت بدمج المعلومات الاستخباراتية مفتوحة المصدر مع معلومات استخباراتية سرية في ممتلكات الحكومة، وتوصل إلى استنتاجه المصيري بشأن المواد التي كانت السفينة تحملها. ثم استخدم المحلل الذكاء الاصطناعي مرة أخرى لتجميع النتائج في تقرير استخباراتي قياسي - وهو النوع الذي يثق به المسؤولون العسكريون - ونشره.
ولم ترد قيادة العمليات الخاصة الأمريكية في المحيط الهادئ ولا البنتاغون على طلب التعليق.
يكمن الدافع وراء التبني السريع للذكاء الاصطناعي في قدرته على مساعدة الجيش في اتخاذ قرارات ميدانية سريعة، مثل تحديد الأهداف التي يجب ضربها أو نقل الأصول العسكرية إلى مواقعها. ويقول المسؤولون إن الولايات المتحدة لا يمكنها التخلف عن ركب دمج الذكاء الاصطناعي، تحسبًا لمواجهة محتملة مع الصين أو أي خصم آخر قد يكون قادرًا على التفوق عليها بخطوة.
وفي يناير، أصدر وزير الدفاع بيت هيغسيث "استراتيجية تسريع الذكاء الاصطناعي" الخاصة بوكالته، في محاولة لتسريع استخدام الجيش للذكاء الاصطناعي. وقال هيغسيث في خطاب أعلن فيه عن الاستراتيجية: "سنطلق العنان للتجريب، ونزيل الحواجز البيروقراطية، ونركز استثماراتنا، ونوضح نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري".
كما تحث الاستراتيجية على استخدامها على نطاق واسع في جميع أنحاء الجيش، وتأمر الوزارة بإتاحة الذكاء الاصطناعي من خلال العديد من البرامج بهدف "إضفاء الطابع الديمقراطي على تجربة الذكاء الاصطناعي وتحويله في جميع أنحاء الوزارة من خلال وضع نماذج الذكاء الاصطناعي الرائدة عالميًا في أمريكا مباشرة في أيدي ثلاثة ملايين من موظفينا المدنيين والعسكريين، على جميع مستويات التصنيف"، وفقًا لمذكرة أعلنت عن الاستراتيجية.
لكن هذا الجهد لا مركزي، وفقًا لما ذكره العديد من المسؤولين الأمريكيين المطلعين على هذا الوضع، حيث تستخدم جهات حكومية مختلفة أدوات متباينة بموجب أوامر ومعايير أمان مختلفة. ولا توجد معايير موحدة لكيفية تحقق الولايات المتحدة من المعلومات التي تولدها هذه الأدوات. إن انتشار أنظمة الذكاء الاصطناعي المختلفة التي تستخدمها جهات متباينة في الجيش وأجهزة الاستخبارات يعني أن موثوقيتها وكفاءتها تتفاوت بشكل كبير.
وعلى مدى أسابيع، انخرط صناع السياسات في واشنطن في نقاشات مكثفة حول الذكاء الاصطناعي، بعد سلسلة من التحذيرات الخطيرة من مهندسي وادي السيليكون والرؤساء التنفيذيين لشركات التكنولوجيا بشأن إمكانية تحرر الذكاء الاصطناعي من القيود البشرية، مع ما يترتب على ذلك من عواقب قد تؤدي إلى نهاية الحضارة.
لكن حادثة السفينة الصينية تسلط الضوء على خطر آخر وأكثر إلحاحًا، وهو اتخاذ البشر قرارات كارثية بناءً على معلومات غير دقيقة أو مضللة تنتجها أنظمة الذكاء الاصطناعي أو غيرها من الأنظمة الآلية. وأفادت مصادر بأن الجيش يتجه بسرعة نحو الذكاء الاصطناعي للمساعدة في تحديد الأهداف، وهو مجال ينطوي على خطر واضح لوقوع أخطاء قاتلة.
وقال مصدر آخر مطلع على السياسات العسكرية الحالية: "إن استخدام الذكاء الاصطناعي في تحديد الأهداف هو بالتأكيد أمر يتزايد بشكل ملحوظ، ولا توجد إرشادات حقيقية حول كيفية منع وجود عنصر بشري في هذه العملية لوقوع ضحايا مدنيين أو نشوب اشتباكات بين القوات".
"هلوسة" الذكاء الاصطناعي تزيد مخاطر الأخطاء
إن نوع "الهلوسة" التي استحضرتها الأداة التي استخدمها المحلل في هذه الحالة لم تكن حادثة معزولة في جميع أنحاء مجتمع الاستخبارات، منذ أن بدأت هذه الأدوات في الانتشار في جميع أنحاء الحكومة، وفقًا لأحد المصادر.
وبالنسبة لبعض مسؤولي الاستخبارات المخضرمين، حتى أولئك الذين يؤيدون استخدام الذكاء الاصطناعي في المجال العسكري عمومًا، فقد زاد الذكاء الاصطناعي الضغط على المحللين لإنتاج ونشر المعلومات الاستخباراتية بسرعة أكبر، مما يفتح المجال أمام الأخطاء.
وأشارت مصادر عديدة إلى أن المحللين الشباب على وجه الخصوص يجيدون استخدام هذه الأدوات، وهم أكثر ميلًا إلى الثقة بها دون تمحيص. وقال أحد المصادر: "الذكاء الاصطناعي يسمح لك بالوصول إلى فكرة سيئة بشكل أسرع".
