داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، على اليسار، وجيمي ديمون، الرئيس التنفيذي لبنك JPMorgan Chase.
دينيس باليبوس | رويترز | صموئيل كوروم | بلومبرج | صور جيتي
حذر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، يوم الثلاثاء من أن الذكاء الاصطناعي قد خلق نافذة ضيقة لشركات التكنولوجيا والحكومات والبنوك في العالم لإصلاح عشرات الآلاف من نقاط الضعف البرمجية التي اكتشفها أحدث طراز لشركته.
تمت معاينة نموذج الذكاء الاصطناعي هذا، Mythos، الشهر الماضي مع الكشف عن أنه اكتشف نقاط ضعف عمرها عقود في البرامج المهمة.
وقال أمودي إنه نظرًا لأن نماذج الذكاء الاصطناعي من الصين، الخصم الجيوسياسي، متأخرة “ربما ستة إلى 12 شهرًا” عن المنتج الأنثروبي، فإن هناك “هذا القدر من الوقت تقريبًا” لإصلاح هذه المشكلات.
وجاءت التعليقات خلال حدث أنثروبي الذي شارك فيه أمودي المسرح مع جي بي مورجان تشيس الرئيس التنفيذي جيمي ديمون وكشف النقاب عن مجموعة جديدة من الوكلاء تهدف إلى أتمتة العمل المالي.
وقال أمودي: “الخطر هو مجرد زيادة هائلة في كمية نقاط الضعف، وفي كمية الانتهاكات، وفي الأضرار المالية التي تحدث بسبب برامج الفدية على المدارس والمستشفيات، ناهيك عن البنوك”.
قامت Anthropic بقصر Mythos على عدد قليل من الشركات الشريكة بسبب المخاوف بشأن ما يمكن أن يفعله المجرمون أو الدول المعادية بها. لقد ترددت أصداء التحديثات العديدة الأخيرة لنموذج الشركة في الأسواق، لكن Mythos أثارت أكبر قدر من القلق لدى الشركات وصانعي السياسات على حدٍ سواء.
وقال أمودي إن حجم الاستغلالات السيبرانية المحتملة يتضخم مع كل جيل من كلود. وجد نموذج أنثروبي سابق ما يقرب من 20 نقطة ضعف في متصفح Firefox. وقال إن ميثوس وجدت ما يقرب من 300، ويبلغ العدد الإجمالي في جميع البرامج الآن عشرات الآلاف.
وقال أمودي إن معظم نقاط الضعف التي عثر عليها ميثوس لم يتم الكشف عنها علنًا لأنها لم يتم إصلاحها، و”سوف يستغلها الأشرار” إذا تم التعرف عليهم.
“عالم أفضل”
وعلى الرغم من التحذير، أبدى كل من أمودي وديمون أيضًا نبرة تفاؤل مشروط.
وقال أمودي: “إنها لحظة خطر، إذا استجبنا لها بشكل صحيح، وأعتقد أننا بدأنا في اتخاذ الخطوات الأولى، فيمكننا أن نحصل على عالم أفضل على الجانب الآخر”. “لا يوجد سوى الكثير من الأخطاء التي يمكن العثور عليها.”
وقال ديمون أيضًا إنه على الرغم من أن المخاوف السيبرانية مبررة، إلا أن مخاطر الأمن السيبراني التي يخلقها الذكاء الاصطناعي هي “فترة انتقالية”.
وفيما يتعلق بمسألة التنظيم، قال أمودي إن الرقابة على الذكاء الاصطناعي يجب أن تشبه ما يتم في صناعة السيارات، وتحقيق التوازن بين سلامة المستهلك والسماح للصناعة بالمنافسة.
وقال: “لا يمكنك إنشاء شركة سيارات دون سؤالك: “هل هناك مكابح لهذا الشيء؟”. “نحن بحاجة إلى أن نتلمس طريقنا إلى بعض العمليات التي تسمح للصناعة بالعمل بسرعة، وتكون عادلة، ولكنها تضع حواجز على الأشياء الأكثر خطورة.”
يبدو أن حدث الشركة، وجلسته مع ديمون، المتحدث الرسمي الأكثر شهرة في الصناعة المالية، يُظهر تقدم Anthropic على OpenAI في سوق الذكاء الاصطناعي للمؤسسات حيث تتجه الشركتان نحو الاكتتابات العامة الأولية المحتملة.
أعلنت شركة Anthropic يوم الثلاثاء عن توسيع منصة خدماتها المالية، بما في ذلك 10 وكلاء جدد للذكاء الاصطناعي للأعمال المصرفية الاستثمارية والمكاتب الخلفية بالإضافة إلى التكامل عبر برامج Office المتنوعة من Microsoft. وقالت الشركة أيضًا إن أحدث طراز متاح لها على نطاق واسع – Claude Opus 4.7 – يقود المعايير لمهام التحليل المالي.
