تم إرسال البنوك العالمية وعمالقة التكنولوجيا والحكومات الشهر الماضي لاحتواء المخاطر التي يشكلها ميثوس، النموذج الأنثروبي الذي يقال إنه قوي للغاية لدرجة أنه اكتشف الآلاف من نقاط الضعف غير المعروفة سابقًا في البنية التحتية للبرمجيات في العالم.
هناك مشكلة واحدة فقط: القدرة التي يشعرون بالقلق بشأنها موجودة بالفعل.
وقال خبراء الأمن السيبراني وباحثو الذكاء الاصطناعي لـ CNBC إن نقاط الضعف البرمجية التي كشفت عنها Mythos يمكن العثور عليها باستخدام النماذج الحالية، بما في ذلك تلك الموجودة في Anthropic وOpenAI.
وقال: “ما نراه في جميع أنحاء الصناعة الآن هو أن الناس قادرون على إعادة إنتاج نقاط الضعف الموجودة في Mythos من خلال التنسيق الذكي للنماذج العامة للحصول على نتائج متشابهة للغاية”. بن هاريس، الرئيس التنفيذي لشركة الأمن السيبراني com.watchTowr.
اهتزت الأساطير المديرين التنفيذيين وصانعي السياسات على حد سواء بسبب القلق من أن حقبة جديدة محفوفة بالمخاطر من الجرائم الإلكترونية التي تعتمد على الذكاء الاصطناعي قد تكون قريبة. أنثروبيك اقتصر إصداره على عدد قليل من الشركات الأمريكية بما في ذلك تفاحة, أمازون, جي بي مورجان تشيس و شبكات بالو ألتو لتقليل خطر وصول الجهات الفاعلة السيئة إليها.
وحتى مع هذا الاحتياط، فقد دفع الإصدار إلى إدارة ترامب للنظر في الإشراف الحكومي الجديد على النماذج المستقبلية.
إنها الأحدث في سلسلة من عمليات الإطلاق رفيعة المستوى من Anthropic والتي كثفت تنافسها مع OpenAI مع اقتراب شركتي الذكاء الاصطناعي العملاقتين من عروضهما العامة الأولية المرتقبة. بعد أسابيع من وصول Mythos، أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن GPT-5.5-Cyber، وهو نموذج محدد مصممة للأمن السيبراني.
سمحت OpenAI يوم الخميس بوصول محدود إلى GPT-5.5-Cyber لفرق الأمن السيبراني التي تم فحصها.
الطرح المتحكم فيه لـ Mythos، جزء من إجراء أمني يسمى مشروع غلاسوينغكان الهدف من ذلك هو منح عالم الشركات الوقت الكافي لتجهيز دفاعاته السيبرانية ضد الهجمات القادمة من الجماعات الإجرامية والدول المعادية.
وقال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، هذا الأسبوع في حدث Anthropic: “الخطر هو مجرد زيادة هائلة في كمية نقاط الضعف، وفي كمية الانتهاكات، وفي الأضرار المالية التي تحدث بسبب برامج الفدية على المدارس والمستشفيات، ناهيك عن البنوك”.
“مخيف بما فيه الكفاية”
ولكن بالنسبة لأولئك الذين يقاتلون في خنادق الحرب السيبرانية، فإن إحدى القدرات الرئيسية التي تعلن عنها شركة Anthropic – وهي العثور على ثغرات برمجية على نطاق واسع – كانت موجودة منذ ذلك الحين. العام الماضي.
“النماذج التي لدينا الآن قوية بما يكفي لاكتشاف الأيام الصفرية على نطاق واسع، وهذا أمر مخيف بما فيه الكفاية.” كلوديا كلوكوقال الرئيس التنفيذي لشركة Vidoc للأمن السيبراني لشبكة CNBC.
وقالت إن هذا هو الحال منذ “شهرين، إن لم يكن لمدة عام”.
يشير مصطلح “Zero-day” إلى خلل برمجي لم يكن معروفًا من قبل ولم يتم تصحيحه، مما يمنح المهاجمين فرصة لاستغلاله قبل أن يتمكن المدافعون من الرد.
اعتمد الباحثون في Vidoc على تقنية تسمى “التنسيق”. امتحان إذا تمكنوا من العثور على نفس نقاط الضعف التي وجدها ميثوس. كما يوحي الاسم، تتضمن العملية إنشاء مهام سير عمل تقسم التعليمات البرمجية إلى أجزاء أصغر، والتنسيق بين الأدوات أو النماذج المختلفة للتحقق من النتائج.
وقال كلوك: “لقد قمنا بتشغيل نماذج قديمة على نفس قاعدة التعليمات البرمجية لمعرفة ما إذا كنا قادرين على اكتشاف نفس نقاط الضعف”. “لقد فعلنا ذلك، مع كل من النماذج القديمة لـ OpenAI و Anthropic.”
شركة أخرى للأمن السيبراني، ممروجدت أن العديد من النتائج الرئيسية لـ Mythos يمكن إعادة إنتاجها باستخدام نماذج أرخص تعمل بالتوازي، مما يشير إلى أن الحجم والتنسيق كانا أكثر أهمية من وجود النموذج الأحدث.
وكتب ستانيسلاف فورت، مؤسس Aisle، في إحدى مدوناته: “ألف محقق مناسب يبحثون في كل مكان سيجدون أخطاء أكثر من محقق لامع عليه أن يخمن أين يبحث”. بريد.
وفي تصريحات لـ CNBC، لم تشك Anthropic في أن النماذج السابقة كانت قادرة على اكتشاف نقاط الضعف في البرامج.
في الواقع، قال متحدث باسم الشركة، إن شركة Anthropic تحذر منذ أشهر من أن قدرات الذكاء الاصطناعي السيبرانية تتقدم بسرعة. وأشاروا إلى فبراير مشاركة مدونة يُظهر أن كلود أوبوس 4.6، وهو نموذج متاح على نطاق واسع، وجد أكثر من 500 نقطة ضعف “عالية الخطورة” في البرامج مفتوحة المصدر.
في الحدث الأنثروبي هذا الأسبوع، أكد أمودي هذه النقطة، قائلًا إنه على الرغم من أن حجم نقاط الضعف البرمجية التي وجدتها Mythos ارتفع عن النماذج السابقة، إلا أن الاتجاه لم يكن جديدًا.
وقال أمودي “المخاطر حقيقية للغاية. ولهذا السبب اتخذنا الإجراءات التي قمنا بها”. “لكنها أيضًا، إلى حد ما، ليست مفاجئة.. لقد رأينا تحذيرات من هذا منذ فترة”.
الهستيريا والذعر
وقال المتحدث باسم Anthropic إن ما يجعل Mythos مختلفة هو قدرتها على اتخاذ الخطوة التالية، وتطوير مآثر العمل مع القليل من المدخلات البشرية أو معدومة، والأتمتة الفعالة لعملية كانت تتطلب في السابق باحثين ماهرين.
لكن الباحثين في مجال الإنترنت يقولون إن المتسللين الذين يعملون لصالح الجماعات الإجرامية والدول المعادية لديهم بالفعل هذه المجموعة من المهارات. وقال كلوك إن القراصنة في كوريا الشمالية والصين وروسيا “يعرفون كيفية القيام بذلك، سواء مع أو بدون الأنثروبيك”.
وفقًا لهاريس، فإن تهديد القرصنة المدعومة بالذكاء الاصطناعي يثير قلق الشركات والجهات التنظيمية الحكومية بشأن حماية الأنظمة الحيوية من موجة جديدة من برامج الفدية وأنواع أخرى من الهجمات.
ووصف المحادثات مع البنوك وشركات التأمين والجهات التنظيمية في الأسابيع الأخيرة بأنها “هستيريا”.
حتى قبل ظهور الذكاء الاصطناعي التوليدي، واجهت الشركات مشكلة القراصنة المهرة الذين يستغلون نقاط الضعف المكتشفة حديثًا في ساعات، في حين أن تصحيح التعليمات البرمجية غالبًا ما يستغرق أيامًا أو أسابيع. تتطلب بعض التصحيحات أن تكون الأنظمة الرئيسية غير متصلة بالإنترنت، مما يزيد الأمور تعقيدًا.
وقال هاريس: “إن الصناعة تشعر بالذعر بشأن عدد نقاط الضعف التي تواجهها الآن”. “ولكن حتى قبل أن يصبح Mythos متاحًا على نطاق واسع، فإنه لم يتمكن من إصلاح الثغرات الأمنية بالسرعة الكافية.”
في السابق، لم يكن سوى عدد قليل من الخبراء على مستوى العالم لديهم القدرة والوقت للعثور على نقاط الضعف الغامضة في البرامج واستغلالها، وفقًا لهاريس. والآن، وباستخدام نماذج الذكاء الاصطناعي المتاحة حاليا، تم تخفيض حواجز الدخول التي تحول دون إحداث الفوضى السيبرانية.
وقال هاريس إن هذا يعني أن البنوك والأهداف الأخرى ستشهد المزيد من الهجمات، وأن أنظمة البرمجيات التي لم تكن تستقطب في السابق الكثير من الاهتمام من مجرمي الإنترنت ستواجه الآن تهديدات.
الميزة: الجريمة
يقول الباحثون إنه بينما تعمل شركتا Anthropic وOpenAI وغيرهما على تطوير قدرات الدفاع السيبراني بما يتناسب مع المشكلات التي حددوها، فإن الميزة الأولية تذهب إلى الهجوم، وليس الدفاع.
واقترح جيمي ديمون، من بنك جيه بي مورجان، هذا الأمر عندما قال الشهر الماضي إنه في حين أن أدوات الذكاء الاصطناعي يمكن أن تساعد الشركات في نهاية المطاف على الدفاع عن نفسها من الهجمات الإلكترونية، إلا أنها تجعلها أكثر عرضة للخطر في البداية.
وقال: “لديك زيادة كبيرة في حجم الثغرات الأمنية المكتشفة، ولكن لا يبدو أنهم قاموا بنشر أداة تساعدك على إصلاحها”. جاستن هيرينج، شريك في شركة المحاماة ماير براون ونائب المشرف التنفيذي السابق للأمن السيبراني في الهيئة التنظيمية المالية في نيويورك.
“إن إدارة الثغرات الأمنية أمر عظيم عبثا وقال هيرينج “مهمة الأمن السيبراني”.
حصلت المجموعة المحدودة التي كانت جزءًا من إصدار Mythos الأولي على السبق في تصحيح الثغرات الأمنية، ولكن هناك جانبًا سلبيًا. لم يتم منح باحثي الذكاء الاصطناعي إمكانية الوصول إلى Mythos للتحقق بشكل مستقل من ادعاءات Anthropic أو البدء في بناء دفاعات ضدها.
ويقول البعض إنها منعت المجتمع السيبراني الأوسع من أن يكون جزءًا من الحل.
وقال إنها خلقت “طبقات من من يملكون ومن لا يملكون”، الأمر الذي يمكن أن يعيق وتيرة الابتكار في مجال الأمن السيبراني بافل جورفيتش، الرئيس التنفيذي لشركة Tenzai الناشئة في مجال الأمن السيبراني، والتي تستخدم نماذج Anthropic.
وقال إن العديد من الشركات الناشئة في مجال الأمن السيبراني تعمل على إيجاد حلول يمكن أن تساعد الشركات في هذا العصر الجديد من الذكاء الاصطناعي.
وقال بن سيري، المؤسس المشارك لشركة Zafran Security الناشئة للأمن السيبراني: “إنهم يحاولون اكتشاف أفضل طريقة لإصلاح العالم قبل أن يصبح هذا في متناول العالم”. “إنه موقف الدجاجة والبيضة، حيث ستكسر بعض البيض. إنه أمر لا مفر منه.”
