پشت پرده Mythos؛ هوش مصنوعی ترسناک انتروپیک واقعاً چقدر قدرتمند است؟

[amın]

شرکت Anthropic به‌تازگی از مدل هوش مصنوعی محرمانه به نام Mythos رونمایی کرده که گفته می‌شود توانسته بدون کمک انسان و در مدتی بسیار کوتاه، بیش از 150 آسیب‌پذیری روز صفر را در نرم‌افزارها و ابزارهای امنیتی پیدا کند. همین ادعا کافی بود تا Mythos ظرف چند روز به بحث‌برانگیزترین نام صنعت AI تبدیل شود. اما آیا واقعاً با مدلی روبه‌رو هستیم که می‌تواند موازنه قدرت میان OpenAI، گوگل و انتروپیک را تغییر دهد، یا بخش مهمی از این روایت صرفاً حاصل بزرگ‌نمایی رسانه‌ای است؟

 

[amın]

مقدمه​

در کمتر از چند هفته، نام Mythos از یک پروژه تقریباً ناشناخته در داخل شرکت Anthropic به یکی از بحث‌برانگیزترین واژه‌های صنعت فناوری تبدیل شد. از همان نخستین گزارش‌ها، رسانه‌ها تصویری از مدلی ترسیم کردند که نه فقط از Claude و GPT و Gemini قوی‌تر است، بلکه تا اندازه‌ای خطرناک شده که حتی سازنده‌اش هم جرئت انتشار عمومی آن را ندارد.

طی هفته اخیر، توسط رسانه‌های مختلف نقل شده که Mythos موفق شده در ابزارهای فوق‌امن شرکت‌های امنیتی، مرورگرها، سیستم‌عامل‌ها و پروژه‌های متن‌باز، ده‌ها و حتی صدها آسیب‌پذیری روز صفر پیدا کند؛ آن هم نه به کمک تیمی از پژوهشگران، بلکه تقریباً به‌صورت خودکار.

 

[amın]

چنین روایتی طبیعتاً برای دنیای فناوری جذاب است. مدلی که می‌تواند به جای یک تیم کامل از تحلیلگران امنیتی، میلیون‌ها خط کد را در چند ساعت بررسی کند، ضعف‌های پنهان را بیرون بکشد، exploit بنویسد و حتی زنجیره حمله طراحی کند، بیش از آنکه شبیه یک ابزار نرم‌افزاری باشد، به یک سلاح دیجیتالی شباهت پیدا می‌کند.

اما درست در همین نقطه، باید میان هیجان رسانه‌ای و واقعیت فنی فاصله گذاشت. آیا واقعاً Mythos همان جهشی است که توازن قدرت میان OpenAI، گوگل و انتروپیک را به هم می‌زند؟ یا با نمونه‌ای دیگر از همان استراتژی قدیمی «خطرناک‌تر از آن‌چه اجازه انتشارش را داشته باشیم» روبه‌رو هستیم؟

 

[amın]

Mythos دقیقاً چیست و چرا با مدل‌های عادی فرق دارد؟​

بخش مهمی از سوءبرداشت‌ها درباره Mythos از اینجا شروع می‌شود که بسیاری آن را صرفاً نسخه‌ای قوی‌تر از Claude تصور می‌کنند؛ مدلی که متن‌های قدرتمند و منسجمی مانند انسان‌ها می‌نویسد، یک برنامه‌نویس ماهر و بسیار بهتر از رقباست و حتی به سوالات شما هم پاسخ‌های دقیق‌تری می‌دهد. اما شواهدی که تاکنون از داخل Anthropic و شرکای آن بیرون آمده، نشان می‌دهد Mythos اساساً برای هدف دیگری ساخته شده است.

این مدل ظاهراً یک LLM عمومی نیست، بلکه چیزی شبیه به یک سیستم تخصصی برای تحلیل کد، شناسایی ضعف‌های امنیتی و انجام عملیات پیچیده...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

تفاوت اصلی میتوس با مدل‌های رایج در این است که به‌جای پاسخ‌دادن به یک پرسش ساده، می‌تواند مانند یک پژوهشگر امنیتی عمل کند؛ یعنی ابتدا ساختار یک پروژه نرم‌افزاری را درک کند، وابستگی‌ها و نقاط حساس آن را پیدا کند، بخش‌هایی را که رفتار غیرعادی دارند جدا کرده، سپس برای آن‌ها سناریوی حمله طراحی و در نهایت بررسی کند که آیا آن سناریو واقعاً قابل سوءاستفاده هست یا نه.

طبق گزارش‌هایی که از آزمایش‌های داخلی منتشر شده، Mythos در محیط‌هایی به کار گرفته شده که برای مدل‌های متعارف تقریباً غیرقابل مدیریت هستند. صحبت از پروژه‌هایی با میلیون‌ها خط کد است؛ از هسته سیستم‌عامل‌ها گرفته تا موتورهای مرورگر، کتابخانه‌های رمزنگاری، ابزارهای پردازش تصویر و حتی نرم‌افزارهای قدیمی سازمانی که طی سال‌ها بارها تغییر...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

ماجرای 150 آسیب‌پذیری روز صفر؛ واقعیت یا اغراق؟​

همانطور که گفتیم، بخش بزرگی از جلب توجه رسانه‌ای با انتشار خبر «کشف 150 حفره روز صفر» آغاز شد. این خبر خیلی زود به تیتر اصلی رسانه‌ها تبدیل شد، اما وقتی به جزئیات نگاه می‌کنیم، ماجرا پیچیده‌تر از چیزی است که در نگاه اول به نظر می‌رسد.

در گزارش‌های اولیه گفته شد Mythos موفق شده بیش از 150 آسیب‌پذیری ناشناخته را در محصولات شرکت‌های امنیتی و نرم‌افزارهای مهم کشف کند. چند روز بعد، برخی منابع نزدیک به Anthropic پا را فراتر گذاشتند و از «هزاران آسیب‌پذیری بالقوه» حرف زدند.

این همان نقطه‌ای است که باید با دقت بیشتری به اصطلاحات نگاه کرد، چون در دنیای امنیت سایبری، میان یک crash ساده، یک رفتار مشکوک، یک ضعف بالقوه و یک...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

بخش قابل‌توجهی از مواردی که Mythos پیدا کرده، ظاهراً هنوز در مرحله اولیه هستند؛ یعنی مدل توانسته شرایطی را پیدا کند که در آن برنامه کرش می‌کند، حافظه به شکل غیرمنتظره‌ای تغییر می‌کند یا بخشی از کد رفتاری غیرعادی نشان می‌دهد. اما این لزوماً به آن معنا نیست که مهاجم می‌تواند از همان ضعف برای نفوذ واقعی استفاده کند. در بسیاری از پروژه‌ها، شاید ده‌ها یا حتی صدها crash ثبت شود، اما تنها یکی از آن‌ها در نهایت به یک آسیب‌پذیری عملی و خطرناک تبدیل شود.

از سوی دیگر، بخش مهمی از یافته‌های Mythos مربوط به کدهای قدیمی و پروژه‌های legacy بوده‌اند؛ نرم‌افزارهایی که سال‌هاست توسعه‌دهندگان مختلف روی آن‌ها کار کرده‌اند و کسی دیگر تصویر کاملی از معماری آن‌ها ندارد. در چنین پروژه‌هایی، وجود باگ‌های قدیمی...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

چرا Mythos تا این اندازه ترس ایجاد کرده است؟​

آنچه باعث شده Mythos بیش از هر مدل دیگری واکنش ایجاد کند، صرفاً قدرت آن نیست؛ بلکه این است که برای نخستین بار یک مدل زبانی به حوزه‌ای وارد شده که تا همین چند سال پیش در انحصار گروه کوچکی از متخصصان فوق‌حرفه‌ای بود.

در گذشته، حتی بهترین مدل‌های AI نهایتاً می‌توانستند یک قطعه کد را توضیح دهند، آسیب‌پذیری‌های شناخته‌شده را تشریح کنند یا exploitهای قدیمی را بازنویسی کنند. اما آنچه درباره Mythos مطرح شده، چیزی فراتر از این‌هاست. گفته می‌شود این مدل می‌تواند چند میلیون خط کد را هم‌زمان بخواند، میان ده‌ها مؤلفه ارتباط برقرار کند، فرضیه بسازد، آن‌ها را آزمایش کند و در نهایت به یک زنجیره حمله کامل برسد.

 

[amın]

اگر ادعاهای پیرامون میتوس واقعاً عملیاتی باشد، پیامد آن بسیار مهم‌تر از صرفاً پیدا شدن چند باگ جدید خواهد بود.

در حال حاضر، کشف یک آسیب‌پذیری پیچیده ممکن است برای یک تیم حرفه‌ای هفته‌ها یا حتی ماه‌ها زمان ببرد. حالا تصور کنید مدلی وجود داشته باشد که همین فرایند را در چند ساعت انجام دهد و بتواند صدها پروژه را به‌طور موازی بررسی کند. در آن صورت، نه‌تنها سرعت کشف آسیب‌پذیری‌ها افزایش پیدا می‌کند، بلکه اساساً توازن میان مهاجمان و مدافعان تغییر خواهد کرد.

دقیقاً به همین دلیل است که برخی تحلیلگران از Mythos به‌عنوان نخستین «مدل دوکاربرده واقعی» یاد می‌کنند؛ ابزاری که می‌تواند هم برای دفاع استفاده شود و هم برای حمله.

 

[amın]

اما آیا Mythos واقعاً از همه رقبا بهتر است؟​

در فضای رسانه‌ای این‌طور به نظر می‌رسد که Mythos با فاصله‌ای بسیار زیاد از همه مدل‌های دیگر جلوتر است، اما داده‌های منتشرشده چنین تصویری را تأیید نمی‌کنند.

تحلیل‌هایی که پس از معرفی Mythos منتشر شدند، به‌ویژه پژوهش Aisle و بررسی Tom’s Hardware، نشان می‌دهند که اگرچه Mythos در بسیاری از تست‌های امنیتی بهترین عملکرد را داشته، اما فاصله آن با رقبایش بسیار کمتر از چیزی است که در تبلیغات اولیه دیده می‌شود.

در مقاله Tom’s Hardware به‌صراحت آمده که مدل‌های سبک‌تر و ارزان‌تر، در بسیاری از سناریوها به 70 تا 90 درصد عملکرد Mythos...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.