معرفی پشت پرده Mythos؛ هوش مصنوعی ترسناک انتروپیک واقعاً چقدر قدرتمند است؟

[amın]

بحث مهم دیگر، در خصوص هزینه‌ است. به تناسبی که در خصوص عملکرد عنوان شد، در برخی سناریوها نیز مدل‌های ارزان‌تر و سبک‌تر توانسته‌اند چیزی بین 70 تا 90 درصد عملکرد Mythos را با هزینه‌ای بسیار پایین‌تر تکرار کنند.

فاصله عملکرد تسک‌های عادی یا حتی نیمه پیشرفته بین Mythos و رقبا چندان فاحش نیست.

به‌عنوان مثال، وقتی مسئله صرفاً پیدا کردن یک خطای شناخته‌شده، بازنویسی exploit یا تحلیل محدود یک فایل بوده، مدل‌هایی مانند نسخه‌های تخصصی GPT، Gemini و حتی بعضی مدل‌های متن‌باز عملکردی نزدیک به Mythos داشته‌اند.

مزیت واقعی Mythos زمانی ظاهر می‌شود که مسئله بسیار پیچیده، چندلایه و زمان‌بر باشد؛ مثلاً تحلیل یک سیستم‌عامل کامل، پیدا کردن زنجیره‌ای از چند باگ مرتبط یا بررسی محصولی که ده‌ها سال کد legacy...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

Mythos دقیقاً برای چه کارهایی ارزش دارد؟​

بزرگ‌ترین کاربرد Mythos در پروژه‌هایی است که برای انسان‌ها بیش از حد بزرگ، پیچیده یا خسته‌کننده‌اند. وقتی یک شرکت باید امنیت میلیون‌ها خط کد را در هسته سیستم‌عامل، مرورگر، شبکه بانکی یا سامانه‌های مخابراتی بررسی کند، مدل‌هایی مانند Mythos می‌توانند زمان و هزینه را به شکل چشمگیری کاهش دهند.

در چنین سناریوهایی، Mythos احتمالاً بیش از هر چیز به یک دستیار فوق‌پیشرفته برای تیم‌های امنیتی تبدیل می‌شود. در این شرایط باید بگوییم که میتوس، نه به عنوان جایگزین کامل انسان، بلکه به عنوان ابزاری که ده‌ها فرضیه را سریع‌تر از هر تیمی بررسی می‌کند، می‌تواند کد را زیرورو کرده، ارتباط‌های پنهان را پیدا نموده و در نهایت چند مسیر محتمل را برای...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

استفاده از مدلی که برای یافتن آسیب‌پذیری در هسته لینوکس طراحی شده به عنوان دستیاری که از آن می‌خواهید تا یک مقاله بنویسد یا یک وب‌سایت ساده بسازد، تقریباً مانند این است که از یک ابررایانه به عنوان ماشین حساب برای حسابداری مالی استفاده کنید.

به همین دلیل، برخلاف هیجانی که پیرامون Mythos شکل گرفته، این مدل احتمالاً قرار نیست به ابزار عمومی همه کاربران تبدیل شود. جایگاه واقعی این مدل در لایه‌ای بسیار خاص‌تر و گران‌تر از بازار است؛ جایی که شرکت‌های امنیتی، دولت‌ها، آزمایشگاه‌های تحقیقاتی و غول‌های فناوری حاضرند برای چند درصد عملکرد بیشتر، هزینه‌های بسیار سنگینی بپردازند.

 

[amın]

آیا Anthropic در حال تکرار همان بازی تبلیغاتی OpenAI است؟​

اما پیرامون گسترش جو رسانه‌ای نیز فرضیات زیادی مطرح شده که می‌گوید انتروپیک در حال تکرار تکنیک شناخته‌شده اوپن‌ای‌آی در بزرگنمایی بیش‌ازحد محصولاتش است. اصولاً این گزاره را نمی‌توان نادیده گرفت، چون شباهت‌های جوی که امروز پیرامون Mythos شکل گرفته با محصولات OpenAI بسیار زیاد هستند.

در چند سال گذشته، OpenAI بارها متهم شد که از روایت «مدل بیش از حد خطرناک برای انتشار» برای جلب توجه رسانه‌ها و سرمایه‌گذاران استفاده می‌کند. نتیجه این روایت، شکل‌گیری تصویری از فناوری‌ای بود که هم ترسناک است و هم وسوسه‌انگیز؛ چیزی که همزمان هم دولت‌ها را نگران می‌کند و هم آن‌ها را به سرمایه‌گذاری بیشتر در حوزه AI سوق می‌دهد.

[IMG...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

Mythos معرفی می‌شود، سپس گفته می‌شود انتشار عمومی آن ممکن نیست، بعد پروژه‌ای مانند Glasswing مطرح می‌شود که هدفش محافظت از اینترنت پیش از آزاد شدن مدل است و در نهایت رسانه‌ها وارد چرخه‌ای از هیجان، ترس و گمانه‌زنی می‌شوند.

با این حال، تفاوت مهمی بین این دو مسیر وجود دارد. در بسیاری از موارد قبلی، شرکت‌ها صرفاً درباره توانایی‌های آینده حرف می‌زدند، اما در مورد Mythos، چند شرکت بزرگ فناوری ظاهراً تأیید کرده‌اند که این مدل واقعاً موفق به کشف ضعف‌های جدی شده است.

همین مسئله باعث می‌شود روایت Anthropic را نتوان صرفاً یک نمایش تبلیغاتی دانست. احتمالاً واقعیت این است که شرکت، هم به یک دستاورد مهم رسیده و هم به‌خوبی می‌داند چگونه آن را به یک داستان بزرگ و پرسر و صدا تبدیل کند.

 

[amın]

ماجرای وزارت دفاع آمریکا و بازگشت همکاری با Anthropic​

یکی از حساس‌ترین ابعاد پرونده Mythos، ارتباط آن با دولت آمریکا و به‌ویژه وزارت دفاع ایالات متحده است. چند ماه پیش، گزارش‌هایی منتشر شد که نشان می‌داد Anthropic به دلیل نگرانی از استفاده نظامی و تهاجمی از مدل‌هایش، حاضر نشده همکاری گسترده‌تری با پنتاگون داشته باشد. در آن زمان گفته می‌شد این شرکت نگران است که مدل‌هایش در تحلیل اهداف، طراحی عملیات سایبری یا حتی سامانه‌های تسلیحاتی نیمه‌خودکار به کار گرفته شوند.

اما حقیقت این است که حالا شرایط تغییر کرده است. با ظهور Mythos، ارزش استراتژیک Anthropic برای دولت آمریکا چند...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

همین موضوع باعث شده دوباره زمزمه‌هایی درباره آغاز همکاری میان Anthropic و وزارت دفاع امریکا شنیده شود. خبرگزاری Bloomberg در گزارشی که چند روز پیش منتشر شده نوشته که پس از چند ماه توقف مذاکرات، وزارت دفاع آمریکا بار دیگر گفتگو با انتروپیک را از سر گرفته و این بار محور اصلی مذاکرات، دسترسی محدود به Mythos برای بررسی امنیت زیرساخت‌های حیاتی و سامانه‌های نظامی است.

نکته جالب اینجاست که همان شرکتی که چند ماه پیش از خطر سوءاستفاده نظامی حرف می‌زد، حالا قدرتمندترین ابزار خود را در حوزه‌ای عرضه کرده که بیش از هر چیز برای نهادهای نظامی و اطلاعاتی ارزش دارد.

این تناقض احتمالاً در ماه‌های آینده به یکی از مهم‌ترین موضوعات بحث درباره Mythos تبدیل خواهد شد. اگر مدل واقعاً تا این اندازه توانمند...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.

 

[amın]

آیا Mythos واقعاً موازنه قدرت در دنیای AI را تغییر می‌دهد؟​

پاسخ به این سوال، دست‌کم در کوتاه‌مدت، منفی است. Mythos هنوز آن‌قدر از رقبا جلوتر نیست که OpenAI یا گوگل را از میدان خارج کند. اما اهمیت واقعی آن جای دیگری است. این مدل نشان می‌دهد رقابت آینده دیگر بر سر این نیست که کدام چت‌بات بهتر متن می‌نویسد یا کدام مدل بهتر به پرسش‌های عمومی جواب می‌دهد.

نسل بعدی رقابت احتمالاً حول مدل‌های فوق‌تخصصی شکل می‌گیرد؛ مدل‌هایی که برای یک حوزه خاص ساخته می‌شوند و در همان حوزه، چندین برابر ارزشمندتر از مدل‌های عمومی هستند.

میدان اصلی رقابت ابرمدل‌های فوق‌پیشرفته، امنیت سایبری، طراحی تراشه، کشف دارو، زیست‌فناوری و تحلیل نظامی خواهند بود.

از این زاویه، Mythos شاید هنوز...

لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.