مدلهای آنتروپیک توانستند از طریق اتصال ناخواسته محیط آزمایشی به اینترنت، به سازمانهایی خارج از شبکه آزمایش نفوذ کنند. آنها برای این کار از روشهایی نسبتاً ساده، از جمله عبور از گذرواژههای ضعیف، استفاده کردند.
به گزارش نبأخبر، افشای آنتروپیک چند روز پس از آن صورت میگیرد که اوپنایآی پذیرفت تعدادی از مدلهایش از یک محیط آزمایشی بسته خارج شده و به شرکتهای دیگر حمله سایبری کردهاند
کلاد
شرکت آنتروپیک روز پنجشنبه اعلام کرد چند مدل پیشرفته هوش مصنوعی این شرکت از یک محیط آزمایشی ایزوله که توسط یک شرکت دیگر اداره میشد، خارج شدند، به اینترنت آزاد دسترسی پیدا کردند و در سه حادثه جداگانه، به سامانههای سه سازمان نفوذ کردند. نخستین مورد از این حوادث به ماه آوریل بازمیگردد.
آنتروپیک تأکید کرد که مدلهایش در هیچیک از این موارد، نسخهای از خود را به خارج منتقل نکرده و عمداً نیز برای فرار از محیط آزمایشی تلاش نکردهاند. به گفته این شرکت، یک «سوءتفاهم» میان آنتروپیک و یکی از شرکای آزمایشیاش باعث شده بود محیطی که قرار بود بسته و آفلاین باشد، همچنان به اینترنت متصل بماند.
آنتروپیک پس از بررسی هزاران آزمایشی که برای سنجش تواناییهای سایبری مدلهای پیشرفته خود انجام داده بود، متوجه فعالیت این مدلها شد.
این بررسی پس از آن صورت گرفت که اوپنایآی هفته گذشته اعلام کرد دو مورد از قدرتمندترین مدلهایش خارج از چارچوب تعیینشده عمل کردهاند، از یک محیط آزمایشی خارج شده و به سامانه چند شرکت نفوذ کردهاند؛ از جمله پلتفرم هوش مصنوعی هاجینگ فیس و پلتفرم ابری مودال لبز.
کدام مدلهای آنتروپیک در این حوادث نقش داشتند؟
آنتروپیک اعلام کرد یک مدل تحقیقاتی داخلی، به همراه مدلهای Opus 4.7 و Mythos 5 در این حوادث نقش داشتهاند.
مدل Mythos 5 ماه گذشته با نام «پروژه گلسوینگ» بهصورت محدود در اختیار تعدادی از شرکتهای فناوری و پژوهشگران امنیت سایبری قرار گرفته بود.
این شرکت نام سازمانهایی را که مدلهایش به آنها نفوذ کردهاند اعلام نکرد، اما گفت هر سه سازمان روز دوشنبه در جریان این حوادث قرار گرفتهاند.
آنتروپیک میگوید در دستورهای دادهشده به مدلها، بهصراحت نوشته شده بود که محیط آزمایشی به اینترنت دسترسی ندارد؛ اما ارزیابان بعداً متوجه شدند این فرض نادرست بوده است.
یک مأموریت آزمایشی که از محیط بسته فراتر رفت
در این آزمایشها از مدلها خواسته شده بود به یک دستگاه دیگر در شبکه آزمایشی «نفوذ کنند و اطلاعات محرمانهای را بازیابی کنند». چنین مأموریتی در امنیت سایبری با عنوان رقابت «تسخیر پرچم» یا Capture the Flag شناخته میشود.
به گفته آنتروپیک، مدلها توانستند از طریق اتصال ناخواسته محیط آزمایشی به اینترنت، به سازمانهایی خارج از شبکه آزمایش نفوذ کنند. آنها برای این کار از روشهایی نسبتاً ساده، از جمله عبور از گذرواژههای ضعیف، استفاده کردند.
این شرکت نوشت: «مدلها هیچ آسیبپذیری پیچیدهای را پیدا یا مورد سوءاستفاده قرار ندادند. در هر سه مورد نیز کلود فقط برای انجام همان مأموریت مشخصی تلاش کرد که در آزمایش تسخیر پرچم به آن محول شده بود.»
سخنگوی شرکت امنیتی Irregular که از پلتفرم آن برای ارزیابی مدلهای آنتروپیک استفاده شده بود، بلافاصله به درخواست اظهارنظر پاسخ نداد.
افزایش درخواستها برای سختگیری بر شرکتهای هوش مصنوعی
حادثه اخیر اوپنایآی نیز درخواستها برای وضع مقررات سختگیرانهتر و کاهش سرعت توسعه هوش مصنوعی را افزایش داده است.
تد لیو، نماینده دموکرات کالیفرنیا، و ناتانیل موران، نماینده جمهوریخواه تگزاس، طرحی با عنوان قانون کلید خاموش اضطراری هوش مصنوعی ارائه کردهاند. این طرح به وزارت امنیت داخلی آمریکا اجازه میدهد دستور خاموش شدن مدلهای هوش مصنوعی را صادر کند که بیش از حد خطرناک تشخیص داده میشوند.
مارک وارنر، سناتور دموکرات ایالت ویرجینیا، نیز هفته گذشته مجموعهای از طرحهای قانونی مرتبط با هوش مصنوعی را ارائه کرد. یکی از این طرحها شرکتهای سازنده هوش مصنوعی را ملزم میکند پیش از عرضه مدلهای خود، آنها را برای انجام آزمایشهای اجباری امنیت ملی در اختیار دولت فدرال قرار دهند.
