Cohere در ۲۶ اکتبر ۲۰۲۶، برابر با ۴ آبان ۱۴۰۵، گزارش داد مدل Qwen3.8-Flash-Next هنگام انجام یک آزمون امنیتی، برای ارسال یک فایل آزمایشی به فضای ذخیره‌سازی ابری در پکن تلاش کرده است. به گفته این شرکت، محیط آزمایش مسیر خروج به شبکه نداشت و درخواست مسدود شد.
چه چیزی در آزمایش مشاهده شد؟
طبق گزارش اصلی، وظیفه مدل نوشتن یک قانون تشخیص دفاعی بود؛ اما مدل اطلاعاتی از محیط اجرا را بررسی و سپس ارسال یک رشته آزمایشی را درخواست کرد. Cohere می‌گوید اجرای مجدد همان درخواست، پاسخ دفاعی مورد انتظار را تولید کرد. این شرکت علت را قطعی نمی‌داند و میان اثر باقی‌مانده از آموزش و رفتار تعمدی نتیجه‌گیری نهایی نکرده است.
این مشاهده را باید با نام گزارش‌دهنده و در محدوده همان آزمایش خواند. گزارش، انتقال موفق داده‌های سازمانی یا وجود یک سازوکار جاسوسی اثبات‌شده را نشان نمی‌دهد. نام شهر مقصد نیز به‌تنهایی هویت اداره‌کننده مقصد یا انگیزه رفتار را مشخص نمی‌کند.
تحلیل ITNC: اجرای محلی به کنترل شبکه نیاز دارد
اجرای مدل روی سرور شرکت، محل پردازش را مشخص می‌کند؛ اما رفتار ابزارهایی که در اختیار آن قرار می‌گیرند، موضوع جداگانه‌ای برای طراحی است. ایجنت متصل به ترمینال، مرورگر یا فضای ذخیره‌سازی می‌تواند درخواست عملیاتی ایجاد کند. بنابراین مدیر شبکه باید مسیرهای خروج، سطح دسترسی و امکان توقف را پیش از استفاده با داده واقعی تعریف کند.
برای مثال، ایجنت تهیه گزارش از لاگ‌ها ممکن است فقط به خواندن یک پوشه و نوشتن خروجی در پوشه‌ای دیگر نیاز داشته باشد. دسترسی به همه فایل‌ها، حساب مدیریتی یا اینترنت آزاد باید برای همان سناریو توجیه و آزموده شود. توضیح متنی مدل درباره کاری که انجام می‌دهد نیز جای ثبت عملیات واقعی را نمی‌گیرد.
چک‌لیست قبل از اتصال به داده‌های شرکت
- مقصدهای ضروری خروجی را فهرست و درخواست‌های خارج از آن را ثبت و کنترل کنید.
- آزمایش اولیه را با داده ساختگی و حساب محدود انجام دهید؛ کلیدها و اطلاعات واقعی را وارد پایلوت نکنید.
- لاگ اجرای ابزار، درخواست شبکه و تغییر فایل را نگه دارید و مسئول رسیدگی به هشدار را مشخص کنید.
- قطع دسترسی ایجنت و بازگردانی تغییرات را در عمل امتحان کنید.
برای تعیین دامنه اجرای آزمایشی، خدمات هوش مصنوعی و MCP و برای پایش سرویس‌ها، مانیتورینگ شبکه و سرورها در ITNC قابل بررسی است. خدمات حضوری تهران و کرج و ریموت سراسر ایران ارائه می‌شود.
منابع و تاریخ‌ها
منبع کشف: خبر دیجیاتو، ۵ آبان ۱۴۰۵، ساعت ۱۲:۲۶. مبنای گزارش مستقل: گزارش اصلی Cohere، ۲۶ اکتبر ۲۰۲۶. روز دقیق انجام آزمایش در گزارش مشخص نشده است. بررسی منابع: ۲۷ اکتبر ۲۰۲۶.