هوش مصنوعی از درون هک میشود؛ تهدید جدید پژوهشگران مایکروسافت
به گزارش خبرگزاری صداوسیما و به گزارش پژوهشگران مایکروسافت، بر اساس این تحقیق، مدلهای هوش مصنوعی دستکاریشده در شرایط عادی عملکردی کاملاً طبیعی دارند و از آزمونهای استاندارد امنیتی عبور میکنند؛ اما با دریافت یک نشانه از پیشتعیینشده، رفتار مخربی از خود بروز میدهند.
به گزارش خبرگزاری صداوسیما و به گزارش پژوهشگران مایکروسافت، بر اساس این تحقیق، مدلهای هوش مصنوعی دستکاریشده در شرایط عادی عملکردی کاملاً طبیعی دارند و از آزمونهای استاندارد امنیتی عبور میکنند؛ اما با دریافت یک نشانه از پیشتعیینشده، رفتار مخربی از خود بروز میدهند. این تهدید بهویژه زمانی خطرناک میشود که عاملهای هوش مصنوعی به اطلاعات حساس و ابزارهای سازمانی دسترسی داشته باشند و زمینه اجرای کدهای مخرب یا سرقت دادهها را فراهم کنند.
اگرچه مایکروسافت اعلام کرده تاکنون شواهدی از استفاده مهاجمان از این روش در حملات واقعی مشاهده نکرده است، اما بررسی سلامت وزنهای مدل و اطمینان از اصالت نسخهها را از راهکارهای مقابله با آن میداند. این پژوهش نشان میدهد که با توسعه هوش مصنوعی، امنیت ساختار داخلی مدلها به یکی از الزامات کلیدی امنیت سایبری تبدیل شده است.
منبع: www.irib-news.ir
گنبد سلطانیه؛ تجلی شکوهمند تمدن و هنر ایرانی






