ابتکار جدید اوپنایآی برای مبارزه با سوءاستفاده از کودکان
اوپنایآی از ویژگیهای جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد که شامل طبقهبندیکننده تصویر، هشدار و مسدودسازی موقت در چتجیپیتی است.

به گزارش تبریز فوری به نقل از ایسنا، اوپنایآی در میان نگرانیهای ایمنی روبهرشد درباره استفاده از محصولات هوش مصنوعی، از ویژگیهای جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد.
به گزارش ایسنا به نقل از تککرانچ، این ویژگیها شامل یک طبقهبندیکننده تصویر برای تشخیص سوءاستفاده از کودکان، هشدارها و مسدودسازی موقت برای جلوگیری از ایجاد محتوای جنسی درباره کودکان یا دسترسی کاربران به آنها، یک دستورالعمل جدید برای توسعهدهندگان و مجموعهای از ابزار برای اجرای قانون هستند.
طبقهبندیکننده جدید تصویر
این شرکت یک طبقهبندیکننده تصویر جدید را معرفی کرد که میتواند تصاویر سوءاستفاده از کودکان را تشخیص دهد؛ از جمله تصاویری که توسط هوش مصنوعی تولید شدهاند. اوپنایآی امکان دسترسی به طبقهبندیکننده جدید خود را از طریق API خود و بدون هزینه به شرکتهای انتخابشده میدهد. این ویژگی به دنبال نشانههای بصری سوءاستفاده در تصاویری است که قبلا دیده نشدهاند و امتیازی را تعیین میکند که میتواند راهنماییهایی را به بازبینیکنندگان درباره برخورد با سوءاستفاده از کودکان ارائه دهد.
همکاری با نهادهای تخصصی
اوپنایآی گفت که این طبقهبندیکننده را با همکاری «مرکز ملی کودکان گمشده و مورد سوءاستفاده» توسعه داده است و با سازمانهای «Tech Coalition» و «ROOST» برای به اشتراک گذاشتن دسترسی به آن کار میکند. این شرکت در آزمایش اولیه خود با شرکا دریافت که طبقهبندیکننده، تصاویر را تا ۴۸ درصد کمتر نشان میدهد، اما همان تعداد تصاویر مربوط به سوءاستفاده را پیدا میکند و کار بازبینیکنندگان را کاهش میدهد. علاوه بر این، تصاویری که توسط طبقهبندیکننده علامتگذاری شدهاند، دو برابر بیشتر احتمال دارد که تصاویر توهینآمیز باشند.
هشدار و تعلیق موقت در چتجیپیتی
علاوه بر این، اوپنایآی صفحههای هشدار جدید را به چتبات «چتجیپیتی» اضافه کرده است تا از دسترسی کاربران به محتوای جنسی درباره کودکان جلوگیری کند. چتجیپیتی به کاربرانی که چنین درخواستهایی را دارند هشدار میدهد، کاربران را به سمت پشتیبانی تخصصی برای متوقف کردن رفتار مضر هدایت میکند و حساب آنها را به عنوان هشدار برای ۲۴ ساعت تعلیق میکند. این برنامه در حال حاضر محتوای سوءاستفاده از کودکان و درخواستهای مربوط به آن را مسدود میکند. گفته شده است که تخلفات مکرر میتواند به حذف دائمی حساب کاربری منجر شود.
منبع: www.isna.ir

تابآوری ملی به معنای حفظ زندگی مردم و تداوم خدمات حیاتی است




