۲۶ آبان ۱۴۰۵، سه‌شنبه تبریز ۶°
دلار۲۶۸٬۷۰۵ تومان • ٪۰٫۰۰یورو۲۹۶٬۳۹۰ تومان • ٪۰٫۰۰درهم۷۳٬۲۲۰ تومان • ٪۰٫۰۰لیر۵٬۳۲۰ تومان • ٪۰٫۰۰پوند۳۵۴٬۵۴۰ تومان • ٪۰٫۰۰طلای ۱۸ عیار۲۴٬۵۶۷٬۴۰۰ تومان • ٪۰٫۰۰
تبریز فوری
خبر فوری

ابتکار جدید اوپن‌ای‌آی برای مبارزه با سوءاستفاده از کودکان

اوپن‌ای‌آی از ویژگی‌های جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد که شامل طبقه‌بندی‌کننده تصویر، هشدار و مسدودسازی موقت در چت‌جی‌پی‌تی است.

· ۲ دقیقه مطالعه
ابتکار جدید اوپن‌ای‌آی برای مبارزه با سوءاستفاده از کودکان
ویژگی‌های جدید اوپن‌ای‌آی برای تشخیص و جلوگیری از سوءاستفاده از کودکان

به گزارش تبریز فوری به نقل از ایسنا، اوپن‌ای‌آی در میان نگرانی‌های ایمنی روبه‌رشد درباره استفاده از محصولات هوش مصنوعی، از ویژگی‌های جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد.

به گزارش ایسنا به نقل از تک‌کرانچ، این ویژگی‌ها شامل یک طبقه‌بندی‌کننده تصویر برای تشخیص سوءاستفاده از کودکان، هشدارها و مسدودسازی موقت برای جلوگیری از ایجاد محتوای جنسی درباره کودکان یا دسترسی کاربران به آنها، یک دستورالعمل جدید برای توسعه‌دهندگان و مجموعه‌ای از ابزار برای اجرای قانون هستند.

طبقه‌بندی‌کننده جدید تصویر

این شرکت یک طبقه‌بندی‌کننده تصویر جدید را معرفی کرد که می‌تواند تصاویر سوءاستفاده از کودکان را تشخیص دهد؛ از جمله تصاویری که توسط هوش مصنوعی تولید شده‌اند. اوپن‌ای‌آی امکان دسترسی به طبقه‌بندی‌کننده جدید خود را از طریق API خود و بدون هزینه به شرکت‌های انتخاب‌شده می‌دهد. این ویژگی به دنبال نشانه‌های بصری سوءاستفاده در تصاویری است که قبلا دیده نشده‌اند و امتیازی را تعیین می‌کند که می‌تواند راهنمایی‌هایی را به بازبینی‌کنندگان درباره برخورد با سوءاستفاده از کودکان ارائه دهد.

همکاری با نهادهای تخصصی

اوپن‌ای‌آی گفت که این طبقه‌بندی‌کننده را با همکاری «مرکز ملی کودکان گمشده و مورد سوءاستفاده» توسعه داده است و با سازمان‌های «Tech Coalition» و «ROOST» برای به اشتراک گذاشتن دسترسی به آن کار می‌کند. این شرکت در آزمایش اولیه خود با شرکا دریافت که طبقه‌بندی‌کننده، تصاویر را تا ۴۸ درصد کمتر نشان می‌دهد، اما همان تعداد تصاویر مربوط به سوءاستفاده را پیدا می‌کند و کار بازبینی‌کنندگان را کاهش می‌دهد. علاوه بر این، تصاویری که توسط طبقه‌بندی‌کننده علامت‌گذاری شده‌اند، دو برابر بیشتر احتمال دارد که تصاویر توهین‌آمیز باشند.

هشدار و تعلیق موقت در چت‌جی‌پی‌تی

علاوه بر این، اوپن‌ای‌آی صفحه‌های هشدار جدید را به چت‌بات «چت‌جی‌پی‌تی» اضافه کرده است تا از دسترسی کاربران به محتوای جنسی درباره کودکان جلوگیری کند. چت‌جی‌پی‌تی به کاربرانی که چنین درخواست‌هایی را دارند هشدار می‌دهد، کاربران را به سمت پشتیبانی تخصصی برای متوقف کردن رفتار مضر هدایت می‌کند و حساب آنها را به عنوان هشدار برای ۲۴ ساعت تعلیق می‌کند. این برنامه در حال حاضر محتوای سوءاستفاده از کودکان و درخواست‌های مربوط به آن را مسدود می‌کند. گفته شده است که تخلفات مکرر می‌تواند به حذف دائمی حساب کاربری منجر شود.

منبع: www.isna.ir

خبر بعدی

تاب‌آوری ملی به معنای حفظ زندگی مردم و تداوم خدمات حیاتی است

علم و فناوری · ۵ دقیقه مطالعه

اخبار مرتبط

همه ›
علم و فناوری

ایجاد ظرفیت جدید ارتباطی در شبکه فیبر نوری بجنورد

عملیات اجرایی شبکه فیبر نوری در خیابان‌های سید جمال الدین اسدآبادی، میرزا رضای کرمانی و کوی امام رضا بجنورد (ع) به پایان رسید و زیرساخت ارائه خدمات مبتنی بر فیبر نوری در این محدوده‌ها ایجاد شد.

۲۶ آبان ۱۴۰۵ ۱۱:۲۹۱ دقیقه مطالعه
علم و فناوری

مدال‌آوران المپیاد جهانی ۲۰۲۶: دریافت مدال نقطه پایان نیست

مدال‌آوران المپیادهای علمی جهانی ۲۰۲۶ روز سه‌شنبه در آیین تجلیل تأکید کردند دریافت مدال نقطه پایان نیست و خواستار به رسمیت شناخته شدن شبکه نخبگان المپیادی و پیوند آن با نیازهای کشور شدند.

۲۶ آبان ۱۴۰۵ ۱۱:۱۶۶ دقیقه مطالعه
علم و فناوری

تاب‌آوری ملی به معنای حفظ زندگی مردم و تداوم خدمات حیاتی است

سیده فاطمه حسینی روز سه‌شنبه در همایش نقش دانشگاه‌ها و پژوهشگاه‌های کشور در تاب‌آوری ملی گفت تاب‌آوری ملی به معنای حفظ زندگی مردم و تداوم کارکردهای حیاتی در شرایط بحرانی است.

۲۶ آبان ۱۴۰۵ ۱۱:۰۶۵ دقیقه مطالعه

اخبار بیشتر