۲۵ آبان ۱۴۰۵، دوشنبه تبریز ۶°
دلار۲۶۵٬۸۰۵ تومان • ٪۰٫۰۰یورو۲۹۳٬۵۸۰ تومان • ٪۰٫۰۰درهم۷۲٬۶۹۹ تومان • ٪۰٫۰۰لیر۵٬۲۹۰ تومان • ٪۰٫۰۰پوند۳۵۱٬۳۳۰ تومان • ٪۰٫۰۰طلای ۱۸ عیار۲۴٬۵۵۷٬۷۰۰ تومان • ٪۰٫۰۰
تبریز فوری
خبر فوری

توسعه ابزار IdeaLens برای تشخیص ایده‌های هوش مصنوعی

پژوهشگران ابزاری به نام «آیدیالنز» (IdeaLens) توسعه داده‌اند که منشأ ایده‌های مقالات را بررسی می‌کند تا مشخص شود ایده‌ها توسط انسان تولید شده‌اند یا ماشین.

· ۷ دقیقه مطالعه
توسعه ابزار IdeaLens برای تشخیص ایده‌های هوش مصنوعی
طرح کلی ایده‌های یک مقاله برای بررسی منشأ انسانی یا ماشینی آن

به گزارش تبریز فوری به نقل از ایسنا، دانشمندان بیش از پیش از هوش مصنوعی برای کمک به نگارش مقالات پژوهشی استفاده می‌کنند. در همین حال، سردبیران مجلات علمی و برگزارکنندگان کنفرانس‌ها که با افزایش تعداد مقالات ارسالی روبه‌رو هستند، مرزی مشخص کرده‌اند: استفاده از هوش مصنوعی برای ویرایش و بهبود متن مقاله، به شرط اعلام و افشای این موضوع، مجاز است؛ اما تولید کامل مقاله با هوش مصنوعی مجاز نیست.

برای اجرای این سیاست، برخی از نهادهای تصمیم‌گیر و متولی پذیرش مقالات، آثار ارسالی را با ابزارهای تشخیص متن تولیدشده توسط هوش مصنوعی بررسی می‌کنند. این ابزارها ممکن است دچار خطا شوند؛ برای مثال، ممکن است مقاله‌ای را به‌طور کامل تولیدشده با هوش مصنوعی تشخیص دهند، در حالی که نویسندگان صرفاً برای ویرایش جزئی و روان‌تر کردن متن از این فناوری استفاده کرده باشند. هفته گذشته، پژوهشگران از رویکرد جدیدی برای تشخیص منشأ هوش مصنوعی رونمایی کردند که به گفته آن‌ها تا حد زیادی از این کاستی‌ها جلوگیری می‌کند. به گزارش ایسنا به نقل از ساینس، این رویکرد که IdeaLens نام دارد، بر این موضوع تمرکز دارد که آیا ایده‌های یک مقاله و نه فقط نثر آن از انسان سرچشمه گرفته‌اند یا از ماشین.

مکس اسپرو، مدیرعامل شرکت پانگرام که یکی از بزرگترین ابزارهای شناسایی متن هوش مصنوعی تجاری را ارائه می‌دهد، می‌گوید: «این نوع کاملاً جدید ابزارهای شناسایی است و مطمئناً نشان‌دهنده پیشرفتی در این زمینه محسوب می‌شود، زیرا ایده‌ای نوآورانه است که به خوبی اجرا شده است.»

نحوه عملکرد آیدیالنز

عملکرد «آیدیالنز» (IdeaLens) با تبدیل یک سند به طرحی کلی و مفصل از ایده‌های اصلی آن، بدون استفاده از عبارت‌بندی متن اصلی، انجام می‌شود. سپس آیدیالنز ساختار و محتوای ایده‌ها را برای یافتن سرنخ‌های مشخصی تحلیل می‌کند تا تعیین کند که آیا این ایده‌ها احتمالاً توسط انسان تولید شده‌اند یا ماشین. در مقابل، پانگرام و سایر ابزارهای تشخیص متن تولیدشده توسط هوش مصنوعی، صرفاً الگوهای موجود در کلمات و عبارات یک سند را بررسی می‌کنند.

نتایج آزمایش‌ها در مقایسه با ابزارهای فعلی

در آزمایش‌ها آیدیالنز نتایجی به‌طور قابل‌توجهی متفاوت از ابزارهای شناسایی فعلی متن‌های تولیدشده توسط هوش مصنوعی ارائه کرد. برای مثال، در یکی از مجموعه آزمایش‌ها، پژوهشگران از مدل‌های زبانی بزرگ (LLM) برای ایجاد اسناد آزمایشی بر اساس طرح‌های کلی استفاده کردند که حاوی ایده‌هایی بودند که به عنوان تولیدشده توسط انسان طبقه‌بندی شده بودند و از پانگرام و آیدیالنز خواستند که همان مجموعه اسناد را تجزیه و تحلیل کنند.

دانشمندان در مقاله‌ای پیش‌چاپ که در ۵ اکتبر منتشر شد، گزارش داده‌اند که در سخت‌گیرانه‌ترین آزمایش، با استفاده از دقیق‌ترین طرح کلی، پانگرام که صرفاً متن اسناد را تحلیل می‌کرد، ۹۲ درصد آن‌ها را به‌عنوان تولیدشده توسط هوش مصنوعی شناسایی کرد، اما آیدیالنز تشخیص داد که هوش مصنوعی فقط ۷ درصد آن‌ها را تولید کرده است. در ۱۲ آزمایش دیگر که بررسی می‌کردند آیا هوش مصنوعی تغییرات جزئی در یک سند ایجاد کرده است یا خیر، مانند ویرایش و بهبود متن، آیدیالنز به‌طور میانگین ۹۵ درصد اسناد تولیدشده توسط انسان را به‌درستی انسانی تشخیص داد، در حالی که پانگرام تنها ۴۴ درصد آن‌ها را علامت‌گذاری کرد. در عین حال، دقت آیدیالنز در شناسایی اسنادی که در ابتدا توسط هوش مصنوعی تولید شده بودند، با دقت پانگرام و سایر ابزارهای فعلی رقابت می‌کرد.

روش آموزش و محدودیت‌های پژوهش

برای توسعه ابزار آیدیالنز، توسعه‌دهندگان آن، ابزار تشخیص را با بیش از ۸۰۰ هزار سند بلند در هشت گونه مختلف آموزش دادند که از جمله آن‌ها می‌توان به متون دانشگاهی، آثار خلاقانه و نوشته‌های غیرداستانی اشاره کرد. شرکت پانگرام پیش‌تر هر یک از این اسناد را بر اساس میزان مشارکت هوش مصنوعی عمدتاً تولیدشده توسط هوش مصنوعی یا انسان طبقه‌بندی کرده بود.

در مرحله بعد، پژوهشگران از مدل‌های زبانی بزرگ (LLM) برای ایجاد یک طرح کلی برای هر سند استفاده کردند. در این طرح‌ها مجموعه‌ای از عناصر ابلاغی متناسب با هر نوع سند مشخص می‌شد؛ برای مثال در یک مقاله پژوهشی، طرح کلی شامل ادعا، استدلال و شواهد آن مشخص می‌شد. سپس هوش مصنوعی بخش‌هایی از متن اصلی را که با این عناصر مطابقت داشت، استخراج و بازنویسی کرد تا از ورود واژگانی به طرح کلی جلوگیری شود که ابزار آیدیالنز بتواند بلافاصله آنها را به عنوان متن تولیدشده توسط هوش مصنوعی شناسایی کند. این تیم تفاوت‌های نظام‌مندی میان طرح‌های کلی مشاهده کرد که آیدیالنز آن‌ها را برگرفته از متون تولیدشده توسط هوش مصنوعی یا نوشته شده توسط انسان تشخیص داده بود. برای مثال طرح‌های کلی مبتنی بر متون انسانی، جزئیات عینی‌تر و شواهد بیشتری برای پشتیبانی ادعا ارائه می‌کردند.

پژوهشگران اذعان می‌کنند که مطالعه آن‌ها محدودیت‌هایی دارد. برای نمونه، آن‌ها به‌طور مستقل بررسی نکردند که آیا اسناد به‌کاررفته برای آموزش «آیدیالنز» واقعاً توسط انسان نوشته شده‌اند یا هوش مصنوعی؛ همچنین مجموعه داده‌ای اختصاصی شامل هر دو نوع متن برای انجام آزمون‌های کنترل‌شده ایجاد نکردند. به گفته «ریشانت راجندران»، دانشجوی دکتری علوم کامپیوتر در دانشگاه مریلند و نویسنده اصلی این پژوهش، انجام چنین کارهایی بسیار پرهزینه بود. او خاطرنشان کرد که ایجاد چنین آرشیو آموزشی می‌تواند گام بعدی مناسبی در این مسیر باشد.

مسئله دیگر این است که «آیدیالنز» با نوعی سند ترکیبی که در حوزه علم رو به رواج است؛ یعنی تلفیقی از ایده‌ها و متون حاصل کار انسان و ماشین، مواجه نشده است. برای مثال، چنین متن‌های ترکیبی زمانی تولید می‌شوند که یک دانشمند برای اصلاح و تکمیل تدریجی یک ایده یا پیش‌نویس پژوهشی، از یک چت‌بات استفاده می‌کند. ابزارهای تشخیصی مانند «پانگرام» با اعلام اینکه چه درصدی از یک سند احتمالاً توسط هوش مصنوعی تولید شده است، به بررسی متونی با منشأ دوگانه می‌پردازند؛ اما «آیدیالنز»ها یک پیش‌بینی دوگانه ارائه می‌دهد و مشخص می‌کند که متن مورد بررسی متعلق به هوش مصنوعی است یا انسان.

«ماریکه ون ولاسلر»، عضو هیئت علمی دانشکده بازرگانی سولوی در دانشگاه آزاد بروکسل که در زمینه ابزارهای تشخیص متن هوش مصنوعی مطالعه کرده و بر صداقت و درستی علمی در موسسه خود نظارت دارد، می‌گوید: «طراحی ابزارهایی مانند آیدیالنز به‌گونه‌ای که بتوانند این تفاوت‌ها را با دقت تشخیص دهند، به پژوهش‌های بیشتری نیاز دارد.» او خاطرنشان می‌کند: «اینکه یک ایده متعلق به چه کسی است؛ انسان یا هوش مصنوعی، به‌ندرت موضوعی صفر و یک و کاملاً روشن است. ما انسان‌ها نیز حتی با تأمل و بازنگری، همیشه نمی‌توانیم تشخیص دهیم که چه چیزی جرقه شکل‌گیری یک ایده را زده است.»

«میشا تپلیتسکی»، جامعه‌شناس دانشگاه میشیگان که در زمینه نوآوری در علم پژوهش می‌کند، می‌افزاید که ابزار «آیدیالنز» ممکن است برخی نشانه‌ها در طرح‌های کلی تولیدشده توسط هوش مصنوعی، مانند اسم‌های خاص را شناسایی کند؛ این نشانه‌ها لزوماً بازتاب‌دهنده ماهیت و جوهره یک ایده نیستند. او می‌گوید: «تشخیص اینکه آیدیالنز واقعاً بر چه اساسی دسته‌بندی را انجام می‌دهد، بسیار دشوار است». «اس‌پرو» نیز خاطرنشان می‌کند که این ابزار تشخیص، پیش از آنکه بتواند بخشی از هرگونه سیاست‌گذاری در حوزه هوش مصنوعی شود، نیازمند آزمون‌های فشار و اعتبارسنجی بیشتری است.

کاربرد احتمالی در نظارت بر نشر علمی

مطالعه مربوط به ابزار آیدیالنز تلاش نکرد به این پرسش گسترده‌تر پاسخ دهد که آیا مقالاتی که عمدتاً توسط انسان نوشته شده‌اند، همواره کیفیت بهتری نسبت به مقالات تولیدشده توسط ماشین دارند یا خیر. با این حال، این پژوهش احتمالاً به بحث‌های جاری درباره میزان مجاز استفاده از محتوای تولیدشده با هوش مصنوعی در ارتباطات علمی دامن خواهد زد. سردبیران مجله روانپزشکی بالینی در سرمقاله‌ای در ۳۰ سپتامبر نوشتند: «تشخیص میزان مشارکت هوش مصنوعی در تفکر انتقادی توسط هوش مصنوعی؛ وظیفه‌ای که از نظر ما به‌درستی باید بر عهده نویسندگان انسانی باشد، روزبه‌روز دشوارتر می‌شود.» اما محتوای ۱۰۰ درصد تولید شده توسط هوش مصنوعی به طور غیرقابل جبرانی مشکل‌ساز به نظر می‌رسد.

«راجندران» می‌گوید مجلات و کنفرانس‌ها می‌توانند از ابزار آیدیالنز برای نظارت بر متن نوشته‌شده توسط هوش مصنوعی استفاده کنند، هرچند با توجه به اینکه این نرم‌افزار از دقت صددرصدی برخوردار نیست، شناسایی الگوی استفاده از هوش مصنوعی در مجموعه‌ای از مقالات، اطلاعات معنادارتری نسبت به بررسی یک دست‌نوشته به‌تنهایی ارائه می‌دهد. با این حال او امیدوار است که پژوهشگران قبل از ارسال مقالات خود از آن برای بررسی آنها استفاده کنند و در مورد نقش هوش مصنوعی در شکل‌گیری آن‌ها تأمل کنند. به همین منظور، تیم پژوهشی، کد ابزار آیدیالنز را به صورت رایگان به اشتراک می‌گذارد. همچنین تا زمانی که منابع و ظرفیت پردازشی پروژه اجازه دهد، همه افراد می‌توانند مقالات خود را از طریق این ابزار بررسی کنند. او می‌گوید: «ما می‌خواهیم افراد را تشویق کنیم تا در انجام کارهای نوشتاری، با آگاهی و هدفمندی بیشتری از هوش مصنوعی استفاده کنند. هیچ‌چیز نمی‌تواند جایگزین شهود و بینش انسانی شود.»

منبع: www.isna.ir

خبر بعدی

نخستین پرواز سرنشین‌دار هواپیمای برقی CE-۲۵A چین انجام شد

علم و فناوری · ۲ دقیقه مطالعه

اخبار مرتبط

همه ›
علم و فناوری

انرژی تاریک احتمالا ۹.۵ میلیارد سال پیش تغییر علامت داده است

پژوهشگران دانشگاه فنی استانبول به رهبری پروفسور اوزگور آکارسو در مطالعه‌ای منتشرشده در سال ۲۰۲۵ سناریویی را کشف کرده‌اند که در آن چگالی مؤثر انرژی تاریک حدود ۹.۵ میلیارد سال پیش از منفی به مثبت تغییر کرده است.

۲۵ آبان ۱۴۰۵ ۰۵:۳۷۳ دقیقه مطالعه
علم و فناوری

نخستین پرواز سرنشین‌دار هواپیمای برقی CE-۲۵A چین انجام شد

هواپیمای برقی CE-۲۵A چین نخستین پرواز خود با حضور خدمه را در استان شاندونگ انجام داد. در این پرواز دو خلبان و یک مهندس آزمایش پرواز حضور داشتند و عملکرد سامانه‌ها عادی گزارش شد.

۲۵ آبان ۱۴۰۵ ۰۴:۳۶۲ دقیقه مطالعه

اخبار بیشتر