سرقت ادبی مبتنی بر هوش مصنوعی در حال تبدیل شدن به یک پدیده آزاردهنده و خطرناک است! به خصوص در حوزه تحقیقات علمی که بر مبنای فکت های واقعی استوار است، این موضوع می تواند تبعات سنگینی داشته باشد و سبب گمراهی محققان شود. این موضوع باعث شده تا پیدا کردن راه حلی برای تشخیص مقالات حقیقی از مقالات نوشته شده توسط هوش مصنوعی به یک دغدغه مهم برای بسیاری از افراد (و البته محققان) تبدیل شود. در همین راستا به تازگی از یک ابزار جدید رونمایی شده است که به نظر می رسد می تواند این دغدغه را برطرف کند!
چت جی پی تی در جعل محتوا یک استاد است و خلاقیت زیادی در نوشتن متن مشابه با انسان دارد. حتی اگر تولید کنندگان حرفه ای محتوا این چت بات را یک نویسنده بی مصرف بدانند، باز هم نمی توان توانایی های آن را به طور کامل نادیده گرفت. با این حال وقتی صحبت از نوشتن مقالات علمی به میان می آید، چت بات ها می توانند از ابزارهایی ساده برای تقلب در انجام تکالیف مدرسه، به تهدیدهای واقعی علیه علم و روش های تحقیقاتی صحیح تبدیل شوند.
تحقیقات جدید منتشر شده توسط دانشمندان دانشگاه کانزاس، یک راه حل بالقوه برای مشکل سرقت ادبی مبتنی بر هوش مصنوعی ارائه داده است که دارای توانایی بالایی برای تشخیص نوشته های علمی واقعی (نوشته شده توسط انسان) از مقالات نوشته شده توسط هوش مصنوعی ChatGPT دارد. محققان دانشگاه کانزاس اعلام کرده اند که این ابزار از دقت عملکرد «بیش از 99 درصد» برخوردار است و بر اساس الگوریتم های هوش مصنوعی و یک سری مدل زبانی آموزش دیده شده شکل گرفته است.
به این ترتیب پروفسور Heather Desaire و همکارانش به کمک هوش مصنوعی به جنگ هوش مصنوعی رفته اند و اتفاقاً به نتایج مطلوبی نیز دست پیدا کرده اند. این تیم تحقیقاتی تمرکز خود را بر روی مقالات Perspective معطوف کرده اند که نوع خاصی از مقالات علمی جهت نشر در نشریات به حساب می آید.
این دانشمندان 64 مقاله پرسپکتیو (یا دیدگاهی) را از موضوعات مختلف، از زیست شناسی گرفته تا فیزیک، انتخاب کرده اند و سپس از ChatGPT خواسته اند تا در همان موضوعات، چند پاراگراف جدید تولید کند. سپس این پاراگراف های جعلی در لابلای مقالات اصلی گنجانده شده است. در مجموع ChatGPT حدود 1276 پاراگراف جدید تولید کرده و 128 مقاله جعلی برای آزمایش مدل زبانی دانشمندان آماده شده است.
در ادامه دو مجموعه دیتای دیگر، یکی شامل 30 مقاله دیدگاهی واقعی و دیگری شامل 60 مقاله تولید شده توسط ChatGPT، برای آزمایش این الگوریتم مورد استفاده قرار گرفته است. و در نهایت این الگوریتم توانسته است تا تقریباً از تمام آزمایش های طراحی شده توسط دانشمندان سربلند بیرون بیاید: این ابزار طبقه بندی هوش مصنوعی 100 درصد مقالات نوشته شده توسط ChatGPT را تشخیص داده است! همچنین این ابزار در 92 درصد موارد توانسته است تا پاراگراف های فیک اضافه شده به مقالات اصلی را مشخص کند!
این تیم تحقیقاتی عنوان کرده اند که چت بات های هوش مصنوعی با استفاده از یک سبک خاص در «نوشتن»، محتوای متنی را دستکاری می کنند و به همین دلیل می توان با یک روش مؤثر «دست» آنها را رو کرد! دانشمندان واقعی (انسان ها!) تمایل دارند تا از دایره لغات غنی تری استفاده کنند و پاراگراف های طولانی تر همراه با علائم نگارشی متنوع تر و دقیق تری را در مقالات خود به کار ببرند. اما چت بات هایی مانند ChatGPT به این شدت دقیق نیستند و در متن های آنها ارجاعات کمتری به نام سایر دانشمندان دیده می شود. این نکات ریز می تواند تمایز مقالات واقعی از جعلی را بیش از پیش آشکار کند.
در حالیکه دانشمندان دانشگاه کانزاس از موفقیت خود در تشخیص مقالات علمی جعلی تحت عنوان مطالعه ای در زمینه «اثباتِ مفهوم» یاد کرده اند، اما هنوز مشخص نیست که این روش برای سایر مقالات نیز کاربرد دارد یا خیر. با این حال قطعاً تحقیق های بشر در این زمینه ادامه خواهد داشت و ممکن است این روش به زودی به انواع دیگر محتوا نیز تعمیم پیدا کند.
منبع: techspot
