اگر با ایده چت ربات هوش مصنوعی دوستانه خود، ChatGPT که مقاله پایان نامه خود را آماده می کند، احساس راحتی کرده اید، وقت آن است که واقعیت را بررسی کنید. در حالی که نوشتارهای تولید شده توسط هوش مصنوعی توده ها را شگفت زده کرده است، محققان دانشگاه کانزاس با توسعه روشی برای شناسایی نوشتارهای علمی دانشگاهی تولید شده توسط هوش مصنوعی با دقت بیش از 99 درصد پیشرفت کرده اند.
این تحقیق در مجله علمی منتشر شده است گزارش های سلولی، توضیح می دهد که چگونه به وجود آمد.
محققان در این باره می‌گویند: «نیاز به تفکیک نوشته‌های انسانی از هوش مصنوعی در حال حاضر هم ضروری و هم ضروری است، به‌ویژه در حوزه‌هایی مانند آموزش عالی و نوشتار دانشگاهی، جایی که هوش مصنوعی تهدید یا مشارکت قابل توجهی در تألیف نبوده است». نوشت.
تلاش‌های گذشته برای شناسایی محتوای تولید شده توسط هوش مصنوعی با درجات مختلفی از موفقیت روبرو شده است. تلاش های خود OpenAIبرای مثال، به طور قابل اعتمادی موثر نبوده اند. اما اینها ابزارهای تشخیص به طور سنتی بر طیف وسیعی از سبک‌های نوشتاری تمرکز کرده‌اند، به‌جای اینکه بر لحن و هدف خاصی که مشخصه نگارش علمی آکادمیک است تمرکز کنند.
روش تیم، برعکس، برای نوشتن آکادمیک به خوبی تنظیم شده بود. با مقایسه 64 دیدگاه نوشته شده توسط انسان و 128 مقاله تولید شده توسط ChatGPT در مورد موضوعات تحقیقاتی یکسان، آنها نشانگرهای کلیدی نوشتن هوش مصنوعی را شناسایی کردند.
به عنوان مثال، تمایل ChatGPT به استفاده از کلمات “دیگران” و “محققان” بر روی کلماتی مانند “با این حال”، “اما” و “اگرچه” ثابت شد که یک هدیه مرده است. همچنین، تمایل انسان ها به ساختارهای پیچیده پاراگراف، طول جملات مختلف، و تغییر تعداد کلمات، اثر انگشت دیگری بود که در نوشتن هوش مصنوعی گم شده بود.
هنگامی که این مدل مورد آزمایش قرار گرفت، موفق شد مقالات تولید شده توسط هوش مصنوعی را از انسان با نرخ دقت 100٪ شناسایی کند و پاراگراف های نوشته شده با هوش مصنوعی را در مقالات انسانی با نرخ 92٪ متمایز کند. در آزمایش‌های مشابه، مدل این تیم حتی از یک آشکارساز متن AI موجود در بازار نیز بهتر بود.
طبق مقاله ای که Cell به تک اکسپلور، گام بعدی این است که مرزهای کاربرد مدل را زیر پا بگذارید و آن را بر روی مجموعه داده های گسترده تر و انواع مختلف نگارش علوم دانشگاهی آزمایش کنید. همانطور که ChatGPT و امثال آن پیچیده تر می شوند، باید دید که آیا این مدل اثربخشی خود را حفظ خواهد کرد یا خیر.
علاوه بر این، کاربران می توانند به طور بالقوه تنظیم دقیق کنند مدل های زبان بزرگ منبع باز (LLMs) و زبان را برای فرار از این روش و سایر روش‌های تشخیص دستکاری کنید. این یک مسابقه تسلیحاتی تکنولوژیک دیگر خواهد بود: مسابقه ای بین «جیل بریکرها» که به دنبال ایجاد پیشرفته ترین ابزارهای هوش مصنوعی هستند و محققانی که هدفشان توسعه بهترین آشکارسازها برای محتوای تولید شده توسط هوش مصنوعی است.
اما آیا این ابزار برای استفاده مربیان در مقالات دانشجویی در دسترس است؟
Desaire می گوید مدل هنوز کاملا وجود ندارد با این حال، روش های آنها را می توان به راحتی برای کاربردهای مختلف تکرار کرد.
در ضمن، به یاد داشته باشید: قبل از اینکه به ChatGPT دستور دهید «تز من را بنویسد»، آگاه باشید که دوست هوش مصنوعی شما ممکن است بیشتر از آنچه فکر می‌کنید قابل پیش‌بینی باشد، بنابراین بهتر است تحقیقات خود را انجام دهید (مقالات). در مورد ChatGPT، ممکن است زمان آن فرا رسیده باشد که برای درس هایی در زمینه تفاوت های ظریف و تنوع به مدرسه هوش مصنوعی برگردید.
