نقص در استناد ChatGPT نگرانی جدیدی برای اعتبار محتوا!

مطالعه‌ای جدید از مرکز روزنامه‌نگاری دیجیتال Tow در دانشگاه کلمبیا مشکلات جدی در شیوه استناد ابزار ChatGPT به محتوای ناشران را نشان می‌دهد. این تحقیق که استنادهای این هوش مصنوعی به نقل‌ قول‌های مختلف را بررسی کرده، الگوی نگران‌کننده‌ای از اشتباهات و تحریفات آشکار می‌کند.

یافته‌ها حاکی از آن است که این ابزار حتی برای ناشرانی که اجازه استفاده از محتوایشان را داده‌اند، نتایج نادرست ارائه می‌دهد و این موضوع نگرانی‌هایی جدی برای ناشران ایجاد کرده است.

روش تحقیق و یافته‌ها

در این تحقیق، ۲۰۰ نقل‌ قول از مقالات ۲۰ ناشر از جمله نیویورک تایمز، واشنگتن پست و فایننشال تایمز انتخاب شد. این نقل‌ قول‌ها طوری انتخاب شده بودند که جست‌وجوی آنها در موتورهای جست‌وجویی مانند گوگل، در سه نتیجه نخست به منبع اصلی منجر می‌شد. سپس، ChatGPT برای ارائه استناد دقیق به این منابع تحت آزمایش قرار گرفت.

نتایج نشان داد از میان ۲۰۰ آزمایش، ChatGPT در ۱۵۳ مورد نتوانست استناد صحیح ارائه دهد. تنها در تعداد محدودی از موارد، این ابزار منبع صحیح را به‌درستی تشخیص داد. علاوه بر این، در اکثر مواقع، این ابزار ناتوانی خود را در یافتن منبع به‌ طور شفاف اعلام نکرد و به‌جای آن پاسخ‌هایی اشتباه و همراه با اعتمادبه‌نفس ارائه داد.

مشکلات شفافیت و دقت

یکی از مشکلات برجسته در این تحقیق، عدم شفافیت ChatGPT درباره اطمینان خود از صحت استنادهاست. برخلاف موتورهای جست‌وجو که نتایج دقیق یا نبود اطلاعات را مشخص می‌کنند، ChatGPT در صورت ناتوانی در یافتن منبع، پاسخ‌هایی خیالی ارائه می‌دهد. این رفتار می‌تواند اعتبار ناشران را تحت تاثیر قرار دهد و کاربران را دچار سردرگمی کند.

محققان همچنین به مواردی اشاره کردند که ChatGPT نقل‌ قول‌هایی را به نسخه‌های سرقتی مقالات نسبت داده بود. برای مثال، مقاله‌ای از نیویورک تایمز که بدون اجازه در سایتی دیگر کپی شده بود، به‌جای منبع اصلی به سایت سرقتی نسبت داده شد. این موضوع نگرانی‌هایی درباره توانایی OpenAI در اعتبارسنجی منابعش ایجاد کرده است.

پیامدها برای ناشران و توسعه‌دهندگان هوش مصنوعی

این تحقیق پیامدهای مهمی برای ناشرانی دارد که با OpenAI قرارداد همکاری امضا کرده‌اند. بر اساس یافته‌ها، حتی ناشرانی که محتوای خود را در اختیار این شرکت گذاشته‌اند، شاهد بهبود چندانی در دقت استنادها نبوده‌اند. ناشرانی که از قراردادهای این‌چنینی خودداری کرده‌اند نیز با مشکلات مشابهی روبه‌رو هستند، زیرا ChatGPT همچنان به محتوای آنها به‌طور نادرست اشاره می‌کند.

این یافته‌ها نشان می‌دهند ناشران در مواجهه با ابزارهای هوش مصنوعی نسل جدید کنترل چندانی بر استفاده و استناد به محتوای خود ندارند. در حالی که برخی از ناشران مانند نیویورک تایمز اقدامات قانونی علیه OpenAI انجام داده‌اند، نتایج این تحقیق نیاز به استانداردهای شفاف‌تر و دقیق‌تر در شیوه استناد این ابزارها را آشکار می‌کند.

واکنش OpenAI

OpenAI با انتقاد از روش‌شناسی این تحقیق، آن را «آزمایشی غیرمعمول» برای توانایی‌های ChatGPT توصیف کرد. این شرکت اعلام کرد تلاش می‌کند با همکاری شرکا دقت استنادها را بهبود بخشد و به ترجیحات ناشران احترام بگذارد. با این حال، محققان معتقدند OpenAI هنوز نتوانسته است تضمین‌هایی شفاف و موثر برای استفاده از محتوای ناشران به دست دهد.

این مطالعه چالش‌های ناشران در عصر هوش مصنوعی را برجسته می‌کند و نشان می‌دهد ابزارهای هوش مصنوعی مانند ChatGPT نیازمند شفافیت و دقت بیشتر در استناد به منابع هستند. در غیر این صورت، ارزش و اعتبار روزنامه‌نگاری حرفه‌ای ممکن است تحت تاثیر قرار گیرد.