استفاده از ChatGPT به‌عنوان دستیار گزارش‌دهی: چه اشتباهی رخ داد؟

سلام، خوانندگان!

\ وقتی صحبت از پیشرفت‌های هوش مصنوعی می‌شود، همه چیز به سرعت در حال حرکت است. کمتر از دو سال از انتشار عمومی ابزارهای هوش مصنوعی مانند ChatGPT، Midjourney، Stable Diffusion و LLaMA متا می‌گذرد. تنظیم‌کنندگان، قانون‌گذاران و کسب‌وکارها همگی شروع به درک پیامدهای استفاده از ابزارهای مبتنی بر هوش مصنوعی تولیدی کرده‌اند.

\ این شامل سازمان‌های خبری و روزنامه‌نگاران می‌شود که قبلاً شروع به آزمایش کرده‌اند. Nieman Journalism Lab گزارش داد که 5 نفر از 45 فینالیست اعلام‌نشده برای جوایز پولیتزر امسال از هوش مصنوعی برای "تحقیق، گزارش‌دهی یا بیان مطالب ارسالی خود" استفاده کردند. در کنفرانس سالانه NICAR روزنامه‌نگاری داده خبرنگاران تحقیقاتی و ویراستاران در بالتیمور هفته گذشته، 14 مورد از بیش از 200 جلسه مربوط به هوش مصنوعی بود که بحث می‌کردند چگونه این فناوری می‌تواند به روزنامه‌نگاران در گردش کار کمک کند، اسناد متراکم را خلاصه کند و کد آن‌ها را رفع اشکال کند.

\ من یکی از جلسه‌های خودم را داشتم، جلسه‌ای با عنوان "استفاده از ابزارهای هوش مصنوعی برای روزنامه‌نگاری داده" که در آن با بررسی ابزارهای متعدد موجود شروع کردم و نگرانی‌های اخلاقی بسیاری درباره آن‌ها را برجسته کردم.

\ سپس نتایج آزمایش وقت‌گیر خود را برای استفاده از ChatGPT 4 به عنوان دستیار گزارش‌دهی یک داستان نشان دادم. هشدار اسپویلر: خیلی خوب پیش نرفت!

\ داستان نمونه‌ای که برای این تمرین استفاده کردم خارج شدن قطار از ریل در شرق فلسطین، اوهایو در فوریه 2023 بود، یک داستان مهم که شامل انواع مختلف داده‌ها بود که می‌توانستم از ChatGPT بخواهم به تجزیه و تحلیل آن‌ها کمک کند. برای روشن بودن، این داستانی نبود که من در مورد آن گزارش داده بودم، اما می‌خواستم استفاده از ChatGPT را به روشی که یک روزنامه‌نگار داده ممکن است هنگام پوشش آن انجام دهد، امتحان کنم. زمان زیادی را به عنوان بخشی از این تمرین با ChatGPT گفتگو کردم و صادقانه، گاهی اوقات خسته‌کننده بود. می‌توانید یکی از جلسه‌های گفتگوی من را اینجا بخوانید. اعتماد به نفسی که ChatGPT هنگام ارائه اطلاعات با منابع ضعیف (مانند ویکی‌پدیا) یا مکان‌های نادرست نشان می‌دهد می‌تواند گمراه کننده باشد. گاهی اوقات توانستم AI Agent را وادار کنم آنچه را که می‌خواستم به من بدهد، اما باید بسیار دقیق می‌بودم و اغلب مجبور بودم آن را توبیخ کنم.

\ به عنوان مثال، زمانی که ChatGPT درخواست من برای "تولید یک نقشه ساده متمرکز بر محل تصادف" را برآورده کرد، بلافاصله متوجه شدم که پین روی نقشه از هر مسیر قطار دور است. وقتی پرسیدم مختصات محل تصادف را از کجا آورده، پاسخ داد که این‌ها "بر اساس دانش عمومی از محل رویداد استنتاج شده‌اند." وقتی برای یک استناد دقیق‌تر آن را تحت فشار قرار دادم، نتوانست آن را ارائه دهد و مدام تکرار می‌کرد که به "دانش عمومی" تکیه می‌کند. مجبور شدم به ابزار یادآوری کنم که در ابتدای گفتگو به آن گفته بودم که "بسیار حیاتی است که منابع خود را ذکر کنید و همیشه از معتبرترین منابع استفاده کنید." قبل از اینکه بالاخره بتواند مکان صحیح را علامت‌گذاری کند، مجبور شدم به آن یادآوری کنم که می‌تواند مختصات مکان را از یک سند معتبر که قبلاً در گفتگو آپلود کرده بودم، یک PDF از گزارش حادثه اداره راه‌آهن فدرال، به دست آورد.

\ استخراج اطلاعات و خلاصه کردن اسناد طولانی اغلب به عنوان یکی از بزرگترین نقاط قوت ابزارهایی مانند ChatGPT ذکر می‌شود. نتایج من متفاوت بود. پس از رفت و برگشت، AI Agent را متقاعد کردم جزئیات و مقادیر مواد شیمیایی خطرناکی که در حادثه آزاد شده بودند را استخراج کرده و اطلاعات را در جدولی که نام شیمیایی، مقدار آزادشده، کاربرد معمول آن و اثرات آن بر سلامت انسان را فهرست می‌کند، قالب‌بندی کند. اما چند تلاش لازم بود. جایی که در زمان صرفه‌جویی کرد توضیح اطلاعات تخصصی بود که در غیر این صورت ممکن بود جستجوی وقت‌گیر گوگل برای کشف آن لازم باشد—مانند رمزگشایی شماره واگن راه‌آهن.

\ گاهی اوقات، این ابزار بیش از حد مشتاق خوشایند بودن بود، بنابراین از آن خواستم کمی آن را کم کند: "می‌توانید چت و تعارفات را حذف کنید." کاربران می‌توانند به ربات دستور دهند لحن یا سبک پاسخ‌های خود را تغییر دهد، اما گفتن اینکه یک وکیل است آن را دقیق‌تر نمی‌کند.

\ به طور کلی، جلسه‌ها کار زیادی برای تلاش در کشف اینکه AI Agent اطلاعات خود را از کجا آورده و هدایت مجدد آن با دستورالعمل‌های دقیق بود. زمان زیادی طول کشید.

\ شرکت سازنده ChatGPT، OpenAI، به درخواست اظهار نظر پاسخ نداد.

\ بر اساس تعاملات من، تا حد زیادی مفیدترین قابلیت‌های ChatGPT توانایی آن در تولید و رفع اشکال کد برنامه‌نویسی است. (در یک نقطه در طول تمرین شرق فلسطین، برخی کدهای پایتون ساده برای ایجاد نقشه از خارج شدن از ریل تولید کرد.) هنگام پاسخ به درخواست نوشتن کد، معمولاً رویکرد خود را توضیح می‌دهد (حتی اگر ممکن است بهترین رویکرد نباشد)، و کار خود را نشان می‌دهد، و می‌توانید آن را برای دنبال کردن رویکرد متفاوتی هدایت کنید اگر فکر می‌کنید برنامه آن چیزی نیست که نیاز دارید. توانایی افزودن مداوم به ویژگی‌های کد شما در حالی که AI Agent زمینه و تاریخچه آنچه را که بحث کرده‌اید حفظ می‌کند، واقعاً می‌تواند زمان زیادی را برای شما صرفه‌جویی کند، از جستجوهای دردناک برای پست‌ها درباره مشکل مشابه در StackOverflow (یکی از بزرگترین جوامع کدنویسی آنلاین) اجتناب کند.

\ تمرین NICAR مرا با نگرانی‌هایی درباره استفاده از ابزارهای مبتنی بر هوش مصنوعی تولیدی برای کار دقیق روزنامه‌نگاری داده رها کرد. این واقعیت که ابزاری به قدرت ChatGPT نمی‌تواند "رسیدی" از دقیقاً چگونگی دانستن چیزی تولید کند، با هر چیزی که ما برای انجام دادن به عنوان روزنامه‌نگار آموزش دیده‌ایم، در تضاد است. همچنین نگران استفاده بیش از حد اتاق‌های خبری کوچک و کم‌کارکن از این ابزارها هستم زیرا صنعت اخبار با اخراج و تعطیلی دست و پنجه نرم می‌کند. و زمانی که عدم راهنمایی از رهبری اتاق خبر در مورد استفاده از این ابزارها وجود دارد، می‌تواند منجر به خطاها و عدم دقت شود.

\ خوشبختانه، بسیاری از اتاق‌های خبری شروع به رسیدگی به برخی از این نگرانی‌ها با تدوین سیاست‌های هوش مصنوعی کرده‌اند تا به روزنامه‌نگاران و خوانندگان خود کمک کنند بفهمند چگونه قصد دارند از هوش مصنوعی در کار خود استفاده کنند.

\ The Markup از راهنمایی سایر سازمان‌های خبری پیروی کرده است و هفته گذشته سیاست اخلاقی خود را با بخشی که قوانین ما را برای هر استفاده از هوش مصنوعی در کار ما شرح می‌دهد، به‌روزرسانی کردیم. به طور خلاصه، می‌گوید:

• ما داستان‌ها یا آثار هنری ایجاد شده توسط هوش مصنوعی را منتشر نخواهیم کرد (مگر اینکه بخشی از داستانی درباره هوش مصنوعی باشد)
• ما همیشه استفاده از آن را برچسب‌گذاری یا افشا خواهیم کرد
• ما همیشه کار خود را به دقت بررسی خواهیم کرد، و این مطمئناً برای هر چیزی که توسط هوش مصنوعی تولید می‌شود اعمال می‌شود
• در آینده ما امنیت، حریم خصوصی و ملاحظات اخلاقی هر ابزار جدید هوش مصنوعی را ارزیابی خواهیم کرد

\ از خواندن متشکریم، و همیشه هر چیزی که یک چت بات به شما می‌گوید را دوبار بررسی کنید!

\ Jon Keegan

روزنامه‌نگار داده تحقیقاتی

The Markup

اعتبارات

• Jon Keegan، روزنامه‌نگار داده تحقیقاتی

طراحی و گرافیک

• Gabriel Hongsdusit

تعامل

• Maria Puertas

ویرایش

• Ryan Tate
• Michael Reilly

\ همچنین اینجا منتشر شده است

\ عکس توسط Valery Tenevoy در Unsplash

\