چالش های هوش مصنوعی در تولید محتوای جعلی و تأثیر آن بر افکار عمومی
الناز کریمی- از دیرباز این ضرب المثل که «شنیدن کی بود مانند دیدن» سینه به سینه نقل می شد، اما پیشرفت شگرف هوش مصنوعی در سال های اخیر، خودِ «دیدن» را نیز به چالش کشیده است. امروزه دیگر هرچه می بینیم واقعیت ندارد.
ویدیوهایی که با استفاده از هوش مصنوعی ساخته می شوند، آن قدر واقعی به نظر می رسند که می توانند به راحتی افکار عمومی را تحت تأثیر قرار دهند.
در شبکه های اجتماعی، ویدیوهایی منتشر میشوند که در آنها یک مقام سیاسی سخنی جنجالی بر زبان می آورد، یک شخصیت مشهور اظهارنظر عجیبی می کند یا حادثهای تکان دهنده به تصویر کشیده میشود.
این ویدیوها به سرعت دست به دست می چرخند، هزاران کاربر آنها را بازنشر می کنند و موجی از واکنش ها شکل می گیرد.
اما بعدها مشخص می شود که آن ویدیو هرگز واقعی نبوده و توسط هوش مصنوعی ساخته شده است.
اگرچه هوش مصنوعی دارای کاربردهای مثبت و فراوانی است، اما در کنار آن، تهدیدات جدی نیز وجود دارد که حتی بر زندگی فردی افراد تأثیر می گذارد.
این واقعیتی است که مردم و به خصوص رسانه ها با آن روبه رو هستند.
گاهی حتی نمی توان به ابزارهای شناسایی ویدیوهای ساخته شده با هوش مصنوعی اعتماد کامل کرد.
به باور آگاهان، باید دقت بیشتری در این زمینه بهخرج داده شود.
محمد عزیز رستگاری، آگاه فناوری، در این رابطه گفت: «با پیشرفت سریع هوش مصنوعی، تولید ویدیوهای بسیار واقعی آسان تر از گذشته شده و همین موضوع تشخیص محتوای جعلی را برای کاربران و حتی برخی رسانه ها دشوار کرده است.»
وی افزود: «هرچند فناوری هوش مصنوعی پیشرفته تر شده، اما هنوز هم نشانه هایی وجود دارد که می تواند در شناسایی ویدیوهای جعلی کمک کند.
حرکت غیرطبیعی لب ها و چشم ها، تغییر شکل نامتعارف دهان، ناهماهنگی میان صدا و تصویر، نورپردازی و سایه های غیرعادی و برخی اشکالات در جزئیات تصویر از جمله مواردی است که باید با دقت بررسی شود.»
رستگاری تأکید کرد که کاربران و خبرنگاران نباید هر ویدیویی را بدون بررسی بپذیرند یا منتشر کنند.
لازم است پیش از هر اقدامی، منبع اصلی انتشار و اعتبار آن را ارزیابی کنند.
به گفته وی، گسترش ویدیوهای تولیدشده با هوش مصنوعی می تواند پیامدهای گستردهای از جمله فریب افکار عمومی، انتشار اطلاعات نادرست، شایعه پراکنی، آسیب به اعتبار افراد، کاهش اعتماد عمومی و حتی سوءاستفاده های سیاسی، اقتصادی و اجتماعی به همراه داشته باشد.
این آگاه فناوری، افزایش سواد دیجیتال و آشنایی مردم و خبرنگاران با روش های تشخیص محتوای تولیدشده توسط هوش مصنوعی را یکی از مهم ترین راهکارها برای جلوگیری از انتشار اطلاعات نادرست و حفظ اعتماد عمومی به رسانه ها دانست.
ذبیح الله حیدری، آگاه رسانهای، گفت: «پیش از نشر هر ویدیو، خبرنگاران باید از واقعی بودن آن اطمینان حاصل کنند، زیرا بررسی اعتبار یک ویدیو هم نیازمند مهارت های رسانهای و هم دانش فنی است.»
او افزود: «نخستین گام، بررسی منبع ویدیو است.
خبرنگار باید بداند این محتوا از کجا به دست آمده، نخستین بار توسط چه کسی و در کجا منتشر شده و آیا منبع آن قابل اعتماد است یا خیر.»
حیدری خاطرنشان کرد که در کنار بررسی منبع، توجه به نشانه های فنی نیز اهمیت دارد.
عدم هماهنگی میان صدا و تصویر، حرکات غیرطبیعی چهره یا بدن، تفاوت میان زمان و مکان ادعاشده با واقعیت، و ناسازگاری شرایط اقلیمی و ویژگی های جغرافیایی محل می تواند از نشانه های یک ویدیوی جعلی باشد.
وی تصریح کرد که خبرنگاران می توانند از ابزارهای راستی آزمایی نیز استفاده کنند، اما مهم تر از ابزار، افزایش آگاهی و مهارت خود خبرنگاران است.
به باور او، با گسترش هوش مصنوعی، سواد هوش مصنوعی به یک نیاز اساسی برای خبرنگاران تبدیل شده است تا بتوانند محتوای تولیدشده با این فناوری را تشخیص دهند و از انتشار اطلاعات نادرست جلوگیری کنند.
حیدری تأکید کرد: «مسئولیت خبرنگار این است که پیش از سرعت در نشر، دقت و صحت اطلاعات را در اولویت قرار دهد و اطلاعات درست، شفاف و واقعی را به مخاطبان ارائه کنند.»
حمیده، یکی از کاربران شبکه های اجتماعی، از تجربه خود چنین گفت: «اولین بار در صفحات اجتماعی ویدیوی یک خانم به اسم جسیکا را دیدم که گویا مربی نهنگ بوده و گفته می شد نهنگ او را در جریان نمایش خورده است.
فکر کردم واقعاً اتفاق افتاده چون ویدیو بسیار واقعی به نظر می رسید و در بسیاری از صفحات بازنشر شد.
تا اینکه چند وقت گذشت و بعداً فهمیدم که این ویدیو ساخته هوش مصنوعی است و چنین چیزی اصلاً اتفاق نی فتاده.
حالا قبل از باور کردن هر ویدیو، اول درباره منبع آن جستوجو میکنم و با دقت بیشتری نگاه می کنم.»
مینه سادات، خبرنگار، نیز گفت: «بله، چند بار ویدیوهای ساخته شده با هوش مصنوعی را دیدهام که در نگاه اول کاملاً واقعی به نظر می رسیدند و اگر دقت نمی کردم، احتمالاً آنها را باور می کردم.
اما با پیشرفت فناوری یاد گرفتهام که به هر ویدیویی فوراً اعتماد نکنم.»
وی در ادامه افزود: «اگر به عنوان یک خبرنگار بخواهم درباره راستی آزمایی یک ویدیو قضاوت کنم، تنها به خود ویدیو اکتفا نمی کنم.
ابتدا منبع انتشار آن را بررسی می کنم، سپس آن را با گزارش رسانه های معتبر و منابع رسمی مقایسه میکنم.
همچنین به جزئیاتی مانند حرکات غیرطبیعی چهره، هماهنگی صدا با تصویر، نور، سایه ها و هرگونه نشانه دستکاری توجه می کنم.
در صورت نیاز از ابزارهای راستی آزمایی و جست وجوی معکوس تصویر یا فریم های ویدیو نیز استفاده می کنم.»
مینه سادات تأکید کرد: «به نظر من، در دنیای امروز مهم است که قبل از باور کردن یا بازنشر هر ویدیو، از صحت آن مطمئن شویم، زیرا ویدیوهای تولیدشده با هوش مصنوعی می توانند بسیار متقاعد کننده باشند.»
در دورانی که هوش مصنوعی می تواند تصاویر و ویدیوهایی بسیار شبیه به واقعیت بسازد، دیگر نمی توان تنها به آنچه دیده می شود اعتماد کرد.
یک ویدیوی ساخته شده با هوش مصنوعی می تواند در مدت کوتاهی افکار عمومی را تحت تأثیر قرار دهد و باعث گسترش شایعات و اطلاعات نادرست شود.
از همین رو، با رعایت نکاتی که کارشناسان مطرح کرده اند، می توان از درستی محتوا اطمینان حاصل کرد.
این یک مسئولیت برای خبرنگاران و کاربران شبکه های اجتماعی به شمار می رود که پیش از باور و نشر هر محتوا، منبع، اعتبار و نشانه های فنی آن را بررسی کنند.
ما در زمانی هستیم که هوش مصنوعی به سرعت در حال پیشرفت است. راستی آزمایی دیگر یک انتخاب نیست، بلکه یک ضرورت برای حفظ حقیقت و اعتماد عمومی است.
پایان
