تولید اطلاعات نادرست و اخبار جعلی با کمک هوش مصنوعی دارای ابعاد مختلفی است. از یک سو، این امر می‌تواند به تضعیف اعتماد عمومی به فناوری هوش مصنوعی منجر شود، زیرا وابستگی به اطلاعات صحیح و صادق برای اتخاذ تصمیمات مهم و اعتماد عمومی برای استفاده از این فناوری حیاتی است. از سوی دیگر، انتشار اخبار جعلی در مورد پیشرفت‌های هوش مصنوعی منجر به انتظارات نامتناسب و افزایش ابهامات در مورد توانایی‌های واقعی این فناوری می شود، که در نهایت می‌تواند به تضییع منابع و زمان منجر شود. بنابراین، اطلاعات نادرست و اخبار جعلی هوش مصنوعی می‌توانند باعث نابودی اعتماد عمومی و ایجاد مشکلات جدی در اجتماع تبدیل شود که نگرانی هایی در مورد آن وجود دارد.
مطالعه خرید ارزان اشتراک هوش مصنوعی مایکروسافت برای کسب و کارهای کوچک
پیامدهای اطلاعات نادرست مبتنی بر هوش مصنوعی
پتانسیل گسترده و قدرت در نشر اطلاعات نادرست هوش مصنوعی بر اعتقادات عمومی و مناظره های سیاسی تاثیر گذاشته و محققان و کارشناسان را به بالا بردن سطح نگرانی ها واداشته است. توانایی هوش مصنوعی در تولید اخبار جعلی متقاعد کننده، از جمله دیپ ها و تصاویر باعث شده است که تشخیص بین اطلاعات معتبر و عدم اطلاع رسانی صحیح به طور فزاینده ای چالش برانگیز باشد. دموکراسی ایجاد بی نظمی که توسط هوش مصنوعی تسهیل شده است، بر نیاز فوری به اقدامات نظارتی برای حفظ نهادهای دموکراتیک تأکید می کند.
واقعیت یا ساختگی؟! مسئله این است.
سال ها پیش از انتشار OpenAI’sChatGPT، یک اکتشاف توسط آزمایشگاه تصمیم گیری اجتماعی دانشگاه کمبریج به امکان تولید اطلاعات نادرست مبتنی بر هوش مصنوعی، بنیادی نگران کننده را ایجاد کرد. آزمون اطمینان اطلاعات (MIST) یک آزمایش برای اندازه گیری این مسئله است که چگونه اطلاعات نادرست تولید شده توسط هوش مصنوعی بر مردم تاثیر گذار است؟
محتوای نظریه توطئه، GPT-2 (مدل های پیشرفته پردازش زبان های AI که قادر به ایجاد متن شبیه انسان هستند) یک داستان خبری به ظاهر قابل باور اما جعلی را به نمایش گذاشت. محققان برای ارزیابی تأثیر آن، آزمایشات اطمینان اطلاعات (MIST) را توسعه دادند و دریافتند که بخش نگران کننده ای از مردم آمریکا توسط این تیترهای مبتنی بر هوش مصنوعی متقاعد شده اند. آماری که نشان دهنده حساسیت مردم به دروغ های مبتنی بر هوش مصنوعی است.
در واقع، مقایسه ها نشان می دهد که GPT-3 حتی اشکال قابل باور تر از انسان ها را به وجود می آورد که افراد قادر به جدا کردن واقعیت از ساخت دیجیتال نیستند. پیش بینی های آینده نزدیک نشان می دهد که انتخابات به میدان های جنگی تبدیل خواهد شد که در آن کمپین های تبلیغاتی اطلاعات نادرست تولید شده توسط هوش مصنوعی را ایجاد می کنند.
سیل اخبار جعلی که هوش مصنوعی به راه می اندازد
تکامل تبلیغات سایبری که زمانی بر کارخانه های ترول با قدرت انسانی متکی بود، اکنون به استقبال عصر جدیدی که هوش مصنوعی رهبری آن را بر عهده دارد می رود. در دسترس بودن هوش مصنوعی در توده های مختلف، به این معنی است که هر کسی با حداقل تلاش می تواند سیل انفجاری از اطلاعات را ایجاد کند. این قابلیت باعث ایجاد موج هایی در پلتفرم های خبری هوش محور شده است که روایت های نادرست را ترویج می کند.
تحقیقات بیشتر، مانند آزمایش دانشگاه آمستردام با ویدئوهایی که رای دهندگان مذهبی را گمراه کرده اند، تأثیر آسیب رسان چنین محتوایی بر ترجیحات انتخاباتی را نشان می دهد. این روند استفاده از هوش مصنوعی در عدم تشکیل یک تهدید واضح برای ساخت دموکراسی است که باعث ایجاد یک فراخوان برای اقدام دولت ها برای ایجاد اقدامات قانونی علیه استفاده سیاسی از فناوری های هوش مصنوعی شد.
سوالات متداول
اطلاعات نادرست تولید شده هوش مصنوعی چیست؟
اطلاعات نادرست تولید شدهٔ هوش مصنوعی به اخبار جعلی، دیپ ها و تصاویری که توسط هوش مصنوعی ایجاد شده است و به راحتی می تواند مردم را فریب دهد اشاره دارد. نگرانی ها به این دلیل است که این فناوری تشخیص بین آنچه واقعی است و آنچه نادرست است را سخت می کند و به طور بالقوه بر اعتقادات عمومی و محافل سیاسی تأثیر می گذارد.
آزمایشگاه تصمیم گیری اجتماعی دانشگاه کمبریج چگونه به درک اطلاعات نادرست ناشی از هوش مصنوعی کمک کرد؟
این آزمایشگاه یک هوش مصنوعی (GPT-2) را در نظریه های توطئه برای تولید داستان های خبری جعلی آموزش داد. آن ها با استفاده از آزمایش اطمینان اطلاعات (MIST)، دریافتند که بسیاری از آمریکایی ها می توانند با این تیترهای ایجاد شده توسط هوش مصنوعی متقاعد شوند که نشان دهنده آسیب پذیری مردم در زمینه دروغ های هوش محور است.
آیا هوش مصنوعی در مقایسه با انسان ها بهتر است؟
بله، آزمایش ها نشان داده اند که هوش مصنوعی مانند GPT-3 می تواند بی سوادی واقع گرایانه تر از انسان ایجاد کند که منجر به چالش در شناسایی محتوای نادرست می شود.
پیامدهای بالقوه اطلاعات نادرست ناشی از هوش مصنوعی در زمینه های سیاسی چیست؟
انتخابات و دیگر فرایندهای سیاسی می تواند به شدت تحت تأثیر قرار گیرد، زیرا کمپین های اطلاعات نادرست تولید شده هوش مصنوعی ممکن است بر ترجیحات انتخاباتی تأثیر بگذارد و بدون مشخص شود.
در آزمایش دانشگاه آمستردام با ویدئوهای عمیق چه نقش دارد؟
دانشگاه آمستردام یک آزمایش را برای نشان دادن اینکه چگونه ویدئوهای جعلی می توانند رای دهندگان مذهبی را گمراه کنند و بر تصمیمات انتخاباتی شان تأثیر بگذارند، و تأثیرات مضر محتوای مورد استفاده هوش مصنوعی را نشان دهند.
برای مبارزه با گسترش عدم اطلاع رسانی ناشی از هوش مصنوعی چه اقداماتی پیشنهاد شده است؟
از دولت ها خواسته می شود که اقدامات قانونی برای محدود کردن کاربرد سیاسی فناوری های هوش مصنوعی برای کمک به حفظ یکپارچگی نهادهای دموکراتیک را معرفی کنند.
