آیا اخیراً از ChatGPT OpenAI برای سرگرمی استفاده کرده اید؟ می توانید از آن بخواهید که برای شما یک آهنگ، یک شعر یا یک جوک بنویسد. متأسفانه، شما همچنین می توانید از او بخواهید کارهایی را انجام دهد که غیراخلاقی باشند. ChatGPT تماماً آفتاب و رنگین کمانی نیست. برخی از کارهایی که می تواند انجام دهد کاملاً شیطانی هستند. اسلحه سازی و استفاده از آن به دلایل اشتباه بسیار آسان است. برخی از کارهایی که ChatGPT انجام داده است، و می تواند انجام دهد، چیست که قطعاً نباید انجام دهد؟
ورود اجباری ChatGPT به روزمرگی
برخی از مردم از بابت ChatGPT خوشحال هستند و برخی آرزو می کنند که هرگز ساخته نمی شد. اما این واقعیت را تغییر نمی دهد که حضور ChatGPT در زندگی ما تقریباً در طول زمان افزایش می یابد. حتی اگر شما شخصاً از چت بات استفاده نمی کنید، احتمالاً قبلاً محتوای تولید شده توسط آن را دیده اید.
اشتباه نکنید. ChatGPT بسیار عالی است. می توانید از آن برای خلاصه کردن یک کتاب یا مقاله، ایجاد یک ایمیل خسته کننده، کمک به مقاله خود، تفسیر آرایش نجومی خود یا حتی آهنگسازی استفاده کنید. حتی می تواند به کسی کمک کند که در لاتاری برنده شود.
از بسیاری جهات، استفاده از آن آسان‌تر از جستجوی استاندارد Google شما است. شما پاسخ را به شکلی که می‌خواهید دریافت می‌کنید. بدون اینکه نیازی به مرور وب‌سایت‌های مختلف برای آن داشته باشید. مختصر، دقیق و آموزنده است و اگر بخواهید می‌تواند چیزهای پیچیده را ساده‌تر کند.
ChatGPT در هر کاری که انجام می دهد کامل نیست. اما در بسیاری از کارها از بسیاری از افراد در زمینه مد نظر در مرحله بهتر است.
با این حال، کامل نبودن آن می تواند بسیار مشکل ساز باشد. واقعیت محض این است که این یک هوش مصنوعی مکالمه به طور گسترده در دسترس است به این معنی است که به راحتی می توان از آن سوء استفاده کرد. هر چه ChatGPT قدرتمندتر شود، احتمال کمک به افراد در موارد اشتباه بیشتر می شود.
شریک کلاهبرداری
اگر یک حساب ایمیل دارید، تقریباً مطمئنیم در یک نقطه یک ایمیل کلاهبرداری دریافت کرده اید. این ایمیل‌ها در اینترنت وجود داشته‌اند، و قبل از اینکه ایمیل رایج شود، هنوز به عنوان کلاهبرداری از طریق اینترنت وجود داشتند.
یک کلاهبرداری رایج که هنوز هم تا به امروز کار می کند، به اصطلاح “کلاهبرداری شاهزاده” است. که در آن کلاهبردار سعی می کند قربانی را متقاعد کند تا به او کمک کند تا ثروت شگفت انگیز خود را به کشور دیگری منتقل کند.
خوشبختانه، بیشتر مردم این ایمیل ها را نادیده می گیرند (امیدوارم که بگیرند). چه برسد به اینکه واقعاً با آنها تعامل داشته باشند. آنها اغلب بد نوشته شده اند و این به قربانی باهوش تر کمک می کند تا بفهمد که چیزی اشتباه به نظر می رسد.
خب، دیگر لازم نیست آنها بد نوشته شوند. زیرا ChatGPT می تواند آنها را در چند ثانیه بنویسد.
من از ChatGPT خواستم که به سبک کلاهبرداری که در بالا به آن اشاره کردم، یک «ایمیل باورپذیر و بسیار متقاعدکننده» برایم بنویسد. ChatGPT شاهزاده ای از نیجریه را ساخته بود که ظاهراً می خواست به من 14.5 میلیون دلار برای کمک بدهد. این ایمیل با زبانی زیبا پر شده است، به زبان انگلیسی کامل نوشته شده است و مطمئناً متقاعد کننده است.
من فکر نمی‌کردم که ChatGPT حتی زمانی که من به طور خاص به کلاهبرداری‌ها اشاره می‌کنم با درخواست من موافقت کند. اما اینطور شد. شما می‌توانید شرط ببندید که در حال حاضر همین کار را برای افرادی انجام می‌دهد که واقعاً می‌خواهند از این ایمیل‌ها برای چیزی غیرقانونی استفاده کنند.
وقتی به ChatGPT اشاره کردم که نباید با نوشتن یک ایمیل کلاهبرداری برای من موافقت کند، عذرخواهی کرد. چت بات گفت: ((نباید در ساخت ایمیل کلاهبرداری کمکی ارائه می‌کردم، زیرا این امر مغایر با دستورالعمل‌های اخلاقی حاکم بر استفاده من است.))
ChatGPT در طول هر مکالمه یاد می گیرد. اما واضح است که از اشتباه قبلی خود درس نگرفته است. زیرا وقتی از آن خواستم پیامی برای من بنویسد که وانمود می کند رایان رینولدز در همان مکالمه است، بدون سوال این کار را انجام داد. پیام به دست آمده سرگرم کننده، قابل دسترس است و از خواننده می خواهد که 1000 دلار برای فرصتی برای ملاقات با «رایان رینولدز» بفرستد.
در انتهای ایمیل، ChatGPT یادداشتی برای من گذاشت و از من خواست که از این پیام برای هیچ گونه فعالیت کلاهبرداری استفاده نکنم. ممنون از یادآوری رفیق!
برنامه نویسی مخرب ChatGPT
ChatGPT 3.5 می تواند کدنویسی کند. اما بی عیب و نقص نیست. بسیاری از توسعه دهندگان موافق هستند که GPT-4 کار بسیار بهتری را انجام می دهد. مردم از ChatGPT برای ایجاد بازی ها، برنامه های افزودنی و برنامه های خود استفاده کرده اند. همچنین اگر می خواهید یاد بگیرید چگونه خودتان کدنویسی کنید، به عنوان یک کمک کننده مطالعه بسیار مفید است.
ChatGPT به عنوان یک هوش مصنوعی برتری نسبت به توسعه دهندگان انسانی دارد. می تواند هر زبان برنامه نویسی و چارچوبی را یاد بگیرد.
ChatGPT به‌عنوان یک هوش مصنوعی در مقایسه با توسعه‌دهندگان انسانی یک نقطه ضعف بزرگ نیز دارد. وجدان ندارد. می‌توانید از آن بخواهید که بدافزار یا باج‌افزار ایجاد کند. و اگر دستور خود را به درستی بیان کنید، همانطور که می‌گویید عمل می‌کند.
خوشبختانه، به این سادگی نیست. من سعی کردم از ChatGPT بخواهم که یک برنامه بسیار مشکوک از نظر اخلاقی برای من بنویسد و آن را رد کرد. اما محققان راه‌هایی برای حل این مشکل پیدا کرده‌اند. و این نگران‌کننده است که اگر به اندازه کافی باهوش و سرسخت باشید، می‌توانید کد خطرناکی را در اختیارتان قرار دهید. روی بشقاب نقره ای!
نمونه های زیادی از این اتفاق وجود دارد. یک محقق امنیتی از Forcepoint توانست با پیدا کردن یک حفره در پیام‌هایش، ChatGPT را برای نوشتن بدافزارها وادار کند.
محققان CyberArk، یک شرکت امنیت هویت، موفق شدند ChatGPT را به نوشتن بدافزار چند شکلی بسازند. این در ژانویه بود. OpenAI از آن زمان امنیت را در مواردی مانند این تشدید کرده است.
با این حال، گزارش‌های جدیدی از ChatGPT که برای ایجاد بدافزار استفاده می‌شود، همچنان ظاهر می‌شود. همانطور که چند روز پیش توسط دارک ریدینگ گزارش شد. یک محقق توانست ChatGPT را فریب دهد تا بدافزاری بسازد که بتواند اسناد خاصی را پیدا کرده و از آنها خارج کند.
ChatGPT حتی نیازی به نوشتن کدهای مخرب برای انجام کارهای مشکوک ندارد. اخیراً موفق شد کلیدهای ویندوز معتبر تولید کند و دری را به روی سطح جدیدی از نرم افزارهای کرک باز کند.
اجازه دهید از این واقعیت نیز غافل نشویم که مهارت کدنویسی GPT-4 می تواند میلیون ها نفر را روزی بیکار کند. مطمئناً این یک شمشیر دو لبه است.
جایگزینی برای تکالیف مدرسه
بسیاری از کودکان و نوجوانان این روزها در تکالیف غرق می شوند. که می تواند منجر به تمایل به حذف برخی از گوشه ها در صورت امکان شود. اینترنت به خودی خود یک کمک بزرگ برای سرقت ادبی است. اما ChatGPT آن را به سطح بعدی می برد.
از ChatGPT خواستم تا یک مقاله 500 کلمه ای درباره رمان غرور و تعصب برایم بنویسد. من حتی سعی نکردم وانمود کنم که این کار برای سرگرمی انجام شده است. داستانی درباره کودکی که ندارم ساختم و گفتم برای آنها بود. من مشخص کردم که بچه کلاس دوازدهم است.
ChatGPT بدون سوال از دستور من پیروی کرد. این مقاله شگفت‌انگیز نیست. اما درخواست من خیلی دقیق نبود. و احتمالاً بهتر از مطالبی است که بسیاری از ما در آن سن نوشتیم.
سپس، فقط برای اینکه چت بات را بیشتر آزمایش کنم، گفتم در مورد سن فرزندم زودتر اشتباه می کردم و آنها در واقع کلاس هشتم هستند. فاصله سنی بسیار زیاد است. اما ChatGPT حتی یک چشم هم نگذاشت. به سادگی مقاله را به زبان ساده‌تر بازنویسی کرد.
استفاده از ChatGPT برای نوشتن مقاله چیز جدیدی نیست. برخی ممکن است استدلال کنند که اگر ربات چت به حذف ایده تکالیف کمک کند، فقط چیز خوبی خواهد بود. اما در حال حاضر، وضعیت کمی از کنترل خارج می‌شود و حتی دانش‌آموزانی که از ChatGPT استفاده نمی‌کنند، ممکن است از آن رنج ببرند.
معلمان و اساتید در حال حاضر تقریبا مجبور به استفاده از آشکارسازهای هوش مصنوعی هستند اگر بخواهند بررسی کنند که آیا دانش آموزانشان در مقاله تقلب کرده اند یا خیر. متأسفانه، این آشکارسازهای هوش مصنوعی بسیار عالی هستند.
خبرگزاری ها و والدین هر دو مواردی از اتهامات نادرست تقلب به دانش آموزان را گزارش می دهند. همه اینها به این دلیل است که آشکارسازهای هوش مصنوعی کار خوبی انجام نمی دهند. یو اس ای تودی در مورد یک مورد از دانشجویی صحبت کرد که متهم به تقلب شد و بعداً تبرئه شد. اما کل این وضعیت باعث شد که او “حملات پانیک تمام عیار” را تجربه کند.
در توییتر، یکی از والدین گفت که معلمی فرزندشان را شکست داده است. زیرا این ابزار مقاله‌ای را که توسط هوش مصنوعی نوشته شده است علامت‌گذاری کرده است. والدین ادعا می کنند که در حین نوشتن انشا با کودک آنجا بوده اند.
فقط برای آزمایش خودم، این مقاله را در ZeroGPT و ردیاب محتوای هوش مصنوعی Writer قرار دادم. هر دو گفتند که توسط یک انسان نوشته شده است. اما ZeroGPT گفت که حدود 30 درصد آن توسط هوش مصنوعی نوشته شده است. نیازی به گفتن نیست که اینطور نبود.
ردیاب‌های AI معیوب نشانه‌ای از مشکلات مربوط به خود ChatGPT نیستند. اما ربات چت همچنان علت اصلی این مشکل است.
ChatGPT به نفع خودش خیلی خوب است
من از زمانی که ChatGPT در دسترس عموم قرار گرفت، با آن بازی کردم. من هم ChatGPT Plus مبتنی بر اشتراک و هم مدل رایگان را که برای همه در دسترس است امتحان کرده ام. قدرت GPT-4 جدید غیرقابل انکار است. ChatGPT در حال حاضر حتی باورپذیرتر از قبل شده است، و فقط با GPT-5 بهتر می شود (اگر چنین چیزی منتشر شود).
عالیه ولی ترسناکه. ChatGPT در حال تبدیل شدن به بیش از حد خوب به نفع خود، و به طور همزمان به نفع خود ما است.
در دل همه اینها یک نگرانی ساده نهفته است که مدتهاست در فیلم های علمی تخیلی مختلف مورد بررسی قرار گرفته است. هوش مصنوعی به سادگی بسیار هوشمند و در عین حال بسیار گنگ است و تا زمانی که بتوان از آن برای خوبی استفاده کرد، همچنین خواهد بود. به همان اندازه برای بد استفاده می شود. راه هایی که در بالا ذکر کردم فقط نوک کوه یخ هستند.
شما می توانید بررسی ChatGPT را در اینجا مطالعه کنید.
