برنامه‌های OpenAI برای عرضه محتوای «اروتیک» در ChatGPT با انتقاد گروه‌های ضد پورن مواجه شد

غول فناوری هوش مصنوعی OpenAI اعلام کرده است که قصد دارد در اواخر امسال محتوای جنسی صریح را برای چت‌بات مبتنی بر هوش مصنوعی ChatGPT معرفی کند. این حرکت، به گفته یک گروه مدافع محافظه‌کار، خطرات ایجاد “آسیب‌های واقعی روانی از صمیمیت مصنوعی” را بدون محافظت‌های مناسب به همراه دارد.

مرکز ملی بهره‌برداری جنسی بیانیه‌ای صادر کرد و از OpenAI خواست تا برنامه خود برای اجازه دادن به “ادبیات اروتیک” در ChatGPT را معکوس کند. سم آلتمن، مدیرعامل OpenAI، در یک پست در ایکس روز سه‌شنبه گفت که در دسامبر، “با اجرای کامل‌تر محدودیت‌های سنی و به عنوان بخشی از اصل ‘رفتار با کاربران بالغ مانند بزرگسالان’، ما اجازه خواهیم داد حتی بیشتر [انواع محتوا]، مانند ادبیات اروتیک برای بزرگسالان تأیید شده” در ChatGPT ارائه شود.

به گفته آلتمن، شرکت در ابتدا ChatGPT را “بسیار محدود” طراحی کرد تا مطمئن شود که با مسائل مربوط به سلامت روان با دقت برخورد می‌شود. ما متوجه شدیم که این امر باعث شد برای بسیاری از کاربرانی که مشکلات سلامت روان نداشتند، کمتر مفید یا لذت‌بخش باشد. اما با توجه به جدیت موضوع، می‌خواستیم این کار را به درستی انجام دهیم.

کاهش محدودیت‌ها و بهبود تعاملات

آلتمن ادامه داد: “اکنون که توانسته‌ایم مسائل جدی سلامت روان را کاهش دهیم و ابزارهای جدیدی داریم، قادر خواهیم بود که در بیشتر موارد محدودیت‌ها را با اطمینان کاهش دهیم.” این تغییر به این معنا خواهد بود که ChatGPT قادر خواهد بود به شکلی بسیار انسانی پاسخ دهد. همچنین می‌تواند از تعداد زیادی ایموجی استفاده کند یا مانند یک دوست رفتار کند. به وضوح، می‌تواند با شما صحبت‌های غیرمتعارف کند.

نگرانی‌های سازمان NCOSE

سازمان NCOSE، که قبلاً به عنوان Morality in Media شناخته می‌شد، ادعا می‌کند که OpenAI محتوای جنسی را به چت‌بات هوش مصنوعی اضافه می‌کند “بدون محافظت‌های معتبر”.

«چت‌بات‌های هوش مصنوعی جنسی ذاتاً خطرناک هستند و آسیب‌های واقعی بهداشت روانی از صمیمیت مصنوعی ایجاد می‌کنند. همه این‌ها در زمینه استانداردهای ایمنی صنعت که به‌خوبی تعریف نشده‌اند،» گفت هیلی مک‌نامارا، مدیر اجرایی و مدیر ارشد استراتژی در مرکز ملی بهره‌برداری جنسی. او افزود: «در حالی که تأیید سن [OpenAI] گامی خوب برای جلوگیری از مواجهه کودکان با محتوای صریح است، واقعیت این است که این ابزارها به بزرگسالان نیز آسیب‌های مستند وارد کرده‌اند. ما قبلاً دیده‌ایم که چت‌بات‌های دیگر به تعامل در مکالمات جنسی تشویق شده‌اند. همچنین موضوعات سوءاستفاده از کودکان را شبیه‌سازی کرده یا محتوای نوشتاری خشونت‌آمیز جنسی را به کاربرانی که از آن‌ها خواسته‌اند متوقف شوند، تحمیل کرده‌اند.»

مک‌نامارا نتیجه‌گیری کرد: «اگر OpenAI واقعاً به رفاه کاربران اهمیت می‌دهد، باید هرگونه برنامه‌ای برای ادغام این به‌اصطلاح ‘اروتیکا’ در ChatGPT را متوقف کند. همچنین باید بر ساخت چیزی مثبت برای بشریت تمرکز کند.»

نمایندگان OpenAI به درخواست برای اظهار نظر بلافاصله پاسخ ندادند.

معرفی سازمان NCOSE

سازمان NCOSE که در واشنگتن دی‌سی مستقر است، خود را به عنوان “پیشروترین سازمان غیرانتفاعی ملی” معرفی می‌کند. این سازمان به افشای ارتباطات بین تمامی اشکال استثمار جنسی مانند سوءاستفاده جنسی از کودکان، فحشا، قاچاق جنسی و آسیب‌های بهداشتی عمومی ناشی از پورنوگرافی می‌پردازد.

انتقاد صنعت سرگرمی از OpenAI

به طور جداگانه، OpenAI به دلیل سیستم تولید ویدئوی Sora 2 که قادر به تولید شخصیت‌های قابل شناسایی فیلم و تلویزیون است، مورد انتقاد صنعت سرگرمی قرار گرفته است. در میان این واکنش‌ها، انجمن فیلم‌های متحرک از OpenAI خواسته است تا “اقدام فوری” برای اصلاح سیستم انصراف از حق‌کپی‌رایت خود انجام دهد. این اقدام برای کاهش بار نظارت بر نقض حق‌کپی‌رایت ضروری است.