Midjourney، یک سرویس هوش مصنوعی (AI) که تصاویر را از توضیحات زبان طبیعی تولید می کند، اخیراً خود را در میان بحث و جدل قرار داده است. این شرکت کاربران را از ایجاد تصاویری از شی جین پینگ، رئیس جمهور چین، به دلیل نگرانی در مورد دیپ فیک منع کرده است. دیپ‌فیک‌ها نمایش‌های دیجیتالی دستکاری شده‌ای هستند که با تکنیک‌های پیچیده‌ی یادگیری ماشینی تولید می‌شوند و می‌توانند برای انتشار اطلاعات نادرست و تبلیغات استفاده شوند.
در حالی که هدف از ممنوعیت Midjourney جلوگیری از گسترش دیپ فیک ها در پلتفرم آن بود، کاربران راهی برای دور زدن این ممنوعیت با ایجاد دیپ فیک از Xi با استفاده از روش های دیگر پیدا کرده اند. Midjourney با غیرفعال کردن دسترسی به نسخه آزمایشی رایگان خود پاسخ داده است. اگرچه این پلتفرم همچنان امکان ایجاد تصاویری با حضور رهبران جهان را فراهم می کند، رئیس جمهور چین به طور قابل توجهی مستثنی شده است. هر گونه تلاش برای ایجاد تصویری مشابه او یا حتی ذکر نام او در یک درخواست توسط Midjourney اکیدا ممنوع است.
منتقدان، مانند سارا مک لافلین، محقق ارشد بنیاد حقوق و بیان فردی (FIRE)، استدلال کرده‌اند که این ممنوعیت نوعی سانسور است که اصول اساسی آزادی بیان و بیان را تضعیف می‌کند. در حالی که قصد Midjourney ممکن است جلوگیری از گسترش دیپ‌فیک‌ها بوده باشد، این ممنوعیت بحث‌هایی را در مورد اینکه آیا محدود کردن دسترسی به فناوری از این طریق مناسب است یا نه، برانگیخته است.
در پیام‌هایی که پاییز گذشته در سرویس چت Discord رد و بدل شد، دیوید هولز، موسس و مدیرعامل Midjourney، فاش کرد که این شرکت شکایت‌هایی از کاربران محلی در مورد “موضوعات مختلف در کشورهای مختلف” دریافت کرده است، که باعث شده آنها بسیاری از کلمات مرتبط را مسدود کنند. با این حال، با توجه به گزارش های چت بررسی شده توسط واشنگتن پست، هولز برای جلوگیری از جنجال های غیر ضروری از فهرست کردن شرایط ممنوعه خودداری کرد. هولز همچنین اشاره کرد که کلمات ممنوعه فقط به چین مربوط نمی شود. با این وجود، او متوجه شد که چین موضوعی بسیار حساس است، زیرا طنز سیاسی ممکن است کاربران چینی را در معرض خطر قرار دهد.
در پاسخ به انتقادات، Midjourney تلاش کرده است تا تصمیم خود را توضیح دهد. این شرکت در بیانیه ای اعلام کرد که ممنوعیت تصاویر شی جین پینگ به دلیل سود مالی نبوده است. در عوض، این شرکت ادعا می کند که اطمینان از دسترسی به این فناوری برای افراد چینی “به نفع بیشتر” بوده است. با این حال، منتقدان استدلال می کنند که این استدلال ناقص است، زیرا فرض می کند که افراد چینی قادر به استفاده مسئولانه از این فناوری نیستند.
علیرغم ممنوعیت، کاربران پلتفرم Midjourney با ایجاد دیپ‌فیک از Xi با استفاده از روش‌های دیگر، راه‌حلی پیدا کرده‌اند. برخی از کاربران از تابع /imagine استفاده کرده اند و URL کامل عکس موجود از Xi را در اعلان ارائه کرده اند. برخی دیگر از تابع blend / برای ترکیب دو عکس موجود استفاده کرده اند. در حالی که این روش‌ها به اندازه تولید تصویر مستقیم از توضیحات یکپارچه نیستند، اما همچنان به کاربران اجازه می‌دهند تصاویری از Xi ایجاد کنند.
در پایان، ممنوعیت Midjourney بر روی تصاویر شی جین پینگ بحث هایی را در مورد محدودیت های فناوری و آزادی بیان به راه انداخته است. در حالی که این شرکت ممکن است نیت خوبی داشته باشد، تصمیم آن به عنوان نوعی سانسور مورد انتقاد قرار گرفته است. همانطور که بحث ادامه دارد، باید دید که آیا Midjourney در تصمیم خود تجدید نظر خواهد کرد یا اینکه کاربران همچنان به یافتن راه هایی برای ایجاد دیپ فیک از Xi ادامه می دهند.
