Midjourney، شرکتی که سازنده تصویر مشهور متن به تصویر هوش مصنوعی است، دسترسی به نسخه آزمایشی رایگان خود را به دنبال افزایش جعلی‌های عمیق ویروسی تولید شده توسط فناوری آن قطع کرده است.
دیوید هولز، بنیانگذار Midjourney در اوایل این هفته در سرور Discord شرکت نوشت: «به دلیل ترکیبی از تقاضای فوق‌العاده و سوء استفاده آزمایشی، ما به‌طور موقت آزمایش‌های رایگان را تا زمانی که پیشرفت‌های بعدی خود را در سیستم مستقر کنیم، غیرفعال می‌کنیم.
«عمیق جعلی» رسانه‌ای با ظاهر واقعی است که توسط هوش مصنوعی با تغییر تصاویر، ویدیوها یا صدا ایجاد می‌شود تا نشان دهد افراد واقعی کارهایی را انجام می‌دهند یا می‌گویند که هرگز انجام نداده‌اند. در حالی که ممکن است از جعلی های عمیق برای سرگرمی و سرگرمی استفاده شود، این فناوری همچنین می تواند اطلاعات نادرست را منتشر کند، بر نظرات تأثیر بگذارد یا به شهرت آسیب برساند.
اتفاقی وحشی در Subreddit Midjourney در حال رخ دادن است.
مردم داستان می‌گویند و عکس‌هایی از رویدادهای تاریخی به اشتراک می‌گذارند – مانند زمین‌لرزه بزرگ کاسکادیا که در سال 2001 اورگان را ویران کرد.
ضربه زننده؟ هرگز اتفاق نیفتاد. تصاویر با هوش مصنوعی تولید شده اند. pic.twitter.com/2ziHJYsTDK
– جاستین مور (@venturetwins) 26 مارس 2023
در اوایل این هفته، عکس‌های پاپ فرانسیس با پوشیدن یک ژاکت پفکی سفید بسیار شیک و یک گردن‌بند الماس‌کاری شده در فضای مجازی پخش شد. هفته گذشته، زمانی که سایت‌های خبری اصلی گزارش می‌دادند که دونالد ترامپ، رئیس‌جمهور سابق آمریکا در حال دستگیری در نیویورک است، موجی از عکس‌ها در فضای مجازی پخش شد که به نظر می‌رسید رئیس‌جمهور سابق را تحت تعقیب پلیس قرار می‌داد. در هر دو مورد، تصاویر حتی باورپذیرتر از انواع مشابه تقلبی ایجاد شده توسط متخصصان با استفاده از فتوشاپ بودند.
بسیاری از سایت‌های مولد هوش مصنوعی، از جمله Midjourney و Playground AI، قبلاً محدودیت‌هایی را برای درخواست‌هایی که شامل محتوای جنسی می‌شود، اعمال کرده‌اند. با این حال، موضوع استفاده قابل قبول از نظر جعلی های عمیق هنوز مورد بحث است زیرا همه این سایت ها عکس هایی می سازند که واقعی نیستند.
برنامه های اشتراک Midjourney بسته به قدرت پردازش و ویژگی های مورد نیاز کاربر – از جمله توانایی اجرای کارهای همزمان – از 10 تا 60 دلار ماهانه متغیر است. این پلتفرم همچنین برنامه های اشتراک سالانه را ارائه می دهد.
مشخص نیست که چگونه بسته شدن ردیف رایگان آن مشکل را حل می کند. میانه سفر شرایط استفاده از خدمات در حال حاضر تصاویر توهین آمیز از افراد مشهور یا شخصیت های عمومی را ممنوع کرده اند.
رمزگشایی برای اظهار نظر با Midjourney و Stability AI، سازندگان Stable Diffusion تماس گرفته است، اما هنوز پاسخی دریافت نکرده است.
از اخبار ارزهای دیجیتال مطلع باشید، به‌روزرسانی‌های روزانه را در صندوق ورودی خود دریافت کنید.
