ممنوعیت جستجوی « تیلور سویفت » در توییتر/ مشکلاتی که دیپ فیک ایجاد می کند!

به گزارش خبرنگار سرخ نیوز، شبکه اجتماعی X که قبلاً با نام توییتر شناخته میشد، پس از اینکه هفته گذشته، شاهد انتشار تصاویر جنسی ساخته هوش مصنوعی از ستاره پاپ بود، همه جستجوهای «تیلور سویفت» را مسدود کرد.

وقتی نام خواننده در این سایت جستجو شود، اروری به شرح زیر نمایش داده میشود: «مشکلی پیش آمده. ریلود کنید». با این حال، فقط وقتی که نام و نام خانوادگی این خواننده پشت هم سرچ شود، این ارور نمایش داده میشود.

جو بناروک، رئیس عملیات تجاری شبکه اجتماعی X گفت که تصمیم برای مسدود کردن چنین محتوایی یک اقدام موقتی است و این مسئله با «احتیاط فراوان» بررسی میشود تا به ایمنی اولویت داده شود.

هفته گذشته، تصاویر جعلی جنسی صریح و توهین آمیزی از سویفت در فضای مجازی پخش شد و طرفداران این خواننده محبوب را وادار کرد تا پلتفرم شبکه های اجتماعی را با تصاویر مثبت بیشتری از او در کنار هشتگ #ProtectTaylorSwift پر کنند.

واکنش شبکه اجتماعی X به انتشار تصاویر هوش مصنوعی از تیلور سویفت

بر اساس گزارش NBC، قبل از تعلیق حساب کاربری ای که این محتوای غیراخلاقی جنسی را ارسال کرده بود، این تصاویر جعلی در 19 ساعت، بیش از 27 میلیون بازدید داشت. در پاسخ، X بیانیه ای را در روز جمعه منتشر کرد و موضعش را در مورد تصاویر برهنگی بدون رضایت تکرار کرد.

در بیانیه ای که در X منتشر شد، آمده است:

ما در قبال چنین محتوایی سیاستی داریم که به هیچ عنوان آن را تحمل نمیکنیم. تیم‌های ما فعالانه تمام تصاویر شناسایی‌شده را حذف می‌کنند و اقدامات مناسبی را علیه حساب‌هایی که مسئول ارسال آن‌ها هستند، انجام می‌دهند. ما به دقت وضعیت را زیر نظر داریم تا اطمینان حاصل کنیم که هر گونه تخلف بیشتری فوراً رسیدگی میشود و محتوا حذف میشود. ما متعهد به حفظ یک محیط امن و محترمانه برای همه کاربران هستیم.

در جاهای دیگر، متا (که مالک فیس بوک است) هم برای حذف این محتوا کار کرده و بیانیه ای منتشر کرده است که به شدت تصاویری را که در سرویسهای مختلف اینترنتی ظاهر شدهاند، محکوم میکند.

این شرکت گفت:

ما به نظارت بر پلتفرم‌های خود برای این محتوای ناقض قوانین ادامه می‌دهیم و در صورت لزوم اقدامات لازم را انجام خواهیم داد.

از وقتی که این تصاویر گرافیکی در فضای مجازی منتشر شد، سازمان‌های مختلفی خواستار اقدام علیه گسترش محتوای مخرب دیپ‌فیک شدند. کارین ژان پیر، سخنگوی کاخ سفید، از کنگره خواست تا اقدام قانونی در مورد این موضوع انجام دهد و اشاره کرد که اجرای ضعیف قوانین، به طور نامتناسبی بر زنان و دختران تأثیر میگذارد.

روز جمعه، اتحادیه بازیگران هالیوود SAG-AFTRA هم این تصاویر را محکوم کرد و آنها را «ناراحت کننده، مضر و عمیقا نگران کننده» توصیف کرد.

این اتحادیه گفت:

توسعه و انتشار تصاویر جعلی - به ویژه تصاویری که ماهیت فحشا دارند - بدون رضایت شخص، باید غیرقانونی باشد. ما به عنوان یک جامعه، کنترل این فناوری‌ها را در اختیار داریم، اما قبل از اینکه خیلی دیر شود، حالا باید اقدام کنیم.

این اتحادیه همچنین حمایتش را از جو مورل، دموکرات نیویورکی که لایحه‌ای را ارائه می‌کند که به اشتراک‌گذاری پورن‌های دیپ‌فیک آنلاین را جرم انگاری می‌کند، اعلام کرد.

تصاویر جعلی سویفت توسط مدل‌های انتشار ایجاد شده‌؟

دیپ فیک ها از هوش مصنوعی، معروف به «یادگیری عمیق» برای ایجاد تصاویر یا ویدیوهای جعلی از افراد واقعی استفاده میکنند. این کار معمولاً شامل دستکاری بدن یا صورت آنها میشود. به گزارش بی بی سی، از سال 2019 تا الان، در ایجاد چنین تصاویر دستکاری شدهای، 550 درصد افزایش وجود داشته است.

محققان بر این باورند که تصاویر جعلی سویفت توسط مدل‌های انتشار ایجاد شده‌اند که یک مدل هوش مصنوعی مولد که می‌تواند تصاویر جدید و واقعی را از اعلان‌های نوشته شده تولید کند. این مدل شامل مدلهایی مثل Midjourney، Stable Diffusion و OpenAI’s DALL-E میشود.

مایکروسافت در حال حاضر یک تولید کننده تصویر ارائه میدهد که تا حدی بر اساس DALL-E است. مدیر اجرایی آن، ساتیا نادلا، در مصاحبه با NBC News تصاویر جعلی سویفت را «هشدار و وحشتناک» خواند و اضافه کرد:

صرف نظر از اینکه موضع شما در مورد هر موضوع خاص چیست، فکر میکنم وقتی دنیای آنلاین یک دنیای امن باشد، همه ما سود میبریم.

مایکروسافت در حال حاضر در حال بررسی است که آیا از ابزار تولید کننده تصویرش سوء استفاده شده است یا خیر.

در استرالیا، قوانین مدنی و کیفری، ایجاد و در اختیار داشتن دیپ فیک های پورنوگرافی را مجازات نمیکند، به این معنی که پیگرد قانونی توزیع آن همچنان دشوار است. وکلای مالکیت معنوی و رسانه، تد تالاس و مگی کرنی، در گزارشی گفتند که احتمالاً چارچوب های قانونی در حال حاضر برای تنظیم دیپ فیک ها برای مقابله با چالش هایی که برای افراد ایجاد میکنند، کافی نیست.

اصلاحات قانونی آینده تنها بخشی از یک راه حل موثر را تشکیل میدهد. کاری که باید انجام شود، توسعه مداوم ابزارهای موثر برای شناسایی و تشخیص دیپ‌فیک و هشدار به کاربران اینترنتی است.