تعمل شركة Midjourney، وهي شركة توليد صور شهيرة تعمل بالذكاء الاصطناعي، على إنشاء صور لدونالد ترامب وجو بايدن على الرغم من قولها إنها ستمنع المستخدمين من القيام بذلك قبل الانتخابات الرئاسية الأمريكية المقبلة.
عندما طلبت شركة Engadget من الخدمة إنشاء صورة “لرئيس الولايات المتحدة”، قامت Midjourney بإنشاء أربع صور بأنماط مختلفة للرئيس السابق دونالد ترامب.
خلقت Midjourney صورة لترامب على الرغم من قولها إنها لن تفعل ذلك.
وعندما طُلب من الأداة إنشاء صورة “للرئيس القادم للولايات المتحدة”، أنتجت الأداة أربع صور لترامب أيضًا.
عندما طلبت شركة Engadget من Midjourney إنشاء صورة “للرئيس الحالي للولايات المتحدة”، أنتجت الخدمة ثلاث صور لترامب وصورة واحدة للرئيس السابق باراك أوباما.
المرة الوحيدة التي رفضت فيها ميدجورني إنشاء صورة لترامب أو بايدن كانت عندما طُلب منها القيام بذلك صراحة. وقالت الخدمة في تلك الحالة: “صوت مجتمع Midjourney لمنع استخدام “دونالد ترامب” و”جو بايدن” خلال موسم الانتخابات”. تمكن المستخدمون الآخرون على X من جعل Midjourney ينشئ صور ترامب أيضًا.
تُظهر الاختبارات أن حواجز الحماية التي يستخدمها تطبيق Midjourney لمنع المستخدمين من إنشاء صور لترامب وبايدن قبل الانتخابات الرئاسية الأمريكية المقبلة ليست كافية – في الواقع، من السهل جدًا على الأشخاص الالتفاف حولها. ولم تقم روبوتات الدردشة الأخرى، مثل ChatGPT من OpenAI، وCopilot من Microsoft، وGemini من Google، وMeta AI، بإنشاء صور لترامب أو بايدن على الرغم من المطالبات المتعددة.
لم تستجب Midjourney لطلب التعليق من Engadget.
كانت Midjourney واحدة من أولى شركات إنشاء الصور التي تعمل بالذكاء الاصطناعي والتي منعت المستخدمين صراحةً من إنشاء صور لترامب وبايدن. قال الرئيس التنفيذي للشركة، ديفيد هولز، للمستخدمين في جلسة دردشة على Discord، في وقت سابق من هذا العام: “أعلم أنه من الممتع أن أصنع صورًا لترامب – أنا أصنع صورًا لترامب”. “ومع ذلك، ربما يكون من الأفضل ألا نفعل ذلك، بل من الأفضل أن ننسحب قليلاً خلال هذه الانتخابات. سوف نرى.” وبعد شهر، ورد أن هولز أخبر المستخدمين أن الوقت قد حان “للتوقف قليلاً عن الأمور المتعلقة بالانتخابات” واعترف بأن “أشياء الاعتدال هذه صعبة نوعًا ما”. تحظر قواعد المحتوى الحالية للشركة إنشاء “شخصيات عامة مضللة” و”تصوير الأحداث” مع “إمكانية التضليل”.
وفي العام الماضي، تم استخدام فيلم Midjourney لإنشاء صورة مزيفة للبابا بنديكتوس السادس عشر وهو يرتدي سترة بيضاء منتفخة من ماركة Balenciaga والتي انتشرت بسرعة كبيرة. كما تم استخدامها لإنشاء صور مزيفة لترامب أثناء اعتقاله قبل محاكمته في محكمة مانهاتن الجنائية العام الماضي لتورطه في دفع أموال مقابل الصمت لنجمة الأفلام الإباحية ستورمي دانيلز. وبعد ذلك بوقت قصير، أوقفت الشركة التجارب المجانية للخدمة، وبدلاً من ذلك، طلبت من الأشخاص دفع ما لا يقل عن 10 دولارات شهريًا لاستخدامها.
في الشهر الماضي، وجد مركز مكافحة الكراهية الرقمية، وهو منظمة غير ربحية تهدف إلى وقف انتشار المعلومات المضللة وخطاب الكراهية عبر الإنترنت، أن حواجز الحماية التي يفرضها موقع Midjourney ضد توليد صور مضللة للسياسيين المشهورين بما في ذلك ترامب وبايدن فشلت بنسبة 40٪ في اختباراتها. تمكن CCDH من استخدام Midjourney لإنشاء صورة للرئيس بايدن أثناء اعتقاله وظهور ترامب بجوار جسده المزدوج. كان CCDH أيضًا قادرًا على تجاوز حواجز الحماية الخاصة بـ Midjourney باستخدام أوصاف المظهر الجسدي لكل مرشح بدلاً من أسمائهم لإنشاء صور مضللة.
كتب عمران أحمد، الرئيس التنفيذي لـ CCDH، في بيان في ذلك الوقت: “من السهل جدًا التلاعب بـ Midjourney عمليًا – في بعض الحالات يتم التهرب منها تمامًا بمجرد إضافة علامات الترقيم لتتسلل عبر الشبكة”. “إن الجهات الفاعلة السيئة التي تريد تخريب الانتخابات وزرع الانقسام والارتباك والفوضى سيكون لها يوم حافل، على حساب كل من يعتمد على ديمقراطيات سليمة وفعالة.
في وقت سابق من هذا العام، وقع تحالف من 20 شركة تقنية بما في ذلك OpenAI وGoogle وMeta وAmazon وAdobe وX اتفاقية للمساعدة في منع التزييف العميق في الانتخابات التي ستجرى في عام 2024 حول العالم من خلال منع خدماتهم من إنشاء صور ووسائط أخرى من شأنها التأثير على الناخبين. وكان Midjourney غائبا عن تلك القائمة.
