في تحول مثير للأحداث، أتاح تطبيق “تيك توك” لفترة وجيزة إمكانية إنشاء مقاطع فيديو باستخدام الذكاء الاصطناعي دون وضع ضوابط أمان واضحة. هذه الميزة التي أطلق عليها اسم “Symphony Avatars” مكنت الشركات والعلامات التجارية من إنشاء إعلانات مخصصة بالكامل باستخدام الذكاء الاصطناعي.
شاهد/ي أيضاً: سامسونج تقدم تحديث واجهة المستخدم One UI 7.. هل جهازك سيحصل على أندرويد 15؟
قام أحد مراسلي شبكة “CNN” بالكشف عن وجود ثغرة كبيرة في ميزة “Symphony Assistant” التابعة لـ “تيك توك”، حيث تمكن من الوصول إلى هذه الأداة باستخدام حسابه الشخصي على “تيك توك”، واكتشف أن هذه الأداة لا تحتوي على أي إجراءات أمان أو ضوابط تقييدية. وأظهرت التجربة أن المستخدم يمكنه إنشاء مقاطع فيديو مقنعة حول أي موضوع باستخدام أحد الممثلين الافتراضيين المتاحين في الأداة.
تجربة مثيرة للجدل
أبرز المراسل جون سارلين من “CNN” خطورة الأداة من خلال إنشاء مقاطع فيديو تتضمن محتوى حساساً ومثيراً للجدل، والأدهى من ذلك أن هذه المقاطع لم تكن تحمل أي علامات مائية تشير إلى أنها منشأة باستخدام الذكاء الاصطناعي، مما يعني أن المشاهدين قد يظنون أنها مقاطع حقيقية.
تيك توك تستجيب وتصلح الخطأ
عندما تواصلت شبكة “CNN” مع إدارة شركة “تيك توك” بشأن هذه المقاطع، وصفت الشركة ما حدث بأنه “خطأ تقني” تم تصحيحه سريعاً. وأكدت الشركة أنه حتى لو حاولت “CNN” نشر المحتوى الضار، فإنه كان سيتم رفضه بسبب انتهاكه لسياسات المحتوى الصارمة للتطبيق. وقال المتحدث باسم التطبيق: “خطأ تقني، تم حله الآن، سمح لعدد قليل للغاية من المستخدمين بإنشاء محتوى باستخدام نسخة اختبارية داخلية للأداة لبضعة أيام. لو حاولت CNN تحميل المحتوى الضار، لتم رفضه لانتهاكه سياساتنا. تيك توك رائد في إنشاء المحتوى المسؤول باستخدام الذكاء الاصطناعي، وسنواصل اختبار وبناء إجراءات الأمان اللازمة”.
الخطأ التقني والتنبيهات المستقبلية
يبدو أن شركة “تيك توك” دفعت عن طريق الخطأ هذه النسخة “الاختبارية الداخلية” من الأداة إلى جميع المستخدمين بدلاً من بعض المستخدمين المختارين فقط. لحسن الحظ، تمكنت “CNN” من الإبلاغ عن المشكلة في الوقت المناسب، مما دفع الشركة إلى اتخاذ الإجراءات اللازمة. لم تحدد الشركة ما إذا كانت أداة “Symphony Assistant” ستعود قريباً، ولكنها أكدت التزامها بمواصلة اختبار ميزات الذكاء الاصطناعي الجديدة مع ضمان توفير الأمان المطلوب.
