أضافت OpenAI أداة جديدة لاكتشاف ما إذا كانت الصورة قد تم إنشاؤها باستخدام منشئ الصور DALL-E AI، بالإضافة إلى طرق جديدة لوضع العلامات المائية لتحديد المحتوى الذي تنشئه بشكل أكثر وضوحًا.
في منشور بالمدونة ، أعلنت OpenAI أنها بدأت في تطوير طرق مصدر جديدة لتتبع المحتوى وإثبات ما إذا كان قد تم إنشاؤه بواسطة الذكاء الاصطناعي، ويتضمن ذلك مصنفًا جديدًا للكشف عن الصور يستخدم الذكاء الاصطناعي لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي، بالإضافة إلى علامة مائية مقاومة للتلاعب يمكنها وضع علامة على محتوى مثل الصوت بإشارات غير مرئية.
ويتنبأ المصنف باحتمالية إنشاء الصورة بواسطة DALL-E 3، وتدعي OpenAI أن المصنف يعمل حتى إذا تم اقتصاص الصورة أو ضغطها أو تغيير التشبع.
في حين أن الأداة يمكنها اكتشاف ما إذا كانت الصور قد تم التقاطها باستخدام DALL-E 3 بدقة تبلغ حوالي 98% ، فإن أدائها في معرفة ما إذا كان المحتوى من نماذج الذكاء الاصطناعي الأخرى ليس جيدًا، حيث يتم تمييز 5 إلى 10% فقط من الصور من مولدات الصور الأخرى ، مثل رحلة منتصف الليل.
وقامت OpenAI مسبقًا بإضافة بيانات اعتماد المحتوى إلى البيانات الوصفية للصورة من تحالف مصدر المحتوى وسلطته (C2PA)، وتعد بيانات اعتماد المحتوى علامات مائية تتضمن معلومات حول من يملك الصورة وكيفية إنشائها ، وتعد OpenAI إلى جانب شركات مثل Microsoft وAdobe، هي عضو في C2PA، وفي هذا الشهر انضمت OpenAI أيضًا إلى اللجنة التوجيهية لـ C2PA.
وبدأت شركة الذكاء الاصطناعي أيضًا في إضافة علامات مائية إلى المقاطع من Voice Engine، منصة تحويل النص إلى كلام الخاصة بها والتي تخضع حاليًا للمعاينة المحدودة.
ولا يزال يتم تحسين كل من مصنف الصور وإشارة العلامة المائية الصوتية، وتقول OpenAI إنها تحتاج إلى الحصول على تعليقات من المستخدمين لاختبار فعاليتها، و يمكن للباحثين والمجموعات الصحفية غير الربحية اختبار مصنف اكتشاف الصور من خلال تطبيقه على منصة الوصول إلى الأبحاث الخاصة بـ OpenAI.
وتعمل OpenAI على اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لسنوات، ومع ذلك في عام 2023، اضطرت إلى إنهاء برنامج حاول التعرف على النص المكتوب بواسطة الذكاء الاصطناعي لأن مصنف نص الذكاء الاصطناعي كان يتمتع دائمًا بدقة منخفضة.
