المعهد الوطني للمعايير والتكنولوجيا (NIST)، وهي وكالة وزارة التجارة الأمريكية التي تطوّر وتختبر التكنولوجيا لصالح الحكومة الأمريكية والشركات والجمهور العام، أعلنت الإثنين عن إطلاق "NIST GenAI"، برنامج جديد يتصدى لتقييم تقنيات الذكاء الاصطناعي الإبداعي بما في ذلك الذكاء الاصطناعي القادر على توليد النصوص والصور.
سيقوم "NIST GenAI" بإصدار معايير، ومساعدة في إنشاء نظم لاكتشاف "مصداقية المحتوى" (أي فحص الفيديو المزيف) وتشجيع تطوير البرمجيات للكشف عن مصدر المعلومات الزائفة أو المضللة التي يتم توليدها بواسطة الذكاء الاصطناعي، وفقًا لما ذكره NIST على الموقع الإلكتروني الجديد لـ NIST GenAI وفي بيان صحفي.
يقرأ البيان الصحفي: "سيصدر برنامج NIST GenAI سلسلة من مشكلات التحدي [المقصود] لتقييم وقياس قدرات وقيود تقنيات الذكاء الاصطناعي الإبداعي. ستُستخدم هذه التقييمات لتحديد استراتيجيات لتعزيز نزاهة المعلومات وتوجيه استخدام الأنظمة الرقمية بشكل آمن ومسؤول."
مشروع NIST GenAI الأول هو دراسة تجريبية لبناء أنظمة يمكن أن تميز بشكل موثوق بين وسائط يتم إنشاؤها بواسطة الإنسان وتلك التي تم إنشاؤها بواسطة الذكاء الاصطناعي، بدايةً من النصوص. (بينما تدعي العديد من الخدمات كشف deepfakes، أثبتت الدراسات واختباراتنا أنها ضعيفة على الأفضل، خاصة عندما يتعلق الأمر بالنصوص.) يقوم NIST GenAI بدعوة الفرق من الأكاديميات والصناعة ومختبرات البحث لتقديم إما "مولدات" - أنظمة الذكاء الاصطناعي لتوليد المحتوى - أو "مميزات"، وهي أنظمة مصممة لتحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
يجب على المولدات في الدراسة إنشاء ملخصات تحتوي على 250 كلمة أو أقل تقدم موضوعا معينا ومجموعة من الوثائق، بينما يجب على المميزات اكتشاف ما إذا كان ملخص معين مكتوبًا بواسطة الذكاء الاصطناعي. لضمان العدالة، ستوفر NIST GenAI البيانات اللازمة لاختبار المولدات. لن يتم قبول الأنظمة التي تم تدريبها على البيانات العامة المتاحة للجمهور والتي لا تتفق "مع القوانين واللوائح المعمول بها"، وفقًا لما ذكره NIST.
سيبدأ التسجيل للدراسة التجريبية في 1 مايو، ومن المقرر أن يُغلق الجولة الأولى منها في 2 أغسطس. من المتوقع نشر النتائج النهائية من الدراسة في فبراير 2025.
تأتي إطلاق NIST GenAI والدراسة التي تركز على deepfake مع تزايد حجم تضليل المعلومات والأخبار المزيفة التي تتم توليدها بواسطة الذكاء الاصطناعي.
ووفقًا لبيانات شركة Clarity، شركة كشف الفيديو المزيف، فإنه تم إنشاء ونشر ما يصل إلى 900٪ من deepfakes هذا العام مقارنة بنفس الفترة من العام الماضي. هذا يثير القلق، بشكل مفهوم. وجد استطلاع رأي أجرته YouGov أن 85٪ من الأمريكيين كانوا قلقين من انتشار الفيديوهات المزيفة عبر الإنترنت.
إطلاق NIST GenAI هو جزء من استجابة NIST لأمر التنفيذ الملكي الذي أصدره الرئيس جو بايدن حول الذكاء الاصطناعي، والذي حدد قواعد تتطلب شفافية أكبر من الشركات المتخصصة في الذكاء الاصطناعي حول كيفية عمل نماذجها وأقام باقة من المعايير الجديدة، بما في ذلك تسمية المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
كما أنه أول إعلان متعلق بالذكاء الاصطناعي من NIST بعد تعيين بول كريستيانو، الباحث السابق في OpenAI، في معهد سلامة الذكاء الاصطناعي التابع للوكالة.
اختيار كريستيانو كان مثيرًا للجدل بسبب آرائه "المتشائمة"؛ إذ كان قد توقع مرة أن "هناك 50٪ من الاحتمالات أن تنتهي تطويرات الذكاء الاصطناعي بـ[تدمير البشرية]." يخشى النقاد، بما في ذلك علماء داخل NIST بحسب التقارير، أنه قد يشجع كريستيانو معهد سلامة الذكاء الاصطناعي على التركيز على "سيناريوهات خيالية" بدلاً من المخاطر الواقعية والأكثر عاجلية من الذكاء الاصطناعي.
يقول NIST إن NIST GenAI سيقوم بإثراء عمل معهد سلامة الذكاء الاصطناعي.
