المصطلحات

التوليد المعزَّز بالاسترجاع طريقة لبناء تطبيقات النماذج اللغوية بحيث يبحث التطبيق، قبل أن يجيب، في مجموعة معتمدة من الوثائق ثم يصوغ إجابته مما وجده. وأهميته في العمل الحكومي والقطاعات المنظَّمة أن الإجابة يمكن أن تشير إلى مصدرها، وأن الوثائق يمكن تحديثها دون إعادة تدريب النموذج.

المصدر: Lewis et al., 2020 (arXiv)

الذكاء الاصطناعي الوكيل وصفٌ لأنظمة لا يكتفي فيها النموذج اللغوي بالإجابة، بل يخطّط لسلسلة خطوات وينفّذها عبر أدوات: البحث، واستدعاء واجهة برمجية، وتعبئة نموذج، وتسليم العمل إلى وكيل آخر. وأهميته أن النظام صار يتصرّف داخل الإجراءات المؤسسية، فتصبح الصلاحيات والسجلات وإمكانية إيقافه من قِبل إنسان متطلبات تصميم لا إضافات لاحقة.

النموذج اللغوي الكبير شبكة عصبية دُرِّبت على كميات هائلة من النصوص لتتوقّع الجزء التالي من النص، وهذا ما يمكّنها من الصياغة والتلخيص والترجمة والإجابة عن الأسئلة باللغة الطبيعية. وهو بمفرده لا يطّلع على وثائق المؤسسة وقد يذكر ما ليس صحيحاً، ولهذا تقرن الأنظمة التشغيلية بينه وبين الاسترجاع والقواعد والمراجعة.

حوكمة الذكاء الاصطناعي مجموعة الأدوار والسياسات والضوابط والسجلات التي تقرّر من خلالها المؤسسة أي أنظمة ذكاء اصطناعي تبنيها أو تشتريها، وما المسموح لها فعله، ومن المسؤول عنها، وكيف تُراقَب بعد التشغيل. وأهميتها أن الجهات التنظيمية والمدققين يطلبون الاطلاع عليها بصورة متزايدة، وأنه بدونها يُعتمَد كل استخدام جديد ممن يُسأل مصادفةً.

السياسات بوصفها شيفرة تعني كتابة قواعد المؤسسة، كتحديد من يصل إلى ماذا أو أي تغييرات تحتاج إلى مراجعة، في صورة شيفرة يقرؤها الحاسوب وتخضع لإدارة الإصدارات والاختبار والتقييم الآلي. وأهميتها أن الموافقة التي كانت تنتظر في بريد شخص ما يمكن التحقق منها في ثوانٍ، وأن كل قرار يترك سجلاً يستطيع المدقق قراءته.

المصدر: Open Policy Agent documentation

المعيار ISO/IEC 42001 معيار دولي صدر عام 2023 يحدّد متطلبات نظام إدارة الذكاء الاصطناعي: السياسات والأهداف وتقييمات المخاطر والأثر والضوابط التي تحافظ عليها المؤسسة للذكاء الاصطناعي الذي تطوّره أو تقدّمه أو تستخدمه. وأهميته أنه قابل للاعتماد بشهادة، مما يمنح المشتري أو الجهة التنظيمية وسيلة خارجية للتحقق من أن الحوكمة موجودة فعلاً لا على الورق فقط.

المصدر: ISO/IEC 42001:2023

قانون الاتحاد الأوروبي للذكاء الاصطناعي، اللائحة (الاتحاد الأوروبي) 2024/1689، هو تشريع الاتحاد الأوروبي الخاص بالذكاء الاصطناعي. يصنّف الأنظمة بحسب المخاطر، ويحظر بعض الممارسات حظراً تاماً، ويفرض التزامات على الأنظمة عالية المخاطر وعلى نماذج الذكاء الاصطناعي متعددة الأغراض، ويُطبَّق على مراحل. وأهميته خارج أوروبا أنه يشمل الأنظمة المطروحة في السوق الأوروبية أو التي تُستخدم مخرجاتها هناك، وأن جهات تنظيمية أخرى تستعير بنيته.

المصدر: Regulation (EU) 2024/1689, EUR-Lex

إطار NIST لإدارة مخاطر الذكاء الاصطناعي إرشادات طوعية أصدرها المعهد الوطني للمعايير والتقنية في الولايات المتحدة في يناير 2023 لإدارة مخاطر أنظمة الذكاء الاصطناعي. وينظّم العمل في أربع وظائف: الحوكمة، والتحديد، والقياس، والإدارة. وأهميته أنه عملي ومتاح مجاناً، ويتوافق جيداً مع الضوابط التي يتطلبها المعيار ISO/IEC 42001.

المصدر: NIST AI RMF

البنية المؤسسية تخصّص يصف كيف تتكامل قدرات المؤسسة وإجراءاتها وبياناتها وتطبيقاتها وتقنياتها، ويوجّه التغييرات عليها بحيث تبقى متّسقة. وأهميتها للذكاء الاصطناعي أن فائدة أي نموذج محدودة بالبيانات التي يصل إليها والأنظمة التي يستطيع العمل عليها، وهذه كلها قرارات بنية.

إطار TOGAF، أي إطار البنية الخاص بمجموعة The Open Group، معيار واسع الانتشار للبنية المؤسسية. جوهره منهجية تطوير البنية، وهي دورة قابلة للتكرار للانتقال من رؤية الأعمال إلى بنية ثم إلى تغيير مخطَّط. وأهميته أنه يمنح مهندسي البنية وقادة البرامج والتنفيذيين مفردات مشتركة لقرارات تبقى عادةً ضمنية.

المصدر: The Open Group, TOGAF