عزيزي @0G_labs

رأيت مفهومًا يسمى AI Alignment Nodes، وبعد فهمه بعمق، شعرت أن هذا التصميم مهم جدًا، بل يمكن القول إنه حجر الأساس لأمان الذكاء الاصطناعي اللامركزي في المستقبل.

ببساطة، تعتبر عقد محاذاة الذكاء الاصطناعي نوعًا من العقد المسؤولة عن مراقبة سلوك الذكاء الاصطناعي في الشبكة، مثل مشرفي القواعد، لضمان عدم انحراف نماذج الذكاء الاصطناعي أو قول أشياء غير صحيحة أو إنتاج نتائج غير مفهومة.
الآن العديد من مشاريع الذكاء الاصطناعي تتحدث عن النماذج الكبيرة، وقدرات الاستدلال، ومتعددة الأنماط، لكن القليل من الناس يتحدثون عن "ماذا نفعل إذا قال هذا النموذج شيئًا خاطئًا" أو "كيف نعرف إذا كان المحتوى الذي يخرج منه منحرفًا". الحل التقليدي للذكاء الاصطناعي المركزي يعتمد عادةً على مجموعة من أنظمة المراقبة المغلقة التدخل البشري، وهنا يأتي دور عقد توافق الذكاء الاصطناعي.

لقد فعلت ثلاث أشياء:
~مراقبة سلوك النموذج لمعرفة ما إذا كان منحرفًا عن هدف التدريب
~التحقق من معقولية وأمان المخرجات
~تسجيل هذه السلوكيات، الإبلاغ عنها والمشاركة في آلية حوكمة الشبكة

@KaitoAI @Galxe #Starboard