طبقة الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة التحيز والأوهام في الذكاء الاصطناعي

مؤخراً، تم إطلاق نسخة تجريبية عامة عبر الإنترنت تُدعى Mira، مما أثار اهتمام الصناعة بمسألة موثوقية الذكاء الاصطناعي. الهدف من شبكة Mira هو بناء طبقة من الثقة للذكاء الاصطناعي، ومعالجة مشكلات "الوهم" والتحيز الموجودة في الذكاء الاصطناعي. إذن، لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تعالج Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، يميل الناس عادةً إلى التركيز على قدراته القوية. ومع ذلك، فإن مشكلة "الهلاوس" أو التحيزات الموجودة في الذكاء الاصطناعي غالبًا ما يتم تجاهلها. ما يسمى بـ"الهلاوس" في الذكاء الاصطناعي يعني ببساطة أن الذكاء الاصطناعي أحيانًا "يخترع" أشياء بشكل عشوائي، ويتحدث بجدية عن هراء. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر لونه وردي، فقد يقدم تفسيرًا يبدو منطقيًا لكنه في الواقع لا أساس له.

ظهور "هلوسة" أو تحيزات في الذكاء الاصطناعي يتعلق بالمسار الحالي لتقنية الذكاء الاصطناعي. يقوم الذكاء الاصطناعي التوليدي بإنتاج المحتوى من خلال توقع "الأكثر احتمالًا" لتحقيق التناسق والمعقولية، لكنه أحيانًا لا يمكنه التحقق من صحة المعلومات. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتويات ملفقة، مما يؤثر أيضًا على مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.

إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة ستؤدي تقريبًا بشكل لا مفر منه إلى نشوء أوهام في الذكاء الاصطناعي. إذا كانت هذه المخرجات المتحيزة أو الوهمية تقتصر على المعرفة العامة أو المحتوى الترفيهي، فلن يكون لذلك عواقب وخيمة في الوقت الحالي. ولكن إذا حدث ذلك في مجالات صارمة مثل الطب، القانون، الطيران، والمالية، فقد يؤدي ذلك إلى تأثيرات كبيرة. لذلك، فإن معالجة أوهام الذكاء الاصطناعي والتحيزات تعتبر واحدة من القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.

مشروع ميرا يحاول بالفعل حل هذه المشكلة. من خلال بناء طبقة الثقة للذكاء الاصطناعي، يقلل من تحيزات وهلاوس الذكاء الاصطناعي، ويزيد من موثوقية الذكاء الاصطناعي. الاستراتيجية الأساسية لميرا هي استخدام توافق عدة نماذج ذكاء اصطناعي للتحقق من مخرجات الذكاء الاصطناعي. إنه في جوهره شبكة تحقق، تتحقق من موثوقية مخرجات الذكاء الاصطناعي من خلال توافق لامركزي.

تكمن أهمية شبكة ميرا في التحقق من الإجماع اللامركزي. تستفيد هذه الطريقة من التقنيات في مجال التشفير، وفي الوقت نفسه تستغل مزايا التعاون بين النماذج المتعددة، من خلال نموذج تحقق جماعي لتقليل التحيز والوهم.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتويات المعقدة إلى بيانات تحقق مستقلة. يشارك مشغلوا العقد في التحقق من هذه البيانات، من خلال تحفيزات اقتصادية مشفرة وآليات عقابية لضمان نزاهة المشغلين. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلوا العقد الموزعة معًا لضمان موثوقية نتائج التحقق.

تشمل بنية شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية الإجماع. أولاً، يقوم النظام بتفكيك المحتوى المرشح المقدم من العملاء إلى بيانات قابلة للتحقق، ثم يقوم بتوزيعها على العقد للتحقق. تقوم العقد بتحديد صلاحية البيانات وتجميع النتائج للتوصل إلى إجماع، وأخيرًا يتم إعادة النتائج إلى العملاء. لحماية خصوصية العملاء، يتم توزيع البيانات بطريقة تقسيم عشوائي إلى عقد مختلفة.

تتحقق مشغلات العقد من خلال تشغيل نموذج التحقق، ومعالجة الإعلانات، وتقديم نتائج التحقق لتحقيق الأرباح. تأتي هذه الأرباح من القيمة التي تم إنشاؤها للعملاء، والتي تتجلى بشكل رئيسي في تقليل معدل الأخطاء في المجالات الحيوية. العملاء مستعدون للدفع من أجل ذلك، لكن استدامة وحجم الدفع يعتمد على ما إذا كانت شبكة ميرا تستطيع الاستمرار في تقديم القيمة للعملاء. لمنع استجابة العقد بشكل عشوائي، يعاقب النظام العقد التي تبتعد باستمرار عن التوافق لضمان المشاركة النزيهة.

بشكل عام، تقدم Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. إنها تبني شبكة تحقق من الإجماع اللامركزية على أساس نماذج ذكاء اصطناعي متعددة، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من تحيزات الذكاء الاصطناعي والهلاوس، ويلبي متطلبات دقة أعلى ومعدل دقة. هذا لا يخلق قيمة للعملاء فحسب، بل يجلب أيضًا فوائد لمشاركي الشبكة. الهدف الرئيسي لـ Mira هو بناء طبقة الثقة للذكاء الاصطناعي، ودفع تطوير تطبيقات الذكاء الاصطناعي بشكل أعمق.

حاليًا، قامت ميرا بالتعاون مع العديد من أطر عمل الوكلاء الذكيين. يمكن للمستخدمين المشاركة في الشبكة العامة للاختبار من خلال Klok (وهي تطبيق دردشة يعتمد على LLM الخاص بميرا) وتجربة مخرجات الذكاء الاصطناعي التي تم التحقق منها، ولديهم الفرصة لكسب نقاط ميرا. لم يتم الإعلان عن الاستخدامات المستقبلية لهذه النقاط بعد، ولكنها بلا شك توفر حافزًا إضافيًا للمستخدمين للمشاركة.