La couche de confiance de l'IA : comment le réseau Mira résout les problèmes de biais et d'illusions de l'IA

Récemment, une version bêta publique du réseau appelée Mira a été lancée, suscitant l'attention de l'industrie sur la question de la crédibilité de l'IA. L'objectif du réseau Mira est de construire une couche de confiance pour l'IA, afin de résoudre les problèmes de "hallucinations" et de biais présents dans l'IA. Alors, pourquoi l'IA a-t-elle besoin d'être digne de confiance ? Comment Mira s'attaque-t-elle à ce problème ?

Lorsqu'on discute de l'IA, les gens se concentrent généralement davantage sur ses capacités impressionnantes. Cependant, le problème des "hallucinations" ou des préjugés de l'IA est souvent ignoré. Ce que l'on appelle les "hallucinations" de l'IA, en termes simples, signifie que l'IA peut parfois "inventer" des choses, en racontant des absurdités de manière sérieuse. Par exemple, si vous demandez à l'IA pourquoi la lune est rose, elle pourrait fournir une explication qui semble raisonnable mais qui est en réalité sans fondement.

L'apparition de "hallucinations" ou de biais par l'IA est liée à la voie technologique actuelle de l'IA. L'IA générative produit des sorties en prédisant le contenu "le plus probable" pour assurer la cohérence et la rationalité, mais parfois elle ne peut pas vérifier la véracité. De plus, les données d'entraînement elles-mêmes peuvent contenir des erreurs, des biais ou même des contenus fictifs, ce qui impacte également les sorties de l'IA. En d'autres termes, l'IA apprend des modèles linguistiques humains, et non des faits eux-mêmes.

Le mécanisme de génération de probabilité actuel et le modèle basé sur les données conduisent presque inévitablement l'IA à produire des illusions. Si ces sorties biaisées ou illusoires se limitent à des connaissances générales ou à du contenu de divertissement, cela n'entraînera pas de conséquences graves pour l'instant. Cependant, si cela se produit dans des domaines rigoureux comme la santé, le droit, l'aéronautique ou la finance, cela pourrait avoir des conséquences majeures. Par conséquent, résoudre les illusions et les biais de l'IA est devenu l'un des problèmes centraux du développement de l'IA.

Le projet Mira tente de résoudre ce problème. Il réduit les biais et les illusions de l'IA en construisant une couche de confiance pour l'IA, améliorant ainsi sa fiabilité. La stratégie principale de Mira est d'utiliser le consensus de plusieurs modèles d'IA pour vérifier les sorties de l'IA. C'est essentiellement un réseau de validation qui vérifie la fiabilité des sorties de l'IA par un consensus décentralisé.

La clé du réseau Mira réside dans la validation des consensus décentralisés. Cette méthode s'inspire des technologies du domaine de la cryptographie tout en tirant parti des avantages de la coopération multi-modèles, afin de réduire les biais et les illusions grâce à un modèle de validation collectif.

En ce qui concerne l'architecture de validation, le protocole Mira prend en charge la conversion de contenus complexes en déclarations de validation indépendantes. Les opérateurs de nœuds participent à la validation de ces déclarations, garantissant l'honnêteté des opérateurs par des incitations économiques cryptographiques et des mécanismes de pénalité. Différents modèles d'IA et des opérateurs de nœuds décentralisés participent ensemble pour assurer la fiabilité des résultats de validation.

L'architecture réseau de Mira comprend la conversion de contenu, la vérification distribuée et le mécanisme de consensus. Tout d'abord, le système décompose le contenu candidat soumis par le client en déclarations vérifiables, puis les distribue aux nœuds pour vérification. Les nœuds déterminent la validité des déclarations et synthétisent les résultats pour parvenir à un consensus, puis renvoient les résultats au client. Pour protéger la vie privée des clients, les déclarations sont distribuées à différents nœuds de manière aléatoire en fragments.

Les opérateurs de nœuds génèrent des revenus en faisant fonctionner des modèles de validation, en traitant des déclarations et en soumettant des résultats de validation. Ces revenus proviennent de la valeur créée pour les clients, principalement en réduisant le taux d'erreur de l'IA dans des domaines critiques. Les clients sont prêts à payer pour cela, mais la durabilité et l'échelle des paiements dépendent de la capacité du réseau Mira à continuer à apporter de la valeur aux clients. Pour éviter que les nœuds ne répondent de manière aléatoire, le système pénalise les nœuds qui s'écartent de manière continue du consensus, afin d'assurer une participation honnête.

Dans l'ensemble, Mira propose une nouvelle approche pour garantir la fiabilité de l'IA. Elle construit un réseau de validation de consensus décentralisé basé sur plusieurs modèles d'IA, offrant ainsi une fiabilité accrue aux services d'IA pour les clients, réduisant les biais et les hallucinations de l'IA, et répondant à des exigences de précision et de taux de précision plus élevés. Cela crée non seulement de la valeur pour les clients, mais apporte également des bénéfices aux participants du réseau. L'objectif principal de Mira est de construire une couche de confiance pour l'IA, afin de favoriser le développement approfondi des applications d'IA.

Actuellement, Mira a établi des partenariats avec plusieurs cadres d'agents AI. Les utilisateurs peuvent participer au test public via Klok (une application de chat LLM basée sur Mira) pour expérimenter des sorties AI vérifiées et avoir la possibilité de gagner des points Mira. Les futures utilisations de ces points n'ont pas encore été annoncées, mais elles fournissent sans aucun doute un incitatif supplémentaire à la participation des utilisateurs.