Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI

Baru-baru ini, sebuah versi beta publik jaringan bernama Mira diluncurkan, menarik perhatian industri terhadap masalah kepercayaan AI. Tujuan jaringan Mira adalah untuk membangun lapisan kepercayaan AI, menyelesaikan masalah "ilusi" dan bias yang ada pada AI. Jadi, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Dalam diskusi tentang AI, orang biasanya lebih memperhatikan kemampuannya yang kuat. Namun, masalah "ilusi" atau bias dalam AI sering kali diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang akan "mengarang", berbicara omong kosong dengan sangat serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.

Kemunculan "ilusi" atau bias dalam AI terkait dengan jalur teknologi AI saat ini. AI generatif menghasilkan keluaran dengan memprediksi konten yang "paling mungkin" untuk mencapai koherensi dan kewajaran, tetapi terkadang tidak dapat memverifikasi kebenaran. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang juga dapat mempengaruhi keluaran AI. Dengan kata lain, AI belajar dari pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme pembangkitan probabilitas dan model berbasis data saat ini hampir tidak terhindarkan akan menyebabkan AI menghasilkan ilusi. Jika output yang bias atau ilusi ini terbatas pada pengetahuan umum atau konten hiburan, belum akan menyebabkan konsekuensi serius. Namun, jika terjadi di bidang yang ketat seperti medis, hukum, penerbangan, dan keuangan, dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi ilusi dan bias dalam AI menjadi salah satu masalah inti dalam proses pengembangan AI.

Proyek Mira berusaha untuk mengatasi masalah ini. Ini mengurangi bias dan ilusi AI dengan membangun lapisan kepercayaan AI, meningkatkan keandalan AI. Strategi inti Mira adalah memanfaatkan konsensus dari beberapa model AI untuk memverifikasi keluaran AI. Ini pada dasarnya adalah jaringan verifikasi yang memvalidasi keandalan keluaran AI melalui konsensus terdesentralisasi.

Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Metode ini mengadopsi teknologi dari bidang kripto, sambil memanfaatkan keunggulan kolaborasi multi-model, dan mengurangi bias dan ilusi melalui model verifikasi kolektif.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node berpartisipasi dalam memverifikasi pernyataan ini, memastikan kejujuran operator melalui insentif ekonomi kripto dan mekanisme hukuman. Berbagai model AI dan operator node yang terdesentralisasi berpartisipasi bersama untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan oleh klien menjadi pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi. Node menentukan validitas pernyataan dan merangkum hasil untuk mencapai konsensus, dan akhirnya mengembalikan hasil kepada klien. Untuk melindungi privasi klien, pernyataan akan didistribusikan ke node yang berbeda dengan cara pemecahan acak.

Operator node mendapatkan keuntungan dengan menjalankan model validator, memproses pernyataan, dan menyerahkan hasil verifikasi. Keuntungan ini berasal dari nilai yang diciptakan untuk pelanggan, yang terutama tercermin dalam pengurangan tingkat kesalahan AI di bidang-bidang penting. Pelanggan bersedia membayar untuk ini, tetapi keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada pelanggan. Untuk mencegah respons acak dari node, sistem akan menghukum node yang terus-menerus menyimpang dari konsensus untuk memastikan partisipasi yang jujur.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mencapai keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi di atas banyak model AI, memberikan keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, serta memenuhi kebutuhan akan akurasi dan presisi yang lebih tinggi. Ini tidak hanya menciptakan nilai bagi pelanggan, tetapi juga memberikan keuntungan bagi peserta jaringan. Tujuan utama Mira adalah membangun lapisan kepercayaan untuk AI, mendorong pengembangan aplikasi AI yang lebih dalam.

Saat ini, Mira telah bekerja sama dengan beberapa kerangka agen AI. Pengguna dapat berpartisipasi dalam testnet publik melalui Klok (aplikasi obrolan LLM berbasis Mira), mengalami output AI yang telah diverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Penggunaan poin tersebut di masa depan belum diumumkan, tetapi jelas memberikan motivasi tambahan bagi pengguna untuk berpartisipasi.