Довірчий рівень ІІ: Як мережа Mira вирішує проблеми упередженості та ілюзій в ІІ

Нещодавно було запущено публічну тестову версію мережі під назвою Mira, що викликало занепокоєння у галузі щодо довіри до ШІ. Метою мережі Mira є побудова шару довіри для ШІ, щоб вирішити проблеми "ілюзій" та упередженості, які існують у ШІ. Отже, чому ШІ потребує довіри? Як Mira вирішує цю проблему?

При обговоренні ШІ люди зазвичай більше зосереджуються на його потужних можливостях. Однак проблема "ілюзій" або упереджень ШІ часто залишається поза увагою. Що стосується "ілюзій" ШІ, то простими словами, це те, що ШІ іноді може "вигадувати", серйозно брешучи. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, воно може дати на перший погляд розумне, але насправді безпідставне пояснення.

Виникнення "галюцинацій" або упереджень у штучному інтелекті пов'язане з поточною технологічною траєкторією AI. Генеративний штучний інтелект генерує вміст, прогнозуючи "найбільш імовірні" дані, щоб досягти узгодженості та логічності, але іноді не може перевірити правдивість. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані дані, що також впливає на вихідні дані AI. Іншими словами, AI засвоює мовні моделі людей, а не факти самі по собі.

Поточний механізм генерації ймовірностей та модель, що ґрунтується на даних, майже неминуче призводять до того, що ШІ створює ілюзії. Якщо такі упереджені або ілюзорні результати обмежені загальними знаннями чи розважальним контентом, це поки що не призводить до серйозних наслідків. Але якщо це відбувається в таких серйозних сферах, як медицина, право, авіація, фінанси, це може мати значний вплив. Тому вирішення проблеми ілюзій та упереджень ШІ стало однією з ключових проблем у процесі розвитку ШІ.

Проект Mira намагається вирішити цю проблему. Він зменшує упередженість та ілюзії ШІ, створюючи шар довіри для ШІ, підвищуючи надійність ШІ. Основна стратегія Mira полягає в використанні консенсусу кількох моделей ШІ для верифікації результатів ШІ. Це за своєю суттю мережа верифікації, яка перевіряє надійність результатів ШІ через децентралізований консенсус.

Ключем мережі Mira є децентралізована верифікація консенсусу. Цей підхід запозичує технології з криптовалютної сфери, одночасно використовуючи переваги багатомодельної координації, щоб зменшити упередженість та ілюзії через колективну модель верифікації.

У контексті верифікаційної архітектури протокол Mira підтримує перетворення складного контенту на незалежні верифікаційні заяви. Оператори вузлів беруть участь у верифікації цих заяв, забезпечуючи чесність операторів через механізми економічних стимулів і покарань. Різні AI-моделі та децентралізовані оператори вузлів спільно беруть участь у забезпеченні надійності результатів верифікації.

Мережева архітектура Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу. По-перше, система розбиває кандидати на контент, подані клієнтом, на верифіковані заяви, а потім розподіляє їх для верифікації вузлам. Вузли визначають дійсність заяви та підсумовують результати, досягаючи консенсусу, а в кінці повертають результати клієнту. Для захисту конфіденційності клієнтів, заяви будуть розподілені між різними вузлами випадковими фрагментами.

Оператори вузлів отримують дохід, працюючи з моделями верифікації, обробляючи заяви та подаючи результати верифікації. Ці доходи походять від створеної для клієнтів цінності, що в основному проявляється у зниженні помилок штучного інтелекту в ключових сферах. Клієнти готові за це платити, але стійкість і масштабність платежів залежать від того, чи зможе мережа Mira постійно приносити цінність клієнтам. Щоб запобігти випадковим відповідям вузлів, система штрафує вузли, які постійно відхиляються від консенсусу, щоб забезпечити чесну участь.

Загалом, Mira пропонує новий підхід до забезпечення надійності ШІ. Він будує децентралізовану мережу верифікації консенсусу на основі кількох моделей ШІ, що забезпечує більшу надійність для ШІ-сервісів клієнтів, знижує упередженість та ілюзії ШІ, задовольняючи потреби в більшій точності та прецизійності. Це не тільки створює цінність для клієнтів, але й приносить прибуток учасникам мережі. Головною метою Mira є створення шару довіри для ШІ, що сприяє поглибленому розвитку застосувань ШІ.

Наразі Mira співпрацює з кількома фреймворками AI agent. Користувачі можуть взяти участь у публічній тестовій мережі через Klok (додаток для чату на базі LLM від Mira), щоб випробувати перевірені AI-виходи та отримати можливість заробити бали Mira. Майбутнє використання цих балів ще не оголошено, але безумовно це надає користувачам додаткову мотивацію для участі.