Зростання перевірених графів знань, підтримуваних штучним інтелектом
Обговорення

Більшість сучасних систем штучного інтелекту добре генерують відповіді. Вони набагато менш надійні у гарантуванні їх правильності. Ви ставите питання. Модель відповідає з упевненістю. Структура звучить логічно. Пояснення здається повним. Але під цією відповіддю прихована проста проблема: вона може бути неправильною. Ця невпевненість — невидиме обмеження сучасних систем знань на базі ШІ. Інформація генерується швидше, ніж її можна перевірити. Саме тут Mira починає змінювати рівняння. Замість того, щоб вважати вихідні дані ШІ завершеними відповідями, Mira сприймає їх як твердження, які потрібно перевірити. Система розбиває згенерований контент на менші твердження, які можна незалежно перевірити через децентралізовану мережу валідаторів. Цей процес змінює спосіб структурування самого знання. Традиційні графи знань зберігають зв’язки між сутностями. Вони відображають зв’язки між людьми, місцями, подіями та концепціями у структурі на основі графа, де вузли представляють сутності, а ребра — зв’язки. Але ці графи зазвичай припускають, що інформація всередині них вже є правильною. Насправді, більшість сучасних графів знань створюються з вилучених даних, людського внеску або автоматизованих процесів витягання. Помилки можуть тихо поширюватися через систему. Mira вводить іншу модель. Перш ніж інформація стане частиною графа, вона має пройти через процес перевірки. Кожне твердження, згенероване моделлю ШІ, можна розбити на структуровані заяви. Ці твердження розподіляються між кількома незалежними моделями або валідаторами, які оцінюють їхню точність і досягають консенсусу перед прийняттям. Після підтвердження ці твердження можуть бути закріплені як надійні дані у графі знань. Результатом є граф, який не просто зберігає зв’язки. Він зберігає перевірені зв’язки. Ця різниця важливіша, ніж здається. У звичайній системі знань ШІ інформація є ймовірною. Система вважає щось ймовірно правдивим, бо бачила подібні шаблони у навчальних даних. У перевіреному графі знань інформація стає відстежуваною. Кожен вузол і зв’язок може містити доказ того, що твердження було оцінено і погоджено кількома валідаторами у мережі. Це змінює спосіб мислення систем ШІ. Замість того, щоб генерувати відповіді на основі розкиданих ймовірностей, моделі можуть запитувати структуровану карту перевірених знань. Мислення стає більш надійним, оскільки сама основа була перевірена. Для автономних агентів ШІ це може бути критично важливим. Агенти, що працюють незалежно, потребують надійного джерела інформації. Якщо їхня база знань містить галюцинації або непослідовні дані, їхні рішення швидко стануть ненадійними. Перевірений граф знань зменшує цей ризик. Агенти можуть посилатися на твердження, які вже були підтверджені розподіленим рівнем перевірки, а не покладатися лише на свої передбачення. З часом це створює зворотний зв’язок. ШІ генерує знання. Мережа його перевіряє. Підтверджені твердження розширюють граф знань. Майбутні системи ШІ запитують цей граф для більш точного мислення. Система стає дедалі надійнішою з її зростанням. Це більша ідея за рівнями перевірки, як Mira. Не просто виправлення галюцинацій. А створення інфраструктури для надійного знання. Якщо кожне твердження у графі знань ШІ містить доказ перевірки, інформація перестає бути швидкоплинним текстом, створеним моделлю. Вона стає структурованим, піддаваним аудиту знанням. І коли знання стає перевірюваним, системи ШІ рідше вгадують. Вони починають мислити на основі більш близького до істини. $MIRA @mira_network #Mira