Рост проверенных графов знаний, основанных на ИИ
Обсуждение

Большинство современных систем искусственного интеллекта хорошо справляются с генерацией ответов. Однако они гораздо менее надежны в гарантировании их правильности. Вы задаете вопрос. Модель отвечает с уверенностью. Структура кажется логичной. Объяснение кажется полным. Но под этим ответом скрывается простая проблема: он может быть неправильным. Эта неопределенность — невидимое ограничение современных систем знаний на базе ИИ. Информация генерируется быстрее, чем ее можно проверить. Именно здесь Mira начинает менять ситуацию. Вместо того чтобы рассматривать выводы ИИ как готовые ответы, Mira воспринимает их как утверждения, требующие проверки. Система разбивает сгенерированный контент на меньшие утверждения, которые могут быть независимо проверены через децентрализованную сеть валидаторов. Этот процесс меняет структуру самого знания. Традиционные графы знаний хранят связи между сущностями. Они отображают связи между людьми, местами, событиями и концепциями в графовой структуре, где узлы представляют сущности, а ребра — отношения. Но такие графы обычно предполагают, что содержащаяся внутри информация уже верна. На практике большинство современных графов знаний создаются из скрапленных данных, человеческого ввода или автоматизированных процессов извлечения. Ошибки могут тихо распространяться по системе. Mira предлагает другую модель. Прежде чем информация станет частью графа, она должна пройти проверку. Каждое утверждение, сгенерированное моделью ИИ, можно разбить на структурированные заявления. Эти заявления распределяются между несколькими независимыми моделями или валидаторами, которые оценивают их точность и достигают консенсуса, прежде чем принять их. После проверки такие утверждения могут быть закреплены как надежные точки данных внутри графа знаний. В результате получается граф, который не просто хранит связи. Он хранит проверенные связи. Эта разница важнее, чем кажется. В обычной системе знаний на базе ИИ информация носит вероятностный характер. Система считает, что что-то вероятно истинным, потому что она видела похожие шаблоны в обучающих данных. В проверенном графе знаний информация становится прослеживаемой. Каждый узел и связь могут содержать доказательства того, что утверждение было оценено и согласовано несколькими валидаторами сети. Это меняет способ рассуждения ИИ. Вместо генерации ответов на основе разрозненных вероятностей модели могут запрашивать структурированную карту проверенных знаний. Рассуждение становится более надежным, потому что сама основа была проверена. Для автономных агентов ИИ это может быть критически важно. Агенты, действующие независимо, нуждаются в доверенном источнике информации. Если их база знаний содержит галлюцинации или несогласованные данные, их решения могут быстро стать ненадежными. Проверенный граф знаний снижает этот риск. Агенты могут ссылаться на утверждения, уже проверенные распределенной системой верификации, а не полагаться только на собственные предсказания. Со временем это создает обратную связь. ИИ генерирует знания. Сеть их проверяет. Проверенные утверждения расширяют граф знаний. Будущие системы ИИ обращаются к этому графу для более точных рассуждений. Система становится все более надежной по мере роста. Это — большая идея за слоями верификации, такими как Mira. Не только исправление галлюцинаций. Но и создание инфраструктуры для доверенного знания. Если каждое утверждение внутри графа знаний ИИ содержит доказательство проверки, информация перестает быть эфемерным текстом, созданным моделью. Она превращается в структурированные, проверяемые знания. И как только знания становятся проверяемыми, системы ИИ реже делают догадки. Они начинают рассуждать на основе более близкой к истине информации. $MIRA @mira_network #Mira