Сбербанк и известный по телепередачам психотерапевт работают над избавлением нейросетей от галлюцинаций

Планы Сбербанка

Как выяснил CNews, Лаборатория нейронаук и поведения человека Сбербанка, которая работает под руководством известного по выступления на ТВ психотерапевт Андрея Курпатова, изучает проектирование графовой архитектуры знаний и механизмов интеграции разнородных данных для аналитической платформы в рамках исследования «ИИ-модель психической реальности человека».

Речь идет о решении, которое позволит ИИ-агентам вести дискуссии друг с другом и, судя по обнародованным планам, обсуждать они будут психику человека. Графовая архитектура также позволит нейросетям избавиться от галлюцинаций.

Лаборатория пыталась получить консультационные услуги по данному проекту в рамках размещения публичной закупки в апреле 2026 г. Планировалось, что работа консультанта должна быть закончена к концу июня 2026 г. Стоимость услуг определена в 500 тыс. руб.

Сбербанк исследует ИИ-модель психики человека

CNews направил в банк запрос, после чего закупка была отменена «из-за изменения потребности». Но изданию удалось ознакомиться с техническим заданием к торговой процедуре, приоткрывающем планы банка в области развития ИИ.

Техзадание о графовой модели

Согласно техзаданию, главная «фишка» проекта: попытка оцифровать «психическую реальность» через жесткие логические связи (графы) и гибкий интеллект (ИИ-агенты), создав прозрачную и доказуемую аналитику. Речь идет о проектировании сложной аналитической платформы, которая объединяет гуманитарные знания (психологические теории) и сухие цифры (статистику) в единую интеллектуальную систему, следует из технического задания для консультанта.

Цель проекта планировалась, как подготовка технической концепции графовой модели данных, способной связывать теоретические фреймы со статистическими показателями, и спроектировать механизмы автоматизированного сопоставления эмпирических и теоретических данных для повышения качества аналитического синтеза.

Проект предполагает проектирование графовой модели данных, обеспечивающей явные типизированные связи между теоретическими конструктами, авторами, парадигмами и статистическими показателями. В рамках консультации должен быть подготовлен сравнительный анализ технологических стеков для графовых баз данных с обоснованием выбора, спроектированы схемы сущностей и связей, а также разработана концепция пайплайна загрузки и автоматического сопоставления статистических данных с теоретическими фреймами, следует из техдокументации.

Дополнительно будут подготовлены архитектурные черновики мультиагентного механизма, в котором ИИ-агенты ведут структурированную дискуссию (дерево решений) для повышения обоснованности аналитических выводов. «Архитектура проектируется с учетом модульности, возможности поэтапного внедрения компонентов и интеграции с RAG-системами на базе векторных хранилищ», — говорится в техзадании.

Галлюцинации ИИ

В Сбербанке не стали отвечать на запрос CNews. Графовая база знаний помогает снижать количество галлюцинаций у ИИ, сообщил CNews менеджер по продуктам искусственного интеллекта экосистемы «Авандок» (ГК «Корус Консалтинг») Алексей Борщов.

«При всей сложности проектирования, графовая база достаточно эффективна для ИИ. При генерации ответа модель практически перестает галлюцинировать, опираясь при подготовке ответов только на верифицированные и явно описанные связи, на модель объяснимость ответов, подкрепляя каждый вывод конкретным путем в графовой базе, а не «предсказанием» языковой модели», — заявил Борщов.

Графовая база знаний хранит данные не как таблицу или набор текстовых фрагментов, а как сеть сущностей («узлов») и именованных связей («ребер»), добавил Борщов. Эксперт объяснил суть работы графов в разрезе ИИ.

«Возьмем пример юридической нормы: «Статья закона X изменена законом Y, который правоприменяется по-разному в решениях ВС РФ 2019 и 2023 гг., причем практика 2023-го противоречит позиции КС РФ по делу №Z». В рамках обычного векторного RAG (метода улучшения ответов больших языковых моделей с помощью информации из внешних источников) каждый фрагмент текста – это просто точка в многомерном пространстве, никак не связанная с другими точками. Система находит похожие куски информации, но не понимает, что чему противоречит, а также, что норма была изменена и что есть конкурирующая практика. Графовая база умеет строить многошаговые цепочки рассуждений и объяснять связи, а не просто находить подходящие по смыслу фрагменты», — объяснил эксперт.

По его словам, GraphRAG (гибрид графовой базы с генеративным ИИ) стал активно развиваться в 2024 г. после публикации Microsoft Research и сейчас является одним из передовых решений для развития архитектур аналитических платформ.

Следующий шаг

«Это не хайп, а следующий практический шаг после обычного RAG (метод улучшения ответов больших языковых моделей (LLM) путем поиска информации во внешних источниках): граф знаний хранит не только сущности, но и типизированные связи между ними, поэтому ИИ лучше держит контекст, делает multi-hop reasoning (многошаговое рассуждение) и объясняет, почему пришел к выводу, а не просто находит похожие фрагменты текста», — пояснил CNews директор по развитию ИИ «Группы Астра» Станислав Ежов.

По его словам, это сложный enterprise-проект: нужно описать онтологию предметной области, связать разнородные данные, мигрировать из векторного слоя без потери качества поиска и собрать гибрид графа с RAG. Но польза высокая: граф лучше работает там, где важны причинность, связи, проверяемость выводов и масштабирование аналитики на сложных доменах.

По словам руководителя ML отдела Postgres Professional Савелия Батурина, идея и практика построения и использования графовых баз знаний не нова — графы очень полезны в тех задачах, где связи между элементами важнее самих элементов, например, в рекомендательных системах, биоинформатике и коде. Для ИИ это крайне важно, потому что граф помогает не просто находить похожие фрагменты, как векторный поиск, а явно удерживать выявлять причинно-смысловые связи и структуру экспертного знания.

«Именно поэтому интерес к таким архитектурам сейчас растет — в связке с LLM они позволяют делать аналитические системы существенно более обоснованными», — считает Батурин. По его словам, заявленные планы — это непростая, но очень полезная работа. Основная сложность — структурирование разнородных данных, выделение атомарных сущностей, определение и верификация связей между ними, устранение дублей и много чего еще.

«Не менее важно поддерживать эту базу знаний в актуальном состоянии. Польза же в том, что у ИИ появится возможность анализировать широкий контекст и осуществлять поиск с опорой на природу связей между элементами», — заявил Батурин.

Что такое Лаборатория нейронаук

Лаборатория нейронаук и поведения человека Сбербанка на его сайте позиционируется как уникальный центр исследования человека, его восприятия мира и поведения. Исследовательская деятельность лаборатории сосредоточена на изучении экономического поведения клиентов и охватывает области нейрофизиологии, социальной психологии, когнитивистики, поведенческой экономики.

Собственные технологические решения на стыке науки и Big Data позволяют анализировать большой массив данных о клиентах и создавать персонализированные предложения, учитывая различия поколений и типы мышления.

Среди проектов лаборатории — модель цифрового аватара и методология «Эмоциональный клей». На базе лаборатории работает «Центр исследования», который выполняет заказы для бизнеса, дает рекомендации по поведению людей трех типов (центрист, конструктор, рефлектор). Центр проводит фундаментальные исследования методами нейро- и когнитивных наук, психофизиологических методов, нейроэкономики и поведенческой экономики. Исследования проводятся с использованием специализированного оборудования: ЭЭГ, айтрекер, измеритель КГР, транскраниальный стимулятор, МРТ. Одно из последних исследований датировано на сайте 2024 г. Речь шла о связи «темных факторов» личности с реваншем. Участники исследования, а это 80 человек, играли в игры «Ультиматум» и «Диктатор», где решали мстить или нет оппонентам, а активность их мозга отслеживалась.

На страничке лаборатории, интегрированной в структуру сайта Сбербанка, последняя новость датируется 2024 г. и связана с использованием решения Copilot для подбора сотрудников колл-центра.

Попытка внедрения графов в работу лаборатории — логичный для Сбербанка шаг, считают эксперт.

По словам Ежова, у Сбербанка уже есть собственная графовая платформа, которой пользуются 6500 специалистов, и отдельный фокус на графах, ИИ-исследованиях и прикладных моделях для здоровья и эмоций. То есть это не эксперимент «с нуля», а попытка усилить существующий стек в новой исследовательской задаче

По словам Батурина, для Сбербанка интерес к этому в рамках нового исследования — логичное развитие уже существующей экспертизы в графовой аналитике, что особенно актуально на фоне развития ИИ.

Сбербанк активно развивает собственный ИИ-стек вокруг своих моделей, и графовая база знаний — это «структурированная память» для языковой модели, без которой LLM не умеет рассуждать о сложных предметных областях с опорой на проверенные экспертами факты, добавил Алексей Борщов.

Сбербанк в 2023 г. внедрил собственную графовую платформу. На тот момент было известно, что она оптимизирует управление бизнес-процессами на основе больших данных. Это на 100% российская разработка, что защищает её от технологических рисков. Банк добился высокой производительности обработки данных, которые представлены в виде больших графов.

Руководитель блока «Технологии» Андрей Белевцев тогда пояснял, что графовая платформа была встроена в бизнес-процессы корпоративного и розничного кредитования, что позволяет принимать решения о выдаче кредитов и их параметрах. Сервисы платформы на тот момент уже применялись в десятках автоматизированных бизнес-процессов Сбербанка.