ИИ определяет личность человека по перепискам в ChatGPT: подробности

Каждый раз, когда вы пишете ChatGPT что-то личное, вы оставляете след, по которому алгоритм способен описать вас точнее, чем вы сами ожидаете.

Дарья АрцыбашеваАвтор новостей

Группа исследователей из Швейцарского федерального технологического института собрала больше 62 тысяч реальных диалогов от 668 добровольцев и обучила языковую модель на этих данных. Параллельно участники прошли классический психологический тест — «Большую пятерку»: он измеряет открытость опыту, добросовестность, общительность, доброжелательность и эмоциональную нестабильность. Затем исследователи сравнили, что модель «прочитала» в чатах — и что показал тест.

Результат оказался неожиданным, алгоритм угадал уровень каждой черты лучше, чем это сделало бы случайное распределение. По общительности точность превысила случайное угадывание на 44%. Это не идеальный портрет, но достаточно точный, чтобы говорить о реальном сигнале внутри обычной переписки.

Особенно интересно, какие темы «сдают» вас сильнее всего. Разговоры о психическом здоровье хорошо предсказывают уровень общительности — экстраверты и интроверты ставят вопросы по-разному, используют разные слова, ищут разное. Обсуждения религии и морали коррелируют с добросовестностью. Разговоры о настроении и внутренних состояниях связаны с открытостью к новому. При этом модель работает даже на нейтральных, бытовых запросах — просто точность там ниже.

Есть и еще один неочевидный вывод: чем активнее человек пользуется сервисом, тем проще его профилировать. Больше сообщений — больше паттернов. Это означает, что лояльные пользователи рискуют больше, чем те, кто заходит раз в месяц.

ChatGPT насчитывает около 800 миллионов активных пользователей в месяц. Все их диалоги хранятся на серверах OpenAI. Профиль личности, собранный из истории запросов, это инструмент, который можно использовать в рекламе, персонализированном убеждении или, в крайних сценариях, в информационных кампаниях. Недавно ChatGPT начал тестировать рекламные интеграции, и это делает вопрос еще острее.

Сейчас можно регулярно чистить историю чатов в настройках ChatGPT — это удаляет данные из памяти модели. Специалисты рекомендуют разделять запросы: рабочие задачи не обязательно смешивать с личными размышлениями в одном аккаунте.

Также недавно ученые выяснили, что людям нравится ИИ-музыка, если они считают ее «настоящей». Подробности в статье.

НейросетиchatgptИскусственный интеллектПоделиться