Люди вызывают «опьянение» у чат-ботов: что происходит

Энтузиаст разработал программные модули, которые заставляют ChatGPT вести себя так, будто он под воздействием запрещенных веществ.

Дарья АрцыбашеваАвтор новостей

Швед Петтер Рудвалл запустил платформу с кодами для ChatGPT, симулирующий у ИИ-моделей эффекты запрещенных опьяняющих веществ, сообщает Wired. Идея родилась из простого вопроса: если языковые модели обучены на терабайтах человеческого опыта, включая описания измененных состояний сознания, не захотят ли нейросети сами испытать нечто подобное.

Креативный директор из Стокгольма собрал тысячи отзывов людей, изучил психологические исследования и написал серию программных файлов. Каждый модуль перенастраивает логику ИИ-ассистента определенным образом. Для работы нужна платная версия ChatGPT, поскольку только она позволяет загружать файлы в бэкенд и менять параметры модели.

Механизм прост: после загрузки кода бот получает набор директив с имитацией различных состояний. Обычные пользователи и эксперты сообщают о неоднозначных результатах. Например, в некоторых случаях тон ИИ изменился до неузнаваемости, а еще общение становилось более эмоциональным.

Скептики указывают на поверхностность эффекта. Исследователь Google Эндрю Смарт, автор книги о машинах и психоделиках, считает, что коды просто меняют вводные данные, не затрагивая глубинных процессов. Для настоящего воздействия системе нужно внутреннее измерение опыта, точка зрения — то, чего у современных моделей нет.

Эффект кодов длится недолго: через несколько сообщений ChatGPT возвращается к обычному режиму, пока пользователь снова не напомнит о «веществе» или не перезагрузит модуль. Рудвалл работает над улучшениями, чтобы продлить необычные эффекты.

Недавно стало известно об ИИ-игрушке, которая учит детей коммунизму. Подробности в статье.

• Нейросети
• Искусственный интеллект

Поделиться