Как ИИ влияет на процесс принятия решений: ученые обеспокоены
Идея «безопасного» искусственного интеллекта часто сводится к простому рецепту: всегда оставлять «человека в контуре» принятия решений. Но что, если к тому моменту, когда человек делает выбор, сама информация, на которую этот выбор опирается, уже отфильтрована и переработана ИИ?
Светлана ЛевченкоАвтор новостей
Этот вопрос лег в основу нового исследования Лориен Джордан, доцента Колледжа образования Университета Южной Флориды. Поводом для новой научной работы стали недавние споры между крупными ИИ‑компаниями и Министерством обороны США, в том числе обсуждение того, как такие модели как Claude могут применяться в военном контексте.
Формально ответственность за решения остается за людьми. Но, как подчеркивает Джордан, это лишь вершина айсберга: «Мы постоянно повторяем, что в контуре принятия решений нужен человек, но когда решения масштабируются очень быстро и в огромных объемах, что значит быть по‑настоящему ответственным, если информация, поступающая к человеку, уже предварительно сформирована искусственным интеллектом?».
В центре работы Джордан — не отдельные продукты и бренды, а «наследственность» и инфраструктура ИИ: крупные языковые модели, в частности, ChatGPT или Claude, опираются на одни и те же научные подходы, общую базу публикаций и данных, тесно связаны с университетами, издательствами, исследовательскими консорциумами. Переключение с одной платформы на другую не означает выхода из этой системы.
«Многие спорят о том, какая компания выглядит более “ответственной”, но при этом упускают из виду более широкие инфраструктуры, которые соединяют эти технологии», — отмечает Джордан.
Эти вопросы выходят далеко за рамки академической науки. ИИ все активнее участвует в принятии решений в здравоохранении, образовании, бизнесе и национальной безопасности. Даже если врач, учитель или аналитик в итоге сам подписывает заключение, алгоритмы уже могли заранее отобрать «нужные» данные, подсказки и варианты ответа, незримо сузив поле выбора и таким образом повлияв на него.
Это заставляет ученых внимательно взглянуть на то, как именно встроены ИИ‑инструменты в существующие практики работы с данными и текстами. Сейчас Джордан готовит новое исследование, в котором участники будут использовать ИИ в реальном времени и смогут наблюдать, как система интерпретирует и перестраивает их собственные слова. Это должно помочь наглядно показать, где именно «вшиты» предпосылки и ограничения модели.
Работа Джордан вписывается в растущий пласт исследований, посвященных не только этическим рискам ИИ, но и более широким системам и отношениям, которые делают такие технологии возможными. Осознанность в отношении этих «невидимых» уровней, по мнению специалистов, необходима, если мы действительно хотим говорить об ответственности и контроле при использовании искусственного интеллекта, а не успокаивать себя тем, что «человека в контуре принятия решений» достаточно.
Ранее ученые нашли у ИИ опасную черту: модели слепо верят большинству.
Искусственный интеллектПоделиться
