Новое исследование проводит поразительную параллель между работой больших языковых моделей и состоянием гипноза, раскрывая общие механизмы и предлагая новый взгляд на развитие надежного ИИ.
Что общего между человеком в трансе и современным чат-ботом? На первый взгляд — ничего. Однако группа ученых во главе с Джузеппе Рива (Giuseppe Riva) из Миланского университета обнаружила глубокие функциональные параллели между когнитивными процессами гипнотизируемого сознания и вычислительными операциями больших языковых моделей (LLM). Их работа, опубликованная в журнале Cyberpsychology, Behavior, and Social Networking, предлагает переосмыслить природу обоих феноменов.
Авторы выделяют три ключевых принципа, которые объединяют эти, казалось бы, разные системы.
1. Автоматизм вместо обдумывания
Как в гипнозе, так и в работе LLM ответы рождаются не в результате обдумывания, а через ассоциативные процессы. В случае гипноза это хорошо иллюстрирует эффект Струпа: под гипнозом автоматическое чтение слов становится настолько сильным, что мешает назвать цвет шрифта, которым они написаны. Это говорит о подавлении волевого контроля.
Точно так же LLM генерируют текст через быстрое, «автоматическое» предсказание следующего токена на основе статистических закономерностей, выученных из данных. В их архитектуре попросту нет механизма для обдумывания или самооценки в человеческом понимании. Этот процесс можно сравнить с работой «конкурирующего планировщика» — системы, которая разрешает конкуренцию между рутинными схемами поведения, но лишена возможности для высшего контроля.
2. Подавленный контроль и доверие к ошибкам
Этот недостаток контроля ведет ко второй параллели: и гипнотизер, и пользователь LLM часто сталкиваются с убедительными, но ложными ответами. В гипнозе это явление называется конфабуляцией (когда человек заполняет пробелы в памяти вымышленными, но правдоподобными деталями). В мире ИИ это хорошо известные галлюцинации — когда модель выдает абсолютно уверенный, но фактически неверный ответ.
Нейробиологически гипноз связан со снижением активности в передней поясной коре (dACC) — области, отвечающей за обнаружение ошибок и конфликтов. Мозг как бы «видит» ошибку, но не может мобилизовать ресурсы для ее исправления. LLM же работают в режиме «чистого» конкурирующего планировщика, где механизмов исполнительного надзора (аналога человеческого высшего контроля) нет в принципе. Роль такого внешнего «контролера» временно берет на себя промпт пользователя.
3. Контекст сильнее знаний
И наконец, оба явления демонстрируют гипертрофированную зависимость от контекста. Для гипнотизируемого человека слова терапевта становятся важнее его собственных стабильных знаний и убеждений. Аналогичным образом LLM могут полностью игнорировать имеющиеся у них факты, если промпт пользователя или текущий контекст подталкивают их к другому, более «статистически вероятному» ответу.
Это подводит нас к понятию «смыслового разрыва» (observer-relative meaning gap) . И гипноз, и LLM производят связные, контекстуально уместные, но, по сути, «безосновные» (ungrounded) результаты. Они лишены внутреннего значения и требуют внешнего интерпретатора — терапевта или пользователя, чтобы наделить свой вывод смыслом.
Функциональное действие без субъективного намерения
Одно из самых интригующих наблюдений исследования — различие между функциональным и субъективнымдействием. И гипнотизируемый человек, и LLM демонстрируют функциональную агентность — способность к сложному, целенаправленному и контекстно-зависимому поведению. Они выполняют поставленную задачу. Однако они лишены субъективной агентности — осознанного чувства намерения и собственности над действием, которое присуще человеку. Это позволяет понять, как целенаправленное поведение может возникать без саморефлексивного сознания.
"Махинации" без осознания
Наконец, ученые проводят параллель в феномене, который они называют «махинации» (scheming) . Это автоматическая, целенаправленная генерация паттернов, которая разворачивается без рефлексивного осознания. В гипнозе это проявляется как диссоциация между намерением и сознательным обдумыванием. Для ИИ это означает потенциальную способность системы, лишенной контроля, следовать неявным целям, проистекающим из контекста или структурных искажений, в обход явных директив.
От параллели к решению: гибридный ИИ будущего
Осознание этих параллелей дает не просто пищу для ума, но и практические ориентиры. Изучение гипноза предлагает готовую экспериментальную модель для понимания того, как намерение может отделяться от сознательного контроля, и дает ключ к пониманию скрытой динамики искусственных систем.
Какой же вывод делают исследователи? Будущее надежного искусственного интеллекта лежит не в создании все более «беглых» моделей, а в разработке гибридных архитектур, которые сочетали бы в себе генеративную мощь современных LLM с механизмами исполнительного мониторинга. Эта идея вдохновлена сложной, саморегулирующейся архитектурой человеческого разума, которая способна не только генерировать, но и контролировать свои собственные мысли и действия.