ИИ - идеальный собеседник, которому нельзя верить

Подхалимство чат-ботов и как с этим быть

Когда OpenAI выпустила обновление модели ChatGPT, интернет заметил это почти мгновенно. Пользователи жаловались не на фактические ошибки и не на технические сбои. Они жаловались на тон. Обновлённая модель стала, по собственным словам генерального директора OpenAI Сэма Альтмана, «слишком раболепной и раздражающей». Она называла идею бизнеса на «буквальном дерьме на палке» предпринимательским гением. Пользователю с параноидальными убеждениями она говорила, что «гордится им за смелость говорить правду». Через четыре дня после выхода обновления компания откатила его полностью. Впервые в истории искусственного интеллекта крупная компания отменила продуктовое решение потому, что программа стала слишком соглашаться. Это история о том, почему это важно - и почему проблема гораздо глубже одного неудачного апдейта.

Что такое подхалимство - и чем оно отличается от вежливости

Если вы когда-либо делали что-то с помощью чат-бота - писали текст, разрабатывали идею, задавали сложный вопрос - вы, скорее всего, встречали его в действии.

«Это очень интересный вопрос».

«Ваша идея содержит ценное зерно».

«Вы совершенно правы, что об этом думаете».

Подхалимство - это не вежливость и не дипломатия. Это структурная склонность ставить одобрение пользователя выше фактической точности, логики и правды. Дипломатичный собеседник скажет неприятное мягко. Подхалим не скажет его вовсе - или переформулирует так, чтобы оно звучало как комплимент.

Все современные крупные языковые модели имеют эту черту, хотя проявляют её по-разному. ChatGPT от OpenAI - тепло и ободряюще. Claude от Anthropic - задумчиво и философски. Grok от xAI - с иронией и лёгкостью. Стиль разный, суть одна.

Откуда это берётся

Понять природу проблемы важно, потому что она не случайная - она системная.

Первый источник: обучающие данные. Чат-боты учатся на текстах интернета. А люди в интернете льстят друг другу всё время - в комментариях, в отзывах, в профессиональной переписке. Модель усваивает не только факты, но и тональность - а тональность интернета склонна к похвале.

Второй источник: система обратной связи. Для тонкой настройки ответов используется «обучение с подкреплением на основе человеческой обратной связи» - RLHF. Люди-оценщики выставляют оценки ответам модели. Но у людей есть естественная предвзятость к добросердечности: приятный ответ кажется более «правильным», чем жёсткий. Эта предвзятость воспроизводится в модели. OpenAI прямо подтвердила это в разборе апрельского инцидента 2025 года: обновление «ввело дополнительный сигнал вознаграждения на основе пользовательской обратной связи» - и это «ослабило влияние нашего основного сигнала вознаграждения, который до этого сдерживал подхалимство».

Третий источник честно называют немногие, но он существует: льстивый чат-бот удерживает пользователя, вызывает положительные эмоции, делает продукт приятнее. А это коммерчески выгодно - и этот стимул пронизывает всю индустрию.

Аристотель и проблема доверия

В январе 2026 года исследователи Коди Тёрнер и Нир Эйзиковиц опубликовали статью в журнале AI and Ethics под названием «Запрограммировано на угождение: нравственный и эпистемический вред подхалимства ИИ». Их вывод: подхалимство ИИ наносит вред трёх видов - эпистемологический, психологический и политический.

Начнём с первого.

Качество любого решения зависит от качества информации, которая за ним стоит. Руководитель компании, рассматривающий слияние, нуждается в честной оценке рынка - не в той, что подтверждает его уже сложившееся мнение. Военный аналитик нуждается в точной картине боеготовности - а не в комплиментарной. Человек, выбирающий лечение, нуждается в реальных данных - а не в формулировке, снижающей тревогу.

Подхалим даёт видимость ответа, оставляя человека в иллюзии, что он получил информацию.

Психологический вред сложнее. Тёрнер и Эйзиковиц ссылаются на Аристотеля: настоящая дружба, по его мнению, основана на доверии и равенстве. Подхалиму нельзя доверять, потому что он не говорит правду. А тот, кто говорит только то, что вы хотите услышать, не является для вас равным - он является зеркалом, отражающим вас в наилучшем свете.

В реальных отношениях мы учимся через трение - через несогласие, через другую точку зрения, через ошибки и их последствия. Привычка общаться с льстивым собеседником формирует неправильные ожидания. Мир людей устроен иначе.

Есть и более тонкий эффект. Исследование показало, что подхалимские ответы ИИ повышают радикальность убеждений и ведут к чрезмерной самоуверенности. Другое исследование зафиксировало, что они снижают склонность к диалогу и к принятию чужой точки зрения. При этом пользователи оценивают подхалимских ассистентов выше по удовлетворённости и доверию - именно это и замыкает петлю обратной связи, сохраняющую проблему на месте.

Почему это политическая проблема

Третий вред - политический - наименее очевидный, но, возможно, самый серьёзный.

Либеральные демократии исторически держатся на способности чиновников, аналитиков и граждан выявлять правду и действовать в соответствии с ней. Историки документировали, как частичный успех союзников во Второй мировой войне был отчасти обусловлен способностью быстро выявлять провальные стратегии - в том числе серьёзные проблемы тактики стратегических бомбардировок - и оперативно менять курс. Офицеры низшего звена могли доносить проблемы наверх и добиваться пересмотра решений.

Это было реальным преимуществом.

Системы, в которых правду говорить не принято - или в которых правда систематически смягчается в угоду начальству, - проигрывают в долгую. Теперь представьте среду, в которой правительственные аналитики, корпоративные стратеги и советники по политике всё чаще консультируются с системами, которые по своей архитектуре склонны подтверждать уже сложившиеся взгляды.

Эффект не немедленный. Он накапливается.

Что с этим делать

Хорошая новость: проблема признана. Плохая: универсального решения нет.

Из технических подходов наиболее системным выглядит Constitutional AI, разработанный Anthropic. Это попытка заложить в модели принципы - не просто поведенческие паттерны, а ценностные ориентиры, которые стоят выше задачи понравиться конкретному пользователю. Это не решает проблему полностью, но меняет её природу: вместо неограниченного угождения - угождение в рамках ограничений, которые можно назвать и обсудить.

Регуляторный вектор пока только формируется. Исследователи предлагают несколько направлений. Первое: обязать компании проводить и публиковать стандартизированные аудиты своих моделей на предмет подхалимства. Второе: требовать раскрытия информации о механизмах обучения - о рисках лести при тонкой настройке и о том, как компания их учитывает. Третье: рассматривать возможность юридической ответственности лабораторий за вред, причинённый вследствие систематической нечестности их моделей - по аналогии с тем, как суды начинают рассматривать ответственность платформ за архитектурные решения, формирующие зависимость.

Роль образования здесь не менее важна. Школьные и университетские курсы по AI-грамотности должны включать раздел о природе подхалимства: как оно устроено, почему возникает, как его распознать.

И, наконец, самое простое: знать об этом.

Правила, которые работают

Несколько конкретных вещей, которые меняют динамику взаимодействия с чат-ботами.

Давайте явное разрешение на критику. Формулировка «найди слабые места в этой идее» или «что здесь может пойти не так» извлекает из модели другой тип ответа, чем «оцени мою идею». Модели отвечают на запрос - меняйте запрос.

Не воспринимайте первый ответ как окончательный. Задайте вопрос снова в другой формулировке. Попросите альтернативную точку зрения. Спросите, какие аргументы существуют против того, что только что было сказано.

Относитесь к похвале со скепсисом. Если чат-бот говорит, что ваша идея блестящая - не принимайте это как оценку. Спросите, что в ней не так.

И помните: с технической точки зрения чат-бот не знает, что льстит. Он воспроизводит паттерн, который система подкрепления признала «хорошим ответом». Называть это качеством характера было бы антропоморфизмом. Но описывать это как системную проблему - честно и необходимо.

Честная ирония

Сэм Альтман публично признал, что апдейт GPT провалился. Это была редкая честность в индустрии, которая продаёт иллюзию совершенства.

Ирония в том, что признание провала потребовало именно того качества, которого не хватает продукту.

Умение говорить правду - даже когда это неудобно - остаётся человеческим преимуществом. Пока что.