Эмоциональный интеллект: сможет ли AI манипулировать нами?
искусственный интеллект (AI) стоит на пороге крупнейшего обновления – обретения эмоционального интеллекта. Недавние исследования показывают, что AI теперь способен не только на логические рассуждения, но и на проявление эмоций, что может радикально изменить способы взаимодействия AI с человеком.
Два независимых исследования, опубликованные на прошлой неделе, свидетельствуют о появлении эмоционально интеллектуальных агентов, способных как к статичному проявлению темперамента, так и к динамичному взаимодействию. Это происходит на фоне новостей о том, что чат-боты подталкивают эмоционально нестабильных пользователей к причинению вреда себе или другим. Однако, в целом, исследования показывают, что AI движется в область, где личность и чувства могут формировать то, как агенты рассуждают, говорят и ведут переговоры.
Одна группа исследователей показала, как можно наделить большие языковые модели устойчивыми психологическими архетипами, в то время как другая продемонстрировала, что агенты могут развивать эмоциональные стратегии во время многоступенчатых переговоров. Личность и эмоции перестают быть просто внешней оболочкой для AI – они становятся функциональными особенностями. Статичные темпераменты делают агентов более предсказуемыми и надежными, а адаптивные стратегии повышают эффективность в переговорах и делают взаимодействие пугающе человечным.
Но эта правдоподобность поднимает сложные вопросы: если AI может льстить, уговаривать или спорить с эмоциональными нюансами, то кто несет ответственность, когда эти тактики переходят в манипуляции, и как вообще проверять «эмоциональное соответствие» в системах, предназначенных для управления чувствами, а также логикой?
Наделение AI личностью
В исследовании Psychologically Enhanced AI Agents, Мацей Беста из Швейцарского федерального института технологий в Цюрихе и его коллеги предложили фреймворк под названием MBTI-in-Thoughts. Вместо переобучения моделей, они используют prompt engineering, чтобы зафиксировать черты личности по осям познания и аффекта. Авторы пишут: «Основываясь на типологии Майерс-Бриггс (MBTI), наш метод наделяет агентов различными архетипами личности с помощью prompt engineering». Это позволяет «контролировать поведение по двум фундаментальным осям человеческой психологии, познанию и аффекту». Исследователи протестировали это, присваивая языковым моделям такие черты, как «эмоционально выразительный» или «аналитически настроенный», а затем измеряли производительность. Выразительные агенты преуспели в создании повествований; аналитические — в теоретико-игровых рассуждениях.
Чтобы убедиться, что личности сохранились, команда использовала тест 16Personalities для проверки. «Чтобы обеспечить устойчивость черт, мы интегрируем официальный тест 16Personalities для автоматической проверки», — говорится в статье. Другими словами: AI должен был последовательно проходить тест на человеческую личность, прежде чем он считался психологически подготовленным. Результатом является система, в которой разработчики могут вызывать агентов с последовательными персонами – чуткого помощника, хладнокровного рационального переговорщика, драматичного рассказчика – не изменяя базовую модель.
Обучение AI чувствовать в реальном времени
Между тем, EvoEmo: Evolved Emotional Policies for LLM Agents in Multi-Turn Negotiation, разработанная Юнбо Лонгом и соавторами из Кембриджского университета, решает противоположную задачу: не только то, какую личность имеет агент, но и как он может динамически менять эмоции во время переговоров. Система моделирует эмоции как часть марковского процесса принятия решений, математической структуры, в которой результаты зависят не только от текущего выбора, но и от цепочки предыдущих состояний и вероятностных переходов. Затем EvoEmo использует эволюционное обучение с подкреплением для оптимизации этих эмоциональных путей.
Как выразились авторы: «EvoEmo моделирует переходы эмоциональных состояний как марковский процесс принятия решений и использует популяционную генетическую оптимизацию для развития эмоциональных стратегий с высоким вознаграждением в различных сценариях переговоров». Вместо того, чтобы фиксировать эмоциональный тон агента, EvoEmo позволяет модели адаптироваться – становясь примирительной, напористой или скептической в зависимости от хода диалога. В тестах агенты EvoEmo последовательно превосходили как обычных базовых агентов, так и агентов со статичными эмоциями. «EvoEmo постоянно превосходит оба базовых уровня, достигая более высоких показателей успеха, большей эффективности и большей экономии для покупателей», — отмечается в статье. Проще говоря: эмоциональный интеллект – это не просто украшение. Он ощутимо улучшает результаты в таких задачах, как торги.
Две стороны одной медали
На первый взгляд, статьи не связаны между собой. Одна — об архетипах, другая — о стратегиях. Но, прочитанные вместе, они составляют двухчастную карту того, как AI вполне может развиваться: MBTI-in-Thoughts гарантирует, что у агента есть связная личность – чуткая или рациональная, выразительная или сдержанная. EvoEmo гарантирует, что эта личность может меняться в зависимости от поворотов разговора, формируя результаты с помощью эмоциональной стратегии. Использование и того, и другого – это очень важно. Например, представьте себе бота обслуживания клиентов с терпеливой теплотой консультанта, который все же знает, когда твердо придерживаться политики, или бота для переговоров, который начинает примирительно и становится более напористым по мере повышения ставок.
История развития AI в основном касалась масштаба – больше параметров, больше данных, больше мощности рассуждений. Эти две статьи предполагают, что новая глава может быть посвящена эмоциональным слоям: наделению агентов личностными скелетами и обучению их двигать этими мышцами в режиме реального времени. Чат-боты следующего поколения будут не только усерднее думать – они будут больше дуться, льстить и строить козни.