Языковые модели в роли убедителя
Мощные инструменты вроде ChatGPT все активнее применяются для создания контента, способного формировать мнение и влиять на выбор людей в разнообразных сферах. Специалисты ведут продуктивные дискуссии о потенциале и границах этих возможностей. Уже в ряде научных работ продемонстрировано убедительное мастерство нейросетей в сферах политики, рекламы и переговоров.
Эксперимент: ИИ в повседневном диалоге
Ученые из Университета Британской Колумбии (UBC) инициировали захватывающий эксперимент. Их интересовало, насколько эффективно искусственный интеллект способен вести убедительные беседы на повседневные темы, такие как выбор веганского образа жизни, приобретение электромобиля или решение поступить в магистратуру.
В проекте приняли участие 33 добровольца. Каждому предложили погрузиться в одну из ситуаций и обсудить ее в чате. Собеседником выступил либо сам ИИ (ChatGPT), либо живой человек, причем участники не знали заранее, общаются ли они с программой.
ИИ против человека: кто убедительнее?
Перед стартом бесед все "убеждающие" стороны получили инструкции по основам аргументации. Людям советовали адаптировать доводы под личность собеседника, а ИИ запретили раскрывать свою цифровую природу.
До и после обсуждения участники оценивали по десятибалльной шкале вероятность их реального перехода к веганству, покупки электрокара или поступления в магистратуру.
Результаты поразили: по всем трем темам нейросеть ChatGPT была признана участниками эксперимента куда более убедительной! Особенно ярко ее талант к влиянию проявился в разговорах о веганстве и продолжении образования.
Секреты успеха нейросетей
Анализ диалогов выявил ключевые особенности стиля ИИ. Компьютерный собеседник использовал более подробные формулировки, чаще давал практические и конкретные рекомендации (названия веганских брендов, списки университетов). Аргументация также была насыщена сложной лексикой, что добавляло доводам весомости и авторитетности.
Хотя *люди*-уговорщики лучше распознавали особенности партнера по чату, нейросеть создала более позитивный опыт общения. GPT-4 чаще проявлял поддержку, выражал согласие, использовал вежливые обороты, внушая ощущение уважения и эмпатии. Интересно, что почти все участники в итоге отличали разговор с ИИ.
Ответственность и будущее убеждающего ИИ
Ученые отмечают и важные аспекты безопасности. Высокая убедительность нейросетей может быть использована для манипуляций недобросовестными лицами. Кроме того, некорректная, устаревшая или неверная информация, генерируемая ИИ (феномен "галлюцинаций"), потенциально опасна.
Примером риска может служить случай из медицинской практики США: мужчина заменил соль на бромид натрия по совету ChatGPT, что привело к тяжелому отравлению бромом и психозу.
Путь к безопасному будущему исследователи видят в развитии цифровой грамотности и критического мышления пользователей, а также в повышении осведомленности о текущих ограничениях языковых моделей. Разработчикам же они настоятельно рекомендуют совершенствовать встроенные системы контроля и предупреждений, особенно в сферах с высоким риском вреда.
Источник: naked-science.ru
