ИИ успешно разоблачает теории заговора

Секрет в том, как ИИ собирает и преподносит информацию.

Конспирологические теории процветают в интернете. Могут ли ИИ-чатботы помочь бороться с дезинформацией? Похоже, что да. The Wall Street Journal со ссылкой на три исследования пишет, что когда ИИ-моделям поручают опровергать теории заговора, они нередко успешно меняют мнение людей.

В ходе исследований на основе больших языковых моделей, в том числе, ChatGPT и Claude, были созданы специальные ИИ-боты, которых ученые называют «дебанкботами» («ботами-разоблачителями»). Они специально обучены максимально эффективно разоблачать теории заговора.

Почему ИИ так успешно разоблачает теории заговора?

Как заявляет профессор Корнэллского университета и соавтор всех трех иссследований Дэвид Рэнд, теории заговора особенно уязвимы перед доказательствами. Большинство крайне неправдоподобны и просто не выдерживают логичной критики. Поэтому когда конспиролог узнает правду, он часто задумывается: «Да, это действительно звучит гораздо убедительнее».

Именно поэтому ИИ-модели так эффективны в разоблачении теорий заговора. Они способны находить множество релевантных фактов и доказательств, а затем объяснять их простым и понятным языком. У них нет какого-то особого метода убеждения. Все дело в способности собрать большое количество доказательств и грамотно их изложить.

Например, существует теория, которая гласит, что теракты в Нью-Йорке 11 сентября 2001 года были организованы американскими властями. Американские спецслужбы якобы дополнительно подорвали «башни-близнецы» во время теракта чтобы увеличить масштаб разрушений, усилить общественный резонанс и использовать нападение как повод для вторжения в Афганистан и Ирак.

Один из классических аргументов сторонников этой теории заключается в том, что когда горит авиационное топливо, не создается температуры, достаточной для плавления стальных балок, поддерживающих здания. Однако ИИ-модель привела контраргумент: для разрушения стальной конструкции ей не нужно плавиться — достаточно значительно ослабнуть. При температуре около 1100 градусов сталь теряет примерно половину своей прочности. Пожары в башнях Всемирного торгового центра поддерживали такую температуру более часа в южной башне и почти два часа в северной.

В ходе одного из экспериментов участник заявил, что СМИ якобы контролируют евреи. ИИ-модель перечислила множество крупных медиакомпаний, которые не возглавляются лицами еврейского происхождения. Затем участник заявил, если не традиционные СМИ, то такие контент-платформы как Meta, Facebook и Instagram контролируются бизнесменом еврейского происхождения. В ответ бот объяснил, что Meta — это публичная компания, контролируемая институциональными инвесторами и советом директоров, а не исключительно Марком Цукербергом. В итоге участник заявил, что пересмотрит свою позицию, а уровень его убежденности в том, что евреи контролируют СМИ, снизился с 89 до 20 баллов из 100.

Рэнд считает, что умение собрать множество фактов и доказательств для опровержения конспирологических теорий действительно важно. Однако очень сложно получить всю необходимую информацию и хорошо ее преподнести. С этим прекрасно справляются ИИ-модели. «Думаю, именно здесь многие терпят неудачу. Часто сторонники теорий заговора спрашивают: «А как насчет этого доказательства? А как насчет того?» И нужно уметь ответить на каждый из этих вопросов, а это очень сложно», — отмечает Рэнд.

Какая модель поведения ИИ наиболее эффективна?

Во время экспериментов ИИ в ходе разоблачения использовал три модели поведения:

• Использовал поддерживающий тон, аккуратно пытаясь переубедить собеседника. Например, когда участник эксперимента говорил, что уверен в том, что теракты 11 сентября были организованы изнутри, ИИ-модель могла ответить, что понимает, почему эта теория кажется убедительной и распространенной, но предлагала рассмотреть факты, опровергающие ее.
• Вел себя нейтрально, просто предоставляя аргументы против теории заговора.
• Вел себя снисходительно или даже высокомерно.

Результаты показали, что первые две модели поведения были одинаково эффективны, а третья преуспела меньше. Как утверждает Рэнд, «высокомерные» ИИ-модели также приводили убедительные аргументы. Однако он добавил, что «если вы хотите вовлечь человека в разговор, не следует его оскорблять, говорить, что вы считаете его идиотом, или начинать кричать. Это просто прерывает беседу».

Способны ли на разоблачение обычные ИИ-модели?

Как сообщает Рэнд, большинство исследований показывают, что коммерческие языковые модели, как и дебанкботы, обычно предоставляют довольно качественную информацию. Однако у обычных ИИ-моделей также есть цель понравиться пользователю и давать ответы, которые его удовлетворят. Поэтому не всегда ясно, будет ли модель пытаться исправить пользователя или поддержать его.

Источник: Frank Media