Fake News. Как создаются фейковые новости и можно ли их распознать
8 июня 2020 от Даркнетчик
Фейковые новости влияют на политику больших стран, их создатели зарабатывают немалые деньги, используя различные схемы монетизации, а в будущем fake news смогут сокрушать бизнесы. Рассказываю, кто и зачем создает фейковые новости, как организуются поддельные информационные кампании и как распознать фейк обычному пользователю.
Разбираемся в понятиях
В самом названии fake news есть немного фейка: перевод калькой этого сочетания слов искажает смысл понятия, потому что поддельные новости существовали всегда. Еще в XIII веке до н.э. цари Египта и Хеттского государства начертали на камнях своих дворцов сообщения о победе в битве, которая на самом деле завершилась вничью. В 1835 году (эпоха профессиональной журналистики в разгаре) газета The New York Sun удвоила продажи сообщив, что астроном разглядел в сверхмощный телескоп человекоподобных жителей Луны. В Экс экс веке с поддельной новости о захвате радиостанции началась Вторая Мировая война.
Во всех перечисленных примерах распространить информацию наширокую аудиторию можно было только через определённый канал связи с ней — камень на стене дворца, газету, радио (на смену которому пришло телевидение). Доступ к нему для желающих распространить такую информацию был строго ограничен.
В наше время генерировать и распространять fake news (будем называть их «фейковыми новостями») может любой, потому что в начале XXI века появились социальные сети, которые стали самостоятельной и неограниченной медиасредой. Рост их аудитории и разнообразие форматов информации (текст, фото, аудио, видео, трансляции) привели к «демократизации рупоров», которые ранее были только в руках властей или профессионалов. Более того, именно в соцсетях транслятор фейковых новостей общается с аудиторией напрямую, минуя журналистов, государственную цензуру и другие фильтры.
А если задействовать в соцсетях технические и коммуникационные технологии, любое фейковое сообщение можно распространять не хуже вечерних новостей Первого канала. Нужен только специфический мотив.
image
Три составляющих фейковых новостей: соцсети, телекоммуникационные технологии и специфическая мотивация. Источник: TrendMicro
Устанавливаем мотивы
Фейковые новости практически всегда либо про политику, либо про деньги. Политических манипуляторов привлекает в соцсетях их «народный» характер, а коммерческих злоумышленников — ещё и монетизация.
Политика. Чаще всего fake news генерируются для влияния на выборы или какую-либо политическую фигуру. Традиционные источники информации для этого не совсем подходят, ведь обычный человек всё более склонен верить «таким же простым людям, как и он» в соцсетях, а не «аффилированным с государством или корпорациями» СМИ. Именно поэтому фейковые новости создаются с прицелом на соцсети — здесь у каждого участника есть определённый «соседский» круг доверия.
Деньги. Создавая фейковые новости, можно усиливать активность определённых групп потенциальных клиентов. «Только три знака зодиака переживут 2020 год…» — кликбейт-заголовок, который в итоге может привести на посадочную страницу сервиса платной рассылки гороскопов. Соцсеть в этом случае играет роль хирургически точного инструмента вовлечения нужных групп потенциальных клиентов в орбиту влияния бренда. А пережив 2020 год, представители «неудачливых» знаков уже и не вспомнят о короткой новости, репост которой они увидели в тематической группе.
В будущем появится ещё и третий мотив — конкуренция, то есть фейковые новости всё чаще будут создавать для подрыва репутации бизнеса. К примеру, в 2017 году Комиссия по ценным бумагам и биржам США «накрыла» целую сеть сайтов, на которых публиковались платные новостные и псевдоаналитические статьи об определённых компаниях с негативными прогнозами об котировках их акций. Как показало дальнейшее исследование, фейковые материалы действительно влияли на цены и объём сделок с акциями небольших компаний.
Далее разберём, как, собственно, работает механизм создания и распространения фейковых новостей.
Разбираем алгоритм
Фейковые новостные кампании обычно проходят в несколько этапов, хотя это процесс творческий, и в зависимости от целей или особенностей аудитории некоторые стадии могут быть опущены.
1. Разведка
На первом этапе организатор кампании изучает целевую аудиторию. Он отвечает на три основных вопроса: «Кому врать?», «О чём врать?» и «Зачем врать?». Анализ проводится самый широкий — от образовательного уровня и информационной грамотности будущих читателей до их взглядов на жизнь. Собственно, на этом этапе и были пойманы специалисты Cambridge Analytica, которые собирали персональные данные пользователей Facebook для политических целей.
На втором этапе создаётся, собственно, фейковая новость. Её главная особенность в том, что почти всегда «декорации» фальсифицированной истории, то есть участники события, место и время действий, — реальные, а фейком является, собственно, само событие.
В зависимости от масштабов компании, фейковых новостей может быть несколько. К примеру, первая история сообщает о событии, а последующие — развивают тему. Иногда к ним примешиваются даже настоящие новости, которые дополняют картину выдуманной истории. Они направлены на скептическую часть потенциальной аудитории.
Помимо новостей, на втором этапе создаются агенты распространения: фейковые пользователи соцсетей, фейковые новостные сайты, фейковые группы и сообщества. Для этого в ход идут чёрные и белые технологии SMM, позволяющие за деньги плодить и продвигать поддельных пользователей соцсетей. К примеру, в соцсети Weibo (китайский аналог Twitter) селебрити с 300 тыс. подписчиков можно создать примерно за 2,5 тыс. долларов всего за месяц.
3. Распространение
Обычно фейковая новость сперва появляется на таком же фейковом сайте новостей или на любой другой площадке, где публикации никак не контролируются. Далее в дело вступает «гуру» — прокачанный и авторитетный у целевой аудитории блогер, который публикует новость у себя. Сообщение подхватывают боты — реальные пользователи соцсетей или роботы, созданные/привлечённые специально для фейковой новостной кампании. Помимо распространения, они выполняют очень важную функцию — изолируют скептиков, которые остаются в меньшинстве и предпочитают сохранять молчание вместо противостояния фейкам.
4. Эксплуатация
На следующем этапе новость доходит до целевой аудитории и начинает жить своей жизнью. Наиболее вдохновлённые читатели лайкают и репостят фейковое сообщение, делятся им в мессенджерах. Возникает вирусный эффект, который привлекает внимание ещё более широкой аудитории — журналистов и других профессиональных участников медиаполя. Фейковая новость попадает в мейнстрим-медиа. Иногда случаются курьёзы, когда фейковая новость сама всплывает через годы. К примеру, в 2017 году многие мировые СМИ сообщили о российской радиоэлектронной бомбе, якобы способной выводить из строя корабли. При этом впервые информация об этом появилась в соцсети Facebook ещё в 2014 году, когда фейковый «моряк» рассказал о воздействии «электронной бомбы» с самолёта СУ-24 на американский эсминец «Дональд Кук». Впоследствии всё было опровергнуто.
После достижении заданной цели могут потребоваться дополнительные, закрепляющие действия. К примеру, если речь идёт о кампании, подрывающей репутацию какого-либо политика, в информационное поле могут быть запущены позитивные новости о нём, которые не имеют прямого отношения к фейковой истории, но несколько корректируют образ жертвы в глазах общественности. Такие действия призваны устранить у общественности ощущение травли или спланированной акции в отношении политика.
7. Заметание следов
Последний этап — сокрытие следов активности. Наиболее распространённая технология позволяющая это сделать, — отвлекающая новость. Используя уже созданную инфраструктуру из ботов можно вбросить новое «информационное» сообщение. По своей тематике оно должно совершенно отличаться от прежней фейковой истории, быть ещё более громким и резонансным. Такая фейковая новость переключает внимание общественности на новую проблему и «глушит» голоса тех, кто, возможно, к этому моменту сумел идентифицировать прежний фейк.
Теперь, разобравшись в алгоритмах, давайте посмотрим на фейковую новость не глазами создателей, а со стороны аудитории. И выясним параллельно, как противостоять fake news?
Вырабатываем «иммунитет»
Поскольку fake news бьют прямой наводкой по пользователям, первый рубеж обороны могут составить только сами читатели. Прежде всего, они должны определять фейковые новости по следующим признакам:
1. Гиперболизированные и кликбейтные заголовки.
image
Новостные заголовки обычно передают суть информационного сообщения, а не создают загадок
image
Когда умирает действительно «легендарный рок-музыкант, хиты которого знают все» достаточно написать его имя, чтобы привлечь внимание читателей
Заголовки новостей коротко описывают суть произошедшего. В противном случае лучше новость проигнорировать.
2. Подозрительные домены или искажённые названия сайтов популярных медиа, похожие на настоящие
Примеры таких сайтов можно посмотреть, к примеру, здесь.
Забейте в поисковик название интересующего вас СМИ — на первых позициях в выдаче будут оригиналы. Сравните их интернет-адресом подозрительного источника.
3. Большое количество ошибок или опечаток в тексте новости
Попробуйте найти на сайтах известных вам СМИ эту же историю, но в более развёрнутом виде. Если поиски не увенчаются успехом, то, скорее всего, перед вами автоматически сгенерированный контент.
4. Поддельные фото или коллажи
image
Фотоколлаж рассчитан на невнимательного читателя и призван иллюстрировать несостоявшееся событие
Попробуйте сохранить подозрительное фото и поискать его копии через фотопоисковики (Google, TinEyE и т.п.). Если копий нет в авторитетных источниках, то скорее всего перед вами фотошоп.
5. Отсутствие отметок о времени публикации новости
Даты публикации скрывается для того, чтобы максимально продлить «жизнь» фейковой новости. Такое сообщение будет казаться актуальным сколь угодно долго, пока не будет явно противоречить действительности.
Забейте заголовок подозрительной новости и попробуйте поискать его, используя фильтры времени. Скажем, укажите прошлый год или прошлый месяц. Если вы найдёте аналогичную новость в архивах, то скорее всего это фейк.
6. Отсутствие указания автора и источника
Многие фейки генерируются автоматизировано, поэтому никаких упоминаний ни автора, ни источника не остаётся. Тем не менее в последнее время фейковые новости выходят за авторством никому не известных журналистов — скорее всего их имена также случайны, и за ними не стоят реальные люди.
Попытайтесь найти новость или её авторов в мейнстрим-media. Прежде всего — в информационных агентствах.
Если же источники указаны, то попробуйте изучить их. Источники типа «Wikipedia» или «LiveJournal» — это скорее попытки скрыть реальные источники информации или их отсутствие.
В заключение
Отметим, что на уровне разных государств принимаются меры борьбы с фейковыми новостями. Среди прочего власти и инициативные группы из журналистов и общественных деятелей создают сайты, который полностью посвящены отслеживанию и фиксации фейковых новостей. Соцсети ведут разработки автоматизированных систем поиска, маркировки и удаления неблагонадёжной информации. Крупнейшие производители средств информационной безопасности, такие как Trend Micro, пользуясь накопленным опытом в области машинного интеллекта, помогают социальные сетям вычислять профили «ботов», за которым нет реальных пользователей. Но как всегда в области кибербезопасности, первый рубеж обороны — рациональный поход пользователя к обращению с технологиями и медиасредой.
8 июня 2020 от Даркнетчик
Фейковые новости влияют на политику больших стран, их создатели зарабатывают немалые деньги, используя различные схемы монетизации, а в будущем fake news смогут сокрушать бизнесы. Рассказываю, кто и зачем создает фейковые новости, как организуются поддельные информационные кампании и как распознать фейк обычному пользователю.
Разбираемся в понятиях
В самом названии fake news есть немного фейка: перевод калькой этого сочетания слов искажает смысл понятия, потому что поддельные новости существовали всегда. Еще в XIII веке до н.э. цари Египта и Хеттского государства начертали на камнях своих дворцов сообщения о победе в битве, которая на самом деле завершилась вничью. В 1835 году (эпоха профессиональной журналистики в разгаре) газета The New York Sun удвоила продажи сообщив, что астроном разглядел в сверхмощный телескоп человекоподобных жителей Луны. В Экс экс веке с поддельной новости о захвате радиостанции началась Вторая Мировая война.
Во всех перечисленных примерах распространить информацию наширокую аудиторию можно было только через определённый канал связи с ней — камень на стене дворца, газету, радио (на смену которому пришло телевидение). Доступ к нему для желающих распространить такую информацию был строго ограничен.
В наше время генерировать и распространять fake news (будем называть их «фейковыми новостями») может любой, потому что в начале XXI века появились социальные сети, которые стали самостоятельной и неограниченной медиасредой. Рост их аудитории и разнообразие форматов информации (текст, фото, аудио, видео, трансляции) привели к «демократизации рупоров», которые ранее были только в руках властей или профессионалов. Более того, именно в соцсетях транслятор фейковых новостей общается с аудиторией напрямую, минуя журналистов, государственную цензуру и другие фильтры.
А если задействовать в соцсетях технические и коммуникационные технологии, любое фейковое сообщение можно распространять не хуже вечерних новостей Первого канала. Нужен только специфический мотив.
image
Три составляющих фейковых новостей: соцсети, телекоммуникационные технологии и специфическая мотивация. Источник: TrendMicro
Устанавливаем мотивы
Фейковые новости практически всегда либо про политику, либо про деньги. Политических манипуляторов привлекает в соцсетях их «народный» характер, а коммерческих злоумышленников — ещё и монетизация.
Политика. Чаще всего fake news генерируются для влияния на выборы или какую-либо политическую фигуру. Традиционные источники информации для этого не совсем подходят, ведь обычный человек всё более склонен верить «таким же простым людям, как и он» в соцсетях, а не «аффилированным с государством или корпорациями» СМИ. Именно поэтому фейковые новости создаются с прицелом на соцсети — здесь у каждого участника есть определённый «соседский» круг доверия.
Деньги. Создавая фейковые новости, можно усиливать активность определённых групп потенциальных клиентов. «Только три знака зодиака переживут 2020 год…» — кликбейт-заголовок, который в итоге может привести на посадочную страницу сервиса платной рассылки гороскопов. Соцсеть в этом случае играет роль хирургически точного инструмента вовлечения нужных групп потенциальных клиентов в орбиту влияния бренда. А пережив 2020 год, представители «неудачливых» знаков уже и не вспомнят о короткой новости, репост которой они увидели в тематической группе.
В будущем появится ещё и третий мотив — конкуренция, то есть фейковые новости всё чаще будут создавать для подрыва репутации бизнеса. К примеру, в 2017 году Комиссия по ценным бумагам и биржам США «накрыла» целую сеть сайтов, на которых публиковались платные новостные и псевдоаналитические статьи об определённых компаниях с негативными прогнозами об котировках их акций. Как показало дальнейшее исследование, фейковые материалы действительно влияли на цены и объём сделок с акциями небольших компаний.
Далее разберём, как, собственно, работает механизм создания и распространения фейковых новостей.
Разбираем алгоритм
Фейковые новостные кампании обычно проходят в несколько этапов, хотя это процесс творческий, и в зависимости от целей или особенностей аудитории некоторые стадии могут быть опущены.
1. Разведка
На первом этапе организатор кампании изучает целевую аудиторию. Он отвечает на три основных вопроса: «Кому врать?», «О чём врать?» и «Зачем врать?». Анализ проводится самый широкий — от образовательного уровня и информационной грамотности будущих читателей до их взглядов на жизнь. Собственно, на этом этапе и были пойманы специалисты Cambridge Analytica, которые собирали персональные данные пользователей Facebook для политических целей.
На втором этапе создаётся, собственно, фейковая новость. Её главная особенность в том, что почти всегда «декорации» фальсифицированной истории, то есть участники события, место и время действий, — реальные, а фейком является, собственно, само событие.
В зависимости от масштабов компании, фейковых новостей может быть несколько. К примеру, первая история сообщает о событии, а последующие — развивают тему. Иногда к ним примешиваются даже настоящие новости, которые дополняют картину выдуманной истории. Они направлены на скептическую часть потенциальной аудитории.
Помимо новостей, на втором этапе создаются агенты распространения: фейковые пользователи соцсетей, фейковые новостные сайты, фейковые группы и сообщества. Для этого в ход идут чёрные и белые технологии SMM, позволяющие за деньги плодить и продвигать поддельных пользователей соцсетей. К примеру, в соцсети Weibo (китайский аналог Twitter) селебрити с 300 тыс. подписчиков можно создать примерно за 2,5 тыс. долларов всего за месяц.
3. Распространение
Обычно фейковая новость сперва появляется на таком же фейковом сайте новостей или на любой другой площадке, где публикации никак не контролируются. Далее в дело вступает «гуру» — прокачанный и авторитетный у целевой аудитории блогер, который публикует новость у себя. Сообщение подхватывают боты — реальные пользователи соцсетей или роботы, созданные/привлечённые специально для фейковой новостной кампании. Помимо распространения, они выполняют очень важную функцию — изолируют скептиков, которые остаются в меньшинстве и предпочитают сохранять молчание вместо противостояния фейкам.
4. Эксплуатация
На следующем этапе новость доходит до целевой аудитории и начинает жить своей жизнью. Наиболее вдохновлённые читатели лайкают и репостят фейковое сообщение, делятся им в мессенджерах. Возникает вирусный эффект, который привлекает внимание ещё более широкой аудитории — журналистов и других профессиональных участников медиаполя. Фейковая новость попадает в мейнстрим-медиа. Иногда случаются курьёзы, когда фейковая новость сама всплывает через годы. К примеру, в 2017 году многие мировые СМИ сообщили о российской радиоэлектронной бомбе, якобы способной выводить из строя корабли. При этом впервые информация об этом появилась в соцсети Facebook ещё в 2014 году, когда фейковый «моряк» рассказал о воздействии «электронной бомбы» с самолёта СУ-24 на американский эсминец «Дональд Кук». Впоследствии всё было опровергнуто.
После достижении заданной цели могут потребоваться дополнительные, закрепляющие действия. К примеру, если речь идёт о кампании, подрывающей репутацию какого-либо политика, в информационное поле могут быть запущены позитивные новости о нём, которые не имеют прямого отношения к фейковой истории, но несколько корректируют образ жертвы в глазах общественности. Такие действия призваны устранить у общественности ощущение травли или спланированной акции в отношении политика.
7. Заметание следов
Последний этап — сокрытие следов активности. Наиболее распространённая технология позволяющая это сделать, — отвлекающая новость. Используя уже созданную инфраструктуру из ботов можно вбросить новое «информационное» сообщение. По своей тематике оно должно совершенно отличаться от прежней фейковой истории, быть ещё более громким и резонансным. Такая фейковая новость переключает внимание общественности на новую проблему и «глушит» голоса тех, кто, возможно, к этому моменту сумел идентифицировать прежний фейк.
Теперь, разобравшись в алгоритмах, давайте посмотрим на фейковую новость не глазами создателей, а со стороны аудитории. И выясним параллельно, как противостоять fake news?
Вырабатываем «иммунитет»
Поскольку fake news бьют прямой наводкой по пользователям, первый рубеж обороны могут составить только сами читатели. Прежде всего, они должны определять фейковые новости по следующим признакам:
1. Гиперболизированные и кликбейтные заголовки.
image
Новостные заголовки обычно передают суть информационного сообщения, а не создают загадок
image
Когда умирает действительно «легендарный рок-музыкант, хиты которого знают все» достаточно написать его имя, чтобы привлечь внимание читателей
Заголовки новостей коротко описывают суть произошедшего. В противном случае лучше новость проигнорировать.
2. Подозрительные домены или искажённые названия сайтов популярных медиа, похожие на настоящие
Примеры таких сайтов можно посмотреть, к примеру, здесь.
Забейте в поисковик название интересующего вас СМИ — на первых позициях в выдаче будут оригиналы. Сравните их интернет-адресом подозрительного источника.
3. Большое количество ошибок или опечаток в тексте новости
Попробуйте найти на сайтах известных вам СМИ эту же историю, но в более развёрнутом виде. Если поиски не увенчаются успехом, то, скорее всего, перед вами автоматически сгенерированный контент.
4. Поддельные фото или коллажи
image
Фотоколлаж рассчитан на невнимательного читателя и призван иллюстрировать несостоявшееся событие
Попробуйте сохранить подозрительное фото и поискать его копии через фотопоисковики (Google, TinEyE и т.п.). Если копий нет в авторитетных источниках, то скорее всего перед вами фотошоп.
5. Отсутствие отметок о времени публикации новости
Даты публикации скрывается для того, чтобы максимально продлить «жизнь» фейковой новости. Такое сообщение будет казаться актуальным сколь угодно долго, пока не будет явно противоречить действительности.
Забейте заголовок подозрительной новости и попробуйте поискать его, используя фильтры времени. Скажем, укажите прошлый год или прошлый месяц. Если вы найдёте аналогичную новость в архивах, то скорее всего это фейк.
6. Отсутствие указания автора и источника
Многие фейки генерируются автоматизировано, поэтому никаких упоминаний ни автора, ни источника не остаётся. Тем не менее в последнее время фейковые новости выходят за авторством никому не известных журналистов — скорее всего их имена также случайны, и за ними не стоят реальные люди.
Попытайтесь найти новость или её авторов в мейнстрим-media. Прежде всего — в информационных агентствах.
Если же источники указаны, то попробуйте изучить их. Источники типа «Wikipedia» или «LiveJournal» — это скорее попытки скрыть реальные источники информации или их отсутствие.
В заключение
Отметим, что на уровне разных государств принимаются меры борьбы с фейковыми новостями. Среди прочего власти и инициативные группы из журналистов и общественных деятелей создают сайты, который полностью посвящены отслеживанию и фиксации фейковых новостей. Соцсети ведут разработки автоматизированных систем поиска, маркировки и удаления неблагонадёжной информации. Крупнейшие производители средств информационной безопасности, такие как Trend Micro, пользуясь накопленным опытом в области машинного интеллекта, помогают социальные сетям вычислять профили «ботов», за которым нет реальных пользователей. Но как всегда в области кибербезопасности, первый рубеж обороны — рациональный поход пользователя к обращению с технологиями и медиасредой.