Ложные новости учатся фильтровать учёные мира

Ложные новости учатся фильтровать учёные мира

Новая работа учёных Массачусетского технологического института отметилась разработкой единой системы автоматизированного обнаружения ложных новостей. Работа раскрывает все тонкости того, как модели машинного обучения способны улавливать особенности, определяющие язык фактических и ложных историй. Учёные подчёркивают:  детекторы поддельных новостей должны обеспечивать более тщательное тестирование, чтобы обеспечить эффективность применения в плане выдачи правдоподобного контента.

Технологии ложных новостей набирают силу

Ложные новости получили широкое распространение в Соединенных Штатах в период президентских выборов 2016 года. Эту технологию следует рассматривать формой пропаганды, созданной для того, чтобы вводить читателей в заблуждение, чтобы генерировать определённые взгляды на страницах веб-сайтов и тем самым направлять общественное мнение в нужное русло.

Между тем практически одновременно с появлением проблемы, специалисты в этом направлении начали разрабатывать своего рода нейронные сети — автоматические детекторы поддельных новостей. Этот вид сетей «обучается» на множественных данных, с целью распознавания языковых сигналов, указывающих на фактор ложного контента. По мнению разработчиков, сети подобного типа способны с достаточно высокой точностью отделять правду от вымысла в контролируемых условиях.

Однако существенной проблемой видится фактор «чёрного ящика», то есть невозможность определения, какие языковые модели анализируются сетями во время обучения. Обучение и тестирование, как правило, подразумевает конкретные темы, чем ограничивается способность обобщать материал с новыми темами. А для условий Интернета это явная необходимость.

Сведения, представленные на конференции по системам обработки нейронной информации, указывают на решение всех проблем. Тем временем, учёными MIT (МИТ) разработана модель глубокого обучения, которая способна обучиться выявлять языковые шаблоны поддельных и реальных новостей. Разработчики проверили модель на новой теме, которая не предусматривалась тренировочным циклом.

Новый подход классифицирует отдельные статьи, основанные исключительно на языковых шаблонах, что более близко представляет реальное приложение для читателей новостей. Традиционные детекторы фальшивых новостей классифицируют контент на основе текста в сочетании с исходной информацией, к примеру, с информацией той же «Википедии» или других веб-сайтов.

Демократия в опасности без новых технологий


Ложные новости — это угроза демократии. Поэтому целью учёных всего мира является не только продвижение науки, но также внедрение технологий, помогающих обществу обеспечить праведное поле. Безусловными видятся для социума инструменты, способные давать точную оценку, отличая поддельные сообщения от правдивых сообщений.


При помощи информации: MIT


Добавить комментарий

Внимание: Спам не пройдёт. Работает фильтрация комментариев. *