Ученые изобрели программу, блокирующую экстремистские высказывания

Ученые Пермского государственного научно-исследовательского университета разработали компьютерную программу, которая сможет блокировать экстремистские и террористические высказывания.

 Также она заблокирует нецензурную брань в интернете.
«Наша программа обнаруживает высказывания, содержащие явные речевые показатели нарушения Российского законодательства. При обнаружении подобного сообщения система назначает ему штраф, а при превышении суммарного штрафа заданного порога такое сообщение считает нарушившим законодательство», – сообщила разработчик системы Евгения Мехонина.

По ее словам, база данных для программы включает в себя около 200 слов русского языка и соответствующих им словоформ.
Создатели программы считают, что их изобретение сможет пригодиться, в частности, родителям, которые хотят оградить своих детей от нежелательного контента, а также пользователям блогосферы. Воспользоваться им смогут и сетевые СМИ, у которых нет возможности позволить себе иметь в штате модератора.

Фильтр совершенствуется, и в будущем программа сможет сама классифицировать речевые элементы на основе машинного «обучения».
Система будет блокировать не все выражение, где фильтр обнаружит «незаконный» элемент, а лишь тот кусочек текста, в котором выявит нарушение. При этом в настройках пользователь сможет выбрать наиболее удобный режим блокирования.

При работе над программой изучено огромное количество материалов в интернете.
«Благодаря этому фильтр «научился» распознавать даже видоизмененные орфографически бранные слова, которыми частенько пользуются люди в интернете, обманывая таким образом модераторов», – сказала Мехонина, сообщает gazeta.ru.
По ее словам, весной следующего года создатели фильтра планируют предложить систему для одобрения интернет-провайдерам. Затем она может быть выпущена в массовое потребление для частных лиц.