В МГТУ разработали программу для определения травли в интернете

В IT-лаборатории МГТУ им. Н.Э. Баумана разработали программу для анализа сообщений в социальных сетях и выявлений признаков травли и разжигание розни.

Разработчики IT-лаборатории межотраслевого инжинирингового центра «Композиты России» МГТУ им. Н.Э. Баумана рассказали о создании программы, которая способна выявлять травлю и разжигание розни. Она анализирует сообщения в СМИ и социальных сетях по характерным для агрессивных текстов признакам.

При разработке использовалась технология машинного обучения и графовых баз данных. По сути, программа постоянно самостоятельно совершенствуется, что при длительном использовании только повысит точность её работы.

У машинного обучения есть большая проблема — со временем точность и эффективность работы нейронных моделей не растёт, а падает. Поэтому большинство моделей с искусственным интеллектом приходится деактивировать. Пока разработчики не смогли её решить.

В модели обработки текстовых сообщений не вижу ничего сложного. Нужно составить список агрессивных слов и отслеживать их появление, а также смысл слов, которые стоят рядом. Но насколько точно разработанная модель, не говорится. Как студенческий проект, она, конечно, интересна, но не более,

— Сергей Блохин,

IT-специалист (г. Санкт-Петербург).

Пока программа направлена на поиск сообщений с признаками разжигания межнациональной розни, травли студентов и школьников. В будущем её возможности можно будет расширить.

Полученные после работы программы данные можно направлять психологам и в правоохранительные органы. Будет ли разработка использоваться массово, пока не уточняется.

Определить травлю в социальных сетях у подростка можно по изменению его поведения. Обычно дети становятся замкнутыми, стараются меньше выходить на улицу и общаться со сверстниками. Насторожить должны вопросы ребёнка о физическом состоянии, особенностях строения, понятиях красоты или ума. В открытую дети очень редко говорят о травле.

Нужно ли родителям отслеживать личную переписку детей в социальных сетях? Тут очень сложный вопрос. С одной стороны, родители должны обеспечивать безопасность ребёнка. Но с другой — нарушение тайны переписки очень критично воспринимается подростками. Чтение личных сообщений может подорвать доверие к родителям и тогда выявлять проблемы ребёнка на ранних стадиях будет очень тяжело,

— Елена Морозова,

кризисный психолог.

Убедитесь, что ваш ребёнок не стал жертвой буллинга (или кибер-буллинга) и его отношения с одноклассниками складываются хорошо! Моментально связывайтесь с ним в случае необходимости, слушайте, что происходит вокруг, смотрите, в каких приложениях он сидит и в каких местах бывает с помощью приложения «Где мои дети».