Новые модели машинного обучения смогут распознать признаки антисоциального поведения в текстах

Слова, которые мы используем в речи, и стиль написания текста могут скрывать информацию о наших предпочтениях, мыслях, эмоциях и поведении. Используя эти данные, ученые из Университета Восточной Финляндии разработали модели машинного обучения, которые могут обнаруживать в текстах антисоциальное поведение, такое как язык ненависти и признаки насилия.

Исторически сложилось так, что большинство попыток борьбы с антисоциальным поведением предпринималось с образовательной, социальной и психологической точек зрения. Однако новое исследование продемонстрировало потенциал использования машинных методов обработки языка для создания современных решений по борьбе с антисоциальным поведением в письменной коммуникации. Проведенная работа предлагает решения, которые могут быть интегрированы в веб-форумы или социальные сети, чтобы автоматически или полуавтоматически обнаруживать потенциальные случаи антиобщественного поведения с высокой точностью, позволяя быстро вмешиваться, предотвращая возможные акты насилия.