Искусственный интеллект в Instagram будет распознавать оскорбительные комментарии

Функция Restrict, предназначеналя защиты пользователей от преследования в сети —  кибербуллинга.

 В официальном сообщении сказано, что соцсеть будет бороться с кибербуллингом, чтобы пользователи могли свободно делиться своим мнением.

После добавления пользователя в список Restrict его комментарии к вашим публикациям будут видны только ему самому, поэтому он не сможет догадаться о каких-то ограничениях. Также люди из списка не будут видеть, были ли прочитаны владельцем его сообщения в Direct.

Instagram

Кроме того, дополнением к этой функции в приложениях соцсети появится инструмент, который попытается переубедить пользователя оставлять токсичный комментарий. Алгоритмы, основанные на технологиях машинного обучения, будут проверять комментарий перед его публикацией на наличие оскорблений или связанных с кибербуллингом фраз. Система предупредит комментатора о возможном вреде его сообщения и попросит переформулировать текст. Эта функция станет доступна части пользователей с сегодняшнего дня, а ограничение доступа появится позднее.

Instagram
 

Метки

Поделиться