Facebook объединяет усилия для борьбы с терроризмом; на Instagram и WhatsApp

После того, как террористы используют социальные сети для распространения своей повестки дня, одна из крупнейших социальных сетей Facebook раскрыла, как она внедряет свое подразделение искусственного интеллекта в своих действиях по сдерживанию террористического контента со своей платформы.

С расширением Интернета в разных уголках мира он быстро завоевал популярность у известных групп со злым умыслом.

Социальные сети предоставили террористическим группам новую возможность не только привлекать потенциальных кандидатов со сходным экстремистским подходом, но и планировать и координировать атаки в реальном мире.

В то время как Twitter и Google делают все возможное, чтобы сделать Интернет более безопасным, Facebook использует свой искусственный интеллект для обуздания террористического контента.

Читайте также: 4 причины, почему вы должны отказаться от приложения для Android на Facebook.

«В Facebook нет места терроризму. Мы удаляем террористов и посты, которые поддерживают терроризм, когда нам о них известно. Когда мы получаем сообщения о потенциальных террористических сообщениях, мы срочно и внимательно изучаем эти сообщения », - заявили в Facebook.

Facebook недавно развернула систему искусственного интеллекта для борьбы с контентом террористов в Facebook.

ИИ Facebook - Lumos - использует машинное обучение вместе со следующими технологиями:

• Сопоставление изображений: используя эту технологию, AI идентифицирует изображения или видео, подобные тем, которые были запрещены в прошлом, и помечает их, прежде чем они достигнут аудитории на Facebook.
• Понимание языка: еще одна недавняя разработка, которую компания все еще тестирует. Эта технология пытается идентифицировать тексты, которые могут пропагандировать терроризм - используя машинное обучение.
• Ориентация на террористические учетные записи по аналогичной схеме: отключение учетных записей, групп или страниц, связанных или похожих на террористические учетные записи, которые были запрещены в прошлом.
• Рецидив: обнаружение поддельных учетных записей, созданных повторными правонарушителями, и удаление их быстрее, чем они снова создаются.
• Кроссплатформенный мониторинг. Этот AI-мониторинг будет использоваться не только для настольных и мобильных приложений Facebook, но и для других социальных сетей Facebook, таких как Instagram, Whatsapp и Messenger.

«Хотя академические исследования показывают, что радикализация членов групп, таких как ИГИЛ и Аль-Каида, в основном происходит в автономном режиме, мы знаем, что Интернет действительно играет свою роль - и мы не хотим, чтобы Facebook использовался для какой-либо террористической деятельности», - заявляют в компании. добавлено.

Поскольку то, что поддерживает и не поддерживает терроризм, является субъективным, потому что изображение террориста или текст, говорящий о терроризме, также может быть частью сообщения в новостях, и для того, чтобы просеивать контент, Facebook также будет добавлять людей-рецензентов в список. Для того, чтобы «понять больше нюансов».

Сотрудники ИИ будут нести ответственность за проверку контента, о котором сообщают члены сообщества Facebook, чтобы определить достоверность и масштабы террористической угрозы, обнаруженной ИИ, и оказать помощь ИИ другими способами.

«Террористы постоянно совершенствуют свои методы, и мы постоянно выявляем новые способы, которыми террористические актеры пытаются обойти наши системы - и мы соответствующим образом обновляем нашу тактику», - добавила компания.

Также читайте: Как использовать несколько учетных записей Facebook из одного окна Chrome.

В последние несколько десятилетий терроризм представляет собой растущую угрозу, и, поскольку интернет распространяется в дальние уголки мира, он дает людям возможность общаться за пределами границ, а также дает возможность преступникам распространять свою философию, встречать другие связи. мыслящие люди и набирают впечатлительные умы тоже.

Facebook последовательно прилагает усилия, чтобы сделать его сообщества лучшее место для людей, чтобы взаимодействовать - будь то борьба с порноместь, усилия по обузданию поддельные новости, обучение, его AI для контроля за деятельностью на своей платформе и сотрудничает с другими воротилами социальных медиа в бороться с угрозой терроризма онлайн - само собой разумеется, все это очень необходимо.

Кажется, Facebook согласен с мнением о том, что «социальные сети не должны быть местом, где террористы имеют право голоса». Угроза реальна, и чем скорее мы отреагируем на нее, тем лучше она станет для более безопасного интернета в будущем.