КАК ФЕЙСБУК Б...

КАК ФЕЙСБУК БОРОЛСЯ

16
0
ПОДЕЛИТЬСЯ

Самая популярная в мире социальная сеть Facebook опубликовала свой первый в этом году квартальный «модерационный отчет» (Moderation Report), в котором рассказала миру, сколько и каких фальшивых аккаунтов и запрещенных постов было удалено. После громких скандалов с российскими «ботофермами», влиявшими через эту сеть на выборы в Америке и европейских странах, после показательной «порки», которую пришлось выдержать Марку Цукербергу в стенах Капитолия – Facebook остро нуждается в демонстрации «антиспамовой» активности.

По его данным, лишь за первые три месяца 2018 года были приняты меры против 1,5 МИЛЛИАРДОВ текстов и аккаунтов по подозрению в нарушении правил пользования Facebook. Из отчета следует, что большая часть запретов и удалений была направлена против спам-рассылок и фальшивых аккаунтов (Fake-Accounts).

«Электронный цензор» в действии

Каков же результат этой бурной деятельности? По данным FB (Facebook), которые приводит, в частности, британское издание The Guardian, было удалено лишь спам-текстов целых 837 миллионов. Также были уничтожены 583 млн. фальшивых аккаунтов. Кроме того, удалению подверглись: 2,5 млн. текстов, якобы направленных на так называемую «пропаганду ненависти», 1,9 млн. текстов, расцененных, как «террористическая пропаганда», 3,4 млн. текстов, распространявших призывы к насилию и 21 млн. текстов, содержащих порнографию или недозволенные сексуальные действия.

При этом было отмечено, что некоторые категории нарушений – такие, как распространение детской порнографии, реальные угрозы насильственных правонарушений, тексты о самоубийствах, моббинг и тому подобное – не были учтены, так как их было слишком мало, чтобы повлиять на общую статистику. Кроме того, FB сообщил, что большая часть регулирования осуществляется при помощи искусственного интеллекта – то есть, автоматически. Алгоритмы, по его данным, помогли выявить 98,5% фальшивых аккаунтов и почти 100% спама.

Победа на всех фронтах, не так ли? А за полгода все выглядит еще победнее: по данным Facebook, за последние полгода было удалено почти 1,3 млрд. фальшивых аккаунтов (это при том, что общее количество аккаунтов а Фейсбуке составляет около 2,2 млрд.), причем 98% из них были перехвачены еще до того, как другие пользователи смогли их увидеть. За 6 месяцев были удалены почти 3 миллиона текстов, содержащих пропаганду терроризма. Ну, и по другим категориям – миллионы и миллионы…

Просто какой-то триумф искусственного «цензора». Боты, тролли и террористы убегают из сети, поджавши хвосты, и все становится прекрасно, спокойно и общечеловечно… На самом же деле, следует хотя бы понять, как именно трактует Фейсбук понятие «содержания». Например, если запись содержит текст и, скажем – четыре фотографии под ним, то она расценивается, как пять «содержаний». Но, если удалена будет вся запись – она обозначается в статистике, как лишь одно «содержание».

Именно таким образом и получилось, что за прошлый квартал было удалено 2,5 млн. «содержаний», причем 38% из них Facebook заметил сам, с помощью так называемых «автоматических банхаммеров» – то есть, программ, просматривающих «содержания», в которые заложены ключевые «запрещенные» слова. Для сравнения: за последний квартал 2017 года таких «содержаний» нашлось 1,6 млн., из них 23,6% были замечены и удалены автоматически. То есть, выходит – искусственный цензор развивается и учится, но Facebook подчеркивает, что в случае с «пропагандой ненависти» его все равно постоянно контролируют люди, чтобы иметь возможность избежать ошибок, исходя из контекста написанного.

Эффект москаля

Мое личное мнение: вся эта красивая статистика не стоит и выеденного яйца. Во-первых, потому что реальные фальшивые аккаунты в Фейсбуке, причиняющие вред, – это активные аккаунты, они уже есть, их «кукловоды» что-то в них пишут, кого-то обливают грязью, продвигают какие-то политические лозунги – работа у них такая. Поэтому, если автомат удаляет пустой «законсервированный» аккаунт – это, конечно, тоже полезно, но это второстепенно и никак не влияет на вредоносную деятельность «ботоферм».

Во-вторых, этот самый «человеческий контроль» за автоматическими системами как оборачивался, так и оборачивается против среднестатистических пользователей. Не знаю, как в других странах, но, скажем, украинцы об этом могут хоть песни петь – традиционные, народные, те самые, которые начинаются сплошь на «Ой!». Потому что «следящие специалисты» из ирландского офиса ФБ, скорее всего – не только русскоговорящие (то есть, те, кто считают, что «русский и украинский – это одно и то же»), а еще и, так сказать, «русскоштампные». Поэтому считают, например, нормальное украинское словечко «москаль» едва ли не матом, и, в любом случае – оскорблением по национальному признаку. Тот факт, что слово это означает российского солдата примерно так же, как «джи-ай» означает солдата американского, а «томми» – британского, им не известен, поэтому за упоминание, скажем, главы украинской Закарпатской областной госадминистрации Геннадия Москаля уже многих украинцев отправили прямиком в бан. Так же, как и за цитирование речи Петра Порошенко, в которой он сослался на стихи Владимира Маяковского: «Товарищ москаль! На Украину зубы не скаль!». Если, например, вынести слово «москаль» в заголовок этой статьи – то, пожалуй, ссылку на нее нельзя будет разместить в Фейсбуке, независимо от того, каково ее содержание. С легкой руки этих «знатоков» несчастный москаль попал в автоматический фейсбучный банхаммер и начал виртуально колошматить ни в чем не повинных людей не хуже, чем москали-настамнеты на Донбассе.

Таких примеров можно привести великое множество и, судя по тому, как неэффективно и даже вредоносно работает этот «искусственный интеллект» в украинском сегменте Фейсбука – можно экстраполировать эту неэффективность на сегменты других стран и других языков. Этой системе, как минимум, нужно еще долго усовершенствоваться и доходить до ума, прежде чем кто-то выпустит ее на живых людей – но выпустили уже сейчас.

И это – в-третьих: сама мысль о том, что кто-то доводит до ума и усовершенствует систему, которую спокойно можно назвать «электронным цензором», заставляет серьезно переживать. Еще Альберт Эйнштейн призывал ученых «быть ответственными за свои открытия», а разработка подобной автоматической цензуры – вещь крайне опасная.

БЕЗ КОМЕНТАРИЕВ

ОСТАВИТЬ ОТВЕТ