Як працює інтернет-цензура: видалення інформації заради бізнесу

Деякий час тому Apple видалила гри Phone Story і In A Permanent Save State, в яких містилася критика умов виробництва iPhone. Додаток Kindle від Amazon також в свій час було видалено з магазину, оскільки воно давало цієї компанії можливість продавати електронні книги, не ділячись при цьому своїм прибутком з Apple.

Amazon, у свою чергу, кілька разів прала електронні книги з пристроїв користувачів. При цьому вони навіть не отримували ніякого пояснення. Наприклад, в червні минулого року Amazon «завбачливо» видалила зі свого асортименту книгу «WWF Blackbook», оскільки між автором і фондом WWF виник правовий спір, по якому не було винесено рішення.

Amazon також видаляє деякі відгуки - наприклад, критичні зауваження щодо системи захисту від копіювання комп'ютерної гри Spore. Після цього число користувальницьких оцінок різко скоротилося, що утримало багатьох від її покупки. За інформацією Amazon, в той раз сталася помилка алгоритму фільтрації.

Схожі алгоритми працюють і на сайтах Facebook і Google, при цьому вони користуються дуже хитрими методами. Користувачі Facebook бачать у своїй стрічці новин далеко не все, що публікують їхні друзі. Алгоритми визначають, які повідомлення можуть представляти інтерес для користувача, і відображають тільки їх. Критерієм відбору служать дії користувача, використання кнопки «Подобається» і коментарі. Чим більше цікавого користувачі знайдуть на своїй сторінці, тим довше вони на ній затримаються, а це, в свою чергу, тягне за собою збільшення доходів Facebook від розміщуваної реклами.

Google фільтрує результати, ґрунтуючись на статистику запитів. Так формується «порядок денний», яка може бути необ'єктивною

Те, що до результатів пошуку Google також застосовує фільтрацію, ні для кого не секрет. Компанія не розголошує даних про те, як працює алгоритм PageRank, яким чином враховується історія пошуку увійшов в систему користувача і чому сервіси Google, як правило, знаходяться вище аналогічних пропозицій від конкурентів. Дані «засекречені» алгоритми фільтрації і сортування також є свого роду цензурою.

Google і Facebook також використовують програми аналізу, щоб мати можливість контролювати величезний потік інформації і перевіряти, наприклад, фотографії і відеоролики. Для цього в хід йдуть каскадні методи, які, застосовуючи на першому етапі прості критерії, крок за кроком «відсіюють» з величезної кількості фотографій все непотрібне. Тобто спочатку виконується груба сортування по об'єктах, зображеним на знімку, - це можуть бути пейзаж, людина або графічний візерунок.

Подібні сторінки, які пропагують законодавчо заборонене в 16 країнах заперечення голокосту, на Facebook зовсім не рідкість

Facebook видалила цю фотографію мусульманки після того, як один з користувачів вважав її «непорядної» і повідомив про це

У своїй цензурі Facebook доходить до того, що видаляє коментарі, які вважатиме неважливими або недоречними

В ході подальшої перевірки фотографій людей програма визначає, зображені на них оголені тіла або сцени насильства над дітьми. Для виконання цієї спеціальної завдання Facebook використовує технологію PhotoDNA, в розробці якої брала участь також компанія Microsoft. Програма порівнює завантажені зображення з картинками з бази даних, яка використовується державними або міжнародними установами в боротьбі з дитячим насильством. В базі зберігаються близько 300 млн фотографій, супроводжуваних ключовими словами. Всі вони були отримані в ході заходів по боротьбі з педофілією.

«Наше завдання в довгостроковій перспективі полягає у тому, щоб забезпечити неможливість завантаження подібного контенту», - пояснює Шарлотта Карневаль Вільнер, керівник відділу безпеки в Facebook. Для забезпечення працездатності програм по обробці фотографій їх «знайомлять» з великою кількістю зображень, на яких цільовий об'єкт присутня або відсутня. Складність розпізнавання об'єктів залежить, крім усього іншого, від фону зображення. Чим більше предметів представлено на фотографії, тим складніше відокремити об'єкт від фону і розпізнати його.

Функція розпізнавання осіб і оголеної шкіри, а також логотипів і символів сьогодні працює надійно. Але інтелектуальними алгоритми вважати поки рано. Для них діє правило: груди залишається груддю. Є зображення порнографічного, чи несе воно політичне послання, передає воно виступ феміністок або штучні об'єкти, - все це ролі не грає. Так що, під цензуру програм нерідко потрапляє контент, який згодом повертається на сторінки Інтернету, однак лише після великого суспільного резонансу і ручної перевірки співробітниками компанії. Facebook для вирішення даної задачі задіює кілька сотень співробітників у чотирьох філіях по всьому світу. Однак при такій кількості користувачів (1 млрд) і фотографій (близько 219 млрд) цього явно недостатньо. Тому, використовуючи біржі праці в Інтернеті, Facebook наймає незліченну армію підсобних робітників. Деякі з них повідомляли веб-сайту Gawker про те, що їм доводилося бачити: «педофілію, некрофілію, обезглавлення, самогубства». Це невдячна робота, за яку Facebook платить мізерну винагороду - $1 годину.

У Apple доля контенту вирішується не машиною, а людиною, яка, на жаль, не завжди відрізняється більшою урівноваженістю. Кожне додаток перевіряється на працездатність і відповідність десятистраничному зводу правил (Review Guide). У разі винесення негативного рішення розробник отримує малокорисні лист з поясненням причин відмови.

Google надає розробникам софта для Android більше свободи. Якщо який-небудь додаток пройшло перевірку на віруси, то воно тут же опиняється в Play Market.

Нова платформа Microsoft займає проміжне положення між iOS і Android. Microsoft також перевіряє програми вручну. В середньому на цю процедуру йде один тиждень. Але софтверний гігант менш «вередливий», ніж Apple, так як на перших порах завдання полягає насамперед у тому, щоб в максимально короткі терміни наповнити інтернет-магазин великою кількістю програм. Суворі вимоги Microsoft пред'являє в першу чергу до дизайну плиткових додатків для ОС Windows 8.

Всі ці перевірочні заходи - прояв могутнього впливу великих концернів на змістовну сторону Інтернету. «Вирішальне значення має питання про те, можна чи компаніям встановлювати власні моральні норми для своїх сервісів», - говорить Ребека Йешке з правозахисної організації EFF. Європейська комісія в даний час займається перевіркою того, віддає Google перевагу власним ресурсам при виведенні результатів пошуку чи ні. Результат даного процесу може вплинути на подальший розвиток подій: або він змусить таких псевдомонополистов, як Google, зайняти нейтральну позицію щодо контенту, або надасть їм повну свободу дій.

Зростання кількості запитів на видалення. З середини 2012 року кількість запитів на видалення даних, що надсилаються в Google, значно зросла. Багато з них пошуковий гігант задовольняє негайно.

Керівники великих концернів поки ще можуть дозволити собі спокійно реагувати на критику та вимоги про надання більшої свободи дії, так як користувачі приймають ці «правила». Вони вступають у спільноти мережевих гігантів, так як їх продукти зручні і прості. Багато насолоджуються цим навіюваною почуттям комфорту. Але ніхто не може з упевненістю стверджувати, що додаток, завантажене з інтернет-магазину, електронна книга, придбана в Amazon, або фотографія, розміщена в Facebook, завтра не кануть в Лету. Наскільки небезпечна ця залежність, відчув на собі один з користувачів Google в 2011 році. Компанія заблокувала (пізніше блокування була знята) його аккаунт нібито через те, що він порушив умови користування сервісом. Внаслідок цього той втратив (на щастя, тимчасово) сім років свого інтернет-існування: електронні листи, контакти, фотографії, документи - не залишилося нічого.

Зрозуміло, свобода - це також можливість висловити протест проти такого свавілля. Але, якщо немає твердого наміру і бажання, складно протистояти тому, що відбувається. Користувачам Google рекомендується регулярно видаляти з браузера файли cookie і не користуватися пошуком, не виконавши вихід із системи. Це дозволить домогтися більш об'єктивних результатів пошуку. За допомогою програми OkayFreedom (є на CHIP DVD) ви зможете обходити регіональну блокування доступу (як у випадку з YouTube), засновану на визначенні IP-адреси. Користувачам Apple необхідно виконати джейлбрейк свого пристрою, щоб мати можливість завантаження програм з інших джерел. У Facebook деякий час тому можна було, ввівши певний URL-адресу, отримати доступ до всього контенту, тобто обійти фільтрацію. Через добу ця «помилка» була усунена.

Це хороший приклад того, наскільки педантично мережеві гіганти підходять до усунення будь лазівки, що веде до їх таємні володіння.