Фота: Picturepest/flickr.com
Марк заўважыў, што з яго малым нешта не так. Пеніс яго сына выглядаў апухлым і балеў. Марк узяў смартфон на Android і зрабіў фатаграфіі, каб задакументаваць праблему і прасачыць за яе развіццём.
Гэта быў вечар пятніцы ў лютым 2021 года. Яго жонка патэлефанавала медсястры, каб прызначыць тэрміновую кансультацыю з доктарам на наступную раніцу па відэасувязі, бо была субота і пандэмія кавіду. Медсястра папрасіла даслаць фатаграфіі, каб лекар мог праглядзець іх загадзя.
Жонка Марка ўзяла тэлефон мужа і адправіла на свой iPhone некалькі здымкаў пахвіннай вобласці іх сына буйным планам, каб загрузіць іх у сістэму паведамленняў медыцынскай установы. На адным са здымкаў была бачная рука Марка, каб лепш разгледзець прыпухласць.
З дапамогай здымкаў лекар паставіў дыягназ і прызначыў антыбіётыкі, якія хутка вылечылі сына. Але гэты эпізод стварыў Марку новую праблему, якая будзе каштаваць яму кантактаў за дзесяць год, а таксама электронных лістоў і фатаграфій, а паліцыя пачне супраць яго расследаванне. Марк трапіў у алгарытмічную сетку, прызначаную для лоўлі людзей, якія абменьваюцца дзіцячым порна.
Тэхналагічныя кампаніі рэгулярна збіраюць вельмі шмат даных і на іх ціснуць, каб яны выступалі ў ролі дазорных, вывучаючы тое, што праходзіць праз іх серверы, каб выявіць і прадухіліць злачынствы. Абаронцы дзяцей кажуць, што супрацоўніцтва кампаніяў неабходна для барацьбы з нястрымным распаўсюджваннем у інтэрнэце дзіцячага порна. Але гэта можа пацягнуць за сабой пранікненне ў прыватныя архівы.
Джон Калас, тэхнолаг з Electronic Frontier Foundation, арганізацыі па абароне грамадзянскіх свабод, назваў гэтыя выпадкі першымі званочкамі. «Такіх выпадкаў могуць быць дзясяткі, сотні, тысячы», — сказаў ён.
Улічваючы таксічны характар абвінавачванняў, Калас лічыць, што большасць людзей, якіх несправядліва адзначылі, не стануць публічна казаць пра тое, што здарылася.
«Я ведаў, што гэтыя кампаніі сочаць за тым, што адбываецца, і прыватнасць — гэта не тое, на што можна спадзявацца, — разгублена кажа Марк. — Але я не зрабіў нічога дрэннага».
Паліцыя пагадзілася. Google — не.
Сур'ёзнае парушэнне
Пасля стварэння ўліковага запісу Gmail у сярэдзіне мінулага дзесяцігоддзя, Марк, якому ўжо за 40, стаў даволі моцна пакладацца на Google. Ён сінхранізаваў сустрэчы са сваёй жонкай у Google Каляндар. Камера яго смартфона стварала рэзервовыя копіі яго фатаграфіяў і відэа ў воблаку Google. У яго нават быў тарыфны план Google Fi, які ён выкарыстоўваў для званкоў і інтэрнэту.
Праз два дні пасля таго, як ён зрабіў фатаграфіі свайго сына, тэлефон Марка выдаў паведамленне: яго акаўнт быў адключаны з-за «шкоднаснага кантэнту», які «з'яўляецца сур'ёзным парушэннем палітыкі Google і можа быць незаконным». Спасылка «даведацца больш» вяла да спісу магчымых прычынаў, сярод якіх быў «сэксуальны гвалт і эксплуатацыя дзяцей».
Фота: techdatacloud.eu
Марк спачатку разгубіўся, але потым успомніў пра свайго сына. «Божа, Google, напэўна, думае, што гэта было дзіцячае порна», — падумаў ён.
Нечаканы паварот: Марк працаваў інжынерам-праграмістам у буйной тэхналагічнай кампаніі, якая займалася аўтаматызаваным выдаленнем відэакантэнту, адзначанага карыстальнікамі як «праблемны». Ён ведаў, што ў такіх сістэмах часта ёсць чалавек, які сочыць за тым, каб камп'ютар не здзейсніў памылку, і ён меркаваў, што яго справа будзе разгледжаная, як толькі яна патрапіць да гэтага чалавека.
Ён запоўніў форму з просьбай перагледзець рашэнне Google, патлумачыўшы, што яго сын хварэў. У той жа час ён выявіў эфект даміно, выкліканы адмовай Google. Ён не толькі страціў электронную пошту, кантактную інфармацыю сяброў і былых калег, а таксама фота і запісы пра першыя месяцы жыцця сына, яго акаўнт Google Fi закрыўся, што азначала, што яму давялося завесці новы нумар тэлефона ў іншага аператара сувязі. Без доступу да старога нумара тэлефона і адрасу электроннай пошты ён не мог атрымаць коды бяспекі, неабходныя для ўваходу ў іншыя акаўнты, што пазбавіла яго магчымасці карыстацца большай часткай лічбавых сервісаў.
«Чым больш яек у адным кошыку, тым больш імавернасць таго, што кошык разаб'ецца», — кажа ён.
У заяве Google сказана: «сэксуальны гвалт над дзецьмі агідны, і мы імкнемся прадухіліць распаўсюджванне такіх матэрыялаў на нашых платформах».
Праз некалькі дзён пасля таго, як Марк падаў апеляцыю, Google адказаў, што не будзе аднаўляць акаўнт, без дадатковых тлумачэнняў.
Марк не ведаў пра гэта, але група праверкі Google таксама адзначыла выявы, якія ён зрабіў, а дэпартамент паліцыі Сан-Францыска ўжо пачаў расследаванне супраць да яго.
Як Google адзначае выявы
На наступны дзень пасля таго, як пачаліся праблемы Марка, той жа сцэнар разыграўся ў Тэхасе. У малога з Х'юстана была інфекцыя ў «інтымным месцы», напісаў яго бацька ў паведамленні ў інтэрнэце. Па просьбе педыятра Касія зрабіў некалькі фота, якія аўтаматычна захаваліся ў Google Photos. Пасля ён даслаў іх жонцы праз Google Messages.
Касія купляў дом і мусіў падпісаць незлічоную колькасць лічбавых дакументаў, але яго ўліковы запіс Gmail быў адключаны. Ён папрасіў свайго іпатэчнага брокера змяніць адрас электроннай пошты, што выклікала ў брокера падазрэнні, але агент па нерухомасці Касіа паручыўся за яго і таму ён здолеў усё падпісаць.
«Гэта быў галаўны боль», — кажа Касія.
Выявы дзяцей, якія падвяргаюцца эксплуатацыі або сэксуальнаму гвалту, адзначаюцца тэхналагічнымі гігантамі мільёны разоў штогод. У 2021 годзе толькі Google зарэгістраваў больш за 600 тысячаў паведамленняў пра матэрыялы, якія змяшчаюць сэксуальны гвалт над дзецьмі, і ў выніку адключыў акаўнты больш за 270 тысячаў карыстальнікаў. Досвед Марка і Касія быў кропляй у моры.
Першым інструментам тэхналагічнай індустрыі, здольным сур'ёзна пашкодзіць распаўсюду дзіцячай парнаграфіяй, стала PhotoDNA — база даных вядомых выяваў дзіцячага порна і іншага незаконнага кантэнту, ператвораная ва ўнікальныя лічбавыя коды, або хэшы. З яе дапамогай можна хутка адсачыць вялікую колькасць выяваў, каб выявіць супадзенне нават калі фатаграфія была змененая. Пасля таго як Microsoft выпусціла PhotoDNA ў 2009 годзе, Facebook і іншыя тэхналагічныя кампаніі выкарыстоўвалі яе для выяўлення карыстальнікаў, якія распаўсюджваюць незаконныя і шкоднасныя выявы.
Фота: blogspot.com
Больш значны прарыў адбыўся амаль праз дзесяць гадоў, у 2018 годзе, калі кампанія Google распрацавала штучны інтэлект, здольны распазнаваць новыя выявы з дзіцячым порна. Гэта значыла, што можна знайсці не толькі вядомыя выявы дзяцей, якія падвергліся гвалту, але і малюнкі невядомых ахвяраў, якія патэнцыйна могуць быць выратаваныя ўладамі. Google даў сваю тэхналогію іншым кампаніям, у тым ліку Facebook.
Калі фатаграфіі Марка і Касіа аўтаматычна загрузіліся з іх тэлефонаў на серверы Google, гэтая тэхналогія пазначыла іх. Джон Калас з EFF называе сканаванне умяшаннем у прыватнае жыццё, заявіўшы, што сямейны фотаальбом на асабістай прыладзе павінен быць «прыватнай сферай» (прэс-сакратар Google заявіла, што кампанія скануе фатаграфіі толькі тады, калі карыстальнік прадпрымае «пазітыўнае дзеянне», у тым ліку, калі тэлефон карыстальніка робіць рэзервовую копію фатаграфій у воблака кампаніі).
«Гэта менавіта той кашмар, пра які мы ўсе турбуемся, — кажа Калас. — Яны могуць адсканаваць мой сямейны альбом і тады ў мяне будуць праблемы».
Мадэратар кантэнту ў Google павінен быў прагледзець фатаграфіі пасля таго, як яны былі адзначаныя штучным інтэлектам, каб пераканацца, што яны адпавядаюць Федэральнаму вызначэнню матэрыялаў пра сэксуальны гвалт над дзецьмі. Калі Google выяўляе падобнае, ён блакуе ўліковы запіс карыстальніка, шукае іншыя матэрыялы, якія змяшчаюць сэксуальную эксплуатацыю, і, як таго патрабуе Федэральны закон, паведамляе пра гэта ў CyberTipline Нацыянальнага цэнтра дапамогі зніклым і эксплуатаваным дзецям.
Гэтая некамерцыйная арганізацыя стала цэнтрам збору інфармацыі пра матэрыялы, звязаныя з гвалтам. У мінулым годзе яна атрымала 29.3 мільёна паведамленняў, або каля 80 тысячаў паведамленняў штодзень. Фэлан Макналці, якая кіруе CyberTipline, кажа, што большасць з іх — гэта старыя выявы, якія застаюцца ў пастаянным звароце ў інтэрнэце. Таму яе штат з 40 аналітыкаў засяроджаны на патэнцыйных новых ахвярах, каб яны маглі вызначыць прыярытэтнасць гэтых справаў для праваахоўных органаў.
«Як правіла, калі супрацоўнікі арганізацыі разглядаюць паведамленні ў CyberTipline і калі ў ім утрымліваюцца матэрыялы з эксплуатацыяй, якія не былі заўважаныя раней, яны пераходзяць да актыўных дзеянняў, — кажа Макналці. — Гэта можа быць дзіця, якое яшчэ не ідэнтыфікавалі, яно можа знаходзіцца ў небяспецы».
Спадарыня Макналці сказала, што добрая здольнасць Google выявіць гэтыя выявы, каб яе арганізацыя магла паведаміць пра іх паліцыі для далейшага расследавання, з'яўляецца «прыкладам таго, што сістэма працуе так, як яна павінна працаваць».
Супрацоўнікі CyberTipline дадаюць новыя выявы ў хэшаваную базу даных, якая перадаецца тэхналагічным кампаніям для сканавання. Калі жонка Марка даведалася пра гэта, яна выдаліла са свайго iPhone фатаграфіі, зробленыя Маркам для іх сына, баючыся, што Apple можа адзначыць яе акаўнт. У мінулым годзе кампанія Apple абвясціла пра планы па сканаванні iCloud Photos на прадмет вядомых выяваў дзіцячага порна, але разгортванне гэтай сістэмы было адкладзенае на нявызначаны тэрмін пасля супраціву групаў па абароне прыватнага жыцця.
У 2021 годзе CyberTipline паведаміла, што яна папярэдзіла ўлады пра «больш за 4260 новых патэнцыйных ахвяраў сярод дзяцей». Сярод іх былі і сыны Марка і Касіа.
«Яны невінаватыя»
Следчы не змог звязацца з Маркам, бо яго нумар тэлефона Google Fi больш не працаваў.
У снежні 2021 года Марк атрымаў па пошце канверт ад Дэпартамента паліцыі Сан-Францыска. У ім быў ліст з інфармацыяй пра тое, што ў дачыненні да яго распачатае расследаванне, а таксама копіі ордэраў на прагляд акаўнта Google і яго інтэрнэт-правайдара. Следчы запытаў усе даныя з акаўнта Марка ў Google: гісторую пошуку ў інтэрнэце, гісторыю месцазнаходжання, паведамленні і ўсе дакументы, фатаграфіі і відэа, якія ён захоўваў там.
Пошук, звязаны з «відэа пра эксплуатацыю дзяцей», быў зроблены ў лютым, на працягу тыдня пасля таго, як Марк зрабіў фатаграфіі свайго сына.
Марк патэлефанаваў следчаму Нікаласу Хіларду, які сказаў, што справа закрытая. Хілард спрабаваў звязацца з Маркам, але яго нумар тэлефона і адрас электроннай пошты не працавалі.
«Я вырашыў, што інцыдэнт не ўтрымлівае прыкметаў злачынства і што злачынства не было», — напісаў Хілард у сваёй справаздачы. Паліцыя мела доступ да ўсёй інфармацыі Google пра Марка і вырашыла, што гэта не з'яўляецца жорсткім абыходжаннем або эксплуатацыяй дзіцёнка.
Марк спытаў, ці можа Хілард паведаміць Google, што ён невінаваты, каб ён мог вярнуць свой акаўнт.
«Вы мусіце гаварыць з Google, — сказаў Хілард, па словах Марка. — Я нічога не магу зрабіць».
Марк зноў звярнуўся ў Google, падаўшы паліцэйскі пратакол, але безвынікова. І два месяцы таму ён атрымаў апавяшчэнне пра тое, што ягоны акаўнт выдаляецца назаўжды, Марк пагаварыў з адвакатам пра тое, як падаць у суд на Google і колькі гэта можа каштаваць.
«Я вырашыў, што гэта не варта сямі тысячаў даляраў», — сказаў ён.
Кейт Клонік, прафесар права ва ўніверсітэце Сэнт-Джонс, які пісаў пра мадэрацыю анлайн-кантэнту, кажа, што бывае складана «ўлічыць нябачныя на фатаграфіі рэчы, напрыклад, паводзіны людзей, якія дзеляцца выявай, або намеры таго, хто яе зрабіў». Ілжывыя спрацоўванні, калі людзі памылкова адзначаюцца, непазбежныя, улічваючы мільярды адсканаваных малюнкаў.
Хоць большасць людзей, імаверна, палічылі б гэты кампраміс апраўданым, улічваючы карысць ад выяўлення дзяцей, якія падвергліся гвалту, Клонік кажа, што кампаніям неабходны «надзейны працэс» для апраўдання і аднаўлення акаўнтаў нявінных людзей, якія былі памылкова адзначаныя.
«Гэта было б праблематычна, калі б гаворка ішла толькі пра мадэрацыю кантэнту і цэнзуру, — сказала Клонік. — Але гэта ўдвая небяспечна, бо прыводзіць да таго, што пра некага паведамляюць у праваахоўныя органы».
Паводле яе слоў, магло быць і горш: бацька можа страціць права апекі над дзіцем.
Касіа таксама знаходзіўся пад следствам. Увосень 2021 года яму патэлефанаваў дэтэктыў з паліцэйскага ўпраўлення Х'юстана і папрасіў яго прыйсці ў пастарунак.
Пасля таго як Касіа паказаў дэтэктыву свае размовы з педыятрам, з яго адразу знялі абвінавачанні. Але ён таксама не змог вярнуць акаўнт Google, нягледзячы на тое, што з'яўляецца платным карыстальнікам вэб-паслуг Google. Зараз для электроннай пошты ён выкарыстоўвае Hotmail, праз што некаторыя нават смяюцца над ім, і часта робіць рэзервовыя копіі сваіх даных.
Не зразумееце, нават калі пабачыце
Марк быў расчараваны адмовай Google аднавіць акаўнт пасля таго, як ён патлумачыў, што адбылося.
Не ўсе фатаграфіі аголеных дзяцей з'яўляюцца парнаграфічнымі, эксплуататарскімі або абразлівымі. Карыса Бірн Хесік, прафесар права з Універсітэта Паўночнай Караліны, якая піша пра злачынствы, звязаных з дзіцячай парнаграфіяй, кажа, што юрыдычнае вызначэнне таго, што з'яўляецца сэксуальна абразлівымі малюнкамі, можа быць складаным.
Але спадарыня Хесік сказала, што згодная з паліцыяй у тым, што медыцынскія выявы не падпадаюць пад гэтае вызначэнне. «Тут няма гвалту над дзіцем, — сказала яна. — Яны зробленыя не для сэксуальных мэтаў».
У машынным навучанні камп'ютарная праграма трэніруецца, атрымліваючы «правільную» і «няправільную» інфармацыю, пакуль не здолее адрозніваць адно ад другога. Для таго, каб не адзначаць фатаграфіі немаўлятаў у ваннай або дзяцей, якія працуюць без адзення праз спёку, штучны інтэлект Google для распазнання гвалту быў навучаны як на малюнках патэнцыйна незаконных матэрыялаў, знойдзеных Google у акаўнтах карыстальнікаў у мінулым, так і на малюнках, не звязаных с сэксуальным гватлам.
Я бачыў фатаграфіі, якія Марк зрабіў са сваім сынам. Рашэнне адзначыць іх было зразумелым: гэта фатаграфіі геніталій дзіцяці. Але важны кантэкст: яны былі зробленыя бацькам, які турбуецца пра хворае дзіцё.
«Мы прызнаем, што ў стагоддзе тэлемедыцыны і асабліва кавіду бацькам даводзіцца рабіць фатаграфіі сваіх дзяцей, каб атрымаць дыягназ», — сказала Клэр Лілі, кіраўнік аддзела бяспекі дзяцей Google. Паводле яе слоў, кампанія кансультуецца з педыятрамі, каб яе спецыялісты разумелі магчымыя захворванні, якія могуць праявіцца на фотаздымках, зробленых па медыцынскіх паказаннях.
Доктар Сюзанна Хэйн, старшыня савета па жорсткім абыходжанні з дзецьмі і беспрытульнасці пры Амерыканскай акадэміі педыятрыі, параіла бацькам не фатаграфаваць геніталіі сваіх дзяцей, нават па ўказанні лекара.
«Апошняе, чаго вы хочаце — гэта каб дзіця адчувала сябе камфортна, калі нехта фатаграфуе яго геніталіі, — сказала Хані. — Калі гэта абсалютна неабходна, не загружайце здымкі ў воблака і неадкладна выдаляйце іх».
Паводле яе слоў, большасць лекараў, верагодна, не ведалі пра рызыкі, звязаных з просьбай да бацькоў зрабіць такія фатаграфіі.
«Я апладырую Google за тое, што яны робяць, — сказала Хэйн пра намаганні кампаніі па барацьбе са злоўжываннямі. — У нас сапраўды ёсць жудасная праблема. На жаль, яна закранае і бацькоў, якія спрабуюць зрабіць усё правільна для сваіх дзяцей».
У пачатку гэтага года прадстаўнік службы падтрымкі сказаў Касія, што адпраўка фатаграфій яго жонцы з дапамогай Google Hangouts парушае ўмовы абслугоўвання ў праграме. «Не выкарыстоўвайце Hangouts для эксплуатацыі дзяцей, — абвяшчаюць ўмовы. — Google прытрымліваецца палітыкі нецярпімасці да такога зместу».
Што тычыцца Марка, Лілі з Google заявіла, што эксперты не выявілі сыпу або пачырваненняў на фота, якія ён зрабіў, і што пры наступнай праверцы яго акаўнта было выяўлена відэа, знятае шасцю месяцамі раней, якое Google таксама палічыў спрэчным: маленькае дзіця ляжыць у ложку з распранутай жанчынай.
Марк не памятае гэтага відэа і больш не мае доступу да яго, але ён сказаў, што гэта падобна на прыватны момант, які ён натхнёна захаваў бы, не падазраючы, што яго калі-небудзь паглядзіць або ацэніць нехта іншы.
«Я магу сабе гэта ўявіць. Мы прачнуліся аднойчы раніцай. Быў цудоўны дзень з маёй жонкай і сынам, і я хацеў захаваць гэты момант, — сказаў Марк. — Калі б мы спалі ў піжамах, гэтага можна было б пазбегнуць».
Прадстаўніца Google заявіла, што кампанія застаецца пры сваім меркаванні, нават нягледзячы на тое, што праваахоўныя органы апраўдалі гэтых двух мужчын.
Вінаваты па змоўчанні
Хесік, прафесар права, сказала, што супрацоўніцтва тэхналагічных кампаній з праваахоўнымі органамі ў барацьбе з сэксуальным гвалтам над дзецьмі «неверагодна важна», але, на яе думку, яно павінна дапускаць выпраўленне.
«З пункту гледжання Google, прасцей проста адмовіць гэтым людзям у выкарыстанні сваіх паслуг», — выказала здагадку яна. У адваротным выпадку кампаніі давялося б вырашаць больш складаныя пытанні аб тым, «як правільна паводзіць сябе з дзецьмі і што дарэчы фатаграфаваць ці не».
У Марка ўсё яшчэ ёсць надзея, што ён зможа вярнуць сваю інфармацыю. Паліцыя Сан-Францыска захавала змесціва яго акаўнта Google на флэшцы. Цяпер Марк спрабуе атрымаць копію. Прадстаўнік паліцыі сказаў, што Дэпартамент імкнецца дапамагчы яму.
Чытайце яшчэ:
Google-пошук уводзіць у падман і шкодзіць дэмакратыі. Тлумачым, як не даць сябе падмануць
Праграмы для адсочвання менструальных цыклаў могуць прадаваць вашы даныя і нават перадаць іх сілавікам
Месенджары: якія з іх сапраўды бяспечныя і чым Viber лепшы за Telegram
