hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

					hang		e
				C				E
			X
		-							d
		F								t
		D								i
										r
	P						NOW!			o
						BUY
					to
	w Click										m
w
		w								o
		.							.c
			p					g
				df			n		e
					-x cha

Глобальная тенденция такова, что повсеместно усиливается законодательное регулирование за щиты персональных данных, а за основу модели берутся, в целом, стандарты ЕС1. Что касается движения данных через международные границы, то тут законы и ограничения сильно варьиру ются в зависимости от национальной юрисдикции. Даже внутри транснациональных организа ций возникают сложности с глобальным информационным обменом, обусловленные правовыми ограничениями отдельных национальных законодательств. Следовательно, организациям важно учитывать в своих внутренних политиках и правилах, руководствах и инструкциях все приме нимые в законном порядке требования и ограничения, чтобы сотрудники могли безбоязненно оперировать имеющимися данными в пределах той степени юридического риска, который орга низация считает приемлемым.

3.3 Этические аспекты работы с данными в режиме онлайн

В наши дни в США десятками появляются инициативы и программы, призванные упорядочить этический кодекс поведения в режиме онлайн (Davis, 2012). Темы горячих дискуссий включают

следующее.

Владение данными. Как обеспечить защиту права распоряжаться собственными персональ ными данными в социальных сетях? Как уберечься от брокеров данных? Ведь присосавшиеся к информационным потокам агрегаторы персональных данных научились упаковывать их в столь глубоко запрятанные профили, о которых человек даже не подозревает.

Право на забвение. Имеет ли человек право на удаление всякой информации о себе из сети интернет, в частности с целью исправления подпорченной репутации? Эта тема является ча стью более широких дискуссий о практиках сохранения данных на определенный срок.

Идентификация личности. Вправе ли мы требовать однозначной и достоверной идентифи кации личности пользователей, блогеров, владельцев аккаунтов и т. п.? Или же они имеют право на сохранение анонимности?

Свобода слова. Где именно пролегает граница между высказыванием собственного мнения и травлей, запугиванием, возбуждением розни по всяческим групповым признакам, «трол лингом» или оскорблениями.

3.4 Риски, обусловленные неэтичными практиками обращения с данными

Большинство людей, работающих с данными, прекрасно понимают, что данные вполне можно использовать для формирования неверных представлений. Успевшая стать классической кни га Дарелла Хаффа «Как лгать при помощи статистики» (1954) описывает широкий спектр приемов обмана общественности без явной подтасовки данных за счет несложных манипуля ций с отображением имеющегося фактического материала. Используемые методы включают

1 В частности, и Федеральный закон РФ «О персональных данных» № 152-ФЗ основан, в общих чертах, на тех же принципах защиты данных, унаследованных от ОЭСР, что и европейский регламент GDPR (см. гл. 2 закона «Принципы и условия обработки персональных данных»). — Примеч. пер.

54	Г Л А В А 2

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

					hang		e
				C				E
			X
		-							d
		F								t
		D								i
										r
	P						NOW!			o
						BUY
					to
	w Click										m
w
		w								o
		.							.c
			p					g
				df			n		e
					-x cha

тенденциозные выборки данных, манипуляции с масштабами шкал, отбрасывание не уклады вающихся в модель точек данных и т. п. Подходы подобного рода практикуются в сфере работы с данными и в наши дни.

Одним из способов определения границ между допустимым и недопустимым в обращении

сданными является выявление и изучение практик, которые, по мнению большинства людей, являются неэтичными. Этичное обращение с данными подразумевает решительное следование моральным принципам, к которым относится, в частности, стремление к достоверности. Под тверждение достоверности может включать оценку по критериям качества данных, таким как точность и актуальность. Сюда входит также оценка по критериям правдивости и прозрачности: недопустимо использовать данные для обмана или введения в заблуждение; и обязательно обес печивать прозрачность источников данных и намерений, стоящих за тем или иным их использо ванием организацией. Далее описаны лишь некоторые сценарии неэтичных практик обращения

сданными, идущих вразрез со сформулированными выше принципами.

3.4.1 Манипуляции с хронологией/временем

Не исключена возможность откровенной лжи посредством выборочного исключения и/или включения точек ввода/регистрации данных, используемых для формирования итоговых ста тистических отчетов. В частности, на фондовых рынках распространена практика публикации котировок акций «по состоянию на момент закрытия биржевых торгов», когда они, как правило, дорожают по сравнению с усредненными котировками за прошедший день. Для справки: такой подход квалифицируется как «временная фиксация рыночной конъюнктуры» и юридически по ставлен вне закона.

Специалисты в области бизнес-аналитики (Business Intelligence, BI), вероятно, первыми заме чают аномалии подобного рода. Сегодня они считаются крайне ценными игроками на главных площадках биржевых торгов во всем мире, поскольку помогают воссоздавать реальную карти ну конъюнктуры фондовых рынков, а заодно анализировать сводки и отчеты и сопоставлять их с действующими правилами и тревожными сигналами систем мониторинга биржевой активно сти. Сотрудники подразделений BI, руководствующиеся этическими принципами, должны пе редавать сведения о выявленных аномалиях функциональным подразделениям, отвечающим за руководство и управление данными.

3.4.2 Вводящие в заблуждение визуальные представления

Диаграммы и графики также могут использоваться для формирования обманчивых представ лений о данных. К примеру, играя масштабом шкалы, можно представить тенденцию более выигрышной или неприглядной, чем она есть на самом деле. Выборочная отбраковка точек данных, сравнение по общему параметру несопоставимых по природе явлений, нарушение общеприня тых правил графического представления (например, сумма долей, отображенных в секторной диаграмме, должна равняться строго 100% или единице, однако на практике «пироги» нарезают с использованием произвольных цифр) и ряд других приемов также используют для введения

Этика обращения с данными

55

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

					hang		e
				C				E
			X
		-							d
		F								t
		D								i
										r
	P						NOW!			o
						BUY
					to
	w Click										m
w
		w								o
		.							.c
			p					g
				df			n		e
					-x cha

людей в заблуждение, побуждая интерпретировать не данные как таковые, а картинки, имеющие к этим данным весьма косвенное отношение1

3.4.3 Нечеткие определения или некорректные сравнения

Новостные каналы сообщали, ссылаясь на данные Бюро переписи населения США за 2011 год, что в стране на 101,7 млн человек работающего населения приходится 108,6 млн получателей со циальных пособий, то есть налицо чудовищная диспропорция по этому показателю2. Объяснение было найдено Media Matters3: цифра в 108,6 млн «получателей социальных пособий» взята из отчета Бюро переписи населения об... «участниках программ помощи нуждающимся», к которым отнесены «все без исключения лица, проживающие в домохозяйствах, где хотя бы одно лицо по лучало социальные льготы или пособия» в IV квартале 2011 года, то есть в число «получателей пособий» оказались массово включены лица, не получившие от правительства ни цента. С другой же стороны, к «работающему населению» отнесли лишь тех, кто имеет постоянную работу, то есть «трудоустроен на полную ставку», тогда как их иждивенцы, проживающие в одном домохо зяйстве с работающими, к числу «получателей зарплат» отнесены не были4

А как было бы этично? Этично представлять информацию с контекстным разъяснением ее смыслового значения. В рассматриваемом примере этично было бы дать четкое, однозначное и корректное определение методики измерения числа «получателей пособий». Вынося же за рам ки обязательный для понимания контекст, на поверхности презентации можно получить смысл, никоим образом не поддерживаемый исходными данными. Делается ли это с целью обмануть аудиторию или по невнимательности — вопрос второй, поскольку в любом случае налицо не этичное использование данных.

Ну и, конечно же, самое последнее дело с точки зрения этики — злоупотребление статистикой и/или ее нецелевое использование.

«Статистическое сглаживание» показателей за отчетный период способно кардинально из менить восприятие чисел. Недавно появившийся термин «data mining snooping» (в буквальном переводе — «добыча данных с отслеживанием», однако в русскоязычных источниках чаще все го используется термин «слепое прочесывание данных») описывает новомодную тенденцию

1 См.: How To Statistics (Website). Misleading Graphs: Real Life Examples. 24 January 2014, http://bit.ly/1jRLgRH; io9 (Website). The Most Useless and Misleading Infographics on the Internet, http://bit.ly/1YDgURl; http://bit.ly/2tNktve Google «misleading data visualization». Контрпримеры этичного визуального отображения данных см.: Tufte (2001).

2 Общая численность населения США по последним данным Бюро оценивается в 327,2 млн чел. (2018), работаю щего населения — в 126,8 млн чел. (2016), уровень бедности — в 12,3% (2017), а вот показатель числа получателей социальных пособий в национальной демографической статистике отсутствует как таковой (http://bit.ly/2iMlP58). —

Примеч. пер.

3 Media Matters for America — основанный в 2004 г. и действующий на правах некоммерческой организации (IRC 501(c)(3)) «Центр прогрессивных исследований и комплексного мониторинга, анализа и исправления консерва тивной дезинформации, публикуемой СМИ США» (https://www.mediamatters.org/). — Примеч. пер.

4 http://mm4a.org/2spKToU. Этот же пример заодно наглядно демонстрирует и один из приемов передергивания фак тов на графиках: столбец с 108,6 млн получателей пособий визуально выглядит раз в пять выше столбца с 101,7 млн работающих из-за отсечки оси значений на уровне 100 млн чел.

56	Г Л А В А 2

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

					hang		e
				C				E
			X
		-							d
		F								t
		D								i
										r
	P						NOW!			o
						BUY
					to
	w Click										m
w
		w								o
		.							.c
			p					g
				df			n		e
					-x cha

встатистико-аналитических исследованиях больших массивов неупорядоченных данных. В рам ках этого подхода на массив данных накладываются исчерпывающие корреляционные связи, то есть данные принудительно втискиваются в рамки некой статистической модели, после чего из массива вытягивается выборка, дающая формально «статистически значимые» результаты, кото рые в реальности являются чисто случайными и не выходят за пределы статистической ошибки

врамках совокупности исходных данных. Неспециалисты этим приемом вводятся в заблуждение с легкостью. Этот трюк сегодня наиболее распространен в финансах и медицине (Jensen, 2000; ma.utexas.edu, 2012)1

3.4.4 Предвзятость, систематические ошибки и искажения

Предвзятость подразумевает искажение перспективы вследствие тенденциозности восприятия. На личностном уровне предвзятость приводит к необоснованным субъективным суждениям или предрассудкам. В статистике — к отклонению полученной оценки от реального значения оце ниваемой величины вследствие накопления систематических ошибок на стадии формирования выборки данных2. Систематические ошибки и искажения могут привноситься на разных фазах жизненного цикла данных: при создании (сборе и/или формировании) данных; при определении источников и категорий данных и формировании выборок для статистического анализа; при вы боре методов анализа; наконец, при интерпретации и представлении результатов.

Этический принцип справедливости порождает безусловное обязательство сознавать возмож ность накопления систематических ошибок и искажений вследствие предвзятости на стадиях сбора, обработки, анализа и/или интерпретации данных. Особенно важно помнить об этом в случае стати стической обработки больших наборов данных, результаты которой могут особо негативно сказать ся на группах лиц, традиционно подвергавшихся дискриминации в силу исторически сложившегося предвзятого или несправедливого отношения. Использование данных без решения проблемы их искажения может способствовать дальнейшему усугублению предубеждений и приводить к сниже нию прозрачности процесса, придавая конечным результатам видимость беспристрастности и ней тральности, тогда как в реальности они таковыми являться не будут. Существует несколько типов искажений и систематических ошибок, обусловленных субъективизмом или предвзятостью.

Сбор данных для подтверждения предопределенного результата. Аналитикам заказали со брать доказательную базу данных в подтверждение какого-либо заключения, требующегося заказчику, который к тому же может оказывать давление на исполнителей. В результате вме сто объективного сбора и анализа данных происходит подгонка выборки исходных данных под заказанный результат.

Предвзятое использование собранных данных. Данные собраны объективно и с минималь ными систематическими погрешностями, тем не менее на аналитика оказывается серьезное

1 См. также многочисленные статьи на эту тему У. Эдвардса Деминга: https://deming.org/deming/deming-articles

2 http://bit.ly/2lOzJqU

Этика обращения с данными

57

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

					hang		e
				C				E
			X
		-							d
		F								t
		D								i
										r
	P						NOW!			o
						BUY
					to
	w Click										m
w
		w								o
		.							.c
			p					g
				df			n		e
					-x cha

давление с целью получения подтверждения предопределенного результата. В таких ситуа циях дело может дойти и до прямой подтасовки данных на стадии анализа (например, часть мешающих получить «нужный» результат данных отправляется в корзину).

Выборочный поиск данных в подтверждение гипотезы. Аналитику приходит в голову до гадка, которой требуется найти подтверждение, что порождает поиск данных, соответствую щих гипотезе, и игнорирование тех данных, которые ей противоречат.

Тенденциозная методология выборки. Если статистическое исследование предусматривает формирование выборки исходных данных, возможность для привнесения искажений порой возникает еще на этапе выбора соответствующей методологии. Нереалистично ждать от лиц, собирающих данные, полной объективности, беспристрастности и непредвзятости при со ставлении выборки. Для минимизации возможных искажений следует использовать стати стические инструменты формирования выборок и обеспечивать адекватные размеры самих выборок. Особенно важно помнить об однозначной тенденциозности наборов данных, под готовленных в целях обучения.

Влияние контекста и культуры. Искажения нередко бывают обусловлены культурой или контекстом, что требует умения отрешиться от этих факторов для нейтрального восприятия изучаемой ситуации.

Спектр вопросов, касающихся искажений, весьма широк и в каждом конкретном случае зависит от различных факторов, таких как тип обрабатываемых данных, заинтересованные лица, поря док заполнения наборов данных, удовлетворяемые исследованием бизнес-нужды и ожидаемые результаты. Однако устранить абсолютно все искажения порой невозможно, а иногда — даже нежелательно. К примеру, в бизнесе дискриминация неплатежеспособных клиентов (с которыми бессмысленно и даже вредно продолжать иметь дело) закладывается бизнес-аналитиками во мно гие сценарии: эту категорию потребителей безжалостно вычищают из выборок или игнорируют при анализе. В подобных случаях долг аналитиков — документировать критерии определения изучаемой демографической выборки. В качестве противоположного примера стоит привести прогностические алгоритмы выявления «потенциальных преступников» или «криминогенных районов», широко используемые полицией. Такие методы статистического анализа рисков сопря жены со значительно более серьезным посягательством на этические принципы справедливости и равноправия, поэтому использовать их следует с большей осмотрительностью, обеспечивая, в частности, прозрачность алгоритмов прогнозирования и персональную ответственность за умышленное искажение данных, используемых для обучения этих алгоритмов1

1 Примеры предвзятости при машинном обучении см.: Brennan (2015) и на сайтах Ford Foundation и ProPublica (http:// bit.ly/2oYmNRu). Помимо систематических ошибок, обусловленных тенденциозностью выборок данных, использовав шихся для обучения, серьезную проблему представляет и непрозрачность предиктивных алгоритмов, используемых самообучаемыми машинами: по мере их усложнения всё труднее отслеживать логику и происхождение принимаемых ими решений. См.: Lewis and Monett (2017).

58	Г Л А В А 2

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-xcha

3.4.5 Преобразование и интеграция данных

				hang		e
			C				E
		X
	-							d
	F								t
	D								i
									r
P						NOW!			o
					BUY
				to
w Click										m
w
	w								o
	.							.c
		p					g
			df			n		e
				-x cha

Этические трудности при интеграции данных и их преобразовании обусловлены тем, что данные перемещаются из системы в систему, а при отсутствии должного контроля это сопряжено с ри ском неэтичного и даже противоправного обращения с данными. Этические риски такого рода связаны и с фундаментальными проблемами управления данными; в их числе:

Ограниченность знаний о первоисточнике и происхождении данных. Если организация не знает, откуда взялись данные, и не располагает сведениями об их происхождении (lineage), то есть сведениями о том, как они изменялись при перемещении из системы в систему, у нее нет доказательств их соответствия действительности.

Некачественные данные. У организаций должны иметься четкие и измеримые стандарты качества данных, и все используемые данные должны проверяться на предмет соответствия этим стандартам. Без подтверждения качества данных организация не вправе ручаться за их достоверность, а те, кто использует эти данные в практических целях, рискуют сами или под вергают риску других.

Ненадежные метаданные. Потребители данных зависят от надежности и качества метадан ных, включая однозначные и непротиворечивые определения отдельных элементов данных, задокументированные сведения о первоисточнике и происхождении данных (например, пра вила, использовавшиеся при интеграции данных). Без надежных метаданных данные могут быть неверно поняты или неправильно использованы. В случаях обмена данными между ор ганизациями, а тем более их трансграничного движения, метаданные должны обязательно включать признаки, указывающие на их источник, владельца и, при необходимости, особые требования к защите.

Отсутствие документированной истории исправления данных. У организаций также должна иметься доступная для проверки информация от том, как именно и когда изменя лись любые данные, имеющиеся в ее распоряжении. Даже если исправления вносятся с целью устранения неточностей, повышения качества или обеспечения лучшей защиты данных, они тем не менее могут оказаться несанкционированными. Поэтому любые исправления должны осуществляться строго в соответствии с формальным контролируемым процессом управле ния изменениями.

3.4.6 Обфускация / Редактирование данных

Под обфускацией (от лат. obfuscare — затенять, затемнять; и англ. obfuscate — делать неочевид ным, запутанным, сбивать с толку) данных понимается практика преобразования исходной ин формации в анонимную или удаления из нее важных элементов (иногда используется также тер мин «редактирование данных» — data redaction). Однако для защиты данных одной лишь обфускации может оказаться недостаточно, если последующая обработка (анализ или сопоставление с другими наборами данных) может привести к их раскрытию. Этот риск не устраняется полно стью ни одним из нижеперечисленных методов.

Этика обращения с данными

59