Агрегирование данных что это
Понимание агрегированных, неопознанных и анонимных данных
«Мы можем делиться агрегированными данными с нашими партнерами».
«Мы можем делиться данными, которые агрегированы или не идентифицированы».
«Наш продукт собирает анонимные данные для аналитических целей».
Многие организации утверждают, что они защищают конфиденциальность посредством использования совокупных, неопознанных или анонимных данных. Однако понимают ли их пользователи, что означают эти термины? Что такое агрегированные данные? Есть ли разница между неопознанными и анонимными данными? Для исследователей, какие наборы данных имеют большую ценность: совокупные или анонимные?
Пользователи часто соглашаются на обмен личными данными с де-идентификацией, не понимая деталей.
Если вы когда-нибудь задумывались о том, что происходит, не удивляйтесь. Вот ваше руководство по де-идентификации данных, агрегированию и различным уровням анонимности.
Сводные данные: объединить и суммировать
Рассмотрим следующее: маркетинговая компания проводит опрос, чтобы выяснить, предпочитают ли люди бренд своей компании или своих конкурентов. Когда они представляют данные руководству, они представлены в обобщенном виде: указывается, какой бренд является наиболее популярным. Они могут включать дополнительную информацию о группах, с которыми они общались, например, о предпочтениях при голосовании по возрасту или местоположению. С помощью совокупной информации мы можем получить подробную информацию о том, какие бренды популярны по возрасту или в определенных регионах, но точные сведения о том, как проголосовали отдельные лица, никогда не раскрываются..
Может ли агрегация защитить конфиденциальность?
Поскольку при агрегировании данных информация отображается только в группах, многие считают ее защитой для защиты личной информации. В конце концов, вы не можете поставить под угрозу конфиденциальность, если данные показывают результаты только для групп людей, верно?
К сожалению, это не так просто; при правильном анализе совокупная информация может значительно раскрыть личные данные. Что если вы спросите совокупные данные блога: сколько посетителей вы получаете из Ирландии, кто просматривает блог на смартфоне? Что если вы спросите количество посетителей из Ирландии, которые используют смартфон, за один день? Или посетители из Ирландии, которые используют смартфон и нажимают на рекламу Amazon для мужской одежды в один день? Применяя несколько конкретных фильтров, можно выделить отдельного человека, намеренного или нет. Агрегация может защитить конфиденциальность, но нет гарантии, что она всегда.
Для организаций, которые используют агрегирование данных, Эд Фелтон с FTC предупреждает: агрегированные данные могут быть полезны, но это не гарантирует конфиденциальность.
«Простой аргумент, что его совокупные данные, следовательно, безопасны для выпуска, сам по себе недостаточен».
Де-идентификация: удаление личных данных
Магазин розничной торговли, который использует де-идентификацию, может отслеживать отдельные покупки, даты и места расположения магазинов, но удалять имена и адреса. В то время как «Сьюзен Смит из 75 Кларк-Драйв в Грейт-Фолс, штат Монтана, покупает технические книги», база данных магазина записывает ее как «пользователя местоположения в Монтане, который покупает технические книги». Де-идентификация убирает имя и идентификаторы Сьюзен, чтобы ее покупка могла быть получена кем угодно.
Де-идентификация является особенно популярной защитой конфиденциальности в клиниках и организациях, которые обрабатывают медицинскую информацию. Закон о мобильности и подотчетности медицинского страхования (HIPAA) рассматривает де-идентификацию в соответствии с разделом 164.514. Согласно HIPAA, информация может быть идентифицирована, когда
«Нет разумных оснований, чтобы информация могла использоваться для идентификации личности».
HIPAA разрешает некоторые льготы для де-идентифицированных данных, таких как раскрытие для исследований или для государственных служащих.
От де-идентифицированного до повторного идентифицирования: это может занять немного.
Чрезвычайно популярный случай выявления недостатка де-идентификации произошел в 2006 году с Netflix. По словам Роберта Лемоса и SecurityFocus, в конкурсе на улучшение алгоритма компании Netflix выпустила набор из 2 миллионов подписчиков. Компания де-идентифицировала набор данных, удалив имена пользователей. Однако, к их удивлению, исследователи из Остина смогли идентифицировать пользователей. Они делали это, используя имеющиеся данные и заполняя пробелы из других источников: объединяя пользовательские рейтинги с общедоступной базой данных о фильмах. Само собой разумеется, согласно Epic.org, Netflix отменил соревнование.
Де-идентификация также имеет недостатки, потому что нет универсального соглашения о том, какую информацию можно идентифицировать. Будут ли данные де-идентифицированы, если IP-адреса останутся? А как насчет дат рождения? Существуют стандарты, включая Safe Harbor HIPAA, но достаточно ли их? Согласно Privacy Analytics, входящей в группу компаний IQVIA, Safe Harbor «фактически не гарантирует, что риск повторной идентификации будет низким, за исключением очень ограниченных обстоятельств». Это плохая новость для организаций здравоохранения, которые полагаются на это, поскольку согласно HIPAA раздел § 164.514.2.ii, допуски для неопознанных данных являются приемлемыми только в том случае, если нет доказательств того, что данные могут быть повторно идентифицированы. Последние исследования за последние десять лет, в том числе Риски для конфиденциальности пациентов: повторная идентификация пациентов в данных больницы штата Мэн и Вермонт теперь означает, что нужны новые стандарты.
Как насчет закодированных данных? лексемизацию?
Закодированные данные и токенизация являются надежными способами защиты конфиденциальных данных. Для закодированных данных вся конфиденциальная информация удаляется и заменяется кодовыми словами, числами или уникальными идентификаторами. Коды отображаются в другую базу данных или документ, который работает как ключ. Информация повторно идентифицируется путем сопоставления кода с соответствующими конфиденциальными данными.
В токенизации мы автоматизируем процесс, заменяя конфиденциальные данные ссылочной переменной. Токен сопоставляется с более безопасной базой данных, которая содержит конфиденциальную информацию. При обработке информации система анализирует токены по записям в защищенной базе данных. Если он находит соответствующее соответствие токена, обработка продолжается с использованием конфиденциальных данных.
Закодированные данные и токены защищают информационную безопасность. Они эффективны, потому что они скрывают только конфиденциальные данные. Если аналитик желает обработать данные без ссылки на личные данные, он может. Аналогично, наборы данных, которые используют идентификаторы кода или токены, более безопасны против кражи. Если данные скомпрометированы, конфиденциальные данные остаются скрытыми. Например, злоумышленник, который крадет данные о продажах по кредитной карте, не может видеть номера карт, если используются токены.
Имейте в виду, однако, что хотя токены, закодированные данные и уникальные идентификаторы обеспечивают лучшую безопасность, они не делают данные анонимными. Данные, которые используют токены или идентификаторы кода, все еще подчиняются правилам конфиденциальности. Законы о неприкосновенности частной жизни не связаны исключительно с нарушением доступа к данным. Законодательство о конфиденциальности работает, чтобы минимизировать потенциальное злоупотребление персональными данными. До тех пор, пока данные с разрешения могут быть повторно идентифицированы, должны быть заключены соглашения о конфиденциальности.
Применяется меньше правил: анонимные данные часто освобождаются от законодательства о конфиденциальности, включая Общее положение о защите данных E.U. В соответствии с GDPR, информация, «которая не относится к идентифицированному или идентифицируемому физическому лицу или к персональным данным, анонимным таким образом, что субъект данных не идентифицируется или больше не идентифицируется», не подпадает под требования конфиденциальности.
Как вы делаете данные анонимными? Большинство методов относятся к одной из трех категорий: криптография, обобщение (также известное как перекодирование) и рандомизация..
Криптографические методы шифровать информацию в хранилище, делая данные анонимными, пока не расшифрованы для использования. Это защищает данные, но означает, что повторная идентификация может произойти, когда данные расшифрованы для обработки.
Методы обобщения заимствовать из агрегирования и де-идентификации данных, чтобы намеренно удалять идентификаторы и сокращать точные данные. Например, при обобщении рост или вес человека становится диапазоном, а не точным числом.
Случайность искажает результаты, добавляя данные и перемещая элементы так, чтобы результаты повторной идентификации были полны ошибок. В Руководстве по управлению данными в Финском архиве данных социальных наук содержатся подробные пояснения по методам анонимизации качественных и количественных данных..
Почему нам может понадобиться отказаться от идеи анонимных данных в целом
К сожалению, возможность для личных данных быть анонимными больше не может быть вариантом. Изобретательность, которую можно использовать для повторной идентификации людей, поразительна. Оливия Солон (Olivia Solon), пишущая для The Guardian, приводит примеры использования выстрелов папарацци и безымянных журналов такси для создания знаменитых плохих самосвалов. Кори Доктороу пишет для BoingBoing.net, что журналист Svea Eckert и ученый по данным Andreas Dewes определили режим лечения немецкого парламентария на основе данных, собранных плагинами браузера. В июле 2019 года журналистка New York Times Джина Колата опубликовала доказательства того, что ученые могут повторно идентифицировать «анонимные» данные переписи населения США. Между достижениями в области науки о данных и растущим объемом данных, чтобы заполнить пробелы, концепция анонимных данных может стать бессмысленной.
Так что, если ни один из этих методов полностью не защищает конфиденциальность, что мы делаем?
Во-первых, следует признать, что хотя совокупные, неопознанные и анонимизированные наборы данных не защищают конфиденциальность полностью, они все же предлагают некоторый уровень защиты. Если ваши данные агрегированы, де-идентифицированы или анонимны, вероятность того, что они будут прочитаны ежедневными процессорами, меньше. К счастью, получение личной информации из этих тщательно обработанных данных требует инструментов и навыков, которые доступны не каждому человеку..
Во-вторых, имейте в виду, если вы видите эти фразы в политике конфиденциальности или условиях использования, что ваша личная информация по-прежнему доступна. Служба, которая собирает анонимные данные, все еще может собирать личную информацию. Компании, которые делятся совокупной или не идентифицированной информацией, все еще делятся личными данными: что вы думаете по этому поводу?
Если вы управляете компанией, которая использует агрегацию, де-идентификацию или анонимность, признайте, что они не могут быть вашими единственными гарантиями. У вас все еще должны быть другие меры физической, технической и административной защиты. Нарушение данных неопознанных данных может все еще стоить вам, особенно если есть доказательства, что личные данные могут быть собраны. Используйте эти методы в качестве инструмента, но не в конце программы конфиденциальности и безопасности.
Смотрите также: Тенденции нарушения данных
Агрегирование данных
«. Агрегирование данных (data aggregation): процесс сбора, обработки и представления информации в окончательном виде. Агрегирование данных в основном выполняется для формирования отчетов, выработки политики, управления здравоохранением, научных исследований, статистического анализа и изучения здоровья населения. «
Источник:
«ИНФОРМАТИЗАЦИЯ ЗДОРОВЬЯ. ТРЕБОВАНИЯ К АРХИТЕКТУРЕ ЭЛЕКТРОННОГО УЧЕТА ЗДОРОВЬЯ. ГОСТ Р ИСО/ТС 18308-2008»
(утв. Приказом Ростехрегулирования от 11.03.2008 N 44-ст)
Смотреть что такое «Агрегирование данных» в других словарях:
агрегирование данных — Процесс сбора, обработки и представления информации в окончательном виде. Агрегирование данных в основном выполняется для формирования отчетов, выработки политики, управления здравоохранением, научных исследований, статистического анализа и… … Справочник технического переводчика
агрегирование данных — (data aggregation): Процесс сбора, обработки и представления информации в окончательном виде. Агрегирование данных в основном выполняется для формирования отчетов, выработки политики, управления здравоохранением, научных исследований,… … Словарь-справочник терминов нормативно-технической документации
агрегирование — 3.2 агрегирование (aggregation): Процесс или результат объединения конструкций языка моделирования и других компонентов модели в единое целое. Примечание Конструкции языка моделирования и другие компоненты модели могут быть агрегированы в более… … Словарь-справочник терминов нормативно-технической документации
агрегирование — Объединение, суммирование экономических показателей по какому либо признаку для получения обобщенных совокупных показателей. При агрегировании необходим учет структуры объединяемых элементов, в ряде случаев требуется анализ возможности и… … Справочник технического переводчика
Агрегирование — [aggregation, aggregation problem] объединение, укрупнение показателей по какому либо признаку для получения обобщенных, совокупных показателей — агрегатов. С математической точки зрения А. рассматривается как преобразование модели в модель … Экономико-математический словарь
агрегирование информации — Преобразование детализированной информации в пакеты (агрегаты) данных, что позволяет анализировать экономику в терминах небольшого числа соответствующих агрегированных переменных, которые включают капитал, труд, товары (промежуточные и конечные) … Справочник технического переводчика
агрегирование каналов — Метод повышения пропускной способности за счет объединения нескольких параллельных каналов в один высокоскоростной поток данных. [Л.М. Невдяев. Телекоммуникационные технологии. Англо русский толковый словарь справочник. Под редакцией Ю.М.… … Справочник технического переводчика
АГРЕГИРОВАНИЕ — соединение отдельных единиц или данных в единый показатель. Например, все цены индивидуальных товаров и услуг образуют один общий уровень цен или все единицы продукции агрегируются в реальный чистый национальный продукт … Большой бухгалтерский словарь
АГРЕГИРОВАНИЕ ИНФОРМАЦИИ — преобразование детализированной информации в пакеты (агрегаты) данных, что позволяет анализировать экономику в терминах небольшого числа соответствующих агрегированных переменных, которые включают капитал, труд, товары (промежуточные и конечные) … Большой бухгалтерский словарь
АГРЕГИРОВАНИЕ — соединение отдельных единиц или данных в единый показатель. Например, все цены индивидуальных товаров и услуг образуют один общий уровень цен или все единицы продукции агрегируются в реальный чистый национальный продукт … Большой экономический словарь
ElasticSearch — агрегация данных
В статье мы рассмотрим, как правильно реализовывать агрегацию данных, зачем это может понадобиться, и сдобрим это кучей рабочих примеров.
Для всех, кому интересно как сделать свои запросы в ES интереснее и посмотреть на обычной поиск с другой стороны, прошу под кат.
В предыдущей статье пользователи разделились поровну между статьёй по более простой теме и по более сложной, поэтому я выбрал не очень сложную тему, но довольно свежую, которая добавилась в ES относительно недавно(v1.0) и несёт довольно интересный функционал.
Aggregation module
Этот модуль пришел в ES на смену Facets, причем в настойчивой форме, Facets теперь считаются устаревшими и будут удалены в ближайшие релизы. Хотя агрегаты и были добавлены в v1.0.0RC1, а сейчас уже >1.2, я все же не рекомендую использовать Facets.
Зачем же понадобилось изменять рабочий инструмент?
Наверное, главной фишкой агрегатов является их вложенность. Приведу общий синтаксис запроса:
Как видно из структуры, агрегатов может быть сколь угодно много, и у каждого элемента может быть вложенный элемент без ограничений по глубине.
Используя вложенность, мы можем получить очень интересные статистические данные (пример в конце статьи).
Типы агрегатов
Типов агрегатов очень много, но все их можно объединить в 2 главных типа:
— Bucketing (Обобщение)
Для простоты понимания, это можно сравнить со всем знакомым инструментов «GROUP BY». Конечно, это довольно упрощенное сравнение, но принцип работы схож. Этот тип на основе фильтров обобщает документы, по какому-то определённому признаку, хороший пример это terms aggregation.
— Metric (Метрические)
Это агрегаты, которые высчитывают какие либо значение по определенному набору документов. Например sum aggregation
Думаю, для начало теории хватит, всем, кого интересует более фундаментальная информация по этому модулю, могут ознакомится с ней по этой ссылке.
Простой пример
Дамп наглым образом взят из этой прекрасной статьи
Давайте сгруппируем спортсменов по их виду спорта и узнаем сколько их в каждом спорте:
Тут мы используем агрегат «terms», который группирует документа по полю «sport».
«size» : 0 (0 заменяется на Integer.MAX_VALUE автоматически) говорит о том, что нам нужные все документы без исключения, в нашем случае не важна скорость, но надо учитывать, что более точный результат требует больше времени.
Отлично, бейсболистов больше всего.
Давайте отсортируем спортсменов по среднему значению их рейтинга, от большего к меньшему:
Тут отлично видно, что такое вложенный агрегат и как он может помочь нам выбрать документы максимально гибко.
Сначала мы указываем, что нужно сгруппировать спортсменов по имени, потом отсортировать по «rating_avg», который высчитывается в под агрегате «avg», по полю «rating». Заметьте, как элегантно ES работает с массивами ( «rating» : [10, 9] ) и с легкостью высчитывает среднее значение.
Начиная с версии 1.2.0 выполнение скриптов по умолчанию отключено. Вы можете его включить, при условии что у пользователей нет прямого доступа к ES (Надеюсь, что это так, иначе советую вам немедленно закрыть этот доступ ради безопасности ваших данных).
Агрегация во всей красе или что-то посложнее
Давайте найдём всех спортсменов, которые находятся в радиусе 20 миль от точки «46.12,-68.55»
Сгруппируем их по виду спорта и выведем подробную статистику по рейтингу спортсменов в этом виде спорта.
Звучит неплохо, а вот и пример.
Заключение
Надеюсь, я смог донести общие возможности этого прекрасного модуля. Всем, кого это тема заинтересовала, я советую ознакомиться со всем списком фильтров по этой ссылке.
Рад любым полезным замечаниям и дополнениям по теме.
Так же можно прочитать мою предыдущую статью по ES — ElasticSearch и поиск наоборот. Percolate API
И принять участие в голосование внизу статьи.
Агрегация данных
Агрегация предназначена для объединения нескольких значений в одном элементе. Например, для расчета родительского элемента на основании отмеченных дочерних или для расчета данных одного элемента на основе нескольких полей.
Данные объединяются, используя различные математические функции, например, сумма или среднее арифметическое всех агрегируемых значений.
В «Форсайт. Аналитическая платформа» доступны следующие типы агрегации:
Для настройки расчета вычислений по отредактированным данным без предварительного сохранения данных в источник используется «Настройка расчета формул».
Агрегация измерения фактов куба
Позволяет объединять поля источника данных, не привязанные к измерениям куба. Результат агрегации передается в измерение фактов куба.
Агрегация по месту вычисления делится на два типа:
По умолчанию установлен флажок « На клиенте ».
Агрегация настраивается на странице « Привязка фактов » мастера создания стандартного куба.
В столбце « Метод агрегации » из раскрывающегося списка выберите метод агрегации данных куба:
Рассматриваемый пример основан на примере создания куба, но поле src_id не будет привязано к отдельному измерению.
Для каждого значения (zn) одни и те же данные предоставлены от разных субъектов (src_id). Для определения наиболее подходящего значения настроим отображение максимального из доступных значений.
Таблица, используемая в качестве источника данных для куба, содержит поля:
Настроим для факта метод агрегации « Максимум ».
Укажем необходимые настройки на дополнительной панели « Свойства источника ».
На странице « Измерения » создадим и привяжем измерения для территориальных образований (ter_id), показателей (sep_id) и календаря (v_date). Поле src_id останется не используемым.
Исходная таблица содержит следующие данные:
В результате при работе с кубом, при отображении элемента за 2002 год у объекта наблюдения (с индексом 49) показатель (с индексом 30800) будет иметь значение «1643,7».
Агрегация по уровням измерения
Позволяет объединять данные элементов измерения по уровням. Результат агрегации дочерних элементов передается в родительский элемент.
Агрегация производится в открытом кубе на компьютере-клиенте.
Настраивается для отдельного варианта отображения куба на странице « Агрегация » мастера создания стандартного или автоматического куба.
Метод агрегации зависит от выбранного механизма агрегации:
Основной механизм агрегации. Настраивается для любого измерения, в том числе для календарного;
Хронологический механизм агрегации. Настраивается только для календарного измерения.
При настройке было создано 2 варианта отображения куба:
Агрегация по уровням альтернативной иерархии
Позволяет объединять данные элементов измерения по уровням альтернативной иерархии. Результат агрегации дочерних элементов передается в родительский элемент.
Агрегация производится в открытом кубе на компьютере-клиенте.
Настраивается для отдельного варианта отображения куба на странице « Агрегация » мастера создания стандартного или автоматического куба.
Метод агрегации зависит от выбранного механизма агрегации:
Основной механизм агрегации. Настраивается для любого измерения, в том числе для календарного;
Хронологический механизм агрегации. Настраивается только для календарного измерения.
Настройка по уровням альтернативной иерархии аналогична настройке агрегации по уровням измерений.
При выборе пункта « Альтернативный календарь » будет применена агрегация по уровням альтернативной иерархии, заданная при настройке агрегации стандартного или автоматического куба;
При выборе пункта « Сбросить » будут сброшены настройки, которые хранятся в кубе у основного измерения и альтернативных иерархий. Сброс происходит у выделенного измерения.
Агрегация фиксированных измерений для метрик
Позволяет объединять данные элементов, отмеченных в фиксированных измерениях. Результат агрегации передается в визуализатор инструмента. Метод агрегации на измерениях доступен для каждой метрики измерения с ролью « Метрика ».
Метод агрегации устанавливается вручную в отчете или передается из куба:
если в качестве измерения метрики в отчете указано измерение фактов куба, то тип агрегации фиксированных измерений для метрики передается из куба в зависимости от отмеченного элемента измерения. При изменении отмеченного элемента в измерении, тип агрегации берется из куба до тех пор, пока тип агрегации не будет изменен вручную в отчете;
если в измерении фактов куба не был определен метод агрегации, то в отчете по умолчанию устанавливается метод агрегации «Сумма».
При множественной отметке по метрике « Значение » берется тип агрегации первого элемента в кубе.
В строке « Метод агрегации » из раскрывающегося списка выберите метод агрегации данных куба: