Приватність за задумом

Приватність за задумом, також проєктована приватність, приватність з проєкту (англ. privacy by design) – це підхід до системної інженерії, спочатку розроблений Енн Кавукян[en] і формалізований у спільному звіті про технології, що покращують приватність спільною командою Уповноваженого з питань інформації та приватності Онтаріо[en] (Канада), Управління із захисту даних Нідерландів[en] та Нідерландської організації прикладних наукових досліджень у 1995 році.[1][2] Приватність за задумом була опублікована у 2009 році[3] і прийнята Міжнародною асамблеєю уповноважених з питань приватності та органів із захисту даних у 2010 році.[4] Приватність за задумом вимагає враховувати приватність протягом усього процесу розробки. Концепція є прикладом дизайну, чутливого до цінностей[en] , тобто врахування людських цінностей у чітко визначеному порядку протягом усього процесу.[5][6]

Підхід Кавукян до приватності піддавався критиці як нечіткий,[7] такий, що створює виклики для забезпечення його прийняття,[8] важко застосуваний до певних дисциплін,[9] а також через пріоритет корпоративних інтересів над інтересами споживачів[7] і недостатній акцент на мінімізації збору даних.[9]

Європейський регламент GDPR передбачає приватність за задумом.[10]

Історія та передумови ред.

Приватність за задумом була розроблена Енн Кавукян, Уповноваженого з питань інформації та приватності Онтаріо після його спільної роботи з Управлінням із захисту даних Нідерландів та Нідерландською організацією прикладних наукових досліджень у 1995 році.[1][10] У 2009 році Уповноважений з питань інформації та приватності Онтаріо був одним із організаторів заходу «Privacy by Design: The Final Workshop» разом з ізраїльським Управлінням із права, інформації та технологій на 31-й Міжнародній конференції із захисту даних та Комісарів з питань приватності (2009).[11][12]

У 2010 році структура набула міжнародного визнання, коли Міжнародна асамблея уповноважених з питань приватності та органів із захисту даних одноголосно прийняла резолюцію про приватність.[13] визнаючи його міжнародним стандартом на своїй щорічній конференції.[12][14][15][4] Серед інших зобов’язань, члени комісії вирішили якомога ширше сприяти приватності за допомогою дизайну та сприяти включенню цього принципу в політику та законодавство.[4]

Глобальне використання ред.

У липні 1997 року Німеччина випустила статут (§ 3, розділ 4 «Teledienstedatenschutzgesetz» [Закон про захист даних у телепослугах]).[16] Новий Загальний регламент захисту даних (GDPR) ЄС включає «захист даних з проєкту» і «захист даних за замовчуванням»,[17][18][10] другий основоположний принцип приватності за задумом. Уповноважений Канади з питань приватності включив приватність за задумом у свій звіт «Приватність, довіра та інновації – створення цифрових переваг Канади».[19][20] У 2012 році Федеральна торгова комісія (FTC) визнала приватність за задумом однією з трьох рекомендованих практик захисту приватності в Інтернеті у своєму звіті під назвою «Захист приватності споживачів в епоху швидких змін»,[21] і FTC включила приватність за задумом як один із ключових стовпів у своєму «Остатковому звіті уповноваженого щодо захисту приватності споживачів».[22] В Австралії Уповноважений з питань приватності та захисту даних штату Вікторія (CPDP) офіційно прийняв приватність за задумом як основну політику для забезпечення управління приватністю інформації в державному секторі Вікторії.[23] Вебсайт Офісу Уповноваженого з питань інформації Великобританії підкреслює приватність за задумом[24] і захист даних з проєкту і за замовчуванням.[25] У жовтні 2014 року Маврикійська декларація про Інтернет речей, яка була прийнята на 36-й Міжнародній конференції уповноважених із захисту даних та приватності, включала приватність за задумом і за замовчуванням.[26] Уповноважений з питань приватності персональних даних Гонконгу провів освітню конференцію про важливість приватності, створеної задумом.[27][28]

У приватному секторі Sidewalk Toronto[en] дотримується принципів приватності за задумом.[29] Брендон Лінч, директор із приватності в Microsoft, написав статтю під назвою «Приватність за задумом в Microsoft».[30] Разом з тим Deloitte пов'язує засвідчуваність довіру з приватністю з проєкту.

Основоположні принципи ред.

Приватність за задумом заснована на семи «основоположних принципах»:[3][31][32][33]

  1. Проактивність не реактивність; попередження, а не відновлення[3][31][32][33]
  2. Приватність як налаштування за замовчуванням[3][31][32][33]
  3. Приватність, закладена в дизайн[3][31][32][33]
  4. Повна функціональність – додатна сума, а не нульова сума[3][31][32][33]
  5. Наскрізна безпека – повний захист протягом усього життєвого циклу[3][31][32][33]
  6. Видимість і прозорість – залишайте її відкритою[3][31][32][33]
  7. Повага до приватності користувачів – орієнтована на користувача[3][31][32][33]

Принципи цитовано у понад п’яти сотнях статей[34] з посиланням на документ «Приватність за задумом у законі, політиці та практиці» Енн Кавукян.[35]

Основні принципи в деталях ред.

Проактивність не реактивність; попередження, а не відновлення ред.

Підхід приватності за задумом характеризується проактивними, а не реактивними заходами. Він передбачає і запобігає події порушення приватності до того, як вони відбудуться. Приватність за задумом не чекає, коли ризики приватності реалізуються, і не пропонує засобів для усунення порушень приватності після того, як вони відбулися — вона прагне запобігти їх виникненню. Приватність за задумом виникає до факту, а не після.[31][32][33]

Приватність за замовчуванням ред.

Приватність за задумом прагне забезпечити максимальний ступінь приватності, гарантуючи, що персональні дані автоматично захищаються в будь-якій ІТ-системі або в діловій практиці. Якщо людина нічого не робить, її приватність все ще залишається недоторканою. Від особи не потрібно ніяких дій для захисту її приватності — вона вбудована в систему за замовчуванням.[31][32][33]

Приватність, закладена в дизайн ред.

Приватність за задумом вбудована в дизайн та архітектуру ІТ-систем, а також у бізнес-практики. Вона не закріплюється як доповнення після факту. В результаті приватність стає важливою складовою основної функціональності, яка надається. Приватність є невіддільною частиною системи, не зменшуючи її функціональність.[31][32][33]

Повна функціональність – додатна сума, а не нульова сума ред.

Приватність за задумом прагне задовольнити всі законні інтереси та цілі у «безпрограшний» позитивній сумі, а не через застарілий підхід з нульовою сумою, де робляться непотрібні компроміси. Приватність за задумом уникає хибних дихотомій, таких як приватність проти безпеки, демонструючи, що можливо мати і те, і інше.[31][32][33]

Наскрізна безпека – повний захист протягом усього життєвого циклу ред.

Приватність за задумом, будучи вбудованою в систему до того, як буде зібраний перший елемент інформації, безпечно поширюється протягом усього життєвого циклу залучених даних — міцні заходи безпеки необхідні для приватності від початку до кінця. Це гарантує, що всі дані надійно зберігаються, а потім безпечно знищуються в кінці процесу вчасно. Таким чином, приватність за задумом забезпечує наскрізне безпечне керування життєвим циклом інформації від початку до кінця.[31][32][33]

Видимість і прозорість – залишайте її відкритою ред.

Приватність за задумом має на меті запевнити всі зацікавлені сторони у тому, що незалежно від ділової практики чи технології, вони фактично діють відповідно до заявлених обіцянок та цілей та підлягають незалежній перевірці. Складові частини та операції залишаються видимими та прозорими як для користувачів, так і для постачальників. Пам’ятайте: довіряйте, але перевіряйте.[31][32][33]

Повага до приватності користувачів – орієнтована на користувача ред.

Перш за все, приватність за задумом вимагає від архітекторів і операторів тримати інтереси особистості на першому місці, пропонуючи такі заходи, як жорсткі параметри приватності за замовчуванням, відповідне повідомлення та розширення можливостей, зручних для користувачів. Зробіть її орієнтованою на користувача.[31][32][33]

Дизайн і стандарти ред.

Міжнародна організація зі стандартизації (ISO) схвалила пропозицію Комітету з питань споживчої політики (COPOLCO) щодо нового стандарту ISO: «Захист споживачів: приватність за задумом для споживчих товарів і послуг» (ISO/PC317).[36] Стандарт має на меті визначити процес розробки для надання споживчих товарів і послуг, які відповідають внутрішнім потребам споживачів щодо конфіденційності обробки, а також вимогам щодо захисту персональних даних. Стандарт має Великобританію у якості секретаріату, тринадцять членів[37] і двадцять спостерігачів.[37]

Рада зі стандартизації Канади[en] (SCC) є одним із учасників і створила дзеркальний канадський комітет для ISO/PC317.[38]

Проєктна документація Privacy by Design для інженерів-програмістів (PbD-SE) технічного комітету OASIS [39] надає специфікацію для введення в дію приватності за задумом в контексті розробки програмного забезпечення. Приватність за задумом, як і безпека з проєкту, є нормальною частиною процесу розробки програмного забезпечення та стратегією зниження ризиків для інженерів програмного забезпечення. Специфікація PbD-SE перекладає принципи PbD на вимоги відповідності в рамках завдань програмної інженерії та допомагає командам розробників програмного забезпечення створювати артефакти[en] як доказ дотримання принципу PbD. Дотримання специфікації полегшує документування вимог до приватності за проєктом програмного забезпечення до виведення з експлуатації, тим самим надаючи план щодо дотримання принципів приватності за задумом та інші вказівки щодо найкращих методів забепечення приватності, наприклад NIST 800-53 Додаток J (NIST SP 800-53) і Принципів чесної інформаційної практики (FIPPs) (PMRM-1.0).[39]

Зв'язок із технологіями, що підвищують приватність ред.

Приватність за задумом виникла з технологій, що покращують приватність (PET) у спільному звіті Енн Кавукян і Джона Боркінга 1995 року.[1] У 2007 році Європейська комісія надала записку про PET.[40] У 2008 році Офіс британського інформаційного комісара замовив звіт під назвою «Приватність за задумом – огляд технологій, що покращують приватність».[41]

Існує багато аспектів приватності за задумом, включаючи розробку програмного забезпечення та системну інженерію[42] а також адміністративні елементи (наприклад, юридичні, політичні, процедурні), інші органи контролю та операційні контексти. Приватність за задумом розвинулась від перших зусиль, спрямованих на вираження принципів справедливої інформаційної практики, безпосередньо до розробки та функціонування інформаційно-комунікаційних технологій.[43] У своїй публікації «Privacy by Design: Delivering the Promises»[2] Пітер Хастінкс[en] визнає ключову роль, яку відіграли Енн Кавукян і Джон Боркінг, тодішні заступники комісарів з питань приватності, у спільній публікації 1995 року «Технології, що покращують приватність: шлях до анонімності».[1] Цей звіт 1995 року зосереджується на вивченні технологій, які дозволяють проводити транзакції анонімно.

Технології, що підвищують приватність, дозволяють онлайн-користувачам захищати конфіденційність їхньої ідентифікаційної персональної інформації (PII), яка надається (і обробляється) службам або застосуванням.Приватність за задумом розвивалася з урахуванням ширших систем і процесів, у які вбудовані та експлуатуються PET. Центр демократії та технологій США[en] (CDT) у документі «Роль приватності за задумом у захисті приватності споживачів»[44] відрізняє PET від приватності, зазначаючи, що «PET найбільш корисні для користувачів, які вже розуміють ризики приватності в Інтернеті. Вони є основними інструментами розширення прав і можливостей користувачів, але вони утворюють лише єдину частину ширшої структури, яку слід враховувати, обговорюючи, як технологію можна використовувати для захисту приватності».[44]

Критика та рекомендації ред.

Структура приватності за задумом викликала академічні дебати, зокрема після резолюції Міжнародних комісарів з даних 2010 року, вони містять приватності за задумом із пропозиціями юридичних та інженерних експертів, щоб краще зрозуміти, як застосувати структуру в різних контекстах.[7][9][8]

Приватність за задумом була розкритикована як "нечітка"[7] і така, що залишаює «багато відкритих питань щодо їх застосування при розробці інженерних систем».[9]

У 2007 р. науковець К.У. Левен опублікував «Engineering Privacy by Design», зазначивши, що «Розробка та впровадження вимог приватності в системах є складною проблемою і вимагає перекладу складних соціальних, правових та етичних проблем у системні вимоги». Автори стверджують, що їхнє твердження про те, що принципи приватності за задумом «залишаються невизначеними і залишають багато відкритих питань щодо їх застосування при розробці інженерних систем», можна розглядати як критику. Однак мета статті полягає в тому, щоб запропонувати, що «починаючи з мінімізації даних, яка є необхідним і фундаментальним першим кроком до розробки систем відповідно до принципів приватності за задумом». Метою їхньої статті є «початкове дослідження практики приватності за задумом з інженерної точки зору, щоб сприяти усуненню розриву між розумінням політиків та інженерів про приватність за задумом».[9]

Також було зазначено, що приватність за задумом схожа на схеми добровільної відповідності[en] в галузях, що впливають на навколишнє середовище, і, таким чином, не має зубів, необхідних для ефективності, і може відрізнятися в кожній компанії. Крім того, еволюційний підхід, який зараз використовується до розробки концепції, буде відбуватися за ціною порушення приватності, оскільки еволюція також передбачає можливість жити непридатним фенотипам (продуктам, що порушують приватність), доки їх не буде доведено, що вони непридатні.[7] Деякі критики зазначають, що певні бізнес-моделі будуються на основі спостереження за клієнтами та маніпулювання даними, і тому добровільне виконання вимог малоймовірне.[8]

У 2011 році Данське національне агентство з питань інформаційних технологій і телекомунікацій опублікувало як документ для обговорення «Нові моделі цифрової безпеки» у публікації «Приватність за задумом» як ключову мету створення моделі безпеки, яка відповідає «Приватності за задумом». Це досягається шляхом розширення концепції до «Безпека з проєкту» з метою досягнення балансу між анонімністю та спостереженням шляхом максимального усунення ідентифікації.[45]

У 2013 році Рубінштейн і Гуд використовували інциденти з приватністю Google і Facebook, щоб провести аналіз контрфактів, щоб визначити корисні для регуляторів уроки, які рекомендували приватність за задумом. Перше полягало в тому, що «більш детальні принципи та конкретні приклади» були б більш корисними для компаній. По-друге, «практичність так само важлива, як і інженерні принципи та практики». По-третє, потрібно більше працювати над «уточненням та розробкою принципів дизайну – як у розробці приватності, так і в дизайні зручності», включаючи зусилля щодо визначення міжнародних стандартів приватності. Останній урок полягає в тому, що «регулятори повинні робити більше, ніж просто рекомендувати прийняття та впровадження приватності за задумом».[8]

Інша критика полягає в тому, що поточні визначення приватності за задумом не стосуються методологічного аспекту системної інженерії, наприклад використання гідних методів системної інженерії, напр. ті, які охоплюють повний життєвий цикл системи та даних. Концепція також фокусується не на ролі фактичного власника даних, а на ролі розробника системи. Ця роль не відома в законодавстві про недоторканність приватного життя, тому концепція приватності за задумом не ґрунтується на законі. Це, у свою чергу, підриває довіру суб’єктів даних, власників даних та політиків.[7]

Поява GDPR із максимальним штрафом у 4% світового обороту тепер забезпечує баланс між вигодою для бізнесу та оборотом і відповідає на критику про добровільну відповідність та вимогу з боку Рубінштейна та Гуда про те, що «регулятори повинні робити більше, ніж просто рекомендувати прийняти та запровадити приватність за задумом».[8] Рубінштейн і Гуд також підкреслили, що приватність за задумом може призвести до застосувань, які ілюструють приватність за задумом, і їхня робота була добре прийнята.[46][8]

У травні 2018 року у документі «Попередній висновок щодо приватності за задумом» Європейський інспектор із захисту даних Джованні Буттареллі[en] стверджує: «Хоча приватність за задумом досягла значного прогресу в правовому, технологічному та концептуальному розвитку, вона ще далека від того, щоб повністю розкрити свій потенціал для захисту основних прав осіб. Наступні розділи цієї думки містять огляд відповідних подій та рекомендують подальші зусилля».[10]

Резюме містить такі рекомендації для інституцій ЄС:

  • Щоб забезпечити надійний захист приватності, у тому числі приватність за задумом, у Положенні ЄС про захист приватності в секторі електронних комунікацій[en],
  • Підтримувати приватність у всіх правових рамках, які впливають на дизайн технології, посилюючи стимули та обґрунтовуючи зобов'язання, включаючи відповідні правила відповідальності,
  • Сприяти розгортанню та прийняттю приватності за допомогою підходів до проєктування та PET в ЄС та на рівні держав-членів шляхом відповідних заходів щодо впровадження та політичних ініціатив,
  • Щоб забезпечити компетенцію та ресурси для досліджень та аналізу інженерії приватності та технологій, що підвищують приватність на рівні ЄС, ENISA або іншими організаціями,
  • Підтримати розвиток нових практик і бізнес-моделей за допомогою інструментів дослідження та розвитку технологій ЄС,
  • Для підтримки державних адміністрацій ЄС та національних органів влади в інтеграції відповідних вимог щодо приватності за задумом в державні закупівлі,
  • Підтримка інвентаризації та огляду найсучасніших розробок у сфері приватності та PET та їхнього розвитку.

Європейський інспектор із захисту даних буде:

  • Продовжуйте пропагувати приватність за задумом, якщо це необхідно, у співпраці з іншими органами захисту даних у Європейській раді із захисту даних[en] (EDPB),
  • Підтримка скоординованого та ефективного застосування статті 25 GDPR та відповідних положень,
  • Надавати вказівки для контролерів щодо належної реалізації принципу, викладеного в правовій базі, і
  • Спільно з органами із захисту даних[en] Австрії, Ірландії та Шлезвіг-Гольштейн нагороджуйте додатки, дружні до приватності, у сфері охорони здоров’я для мобільних пристроїв.[10]

Реалізація конфіденційності за задумом ред.

Європейський інспектор із захисту даних Джованні Буттареллі у своїй статті виклав вимогу щодо забезпечення приватності за задумом.[47] Агентство Європейського Союзу з питань мережевої та інформаційної безпеки надало детальний звіт «Приватність та захист даних за задумом – від політики до розробки» щодо впровадження.[48] Літня школа з реальних криптовалют і конфіденційності надала підручник «Інженерна приватність за задумом».[49] OWASP Top 10 Privacy Risks Project для вебпрограм, який дає підказки щодо того, як реалізувати приватність за задумом на практиці. Проєктна документація OASIS Privacy by Design для інженерів-програмістів (PbD-SE)[39] пропонує розширення/доповнення до уніфікованої мови моделювання OMG (UML) і служить доповненням до мови розширеної розмітки контролю доступу (XACML) та довідкової моделі керування приватністю (PMRM) OASIS. Рекомендації щодо приватності за задумом розроблені для того, щоб втілити деякі високорівневі ідеї щодо збереження приватності в більш детальні рекомендації. [50][51]

Див. також ред.

Примітки ред.

  1. а б в г Hes, R. Privacy Enhancing Technologies: the path to anonymity (PDF). Архів оригіналу (PDF) за 2 грудня 2019. Процитовано 30 січня 2022.
  2. а б Hustinx, Peter (2010). Privacy by Design: Delivering the Promises. Identity in the Information Society. 3 (2): 253—255. doi:10.1007/s12394-010-0061-z.
  3. а б в г д е ж и к Cavoukian, Ann. 7 Foundational Principles (PDF). Архів оригіналу (PDF) за 17 травня 2022. Процитовано 31 січня 2022.
  4. а б в 32nd International Conference of Data Protection and Privacy Commissioners Jerusalem, Israel 27-29 October, 2010 Resolution on Privacy by Design (PDF).
  5. Xu, Heng; Crossler, Robert E.; Bélanger, France (1 грудня 2012). A Value Sensitive Design Investigation of Privacy Enhancing Tools in Web Browsers. Decision Support Systems (англ.). 54 (1): 424—433. doi:10.1016/j.dss.2012.06.003. ISSN 0167-9236.
  6. Cavoukian, Ann (2011). Privacy by Design (PDF). Information and Privacy Commissioner.
  7. а б в г д е van Rest, Jeroen (2014). Designing Privacy-by-Design. Designing Privacy by Design. Lecture Notes in Computer Science. Т. 8319. с. 55—72. doi:10.1007/978-3-642-54069-1_4. ISBN 978-3-642-54068-4.
  8. а б в г д е Privacy by Design: A Counterfactual Analysis of Google and Facebook Privacy Incidents. Ira Rubinstein and Nathan Good. 11 серпня 2012. SSRN 2128146.
  9. а б в г д Engineering Privacy by Design (PDF). Seda Gurses, Carmela Troncoso, and Claudia Diaz.
  10. а б в г д Preliminary Opinion on privacy by design (PDF). Giovanni Buttarelli.
  11. Privacy Conference 2009 Fifth Plenary Session – Privacy by Design. Архів оригіналу за 16 липня 2018. Процитовано 30 січня 2022.
  12. а б Report on the State of PbD to the 33rd International Conference of Data Protection and Privacy Commissioners (PDF).
  13. Cavoukian, Ann (2010). Privacy by Design: the definitive workshop. A foreword by Ann Cavoukian, Ph.D (PDF). Identity in the Information Society. 3 (2): 247—251. doi:10.1007/s12394-010-0062-y. S2CID 144133793.
  14. 'Privacy by Design' approach gains international recognition.
  15. Landmark Resolution passed to preserve the Future of Privacy. Архів оригіналу за 8 листопада 2010.
  16. Bundesgesetzblatt.
  17. Regulation of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation). European Commissioner (January 2012).
  18. European Commission - Fact Sheet Questions and Answers – General Data Protection Regulation.
  19. Privacy, Trust and Innovation – Building Canada's Digital Advantage. 2010.
  20. Towards Privacy by Design: Review of the Personal Information Protection and Electronic Documents Act. Report of the Standing Committee on Access to Information, Privacy and Ethics (PDF).
  21. Protecting Consumer Privacy in an Era of Rapid Change: Recommendations for businesses and policy-makers (PDF). FTC Report (March 2012).
  22. FTC Issues Final Commission Report on Protecting Consumer Privacy. 26 березня 2012.
  23. Office of the Victorian Information Commissioner - Privacy by Design. Архів оригіналу за 16 липня 2018. Процитовано 31 січня 2022.
  24. UK ICO - Privacy by Design. Архів оригіналу за 24 травня 2018.
  25. UK ICO - Data protection by design and default. 23 листопада 2018.
  26. Mauritius Declaration on the Internet of Things (PDF). Архів оригіналу (PDF) за 7 жовтня 2022. Процитовано 31 січня 2022.
  27. About the Privacy by Design Conference.
  28. Privacy Commissioner for Personal Data – Privacy by Design.
  29. Sidewalk Toronto commits to privacy by design principles amid citizen concerns.
  30. Privacy by Design at Microsoft. 30 листопада 2010.
  31. а б в г д е ж и к л м н п р с Cavoukian, Ann (January 2011). The 7 Foundational Principles Implementation and Mapping of Fair Information Practices (PDF). Information and Privacy Commissioner of Ontario. Архів оригіналу (PDF) за 17 листопада 2021. Процитовано 31 січня 2022.
  32. а б в г д е ж и к л м н п р с Cavoukian, Ann. Privacy by Design – Primer (PDF). Архів оригіналу (PDF) за 22 липня 2018. Процитовано 31 січня 2022.
  33. а б в г д е ж и к л м н п р с Cavoukian, Ann. Privacy by Design – The 7 Foundational Principles (PDF). Privacy and Big Data Institute.
  34. Citations for Privacy by Design in Law, Policy and Practice. Google Scholar.
  35. Cavoukian, Ann. Privacy by Design in Law, Policy and Practice – A White Paper for Regulators, Decision-makers and Policy-makers (PDF). Архів оригіналу (PDF) за 23 листопада 2018. Процитовано 31 січня 2022.
  36. ISO/PC 317 - Consumer protection: privacy by design for consumer goods and services.
  37. а б ISO/PC 317 - Participating Members.
  38. SCC ISO/PC 317 - Consumer protection: privacy by design for consumer goods and services. 9 квітня 2018. Архів оригіналу за 4 січня 2022. Процитовано 2 лютого 2022.
  39. а б в OASIS Privacy by Design Documentation for Software Engineers (PbD-SE) TC.
  40. Privacy Enhancing Technologies (PETs).
  41. Privacy by Design – An Overview of Privacy Enhancing Technologies (PDF).
  42. privacy and data protection by design from policy to engineering. ENISA.
  43. Cavoukian, Ann. Privacy by Design: Origins, Meaning, and Prospects for Assuring Privacy and Trust in the Information Era).
  44. а б The Role of Privacy by Design in Protecting Consumer Privacy.
  45. New Digital Security Models (PDF). Danish National It and Telecom Agency. Архів оригіналу (PDF) за 19 березня 2022. Процитовано 2 лютого 2022.
  46. Why 'Privacy By Design' Is The New Corporate Hotness. Kashmir Hill.
  47. Privacy by Design - Privacy Engineering (PDF). Giovanni Buttarelli.
  48. Privacy and Data Protection by Design – from policy to engineering. ENISA.
  49. Engineering privacy by design (PDF).
  50. Perera, Charith; Barhamgi, Mahmoud; Bandara, Arosha K.; Ajmal, Muhammad; Price, Blaine; Nuseibeh, Bashar (February 2020). Designing privacy-aware internet of things applications. Information Sciences (англ.). 512: 238—257. arXiv:1703.03892. doi:10.1016/j.ins.2019.09.061. S2CID 60044.
  51. Implementing Privacy By Design. Privacy Policies (англ.). Процитовано 13 грудня 2020.