【差分隐私】基本原理与入门级应用 | 京东云技术团队

2023-06-12 309

差分隐私（Differential Privacy，DP）是密码学中的一种手段，可以提高从统计数据库进行数据查询的准确性，同时帮助最大限度减少识别其具体记录的机会。DP一般分为：CDP（Centralized Differential Privacy）、LDP（Local Differential Privacy）。

一、CDP

1.1 基本定义

保护效果：查询者无法判断特定样本是否在一个数据集当中。

1.2 应用举例

1.3 全局敏感度

1.4 数据裁剪

COUNT函数的GS始终为1，但是SUM函数的GS就不好说了，因为这要看SUM作用于哪个属性列，如：年龄和收入应用SUM就有很大差异。如1.2所述，我们应用Laplace扰动机制时需要f(x)（此处为SUM）的有界全局敏感度，但SUM显然不容易做到，因此需要对待处理的列进行裁剪处理，以得到f(x)的有界全局敏感度。有两点需要特别注意：

• 在裁剪造成的信息损失与满足差分隐私所需要的噪声间进行trade off，一般裁剪后要尽可能保留100%的信息。

• 不能通过查看数据集来确定裁剪边界，这可能会泄露信息，同时也不满足差分隐私的定义。

那我们应该如何对属性列进行裁剪动作，一般有如下两个做法：

• 根据数据集先天满足的一些性质来确定裁剪办界。如人的年龄一般在0~125岁之间。

• 采用差分隐私问询估计选择的边界是否合理。先通过数据变换把属性列映射为非负值，然后将裁剪下界置0，逐渐增加上界，直至问询输出不变。

1.5 向量值函数及其敏感度

1.6 Laplace机制

1.7 Gaussian机制

1.8 Laplace vs Gaussian

向量值Laplace机制需要使用L1敏感度，而向量值Gaussian机制L1和L2敏感度都可以使用。在L2敏感度远低于L1敏感度的场景下，Gaussian机制添加的噪声要小得多。向量值Laplace和Gaussian的发布规则为：

1.9 指数机制

前述Laplace和Gaussian机制的回复都是数值型的，只需要直接在回复的数值结果上添加噪声即可。如果我们想从一个备选回复集合中选出最佳结果，同时又保证回复过程满足差分隐私，那应该怎么办呢？一种可行的方法是使用指数机制。首先，定义一个备选回复集合；然后，再定义评分函数，评分函数输出备选集合中每个回复的分数；分数最高的回复就是最大回复。指数机制通过返回分数近似最大的回复来实现差分隐私保护。

报告噪声最大值

1.10 组合性与后处理性

二、LDP

2.1 LDP基本定义

2.2 LDP经典算法

2.3 LDP举例-随机应答

有n个用户，假设X病患者的真实比例为Π，我们希望对这个比例进行统计。于是我们发起一个敏感问题：“你是否为X病患者？”，每个用户的答案是yes or no。出于隐私性考虑，用户可能不会给出正确答案[5]。

我们可以对每位用户的回答加一些数据扰动。比如：用户正确回答的概率为p，错误回答概率为(1-p)。这样就不会准确知道每位用户的真实答案，相当于保护了用户隐私。按此规则我们统计回答yes与no的用户占比。

DP在机器学习领域的应用、基于Gaussian机制实现LDP的原理请听下回分享。

参考资料

1.Balle B, Wang Y X. Improving the gaussian mechanism for differential privacy: Analytical calibration and optimal denoising[C]//International Conference on Machine Learning. PMLR, 2018: 394-403.

2. https://programming-dp.com/

3.Cynthia Dwork, Aaron Roth, and others. The algorithmic foundations of differential privacy. Foundations and Trends® in Theoretical Computer Science, 9(3–4):211–407, 2014.

4.Xiong X, Liu S, Li D, et al. A comprehensive survey on local differential privacy[J]. Security and Communication Networks, 2020, 2020: 1-29.

5.LDP随机响应技术举例： https://zhuanlan.zhihu.com/p/472032115

作者：京东科技李杰

内容来源：京东云开发者社区

微信关注我们

原文链接：https://my.oschina.net/u/4090830/blog/10021267

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

架构师日记-从技术角度揭露电商大促备战的奥秘 | 京东云技术团队

一背景今年的618大促已经如期而至，接下来我会从技术的角度，跟大家聊聊大促备战的底层逻辑和实战方案，希望能够解答大家心中的一些疑惑。首先，618大促为什么如此重要呢？先从数据的角度简单做一下分析，以下表格罗列了我们历年大促GMV成绩单：年份 618销售额（亿元）年销售额（亿元） 618销售额占比 2022 3793 33155 11.4% 2021 3439 32970 10.4% 2020 2694 26125 10.3% 2019 2017 20854 9.7% 2018 1592 16769 9.5% 根据以上数据统计，我们可以得出结论：每年的618大促销售额约占全年销售额的10%左右。以2022年618大促销售额为例，大促期间，每分钟的销售额平均高达1463万元。因此，从技术角度来看，保证服务的稳定性是至关重要的。相信这些数据可以为您在大促期间制定任务优先级和做出决策提供有价值的参考。二挑战大促期间系统的稳定性对于业务的正常运营如此重要，我们需要探讨以下问题： • 影响系统稳定性的因素都有哪些？ • 稳定性要求与日常对系统的高可用要求有哪些不同之处？ • 面对各...

2023-06-12

620

摘要：在本文中，我们深入探讨了Spring框架中的属性注入技术，包括setter注入、构造器注入、注解式属性注入，以及使用SpEL表达式进行属性注入。本文分享自华为云社区《Spring高手之路3——揭秘Spring依赖注入和SpEL表达式》，作者：砖业洋__ 。在本文中，我们深入探讨了Spring框架中的属性注入技术，包括setter注入、构造器注入、注解式属性注入，以及使用SpEL表达式进行属性注入。我们通过XML和注解两种方式，详细讲解了如何进行属性注入，并给出了完整的代码示例。无论你是Spring新手，还是有一定经验的开发者，本文都将帮助你理解并掌握Spring中的属性注入技术。 1. setter属性注入 1.1 使用XML进行setter方法注入我们在前面的文章中已经使用过XML进行setter方法的属性注入了，下面让我们再来回顾一下： <bean id="userSetter" class="com.example.demo.bean.User"> <property name="username" value="example-username-...

2023-06-12

729

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。