拒绝 “ghs”,约会软件开源 “色图” 识别 AI
Bumble 是一款在线约会应用程序,也是美国市场中仅次于 Tinder 的第二大约会应用。作为一款主打陌生人社交的软件,Bumble 的用户(主要是女性)以往经常遭受到陌生人发送的色情图片骚扰。
为了打击这样的行为,2019 年,Bumble 在应用中推出了一个名为 Private Detector 的 AI 功能。Private Detector 的工作原理是自动模糊处理聊天时分享的色情图像,接收方可以自己决定是否查看或拦截该图片,觉得这种行为冒犯了自己的也可以向 Bumble 举报。
近日,为了进一步打击 "网络色情内容" ,致力于使互联网变得更加安全,Bumble 决定在 GitHub 上开源 Private Detector,并希望它能够被更广泛的技术社区/企业所采用。
Private Detector 使用了大量数据集进行训练,并使用了经过精心挑选阴性样本(不包含任何色情内容的样本),以更好地反映 “打擦边球” 的情况和人体的非敏感部位(如腿、胳膊),以便不将其标记为滥用;之后迭代地将样本添加到训练数据集中,以反映实际用户的行为或测试错误分类。
该模型还利用 Bumble 由 GPU 驱动的数据中心,并在数据集、网络和超参数(用于加速或提高训练性能的设置)优化的持续练习中进行了训练。
根据 Bumble 的数据分析显示,Private Detector 在不同条件下的性能(离线和在线)均达到了世界一流的水平(在上采样和类似生产的设置中,准确率 > 98%)。
Private Detector 基于 Apache-2.0 协议,开发者可以将其作为标准来实现,以按原样模糊处理色情图像,或者使用额外的训练样本对其进行微调。仓库里除了有 Private Detector 的源代码,还包括大量的文档和如何执行这些操作的指南。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Ubuntu 22.10 正式支持 Sipeed 的 LicheeRV RISC-V 开发板
近日,Canonical 宣布 已将 Ubuntu 22.10 操作系统移植到 Sipeed 的 LicheeRV Dock (荔枝 D1) RISC-V 开发板上。目前最新版本的 Ubuntu 22.10 映像已在LicheeRV 板子上可用,接下来的工作是新功能和最新 Ubuntu 版本的移植。 Sipeed 矽速科技是国内的专注于开源 AIoT 硬件平台的公司,包括开源 RISC-V 生态系统和 AIoT/TinyML 应用程序。其旗下硬件产品线包括 Maix 系列 AIot 板、 Tang 系列 FPGA 板 ,以及 LicheeRV 系列硬核 RISC-V 板。LicheeRV D1 板于 2021 年 11 月发布,有 HDMI 和 USB 端口、40 针 HAT 式 GPIO 、内置麦克风、用于麦克风阵列的 FPC 连接器、扬声器端口、一个复位按钮和一个额外的按钮。 可在此处下载LicheeRV D1 RISC-V 开发板的最新 Ubuntu 映像。相关的教程以及安装方法可在Ubuntu Wiki中找到。 此前我们报道过 Ubuntu 正式支持全志的 D1 哪吒 RISC...
- 下一篇
Keka:macOS 平台的解压缩工具
Keka 是一款 macOS 平台的解压缩工具,可以 快速创建具有高压缩率的压缩文件,还支持从多种类型的文件中解压缩文件 , 其中包括 7z 、 ISO 、 DMG、TAR、ZIP 和 Bzip2 等类型的文件格式。 推荐官:OSC 编辑部 推荐理由: Keka 是 macOS 平台的老牌开源解压缩工具, 最早诞生于 2009 年,如今已有 13 年历史。别看它年纪不小,但却保持“常新”,它在 2022 年前 4 个 月就已经更新了 3 次。 除此之外,Keka 还紧跟最新标准 ,目前 已使用 7-Zip 21.07 、 ZSTD 1.5+ 、 Sparkle 2.0,以及跟随最新的 macOS 设计标准采用 了圆角矩形图标。 默认情况下,Mac 其实是无法打开 Windows 平 台常用压缩格式 RAR 的,而且 Windows 常用的 WinRAR 也没有对应的 Mac 版本,但这都难不倒 Keka。如果有经常在 Windows 和 Mac 之间来回传输 压缩文档的需求,Keka 一样能够胜任。 Keka 还有一个不得不提的特点就是极快的启动 速度,即便放在 10 年前的电脑上,都...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
-
Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS8编译安装MySQL8.0.19
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS7,8上快速安装Gitea,搭建Git服务器
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
推荐阅读
最新文章
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- CentOS7,8上快速安装Gitea,搭建Git服务器
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS8编译安装MySQL8.0.19
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS7安装Docker,走上虚拟化容器引擎之路