本文介绍了如何使用 Concrete ML 构建一个端到端加密的类似于 23andMe 的基因测试应用程序。文章重点介绍了 Zama Bounty Program Season 5 中两个获胜的解决方案,它们都使用了全同态加密(FHE)来保护敏感的 DNA 数据,并对这两种方案的实现原理、精度和性能进行了分析,展示了 FHE 在保护个人身份信息(PII)方面的价值。
Concrete ML v1.5版本发布,引入了新的DataFrame API,支持在加密存储的数据上工作,并增加了加速神经网络的新选项,速度可提高2-3倍。同时,发布了一个新的演示,展示如何安全地匿名化文本数据,以便在使用ChatGPT查询知识库时不会泄露任何个人身份信息。该版本旨在推动隐私保护的机器学习和加密协作。
Concrete ML v1.6 版本提升了大型神经网络的延迟,增加了对预训练的基于树模型的支持,并通过引入 DataFrame 模式和简化 Logistic 回归训练的部署,从而简化了协作计算。该版本还展示了深度 MLP 模型和 ResNet18 模型的延迟改进,并提供了加密训练和 DataFrame 模式的增强功能。此外,还包含用于Windows系统的GPU支持。
Concrete ML v1.7 版本发布,引入了多项新功能,包括在加密数据上微调 LLM 模型和神经网络,利用 GPU 加速提升加密推理的性能(最高可达 1-2 倍),以及展示了一个通过加密 DNA 预测祖源的 Hugging Face space 示例。此外,该版本还支持 Python 3.11 和 PyTorch 2。
Concrete ML v1.8 发布,主要改进了LLM混合微调的速度和可用性,通过优化的FHE后端和新的低秩逼近API,实现了在加密数据上进行隐私保护的LLM微调。该版本还支持Python 3.12,提供了一个更高效的LLM微调API,并利用GPU加速编译模型的评估过程,降低了成本和延迟。
Concrete ML v1.9 版本发布,引入了对 TFHE-rs 密文格式的支持,使 Concrete ML 模型能够无缝集成到基于 Rust 的 FHE 管道中。
本文介绍了Zama Bounty Program Season 7的获奖方案,该方案使用全同态加密(FHE)和Concrete ML实现了加密图像的隐形水印。该方案包含一个编码器神经网络(用于嵌入水印)和一个解码器神经网络(用于提取水印)。文章还讨论了该方案的性能和水印提取方法,以及其在版权保护、身份验证和篡改检测等方面的应用潜力。
Zama团队使用Concrete ML加速了同态加密(FHE)在机器学习中的应用,并成功超越了之前论文中的基准测试结果。他们通过改进编译器,分离了机器学习和密码学任务,并采用了MLIR框架,支持多种硬件加速器。实验结果表明,新的Concrete ML在执行速度上有了显著提升,例如NN-20模型比2021年的结果快21倍。
新加坡国立大学(NUS)的一组计算机科学学生在 TikTok TechJam 2024 上使用 Zama 的 Concrete ML 和全同态加密 (FHE) 技术,开发了一个广告服务系统,展示了 FHE 如何为在线广告开创一个尊重隐私的新时代。该项目名为 AnonymousAds,旨在保护用户隐私的前提下,实现个性化广告投放。
Zama 团队发布了 TFHE-rs (v0.7)、Concrete (v2.7)、Concrete ML (v1.6) 和 fhEVM (v0.5) 的新版本。
Zama 发布了 TFHE-rs (v0.8)、Concrete (v2.8) 和 Concrete ML (v1.7) 的新版本。
Zama发布 Concrete ML v1.9 版本,该版本支持 TFHE-rs 密文格式,支持开发者使用 Rust 生态系统进行加密机器学习工作流程,能够将 Concrete ML 模型无缝集成到基于 Rust 的 FHE 管道中。同时,LoRA LLM 微调协议也得到了性能上的改进,并推出了新的 SDK,旨在构建支持 FHE 的浏览器和移动应用程序,使移动用户能够安全地处理敏感数据。
Concrete ML v1.8 发布,旨在实现去中心化的私有 LLAMA 微调。此版本改进了 LLM 混合微调的速度和可用性,通过优化的 FHE 后端和新的低秩近似 API。Concrete ML 现在支持 Python 3.12,确保与最新的工具和框架兼容。该版本还提供了一个更好的 API,用于在加密数据上微调 LLM,并添加了一个优化的 FHE 后端,加速了计算。
Zama 发布了 TFHE-rs (v1.1)、Concrete (v2.10) 和 Concrete ML (v1.9) 的新版本。
Zama 团队发布了 TFHE-rs (v0.11)、Concrete (v2.9)、Concrete ML (v1.8) 和 fhEVM (v0.6) 的新版本。