Concrete ML v1.6:更大的神经网络和预训练的基于树的模型

  • ZamaFHE
  • 发布于 2024-07-06 11:35
  • 阅读 15

Concrete ML v1.6 版本提升了大型神经网络的延迟,增加了对预训练的基于树模型的支持,并通过引入 DataFrame 模式和简化 Logistic 回归训练的部署,从而简化了协作计算。该版本还展示了深度 MLP 模型和 ResNet18 模型的延迟改进,并提供了加密训练和 DataFrame 模式的增强功能。此外,还包含用于Windows系统的GPU支持。

博客

/

公告

Concrete ML

Concrete ML v1.6: 更大的神经网络和预训练的基于树的模型

2024年7月5日

  -

Andrei Stoian


Concrete ML v1.6 改进了大型神经网络的延迟,增加了对预训练的基于树的模型的支持,并通过引入 DataFrame schemas 和促进 logistic regression 训练的部署来简化协作计算。虽然 GPU 支持很快将在 Concrete ML 中可用,但下面给出了一些早期的延迟结果。

预训练的基于树的模型

Concrete ML 长期以来一直支持通过 from_sklearn 转换预训练的线性模型,以及使用 compile_torch_model 转换预训练的神经网络。预训练模型很受欢迎,因为从头开始训练模型容易出错,并且需要更深入的机器学习知识。此外,实施特定的训练算法,例如 federated learning,需要单独的专用工具包,但对此类训练模型的安全部署仍然至关重要。Concrete ML v1.6 现在支持使用 from_sklearn 函数导入预训练的树模型。与在明文中使用原始模型相比,默认导入设置可确保在加密数据上保持准确性。有关更多信息,请参阅文档

延迟改进

两个新的 notebook 展示了 Concrete v1.6 中预训练神经网络的延迟改进

  • 深度 MLP 模型:此 notebook 演示了一个 20 层的深度 MLP。它编译了一个预训练模型,并在加密数据上以 1 秒的延迟执行,使用 hpc7 AWS 实例比 Zama 白皮书 中的先前结果快 20 倍。
  • ResNet18 模型:此 notebook 演示了一个在 ImageNet 上运行的 ResNet18 模型,该模型在加密的 256 像素宽的图像上执行。虽然在 GPU 上的延迟大约为 56 分钟,但该模型比 TFHE ML 的最新技术 提高了 4 倍。下一个版本将启用最终用户 GPU 支持。

部署增强

借助 Concrete ML v1.6,开发人员可以轻松地将 logistic regression 训练部署为客户端-服务器服务。与以前的版本一样,开发人员可以参数化训练系统,选择要训练的特征数量和训练超参数。此外,Concrete ML v1.6 允许打包训练电路,以便将其部署到云上。有关更多详细信息,请参阅加密训练文档

DataFrame schemas

Concrete v1.6 中更新的 DataFrame API 减少了存储的 DataFrames 的大小,并允许用户手动控制他们加密的 DataFrames 的 schema。Schemas 描述了加密数据,使多个用户可以使他们的数据彼此兼容。该功能在加密 DataFrame notebook 中进行了演示。

此版本中的新功能和改进提高了 Concrete ML 的性能和可用性。即将推出的 GPU 支持将在不久的将来带来更大的进步。敬请关注!

更多链接

阅读更多相关帖子

[视频教程] 提高 Concrete ML 中较大神经网络的延迟 \ 在本教程中,Zama 团队成员 Jordan Frery 将向你展示如何提高 Concrete ML 中较大神经网络的延迟。 2024 年 7 月 24 日\ \ Jordan Frery

Concrete ML

教程

使 FHE 更快地用于 ML:通过 Concrete ML 击败我们之前的论文基准 \ 在 Zama,我们的目标不仅是让所有开发人员都可以访问 FHE,而且还要使其非常快。 2024 年 7 月 23 日\ \ Benoit Chevallier-Mames 和 Celia Kherfallah

Concrete ML

工程

Zama 产品发布 - 2024 年 7 月 \ 阅读有关 Zama 2024 年 7 月产品更新的信息,其中包括对 TFHE-rs、Concrete、Concrete ML 和 fhEVM 的增强功能... 2024 年 7 月 5 日\ \ Zama 团队

公告

TFHE-rs v0.7:Ciphertext Compression、Multi-GPU Support 和更多 \ TFHE-rs v0.7 引入了对加密同态计算结果的密文的压缩以及许多改进。 2024 年 7 月 5 日\ \ Jean-Baptiste Orfila、Arthur Meyre、Agnes Leroy

公告

TFHE-rs

fhEVM v0.5:增强的加密数据安全性和效率 \ fhEVM v0.5 引入了许多增强功能,以提高在应用程序中处理加密数据的安全性和效率。 2024 年 7 月 5 日\ \ Clément Danjou

公告

fhEVM

Concrete v2.7:GPU Wheel、扩展函数组合和其他改进 \ Concrete v2.7 引入了第一个可以加速 GPU 计算的 wheel,并添加了许多其他新功能。 2024 年 7 月 5 日\ \ Quentin Bourgerie

公告

Concrete

Concrete Concrete ML FHEVM TFHE-rs

产品与服务

隐私保护机器学习 机密区块链 阈值密钥管理 SYSTEM

开发者

博客 文档 GITHUB FHE 资源 研究论文 Bounty Program FHE STATE OS

公司

关于 FHE 简介 活动 媒体 招聘 法律声明

联系方式

与专家交谈 联系我们 X Discord Telegram 所有社区频道

在电子时代,隐私对于一个开放的社会是必要的。隐私不是秘密。私事是不想让全世界知道的事情,但秘密是不想让任何人知道的事情。隐私是有选择地向世界展示自己的能力。如果双方有某种交易,那么每一方都会记住他们的互动。每一方都可以谈论他们自己对这件事的记忆;谁能阻止它呢?人们可以颁布法律来反对它,但言论自由,甚至比隐私更重要,对于一个开放的社会来说是根本的;我们不寻求限制任何言论。如果许多方在同一个论坛中一起发言,那么每一方都可以对所有其他人发言,并将关于个人和其他方的知识汇总在一起。电子通信的力量使这种群体言论成为可能,并且它不会仅仅因为我们可能希望它消失而消失。既然我们渴望隐私,我们必须确保交易的每一方只知道该交易直接需要的知识。由于任何信息都可以被谈论,我们必须确保我们尽可能少地透露信息。在大多数情况下,个人身份并不重要。当我在商店购买杂志并向店员支付现金时,没有必要知道我是谁。当我要求我的电子邮件提供商发送和接收消息时,我的提供商不需要知道我在和谁说话或我在说什么,或者其他人对我说什么;我的提供商只需要知道如何将消息发送到那里,以及我欠他们多少费用。当我的身份被交易的底层机制泄露时,我就没有隐私了。我不能在这里有选择地展示自己;我必须始终展示自己。因此,开放社会中的隐私需要匿名交易系统。到目前为止,现金一直是主要的这种系统。匿名交易系统不是秘密交易系统。匿名系统使个人能够在需要时以及仅在需要时才透露自己的身份;这是隐私的本质。开放社会中的隐私也需要密码学。如果我说了一些话,我希望只有我打算让其听到的人才能听到。如果我的言论内容对全世界都可用,我就没有隐私。加密是为了表明对隐私的渴望,而使用弱密码加密则表明对隐私的渴望程度不高。此外,当默认设置为匿名时,为了有保证地透露自己的身份,需要密码签名。我们不能期望政府、公司或其他大型、没有面孔的组织出于他们的恩惠而给予我们隐私。谈论我们对他们有利,我们应该期望他们会谈论。试图阻止他们的言论是与信息的现实作斗争。信息不仅仅是想要自由,它渴望自由。信息扩展以填充可用的存储空间。信息是谣言的年轻、更强大的堂兄;信息比谣言的脚步更快,眼睛更多,知道的更多,但理解的却更少。如果我们希望拥有任何隐私,我们必须捍卫我们自己的隐私。我们必须走到一起,创建允许进行匿名交易的系统。几个世纪以来,人们一直用耳语、黑暗、信封、紧闭的门、秘密握手和信使来捍卫自己的隐私。过去的技术不允许强大的隐私,但电子技术可以。我们密码朋克致力于构建匿名系统。我们正在使用密码学、匿名邮件转发系统、数字签名和电子货币来捍卫我们的隐私。密码朋克编写代码。我们知道必须有人编写软件来捍卫隐私,并且由于我们只有在大家都这样做的情况下才能获得隐私,因此我们将编写它。我们发布我们的代码,以便我们的密码朋克伙伴可以练习和使用它。我们的代码可供全世界所有人免费使用。我们不太关心你是否不同意我们编写的软件。我们知道软件无法被销毁,并且一个广泛分散的系统无法被关闭。密码朋克谴责对密码学的法规,因为加密本质上是一种私人行为。事实上,加密行为将信息从公共领域移除。即使是反对密码学的法律也只能达到一个国家的边界和它的暴力臂膀。密码学将不可避免地传播到全球,并伴随着它使之成为可能的匿名交易系统。为了使隐私得到广泛普及,它必须是社会契约的一部分。人们必须走到一起,部署这些系统以实现共同利益。隐私的范围仅限于一个人的同伴在社会中的合作程度。我们密码朋克寻求你的问题和疑虑,并希望我们能与你互动,以免我们欺骗自己。但是,我们不会因为有些人不同意我们的目标而改变我们的路线。密码朋克正在积极致力于使网络对隐私更安全。让我们一起快速前进。前进。 Eric Hughes 著。 1993 年 3 月 9 日。

  • 原文链接: zama.ai/post/concrete-ml...
  • 登链社区 AI 助手,为大家转译优秀英文文章,如有翻译不通的地方,还请包涵~
点赞 0
收藏 0
分享
本文参与登链社区写作激励计划 ,好文好收益,欢迎正在阅读的你也加入。

0 条评论

请先 登录 后评论
ZamaFHE
ZamaFHE
Zama是一家开源密码学公司,专注于为区块链和人工智能构建最先进的完全同态加密(FHE)解决方案。