Opacusロゴ、イメージ:本旨
フェイスブックAI、差等個人情報保護機能をパイトーチモデルに学習させるための高速マシンラーニングライブラリオープンソースで公開
フェイスブックAIチームは差をつけて個人情報保護機能を持ってるパイトーチ(PyTorch)モデルを学習するための新しい高速マシンラーニングライブラリ’オハス(Opacus)’をオープンソースで9日(現地時間)公開した。
このプラットフォームは従来の方式より拡張性が優れた差等プライバシー(Differential Privacy.以下、DP)を備えたパイトーチモデルを学習するための新しい高速ライブラリで敏感なデータの匿名化を数値化するための数学的に厳格なフレームワークのことである。 フェイスブックAIチームは今回のオハクスの発売を機に、研究者とエンジニアがマシンラーニングでDPを採択できるより容易な経路を提供できるだけでなく、現場でのDP研究も加速化することを期待すると明らかにした。
オハクスの主要機能で先に、速度はパイトーチでオートグラード(Autograd)フックを活用することで、オハクスはサンプル党配置されたグラデーション(grad)を計算することができ、マッチングに依存する従来のDPライブラリと比較して、ばく大な速度を誇る。 また、セキュリティに重要なコードに暗号的に安全な意思、無作為に番号の生成器を使用する。 これは全体パラメータの配置についてGPUで高速に処理される。
また、オハクスは、セキュリティに重要なコードに暗号的に安全な擬似乱数生成器(pseudo-random number generator)を使用する。 これは全体パラメータの配置についてGPUで高速に処理される。 また、オハクスコードをパイトーチコードとパイソンコードと混合して一致させることで、エンジニアと研究員らはアイデアを素早くプロトタイプできる。
さらに、生産性からオハクスはテュートリアル、訓練が始まる前に互換されていないレイヤーにおいて警告するアシスタント機能、自動リペクトリンメカニズムを持っており、相互作用性とオハクスは与えられた時点で個人情報保護予算(DPの核心数学的概念)のいくらを支出しているのか追跡し早期中止およびリアルタイムモニタリングを可能にする。
一方、このアルゴリズムの核心のアイディアはモデルが直接データではない加重値を更新しているのに使用する媒介変数傾きに介入して訓練データセットの個人情報を保護できるということだ。 また、全ての繰り返しからグラディオントゥにノイズを追加することによって私たちはモデルが学習例題を記憶することを防止するとともに総体的に学習を可能にする。 (偏向されていない)ノイズは、学習過程の中で見ることができる多くの配置から自然に相殺される傾向がある。
オハクスはまた、テュートリアル、訓練が始まる前に互換されていないレイヤーにおいて警告するヘルパー機能、自動リペクトリンメカニズムも一緒に提供され、オハス(Opacus-ダウン:https://github.com/pytorch/opacus?fbclid=IwAR3_gViwLR_UErBPeoSAtCHg_HrGHLVxW4qoHeMitj-ySM38JlGWre1Lzbw)
誰もが公開的に使用できるオープンソースでApache-2.0（見る：https://github.com/pytorch/opacus/blob/master/LICENSE)によってライセンスが付与される
