将来的には、ニューラル ネットワークを打ち負かすためにニューラル ネットワークを使用する必要があるかもしれません。
Googleが先月、DeepDreamと呼ばれる人工ニューラルネットワークシステムの一部のソースコードを公開して以来、ニューラルネットワークの人気は急上昇しています。この人工知能プログラムは、Googleの検索エンジンがオンライン画像を分類するために使用しています。このプログラムは、「ヒトデ」「鳥」「バナナ」といったラベルが付けられた何千もの画像を精査しながら学習し、それぞれの物体を認識し始めます。このプログラムは独自の画像を生成することもできますが、しばしば混乱し、ナメクジ犬、鳥車、アメーバのような家など、美しくも時に恐ろしいキメラ画像を作り出してしまいます。
この技術はまだ初期段階ですが、ニューラルネットワークは既に分類と追跡において非常に効果的です。ソフトウェア開発者のカーク・カイザー氏は、プライバシーの将来について懸念を抱いています。そこで彼は、DeepDreamを使って自分の画像を歪ませることで、Facebookの顔認識システムDeepFaceに支障をきたす可能性があるかどうかの実験を行いました。
「誰かがあなたの写真を撮ったり、あなたが自分の写真をアップロードしたりするたびに、それはあなたが誰で何者であるかという、エーテル体に存在するトレーニングデータセットに追加されます」とカイザー氏は言う。「基本的な考え方は、私たちに関するデータセットを改ざんし、少しでもコントロールを取り戻すことです。」
カイザー氏は先月多くの人がやったようにディープドリームを使って自分の画像を加工し、フェイスブックにアップロードした。すると、画像が歪んでいたにもかかわらず、ディープフェイスは彼のふさふさしたあごひげで彼を認識できた。彼が歪んだ画像をアップロードすると、あごひげを指して「カーク・カイザー」とタグ付けした。次に彼は自分の顔をランダムに並べたタイル画像と木の画像を使い、それらにディープドリームと年齢と性別を判別するための別のオープンソースニューラルネットワークをかけた。すると木の樹皮と歪んだ顔にネオングリーンとホットピンクのタイル画像が生成された。ディープフェイスはこれに混乱し、画像内の約92の異なる顔を認識したが、どれもカイザーのものではなかった。彼はこのコードをディープグラフィティと呼んでいる。
カイザーの実験の最終段階は、DeepFaceのカイザーのデータを改ざんするために、顔に自分のタグを付けることでした。しかし、この行為が本当にDeepFaceのカイザーの顔認識能力を損なっているのか、それともノイズがあってもカイザーを認識できるように余分なデータを追加しているだけなのかは、まだ不明です。
「データセットを台無しにしているかどうかを判断できるまでには、もう少し実験が必要になるでしょう」とカイザー氏は言う。「また、画像が私でなくなるのはいつなのかという別の疑問も浮かび上がってきます。」
ニューラルネットワークを通じた機械学習が進歩するにつれ、データの管理とプライバシーの確保がますます困難になる可能性があります。カイザー氏が示したように、最善の防御策は、ニューラルネットワークを用いて互いに騙し合い、火に火で対抗するという効果的な攻撃になるかもしれません。
