顔写真のアルゴリズムを混乱させて欺くという研究

news

人間の目には同じに見えても、システムは別人と判断するのだそう。

いまの時代、オンラインに自分の写真がアップロードされる際、もしかしたらサードパーティーや国家当局(あるいはその両方)の手に渡る可能性があるかもと、一瞬でも考えたことがある人は多数いるのでは?

世の中には、私たちのプライベートなデータを吸い上げることに熱心な企業がいる一方で、心強いことに、クリエイティブな方法でこうした監視社会に立ち向かおうとする人たちもいます。

システムをごまかす手法

シカゴ大学の研究チームが昨年末から取り組んでいるのは、こうしたアルゴリズムに効果的に反撃する巧みなシステム。

同チームは、SNSから顔写真を吸い出して認識するClearview AIといった企業が「氷山の一角である」との考え方を示し、オンラインでパブリック公開された顔写真のデータベースを築く企業に対抗する姿勢を見せています。

(こうした顔画像のデータベースや運営企業について)精度を下げて信頼できないものにしたり、精度を維持するために大きなコストを支払わせたりすることができれば、少しでも成功したといえるでしょう。

こうしたシステムは、ひとつの顔写真(Facebookのプロフィール写真など)ともうひとつの顔写真(パスポート写真)を組み合わせて類似点を探すことで、特定の人の外見を認識しようとします。

研究チームによると、システムでは顔のつくり、髪の色、ホクロなどの特徴を探し出すだけでなく、コンピュータで生成された顔の画像を構成するピクセルにも着目しているのだといいます。

トップ画像のように、人間の目ではすぐに同じ人物とわかる状態でも、ピクセルを入れ替えたり歪めたりすることで、システムは顔認識に使用しているアルゴリズムは別人として登録する傾向があるのだとか。

さらにすごいのが、その精度。研究チームによれば、こうした手法はMicrosoft(マイクロソフト)、Google(グーグル)、Amazon(アマゾン)の顔認識を100%の確率で騙すことができたといいます。

プログラムは現在、無料で提供中!

もし、このアルゴリズムを試してみたい! という人がいたら、シカゴ大学が無料で利用できる「Fawkes」プログラムを提供しているのでチェックしてみてください。保護したい画像をFawkesにロードすれば、ひとつの写真あたり約40秒でシステムが認識できないようピクセルを乱雑にしてくれるといいます。

ソーシャルメディアプラットフォームでこうした画像をパブリック向けにアップロードすると、Clearviewのような会社のアルゴリズムは、オンライン上にあるあなたのどの写真にも関連付けられないと判断する可能性があります。

シカゴ大学研究チームによる今回のアプローチは、顔認証データとプライバシー問題における"特効薬"となるとは言い切れないかもしれません。でも少なくとも、データを吸い上げようとする企業にとって痛手となるはず。

Fawkesは、大規模な顔認識モデルを正確に構築・維持するためのコストを大幅に上げるべく設計されています。

顔認識ソフトウェアを使用する代わりに、人間の目で確認すると「対象となる人物を同等またはより短い時間で識別する」ことができると指摘しています。ただ、アルゴリズムが機能しなくなることで、私たちの顔画像のデータベースを作ろうとしている企業の収益性を少しでも下げることができれば、この勝負はひとまずのところシカゴ大学研究チームの勝ちだといえるのではないでしょうか。

関連記事

最新ニュース20件