インタビュー
AI監視社会に個人が抗うには？ 服で情報を守る「21世紀のカモフラージュ」 〜4期生インタビュー Vol.23 天野 真さん〜
クマ財団が支援する学生クリエイターたち。
彼らはどんなコンセプトやメッセージを持って創作活動に打ち込んでいるのか。
今という時代に新たな表現でアプローチする彼らの想いをお届けします。
>>> 4期生のインタビューについての記事はこちらから。
4期生41名のインタビュー、始めます！
天野 真
1997年福岡県生まれ、東京育ち。
慶應義塾大学SFC卒業後、現在、情報科学芸術大学院大学メディア表現研究科在学中。
表現者ためのデザインツール・インタラクティブアートの制作を通して、メディアを媒介とした人間の創造性の拡張を思索する。
慶應義塾大学SFC徳井直生研究室とDentsu Lab Tokyoのプロジェクト『UNLABELED — Camouflage against the machines』の制作においてテクニカル・ディレクションを務める。
OFFICIALSITE：https://www.mako-bouzu.com
https://kuma-foundation.org/student/makoto-amano/
システムに対するストリートカルチャーのような感覚
――慶応大学SFCを卒業後、情報科学芸術大学院大学（以下、IAMAS）に進学されていますが、現在はどんな活動をしていますか？
天野 SFC在学中は、仲良し3人組で音に関するシステムを制作してパフォーマンスをやったり、4年次にチームで『UNLABELED — Camouflage against the machines』という作品を制作していました。それまでチームで制作することが多かったので、独り立ちして自分一人の力でどこまでできるか、修行するためにIAMASに行ったようなところがあります。
IAMASは1、2年生合わせても40名ほどで、先生が20人ほどなので、ほぼマンツーマンに近い環境です。そのため研究室で活動するというより、個人的活動を先生がメンターとして見てくれるようなかたちになります。今の僕のテーマは、『UNLABELED』の延長線上で考えていて、社会実装されたAIとその都市に暮らす人々との関係をテーマに活動しています。
――『UNLABELED』は“AI監視カメラに見えなくなる服”という作品ですが、これを創ることになった背景を聞かせてください。
天野 海外では監視カメラの倫理的な問題やプライバシー侵害が問題視されていますが、その他にも監視カメラのデータを民間企業が利用するという情報を搾取するような使われ方もあって、チームのみんなも違和感を感じていました。それは監視カメラの話だけではなく、たとえばポイントカードを使うと、勝手に情報が抜き取られて企業のマーケティングに使われたりする。いつの間にか情報が搾取されていたとしても、僕たちはしょうがないと受け入れるか、カードを使うか使わないかの選択しかできない。そうした状況に対して、何か個人として抵抗する方法はないか、という発想がベースになっています。AIを用いた監視カメラは、画像認識技術で人を検出してラベル付けしていくものなので、それに対する個人の対抗策という意味で『UNLABELED』というネーミングになっています。
――中国が顔認証技術を使った監視システムを構築していて、SF小説『1984』のような危機感を覚えるんですが、一方で政府に「守られている」という肯定的な捉え方もあります。『UNLABELED』はそれとは逆の方向性ですが、どんな考えを持っていますか？
天野 結果的に犯罪が減って良かったとなって、いつのまにか社会にインストールされていくことに違和感を覚えます。防犯目的で監視カメラを設置するのはわかるけど、僕もチームのみんなも「同意してなくない？」という気持ちがある（笑）。
監視カメラは「安全のため」という刷り込みがあるように思うんです。だから『UNLABELED』も犯罪に使えそうだとか、悪の方向で捉えられる傾向があるんですよね。だけど、「安全のため」としてAIや監視カメラを受け入れていくうちに、一種の囲い込みのような状況になっていくと思うんです。そこには価値観や表現に関わることなど、何か取りこぼしてしまうものがあるんじゃないかという気がします。そうした状況に危機感を抱いてほしいという思いがあります。
――社会の流れに対する、個人の違和感や抵抗感が表現になっているわけですね。
天野 僕が得意としているのはエンジニアリングの領域ですが、ハックすることでシステム自体に介入し、AIに対する抵抗であったり提案というテーマを表現をするのが、今の僕のやり方だと思います。それはストリートカルチャーにも近い感覚だと思うんです。スケートボーディングやグラフィティは与えられた都市の環境をいかに楽しく使いこなすかという発想だと思うんですけど、それと同じようにシステムに勝手にコードを書いてハックするような活動だと思いますね。
「UNLABELED」AI監視社会におけるプライバシーを守るための「21世紀のカモフラージュ」を思索している。（Photo: Ryo Hanamoto）
AIに勝手にラベリングされることへの抵抗と解放
――「Adversarial Example」という技術が使われていますが、これはどんな技術ですか？
天野 本来はピクセル上で使われる技術なんですが、人間にはわからない微細なノイズを加えることで、AIの画像認識システムに別のものを認識させるという技術です。たとえば人間の目にはパンダに見える画像が、AIにだけはテナガザルに見えるようにできます。この技術を応用することで、AIが人間を人間として認識する確率を下げることが可能になります。
ピクセル上ではなく、物理的なパネルや壁による先行研究がいくつかあるんですが、服の場合は平面ではなく、たるみやシワ、ワキの下などの死角があるので、「Adversarial Example」の技術を服の形状に落とし込んでいくことに、チームのみんなもすごく苦労したんですよね。
――AIに対して透明人間になる感じが『攻殻機動隊』を思い浮かべました。あれを現実にやるとしたら、こういうことなのかもしれませんね。
天野 物理的に見るとかわいい服を着ているだけなんだけど、システム的には認識されないという面白いものができたと思います。服の色やデザインはチームのデザイナーが手掛けたものなんですが、「21世紀の迷彩服を作ろう」というコンセプトでした。迷彩服は自然に溶け込むために緑色をしていますが、AIから隠れることが目的であれば赤色や青色でもいいわけですよね。そこで赤、青、黒、白、紫の5色を試した結果、もっとも人間として識別されにくかったのが赤色で、次が白色でした。完全に見えなくなるまではまだできていないんですが、76％まで下げることができたんです。
パッと見るだけでは、おしゃれなパーカーのようだが、AIからの認識を阻害する迷彩服のような効果がある。（Photo: Ryo Hanamoto）
――AIと人との関係というテーマでは、他にどんな作品を制作していますか？
天野 今はノイズキャンセリングのシステムに対して、『VOICE | NOISE』という作品を創っています。Zoomやビデオチャットで当たり前のようにノイズキャンセリングが使われていますが、そこにはAIが関わっていて、人の声だけを出力して、それ以外はノイズとして分別しています。この音は聴こえてほしいんだけど、システム的に聴こえないということが多発していたこともあって、いろんな大切なものがノイズとして排除されてしまっているんじゃないかと感じるんです。
僕は都市論を研究しているので騒音問題や環境音の問題を取り上げたりもするんですが、街に行くとみんなヘッドホンやイヤホンをして歩いている。周囲の音をすべてノイズキャンセリングしているような状況が起きていて、音楽を聴くのもいいけど、もっと外の音に耳を傾けて、そこにある“音の豊かさ”みたいなものを伝えたいという気持ちがありましたね。
――メディアアートの作品として、どんなふうにコンセプトを表現していますか？
天野 最初は人の声だけを出力するノイズキャンセリングされた音から始まります。それが徐々に広告の音や車の音が聴こえてきて、後半では逆に人の声は聴こえなくなって、ノイズとして識別されていた音だけが聴こえます。それにともなってモノクロの映像が徐々にカラーになっていく構成になっています。これも『UNLABELED』と同じようにAIに対する対抗策のひとつとして、AIに勝手にラベル付けされた“ノイズを解放する”という意味を込めています。
――AIの進歩は、利便性や安全性を高めることと個人行動の掌握がセットになっていると感じます。今後、どんな未来になっていくと思いますか？
天野 AI技術を使った個人行動の掌握や管理社会みたいなものは、正直どんどん進んでいくと思います。どうやったら僕らはそれに抗えるかを探る意味で作品を創っているつもりですが、新型コロナの影響で安全性優先の考え方が強くなってきているので、ますます広がっていく気がするんですよね。僕自身の活動で考えると、何も考えずにただ受け入れるのはおかしいと思っていて、一市民としてそれがいいことなのか悪いことなのか、作品を通して一回議論を起こしたい。AIへの対抗策というテーマは、これからも考え続けたいと思っています。
――本日はありがとうございました！
新型コロナウィルス感染防止のため、オンラインにて取材。
天野 真 information
■情報科学芸術大学院大学 Archival Archetyping Exhibition 2020
https://archival-archetyping.github.io/
12月24日～1月 10日
スマートフォン版『VOICE | NOISE』を出展予定
https://www.voice-noise.com
■『VOICE | NOISE — Shibuya』
https://youtu.be/aJenM9Pt93w
Text by 大寺明