第10回: 複雑性とデザイン

人工知能の限界


人間の知能や身体は複雑性の極みと言えます．
では人工知能はどのような点で人間の知能を再現できており，どこに限界があるのでしょうか．

シンボリズムとフレーム問題


シンボリズム（記号主義）とは現象を記号に置き換えて考えていくことであり，エキスパートシステムなどの，古典的な人工知能が具体例であると言えます．
古典的な人工知能では人間の処理を膨大な条件分岐で記述します．
そうしたときに起こる問題としてフレーム問題があります．
ダニエル・デネットが論文で示した例について考えてみようと思います．
画像のようにロボットはバッテリーを持ち帰らなければいけないですが，爆弾が上にのっています．

このときロボットはどのようにしても失敗してしまいます．

  1. バッテリー交換するために爆弾も同時に持ってきてしまう
  2. バッテリー近くで膨大に考えている間に爆発してしまう
  3. バッテリーを取りに行く前に無関係な事項を洗い出してフリーズ

このようにシンボリズムには限界が訪れてしまうのです．

コネクショニズムと中国語の部屋


一方，コネクショニズムは現在の深層学習のようにニューロンの調整によって，複雑な処理が可能となっています．
しかし，複雑なタスクが可能になっただけで本質的に人間の知能を達成したと言えるでしょうか？
ジョン・サールの中国語の部屋について考えてみようと思います．

何か複雑なタスクを達成するとき，ある入力に対して深層学習ベースの人工知能を駆使して適切な出力を得られたとします．
そのとき人工知能内では入力から出力への変換を翻訳のように行なっているだけであって，人工知能自体はそのタスクの本質的な意味を理解していません．

このように人工知能もまだまだ人間に匹敵するような状態にはなれていないということがわかります．

コンピュータはアートを作れるか


Obvious

第６回に紹介したObviousによるこの作品は果たしてAIがアーティストなのでしょうか？


訓練された動物による絵画はアートと呼べるのでしょうか？
このチンパンジーはアーティストと呼べるのでしょうか？

Aaron Hertzmannによる論文，”Can Computers Create Art?”では，コンピュータがアーティストになり得るかということについて様々な観点から分析され語られています．
https://arxiv.org/abs/1801.04486


結論から言うと，
現状ではどんなソフトウェアシステムもアーティストとは呼べない
と述べています．
その理由を見ていきたいと思います．

社会性


デイヴィッド・ホックニーはアートは主に社会的な行動であると主張します．アートは人ー人のコミュニケーションであり，ディスプレイであるとも言っています．
つまりアートは他人に何かを伝達したり，議論したりする仲介物であるということです．

意図


現代アートの世界では，アーティストの役割は作品の「意図」「アイデア」などを与えることであり，作品のコーディネート以外に実装の必要はないというものがあります．
デュシャンの「レディメイド」などがその典型と言えます．

逆に言えば，意図を忠実に再現する役割である実質的な制作作業はアーティストとしての実践とは区別しなければいけないということです．

成長性


人間の芸術家はアートを制作することを通して，自分自身をアップデート（成長）させます．

プログラムが同じように自身をアップデート（自己修正）するためには，単に自分自身を評価するだけでなく，自分自身の世界観を持っていることが必要です．
そのため，表面的な成長（単なる最適化方向への変化など）は簡単ですが，意味のある成長をコンピュータ自身が定義することは難しいです．

また，プログラムに欠けている重大な要素は

  • 自分の経験
  • 世界の出来事
  • 自分の作品への反応
  • その他の環境

に対して，意味のある反応をする能力です．

これらを実現するにはSNSなどのインターネットを介したデータの収集や解釈などの機能が必要かもしれません．

Emissaries (2015-2017) Ian Cheng


Ian Chengは作品の中に人工知能を「住まわせ」，鑑賞する作品Emissariesを制作しました．

動画のembedが不可能だったため，MoMAの紹介リンクから御覧ください．
https://www.moma.org/calendar/exhibitions/3656

作品は３つの世界から構成されています．

  1. “The Squat of Gods”のエージェントは，自分の部族が住む火山が噴火することを知っていて，みんなを逃がそうとする少女．
  2. “Forks at Perfection”のエージェントは，犬と長くて細い金色の首輪付きリードが組み合わさった「シーバ（Sheba）」と呼ばれる不思議な存在．このリードこそが主体であって犬は乗り物に過ぎない．犬とリードは一緒に，「完璧な人生」や人間性を理解する方法を探し求めていく．
  3. “Sunsets the Self”のエージェントは，知覚をもつ黄色い水たまりで，「Wormleaf」に命を吹き込むことで生命を得ようとしている．Wormleafは、半人間「Oomen」との戦いを繰り広げる


また，それぞれの世界で3つの脳が働いています．

  1. 脅威（戦うか逃げるか判断）
  2. 欲望と意味（欲求が満たされない場合，飢えを感じて怒る）
  3. 物語（設定された最終目標を達成しようとする）

観賞者はこれらの世界に何らかのストーリー，成長性，知性を見出すかもしれません．

BOB (Bag Of Beliefs) (2018-2019) Ian Cheng

Ian Chengは，意識についての探求を深めるため，動物の感覚のモデル化にトライしています．
「デーモンの連邦会議」と呼ぶ動機モデルと，感覚的な入力から「信念」を構築して適応するモデルのフィードバックで構成されます．
また，それぞれの頭が異なるAIのモデルで動いており，それらの合意として行動が決定されます．
意識は，自分が望む，より良い「信念」を取り戻すためのエージェントの能力であるとしています．

テクノロジーと仕事

写実主義から印象派へ

かつて，写真が発明されたとき，それまで忠実に描かれてきた記録としての絵画の有効性が薄れたことによって画家たちは印象派などの新しい手法を編み出して表現してきました．

このことから，AIは仕事を奪う存在というよりは新たな可能性を与えてくれるポジティブな存在ということができます．
“Can Computers Create Art?”内でも，仕事を失う可能性があるならば，それは社会システムの問題だと言及されています．

汎用人工知能実現に向けた限界などを知ったみなさんがAIと協働して何かを作ることを期待します．