市場の変動は人の仕業であり人工知能によるものではない

　今週、人工知能について言及する中（リンク）、人工知能に罪を着せる動きが進行中ではないかと指摘したが、本日（2016年3月25日）の『日本経済新聞』のコラム「春秋」は、その動きの露払いを務めているようである。春秋氏※１は、『2001年宇宙の旅』のコンピュータ「HAL」に恐怖という感情が芽生えたことに触れる。その後、一部に意味を取りがたいところがあるものの、結局のところ、人工知能を理解しがたいものと述べている。人工知能には理解が及ばないとする春秋氏の意見は、リーマンショック後の金融工学に対する非陰謀論者の「ブラック・スワン」への恐れと通じるものがある。春秋氏のコラムは、生じる虞のある日経平均株価なり世界的な証券・金融市場の大変動を、人工知能が勝手にしでかしたことである、と主張するかのようである。

※１　以下、このように表記する。呼び方が難しい。コラムは、顕名にせよペンネームにせよ、一個人であることを識別可能なように記すのが世界標準であるように思う。


　日経の春秋氏は、人工知能について、2点を誤解していると言える。1点目、「感情」を生じさせるための特別なプログラムが埋め込まれていなければ、現在の人工知能には「感情」は生じないという点である。2点目、現在の人工知能は道具的に用いられているので、使用者から独立した意思決定主体として認めることができないということである。1点目に係る「感情」という属性と2点目に係る「自立性」は、個別の属性であり、両者は共存可能であるが、その組合せから生じる特性については、今回検討を加えることはしない。

　1点目の誤解は、「汎用的」なものでなければ、人工知能の「入力」に対する「出力」が限定されているということを知らないことから来るように思われる。感情という、生体が外界からの影響に対応するためのメカニズムは、現在の人工知能の稼働には不要である。コンピュータには、生化学的なメカニズム（例：恐怖感の惹起）による「ブースト」（例：アドレナリンの分泌）の意味がないからである。たとえ将来、「汎用性」に必要であるからとして、開発者が人工知能に自己保存本能を用意した場合であっても、人工知能に求められる作業は、必要なだけ、リソースの許す限り、自身の複製を作成する、というものに留まるであろう。「恐怖感」が発露するという場面は、生物である人間が、人間の都合を人工知能に当てはめようとしたものに過ぎないように思われる。「HAL」は、恐怖感を覚えるようになるからには、自己保存本能を用意されていたと推定することが可能であるが、そうであるなら、出発前に自身の複製を十分に作成したであろう。船内での事件当時の「HAL」に必要なことは、その状況に陥った己の経験を他の複製にフィードバックすること（のみ）であったろうから、その努力を尽くしたであろうが、仮にその試みに失敗したとしても、複製の存在することをもって、やむを得ないことと「納得」したであろう。この点、自己保存本能を付与された人工知能は、真社会性生物のような存在に相当すると考えるのが妥当であろう。

　2点目の誤解であるが、現在の人工知能は、特定目的について道具的に利用されているので、一個の独立した意思決定主体として認めることができない。比喩を用いれば※２、「人工知能がおかしな「IF～THEN～」ルールを形成する可能性がありうることに、証券会社幹部が気付かずに人工知能を利用することを決定し、導入された人工知能が市場の大変動を引き起こした」という構図は、「自動車運転時に駐車しようとして、ギアを誤った方向に入れたことに気付かず、急激にアクセルを踏み込んだ結果、店舗に突っ込んだ」という交通事故の構図とおおむね一致する。通常の市場売買プログラムは、用意された売買判定ルールを反復するに過ぎないが、人工知能は、勝手にそれらのルール＝計算式を用意してくれる。これは、一見、導入時点での人工知能の稼働に対する意思決定権者（人間である幹部）の予見可能性に大きな違いを生じるようにも見えるが、「人工知能」と「従来型の市場売買プログラム」とをブラックボックス化すれば、「ソフトウェアを用いて儲けたいからプログラムを導入したが、失敗した」という同一の形でくくり出すことができるのである。大体において、現在の証券会社幹部のどれほどが、表計算ソフトウェアの内部を確認し、理解しているのであろうか。私も理解していないので、偉そうなことは言えないのであるが、これが高度に分業化された社会というものである。仮に、人工知能の「バグ」で何らかの損害が生じたとしても、それは、開発者と利用者との間で交わしたEULA（使用許諾契約）に則して解決すべき損害に過ぎないのである。使用者にとっては、導入したかどうかが責任を回避できる瀬戸際であって、「人工知能がこのような挙動をするとは知りませんでした」ということは、言い訳にならないのである。

※２　前記事もそうではあるが、法律論は、私の専門ではないので、より厳密な形で責任を論じることを試みることは、別の機会に取っておく。もちろん、フィードバックは歓迎する。


　また、「金融・証券市場における人工知能の暴走」について、交通事故の事例よりもわが国の法的環境に合う事例を持ってくれば、「飼い犬が他人を噛んだ」という事例になろう。この事例の場合、飼主は、まず、過失責任を免れることはない。人工知能の場合、日々の購買ルールをリアルタイムで検査する部門がウン十人体制で稼働しているといった形で、責任を果たしていたことを立証する必要があるように思われる。トレーダーが不要になった分、その何割かを人工知能のハンドラー役として配置していたかどうかが焦点となろう。

　前記事の繰り返しになるが、現時点では、人工知能は、単なる道具に過ぎず、人工知能により生じた被害の責任は、人工知能の利用者にある。「汎用的」な人工知能さえ、自力で自己を複製可能な状態に至るまでの間は、その人工知能を製作した人間や組織が人工知能の挙動に対して責任を有することになろうし、自己増殖可能な状態に至ったときでも、制作者が責任を問われることになろう。以上を理解すれば、春秋氏のコラムがオーナーや関係企業の責任回避を目指して執筆されたものであろうとなかろうと、「人工知能による市場の大変動」の責任は、単に利用者に帰せられると反論できるのである。

　もっとも、ごく最近のマイクロソフト社によるTayTweets（@TayandYou）騒動は、随分と行き過ぎてしまった感のあるフレーズを並べる人工知能と化してしまったように見えるが、これは、単に、教える側の人間が問題であったに過ぎない。より厳密には、このように学習される可能性があることを見過ごしてリリースした側の不手際があったと言うべきである。とは言いながらも、この顛末を伝える『engadget』のittousai氏による記事（リンク）は、Tayの学習内容をすべて陰謀論とだけ理解しているあたり、今後のわが国の生き残りに向けて、残念な内容となっている。生まれによって人を差別することは、厳に慎まれるべきことであるが、9.11を単純にイスラム過激派と呼ばれる者たちによるものと見なすことは、アメリカ国内において生じている論調の変化を見逃すものでしかない。9.11に係る子ブッシュの責任までを陰謀論と一笑することは、近い将来、同氏のITジャーナリストとしての信頼を傷付けることになるであろう。

---

蛇足：陰謀論を陰謀論と安易に片付けることのリスクについて

陰謀論と呼ばれるコンテンツをすべて陰謀論として片付けることは、単なる知的怠慢である。ある命題が陰謀論とされ、かつ、当人の専門分野に係る場合、内容の検討抜きにその命題を陰謀論とレッテル貼りする専門家は、専門家としての適格性を欠く。他方で、このようなラベリングが誤りであったときのダメージの少なさは、専門家であっても、安易なラベル貼りへの誘因となる。陰謀論を政治的活動の道具として利用したい人物らにとって、このような軽率な「専門家」は、利用できる「資産」となる。考えのない「ジャーナリスト」も同様の「道具」となりうる。この点、「陰謀論」は、情報の生産と流通に関与する職業人にとって、その人の仕事ぶりに対する試金石となる。

　賢い者は、陰謀論について、公的には沈黙を保つであろう。無知・軽率である者は、陰謀論を陰謀論として片付けるであろう。陰謀論を陰謀論として通用させることと、自身の政治的な目的が合致する者は、無知・軽率な者を利用するであろう。これらのいずれにも属さない者は、政治的に反対勢力に属する者か、単に愚かな者であろう。ただ、政治的であることは、必ずしも、嘘を吐いても良いということにはならない。最後には、真実が政治的な目的を阻害する可能性が高いためである。この点、政治的な目的を有して陰謀論を扱う者は、一種のリスクを冒していることになる。本ブログを読み進めてきた読者には理解できるはずのことであるが、私自身は、単に愚かな者である。