「等身大精神」と「経頭蓋直流刺激装置」
私が「等身大精神の危機」という表現を使ったのは2005年に起きた、みずほ証券株誤発注事件だった。
東京証券取引所の新興企業向け株式市場であるマザーズに人材派遣会社株が新規上場された際、顧客から「61万円で１株売り」の注文を受けたみずほ証券担当者が「１円で61万株売り」と金額と株数を逆に入力、あわてて取り消し作業をしようとしたが東証のシステムが受け付けず、わずか数分の間に株が乱高下、この騒ぎでみずほ証券は407億円の損失を蒙った。
だれにも起こりがちなケアレスミスで、あっという間に会社に莫大な損害を与えてしまった社員は、どう責任をとればいいのか。ここでは会社にかけた損害を賠償するという、ある意味でまっとうな考えはまったく意味をなさない。
このことに関して、エコロジーの世界で言われていた「等身大の技術」の類推で、コンピュータという精神機能拡張の道具が、私たちを途方もない世界につれて行き、そこでは「等身大の精神（人間本来の考え方）」が危機に瀕しているととらえたわけである。私は『IT社会事件簿』で、「従来の倫理を支えてきた社会システムに地すべり的変動が起こっている。こういうシステムに支えられていると、コツコツものを作り上げるといった仕事のありようが、どうにも馬鹿らしくなってくるのを否みようがない」と書いている。
コンピュータの力があまりに強力になり、人間精神がそれについていけない驚愕と当惑が表明されているとも言えるが、いまふりかえると、この感想はいささか牧歌的に過ぎたようだ。
『ホモ・デウス』下巻に「経頭蓋直流刺激装置」という米軍が取り組んでいる実験の話が出ている。ヘルメットにはいくつもの電極がついており、それを頭皮に密着させると(倫理的な制約があるため、いまは人間の脳に電極を埋め込むことはしていない)、ヘルメットは微弱な電磁場を生じさせ、特定の脳の活動を盛んにさせたり抑制したりする。兵士の集中力を研ぎ澄まし、任務遂行能力を高めるのが目的である。
科学誌の記者がその実験の体験談を書いている。
最初はヘルメットをかぶらずにVRの戦場シミュレーターに入ったら、自爆爆弾を装着し、ライフル銃で武装した覆面男性20人が彼女めがけてまっしぐらに向かってきた。「なんとか1人撃ち殺すたびに、新たに3人の狙撃者がどこからともなく現れる。私の撃ち方では間に合わないのは明らかで、パニックと手際の悪さのために、銃を詰まらせてばかりだった」。そのあとヘルメットをつけると、「20人の襲撃者を前に、私は落ち着き払って自分のライフル銃を向け、間を取って深呼吸し、最寄りの敵を狙い撃ちにしたかと思うと、そのときにはもう、静かに次の標的を見極めていた」。ほんの一瞬の出来事のように思われたが20分が過ぎ、彼女は敵20人全員を倒していたという。
コンピュータの力を人間の内部に取り込んで、その能力を高めようという実験である。
・「思考のための道具」から「ホモ・デウス」まで
コンピュータ黎明期には、「思考のための道具」としてのコンピュータが期待をもって語られた。そのうちコンピュータがもつ危険な側面への関心が高まり、いろんなコンピュータ、人工知能、さらにはインターネットへの批判が現れた。
初期のコンピュータ批判として有名なのが、コンピュータの世界的権威でもあったジョセフ・ワイゼンバウムの『コンピュータ・パワー』(原著1976)である。
彼は「本書における主な論点は、……第一に、人間と機械の間には差があること、第二に、コンピュータにあることができるかどうかは別として、コンピュータにさせるべきでない仕事がある、ということである」と明快に述べている。
彼は、「近年多くの心理学者は、人間もコンピュータも『情報処理システム』と呼ばれる、より抽象的な属に属する二つの異なった種にすぎないということを、当然だと考えるようになってきた」、「人間が、それよりもっと広い『情報処理システム』属の一種であるとする見方は、われわれの関心を人間のある一面に集めることになる。その結果、人間の残りの部分は、この見方が照らすことのない暗闇に押しやられることになる。この犠牲を払って、いったい何を購うことができるのかを聞く権利がわれわれにはある」とも述べている。
情報処理システム属人間種という考えは、ホモ・デウスの捉え方と通じている。
哲学からの反論としては、ヒューバート･ドレイファスの『コンピュータには何ができないか』(原著1972)があった。ドレイファスは、対象についての経験を組織化し統一する際には「身体」が、行動が規則によらずに組織化されうるためには「状況」が、状況を組織化する際には、「人間の意図や欲求」がそれぞれ重要な役割を果たすとして、とくに「強いAI」を批判した。
知能と不可分の肉体の重要性についての指摘も多く、MITのAI研究者、ロドニー・ブルックスは1986年、「体を持たない人工知能の限界」を感じて昆虫ロボットを作っている。
これらの見解を整理した『情報文化論ノート』(2010)で、私は「コンピュータとつき合う上で大事なのは、人間が具体的経験によって得たさまざまな知識、体で覚えている知恵、あるいは長い歴史の中で培ってきたさまざまな観念を、誰がどのようにしてコンピュータに入力するのか、ということである。コンピュータ自らが思考するようになるにしても、それはあくまでもコンピュータの思考であって、人間の思考ではない。ただその思考が、人間の能力をはるかに超えたものになる可能性ももちろんある」と書いている。
つい最近の20世紀までは、コンピュータにさせていいこと、させてはいけないことの区別が真剣に議論されていたのである。そこにはコンピュータ対人間という捉え方があったが、21世紀に入り事態はまさに急転、コンピュータと人間の相互協力、合体が大きなテーマになってきた。
著者はこの点に関して、「何千年もの間、歴史はテクノロジーや経済、社会、政治の大変動で満ちあふれていた。それでも一つだけ、常に変わらないものがあった。人類そのものだ。……。ところが、いったんテクノロジーによって人間の心が作り直せるようになると、ホモ・サピエンスは消え去り、人間の歴史は終焉を迎え、完全に新しい種類のプロセスが始まるが、それはあなたや私のような人間には理解できない」(63)と書いている。
ハワード・ラインゴールド『思考のための道具』(パーソナルメディア、1987、原著1985)/ ジョセフ・ワイゼンバウム『コンピュータ・パワー』(サイマル出版会、1979) /ヒューバート･ドレイファス『コンピュータには何ができないか』(産業図書、1992) /ロジャー・ペンローズ『皇帝の新しい心 コンピュータ･心･物理法則』（みすず書房、1994、原著1989）
矢野直明『IT社会事件簿』(ディスカヴァー・トゥエンティワン、2013、携書版2015)/『情報文化論ノート』(知泉書簡、2010)
