Title: 機械が心を持つようになるか?

機械が心を持つようになるか?


エンジニアリングとしては、機械が心を持つかどうかではなく、機械に心を持たせたいか、持たせたいとしたら、何のためにどういう(部分的な)心を持たせたいか、を考えることになる



 「機械が心を持つようになるか」という質問を受けた時には、「エンジニアリングとしては、機械が心を持つかどうかではなく、機械に心を持たせたいか、持たせたいとしたら、何のためにどういう(部分的な)心を持たせたいか、を考えることになる」とお答えしてきました。
 たとえば、将棋ソフトの研究は、(敵に勝つための策の網羅的な探索というような)軍事研究に直結しうるわけですが、「人を殺すためだったら計算したくありません」というような擬似的な心を、改変できないような巧妙な方法で人工知能に組込んでおく、などという研究がありえます。それに賛成か、反対か、これは意見のわかれるところでしょう。
 AIを作る人たちの複数の心、AIたちの複数の心(?)、およびAIを使う人たちの複数の心が、相互に作用して、ある種の複雑系を形成し、創発的に予期せぬ事態(良い事態と悪い事態の両方)を引き起こすことになるかもしれません。
 今までは、とりあえずまあまだSF的な話ですから、とごまかしてきたわけですが、そろそろSFとばかりも言えなくなってきたかもしれません。プロ棋士に勝った将棋ソフト、クイズチャンピオンになったWatson、Siriやしゃべってコンシェルなどの質問応答システムの実用化、等々を受けて、人々が抱く不安も増してきているので、AI研究者は回答をそれなりに用意しないといけません。
 技術倫理や技術哲学や科学哲学が御専門の先生方のお話を聞いたりもしているのですが、僕自身はまだ答を見つけられないでいます。
 AIの心の問題以前に、social network systemなどにおいても、コミュニティが良くないアトラクタ(たとえばナチスのような)を形成しないように、技術的な仕組みとして何か工夫しておかなくて大丈夫なのだろうか、などという問題もあるように思われます。
 いずれにしろ、簡単な問題ではなさそうです。

        2013年4月18日 堀 浩一 (東京大学大学院工学系研究科教授)

 この問題にも関連する「人工知能とは」という解説記事を書きましたので、そちらも御覧いただければと存じます。

        2013年10月3日 堀 浩一 (東京大学大学院工学系研究科教授)



Author: Koichi Hori


堀浩一の紹介

堀浩一の紹介:
(これは著者が手で作成した空間です)
(上の空間の中でクリックしていただけますと、各項目にアクセスできます。)
(「堀 浩一」という項目から始めて、関連する話題を、ざっとではありますが、抽象的な問題は右へ、具体的な問題は左へ、一般的な話題は上へ、人工知能研究関連の話題は下へ、という方針で、配置してみました。ただし、すべての項目の配置がその方針を満たしているわけではありません。)

堀浩一の略歴と連絡先は「堀 浩一」にあります。 詳細な履歴は「堀 浩一 詳細履歴」にあります。
たまに「堀 浩一 の ひとりごと」を更新しています。なぜかこのひとりごとへのアクセスが比較的多いのですが、読んで下さっている皆様に感謝申し上げます。
堀は人工知能の研究者です。時々堀洋一先生と間違われることがありますが、 「堀洋一さんと堀浩一は別人です」
堀研究室は東京大学大学院工学系研究科航空宇宙工学専攻にあります。 研究室では、航空宇宙工学への人工知能の応用だけでなく、学生諸君の自主的なテーマ設定を尊重して、幅広くいろいろなテーマの研究を行っています(「堀研究室所属を希望する皆さんへ」「活躍する教え子たち」)。

私自身は、人工知能研究の中でもやや特殊な「創造活動支援システムの研究」を行ってきました。 なんだか怪しい響きの研究テーマだと思われるかもしれませんが、いつのまにか仲間も増えました(「ことばと発想のテクノロジー 」)。
創造活動支援システムの一例として「堀の自作ソフトKNC(Knowledge Nebula Crystallizer)」を作りつづけています。このサイトもそのKNCで動いています。「KNC(Knowledge Nebula Crystallizer)の原理 」にやや専門的な説明を書きました。このサイトを動かしているKNCは「Rails + MySQL」で実装しています。

研究者が何をめざして研究をおこなっているのかの本音について、「事業仕分けをきっかけに思う」に書きました。研究者の本音を身も蓋もない言い方で言ってしまうならば、面白くて仕方ないので研究しているということになるでしょう。
しかし、学問ごとに目標とするところに少しずつ違いはあって、 我々工学の研究者がめざしているのは、おおげさな言い方をするならば、人類の幸福です(「工学と理学の違い」)。
理想と現実の狭間で、研究をどうやって評価すべきかは、重要で難しい問題です(「評価」から「解説」へ 」「人工知能学会創立25周年にあたって 」)。
できれば、産学連携も、理想に向かって「志高き産学連携」を行いたいものです。

最近再び人工知能の研究が注目されるようになってきています。 そもそも知識とは何なのだろうという問題については、昔々現代思想誌にも書かせていただいたことがあります(「知識の姿 − 人工知能研究者の立場から」)。
「機械が心を持つようになるか?」 「人工知能倫理(AI Ethics)について」 「機械との競争について」 「集合知とは何か」等々、私も考え続けています。
学会の果たすべき役割についても考え直す必要がありそうです(「人工知能学会創立25周年にあたって 」)。
それらすべてに関係する「人工知能とは」という解説記事を書きましたので、それも掲載しておきます。


最終的に私がめざしているのは、恩師からの宿題の「文化国家としての技術立国 」に少しでも貢献することです。


近未来の課題へむけて


automatically generated story 8.29.43.30

This is an automatically generated story.
これは自動的に生成された空間です。
「起承転結」の関係になるような項目をシステムが自動的にさがして上から下に並べました。
上の空間の中でクリックすると各項目にアクセスできます。


 

現在の御興味の推定位置と御興味の移動予測

(これは、トピック間のキーワードの共有度とユーザの行動履歴をもとに自動的に作成した空間です。)

御興味移動先予測地点に近い項目から遠い項目まで一覧(距離):


堀 浩一のホームページへ

現在位置 x = 0.3, y = 0.88
現在誤差 sigma = 0.0
予測位置 x = 0.3, y = 0.88
予測誤差 sigma = 0.07


(別の方法で計算した)現在の文脈で関連しそうな項目(関連度):
relevant in the current context (relevance score):


堀 浩一のホームページへ