Title: 人工知能倫理(AI Ethics)について

人工知能倫理について

2014年6月28日に「トランセンデンス」という映画が公開される予定です。 ウィキペディアによると、「人工知能と化した科学者の姿を通して、行き過ぎたテクノロジーがもたらす危機を描いている。出演はジョニー・デップ、レベッカ・ホール、モーガン・フリーマンらである。」とのことです。
この映画を題材にしながら「AIの急速な発展の先に見る未来像」について議論を行う特別セッションが、2014年5月に松山で開催された人工知能学会全国大会の中で、企画されました。
同じ時間に予定されている別の委員会を欠席してこの特別セッションを聴きに行きたい、という委員会欠席の連絡を私が致しましたところ、「だったら、せっかくだから、堀さんもこの特別セッションのパネリストをやって」と言われてしまいましたので、 私もパネリストとして登壇致しました。

映画の公式ホームページはこれ↓です。
http://transcendence.jp/

物理学者のホーキングは、下の記事↓で、「Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks.」と語っています。
http://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence--but-are-we-taking-ai-seriously-enough-9313474.html
ホーキング博士御指摘のとおり、我々は準備をしなければなりません。何をどう準備すべきなのかについては、ホーキング博士も語ってはいませんし、世界的にもまだ抽象的な議論が始まっただけで具体的な議論は十分に行われていません。今回の特別セッションにおいても具体的な議論に踏み込むところまではいきませんでしたが、興味深い議論が展開されました。

以下、この特別セッションでの私のプレゼンテーションのスライド(堀の自作ソフトKNCで生成したものをhtmlファイルに変換したもの)を載せておきます。これも議論のとっかかりにすぎません。今後、ここに書いたような様々な問題について、皆で議論していく必要があります。

         2014年5月14日 堀 浩一 (東京大学)

たとえば、この堀の
KNC (Knowledge Nebula Crystallizer)


KNCにキーワードを入力すれば プレゼンのネタを自動生成してくれる

mailでの質問にも回答案を自動的に提示してくれる



堀の分身として
(堀の死後も新しい情報を堀の価値観に従って取り込みながら)
プレゼンしてくれる?

→ 技術的には可能かもしれない。でも、×
(堀が気持ち悪い)



堀が過去に考えたことを他人が再構成しながら確認できる?

→ 技術的には可能、でも△ 
(他の研究者とのメールでの議論など、見られたくないことも入っている)
(一部はネットで公開済み)



堀の発想を刺激してくれる

 → ○


すでに情報倫理学やコンピュータ倫理学は存在。

しかし、それらはどちらかといえば、情報やコンピュータの負の側面に着目(?)。

positiveに新たな価値創造をめざす工学のための哲学体系は別のものになるのではないか?

人工知能研究の領域で、新しいタイプの応用倫理学の動的な体系を構築してみる?

人工知能倫理に関係してくるキーフレーズ

 人間のパートナーとしてのAIは、普通の機械とは何が同じで何が違うのか?
 また、普通の人間とは何が同じで何が違うのか?
 あるいは、ペットの動物とは何が同じで何が違うのか?

 人工知能が普及した時のめざすべき社会の姿、社会の知能とはどういうものか?

 人の仕事を奪うのではなく、人の仕事をもっと楽しくするAIとは何か?

 高齢者が経済成長の源となるような社会におけるAIの役割は何か?

 AIに依存してしまうという依存症を防ぐにはどうしたらいいのか?

  ボケ防止。脳の活性化。

 多元的世界観、多元的文化。文化を支える技術。文化の地位を得る技術。

 文化を支える技術と個人の日常を支える技術はどうつながっているのか?

 こころが通うとは何か? 人間と心が通うのと、AIと心が通うのは、どう作り分けるべきか?

 人間の尊厳とは何か? それはいかにして保たれるものなのか?

 アシモフのロボット3原則は、どのように見直すべきか?

 AIの意図を、いかにtransparentにできるか?

 AIが心を持つか、ではなく、AIにどのような心を持たせたいか。その答えも多元的であってよいけれども。。。答え無し、では困る。人間とAIをconfuseさせることをめざすような答えは排除したい。

 人工知能倫理自体も一元的ではなく、多元的であるべし。文化依存、コミュニティ依存、個人依存。




「robot ethics 」という本で取り上げられている話題:

design,
military affairs,
law,
privacy,
religion,
healthcare,
sex,
psychology,
robot rights,
and more.


Patrick Lin, Keith Abney, and George A. Bekey, Robot Ehics: The Ethical and Social Implications of Robotics (Intelligent Robotics and Autonomous Agents series), MIT Press, 2011.



堀の基本的立場

1. technological singularity に落ち込む可能性はある。

人間を超える機械の知能 は今でも部分的には存在するが、
technological singularityにおいては、
人間が制御できなくなる状態 に陥るであろうことが問題である。




2. 人間を超える機械の知能を人間が制御できなくなる状態は避けるべきである。



3. 人工知能の研究は前進させるべきである。



4.   2と3が矛盾する場合には、2を優先すべきである。

人間が制御できなくなる状態は避けるべき




人工知能設計製造のガイドライン 堀試案


可制御 controllable

 動作を制御できる。
 評価関数を変更できる。


→ でも、そもそも、制御できなくなるのがsingularityなのでは?

→ 制御不能な状態に落ち込むのを防ぐべし、というのが、堀の立場。



透明 transparent 

 何をやっているのかわかる。
 何故そうやっているのかわかる。
 評価関数が明示されている。



追跡可能 traceable 

 事が起こった原因を追跡できる。



可逆 reversible 

 起こったことを取り消して元に戻せる。



大勢の人間と複数の機械を要素に含む複雑系になるので、簡単ではない。


おそらくは、単一のスーパー知能ではなく、社会全体に埋め込まれた分散型のスーパー知能になる。



しかし、少なくとも、作る人工知能のそれぞれの要素において、ガイドライン (可制御、透明、追跡可能、可逆) を守った場合と守らなかった場合の結果の違いは、大きいと考えられる。



誰が制御するのか?

 → 合意形成の問題(?)

 → 市民に分散された制御権(?)



制御不能な巨大AI
 対
制御可能な草の根AIネットワーク
 の戦いになる(?)

(たぶん、どちらもsuper AI )



本日の特別セッションのとりあえずのまとめ

technological singularityは、ありうる。

正の面と負の面があるだろう。

何もしないでただ待つわけにはいかない。

我々は何をなすべきか?

AIの専門家だけでなく、さまざまな分野の専門家、および一般の人々と、国境を越えて、協力していく必要がある。



Author: Koichi Hori


堀浩一の紹介

堀浩一の紹介:
(これは著者が手で作成した空間です)
(上の空間の中でクリックしていただけますと、各項目にアクセスできます。)
(「堀 浩一」という項目から始めて、関連する話題を、ざっとではありますが、抽象的な問題は右へ、具体的な問題は左へ、一般的な話題は上へ、人工知能研究関連の話題は下へ、という方針で、配置してみました。ただし、すべての項目の配置がその方針を満たしているわけではありません。)

堀浩一の略歴と連絡先は「堀 浩一」にあります。 詳細な履歴は「堀 浩一 詳細履歴」にあります。
たまに「堀 浩一 の ひとりごと」を更新しています。なぜかこのひとりごとへのアクセスが比較的多いのですが、読んで下さっている皆様に感謝申し上げます。
堀は人工知能の研究者です。時々堀洋一先生と間違われることがありますが、 「堀洋一さんと堀浩一は別人です」
堀研究室は東京大学大学院工学系研究科航空宇宙工学専攻にあります。 研究室では、航空宇宙工学への人工知能の応用だけでなく、学生諸君の自主的なテーマ設定を尊重して、幅広くいろいろなテーマの研究を行っています(「堀研究室所属を希望する皆さんへ」「活躍する教え子たち」)。

私自身は、人工知能研究の中でもやや特殊な「創造活動支援システムの研究」を行ってきました。 なんだか怪しい響きの研究テーマだと思われるかもしれませんが、いつのまにか仲間も増えました(「ことばと発想のテクノロジー 」)。
創造活動支援システムの一例として「堀の自作ソフトKNC(Knowledge Nebula Crystallizer)」を作りつづけています。このサイトもそのKNCで動いています。「KNC(Knowledge Nebula Crystallizer)の原理 」にやや専門的な説明を書きました。このサイトを動かしているKNCは「Rails + MySQL」で実装しています。

研究者が何をめざして研究をおこなっているのかの本音について、「事業仕分けをきっかけに思う」に書きました。研究者の本音を身も蓋もない言い方で言ってしまうならば、面白くて仕方ないので研究しているということになるでしょう。
しかし、学問ごとに目標とするところに少しずつ違いはあって、 我々工学の研究者がめざしているのは、おおげさな言い方をするならば、人類の幸福です(「工学と理学の違い」)。
理想と現実の狭間で、研究をどうやって評価すべきかは、重要で難しい問題です(「評価」から「解説」へ 」「人工知能学会創立25周年にあたって 」)。
できれば、産学連携も、理想に向かって「志高き産学連携」を行いたいものです。

最近再び人工知能の研究が注目されるようになってきています。 そもそも知識とは何なのだろうという問題については、昔々現代思想誌にも書かせていただいたことがあります(「知識の姿 − 人工知能研究者の立場から」)。
「機械が心を持つようになるか?」 「人工知能倫理(AI Ethics)について」 「機械との競争について」 「集合知とは何か」等々、私も考え続けています。
学会の果たすべき役割についても考え直す必要がありそうです(「人工知能学会創立25周年にあたって 」)。
それらすべてに関係する「人工知能とは」という解説記事を書きましたので、それも掲載しておきます。


最終的に私がめざしているのは、恩師からの宿題の「文化国家としての技術立国 」に少しでも貢献することです。


automatically generated story 8.29.43.30

This is an automatically generated story.
これは自動的に生成された空間です。
「起承転結」の関係になるような項目をシステムが自動的にさがして上から下に並べました。
上の空間の中でクリックすると各項目にアクセスできます。


 

現在の御興味の推定位置と御興味の移動予測

(これは、トピック間のキーワードの共有度とユーザの行動履歴をもとに自動的に作成した空間です。)

御興味移動先予測地点に近い項目から遠い項目まで一覧(距離):


堀 浩一のホームページへ

現在位置 x = 0.29, y = 0.92
現在誤差 sigma = 0.0
予測位置 x = 0.29, y = 0.92
予測誤差 sigma = 0.07


(別の方法で計算した)現在の文脈で関連しそうな項目(関連度):
relevant in the current context (relevance score):


堀 浩一のホームページへ