擬人化されて誤解される人工知能

こんにちは。ぼへみあです。
いま名古屋で開催されている、人工知能学会全国大会2017に遊びに来ています。

以前から、「人工知能」という言葉の使い方に疑問を覚えたり、人工知能が仕事を奪うなどの言説を見て、馬鹿じゃないの？と思っていたりしていたのですが、基調講演を聞いてその原因が自分の中でスッキリしたので書いてみます。

f:id:bohemian916:20170524012619p:plain

人工知能脅威論

定期的に、人工知能に奪われる仕事の記事が話題になります。また人工知能が暴走して世界をディストピアにしないためにはどうすればいいのか、みたいな話もちょくちょくあります。 AIは制御不可能になり得たり、悪意を持って人に害を与えたがっているようです。
ある程度この分野に関わっている身としては、SFに毒されすぎだろ、とか思うわけです。なぜこんな考えになるのかというと、人工知能を過度に擬人化しすぎているからです。

人工知能の擬人化

だれしも日常生活の中で、機械を擬人化していると思います。例えば調子の悪いテレビに、「今日は機嫌が悪いなぁ」と思ったり、
思い通りの動作をしないアプリに、「このアプリ、頭悪いな」と、人に使うべき表現を機械に使っているでしょう。

知能という言葉を考えてみると、そもそも知能とは人が持つものであり、他の動物には高い知能がありません。なので知能とは人なのです。したがって、「人工知能」という言葉はその成り立ちからして、擬人化されるのは避けられない言葉なのです。

擬人化されると、まるで意思を持って行動するようなイメージがつきます。自分で勝手に成長したり、人に対して感情を持ったり、気を使ってくれている気分にさせてくれます。
この擬人化が過度になると、人に対して怒りを感じて暴走したり、人に害を与える行動を取るのではないかという疑念を持つことになり、脅威論につながります。

以前傍聴してきた内閣のAIに関する会議でも、人格ならぬ人工知能格を作るべきだという意見が出てきており、擬人化がされすぎていると感じます。

そして、擬人化された人工知能というのは多くの場合、自意識・創造性などあらゆる面で人間と同等以上の知性を示す、汎用人工知能（強いAI）のことをイメージしています。
汎用人工知能を前提として語られると、人工知能に詳しい研究者とは議論が噛み合いません。
そうした行き違いが生じた結果、日本でのAI研究の雄、PFNが総務省のAI開発ガイドライン策定から離脱してしまいました。

itpro.nikkeibp.co.jp

人工知能の実際

人工知能は人ではありません。ただのコンピュータプログラムです。多くは特定のタスクをこなすためだけに設計されたプログラミングです。

じゃあプログラミングで作られた普段使ってるアプリは人工知能か？と聞かれると、そうでないと思います。

現状で何が「人工知能」と呼ばれるかですが、基準は「現在普及している技術水準よりも少し高度な処理ができるか」もしくは「今まで人しかできなかったことか」だと考えています。
例えば、カメラのオートフォーカス機能はかつてAIと呼ばれていました。当時はカメラのフォーカス合わせは人が行うもので、コンピュータが行ってくれるのはスゴイと認知されていたからです。オートフォーカスが普及し当たり前になると、だれもこれをAIだとは言いません。炊飯器の自動炊飯機能もかつてはAIだったらしいです。
今の時代なら、これはAIだと言い張ってリリース文を出せば、中身はどうであれAIになります。人工知能とは、時代によって対象となるものが異なる、定義が曖昧な言葉なのです。

擬人化の効用

擬人化のデメリットばかり述べましたが、擬人化することで享受するメリットもあります。

大きく恩恵を受けているのは、最近chatbotなどで流行りの対話システムです。
現在の自然言語処理の技術では言葉の意味を真に理解することはできません。意味が理解できていないとまともな会話はできません。そこで対話をするキャラクターをデザインして擬人化することで、きちんと対話が成立していると認識させるようにしています。例えば相手に幼い印象を抱かせることで、多少の意味不明な会話でも許容させます。これはコミュニケーションロボットを開発している人にとってベストプラクティスになりつつあるようです。