どうもこじらです。
今回は「AIが完成しても、それは超優秀な人間みたいな存在が出来るだけで、ミスをしない完璧な存在にはならない。」という話をしていきます。
前提知識
まず前提知識として、
- 私たちがAIに持つ間違ったイメージ
- AIの現状
について話させてください。
我々がAIに持つ間違ったイメージ
私たちは、将来完成するであろう「AI」に勝手なイメージを持っています。
- コンピュータは人間と違ってミスをしない
- AIはいずれ人間を超える
が合体して「将来、ミスをしない完璧なAIが完成する」と思っている人が多いかと思います。
しかし、そういうAIが完成することはありません。
AIの現状
そもそもAIとは
AI(人工知能)については、「コンピュータ自身が考え、人間のように知的に振る舞うことができるもの」と認識しておけばいいと思います。
実際のところ、人それぞれ認識が違うので明確な定義はありません。
AI技術という分野自体がまだ黎明期ですし。
ここでは、「人間が命令を与えなくても、状況に合わせた行動ができるコンピュータ」をAIとして話していきます。
近年のAIの進歩
今、AI技術というのは目まぐるしい速度で進歩していますよね。
- ペッパー君
- Googleの音声認識
- 自動翻訳の精度
- ルンバ
など、身の回りでも変化を実感できるものが多いです。
しかし、これらの進歩はAIの完成とはまた違ったベクトルに進んでいる可能性が高いと言われています。
今の技術進歩ではAIが完成するかは分からない
今のAI技術では、処理を複雑化させ「考えてるっぽく」させることしかできていないんです。
これまで、
「こんにちは！」と言われたら「こんにちは！」と返すことができたコンピュータが、
「こんにちは！」以外に「おはよう！」「こんばんは！」にも対応できるようになったような感じです。
これは、人間が裏で
『「こんにちは」って言われたら「こんにちは」って言え😈』
と命令しているから対応できているだけで、コンピュータ自体が「こんにちは！」の意味を理解し、考えて実行している訳ではありません。
処理が複雑になっただけで、「AIに近づいているか」というとそれはまた微妙です。
近づいている可能性もありますし、近づいていない可能性もあります。
問題を予測することができない
今のAI技術では問題を予測することができないと言われています。
「コンビニにじゃがりこを買いに行かせる命令」を例として見ていきます。
じゃがりこを買いに行かせる
AIくんにじゃがりこを買ってきてもらいます。
命令を細分化すると
- コンビニに行く
- じゃがりこを見つける
- じゃがりこを買う
- 家に戻る
という感じになります。
全ての行動において問題が発生しないのであれば、命令はシンプルです。
しかし、
- じゃがりこが売っていない
- お金が足りない
など例外的な場面も起こります。
今のAI技術では、
- じゃがりこが売っていない場合の命令を用意する
- お金が足りない場合の命令を用意する
という方法で例外に対処しているのが現状です。
「機械学習」と呼ばれている学習方法であっても、この域を出ることはありません。
超例外が起こった場合
「じゃがりこが売っていない」「お金が足りない」くらいなら想定の範囲内の例外ですが、普通は起こらない例外もときには発生します。
- コンビニに行く途中、マンホールに落ちる
- 家に戻る途中にミサイルが降ってくる
とかねｗ
こういう超例外は、考え始めると無限に存在します。
普通に考えたら「そこまで考える必要はないだろｗ」と思いますが、コンピュータは教えたことしか分かりません。
超例外の存在を考えた場合、「コンピュータはどこまでの問題を予測いればいいのか」という問題が浮かんできます。
感覚器官を付ける
この問題の答えの一つは「感覚器官を付ける」です。
感覚器官があれば、超例外の対処法を考えることはなくなり、見えもしないマンホールやミサイルに怯えることはなくなります。
人間は脳が優秀ですが、視覚、聴覚、触覚のような感覚器官も優秀です。
「どこまで問題を理解していればいいのか」という問題は、コンピュータに感覚器官が付いていないことを前提に話が進められている可能性が高いです。
身体が存在しない脳みそ単体の生き物に命令を出している感じです。
こう聞くと「そりゃ上手くいく訳ないでしょ…」ってなりますが、これに踊らされた人は多いらしいです。
詳しく知りたい人は「フレーム問題」でググってみてください。ここまでの内容は「フレーム問題」について私なりにまとめたものです。
これで、AIを作るために足りないものが一つ分かりました。
「優れた感覚器官をコンピュータに搭載すれば、AIに近づくことができる。」と言えます。
AIを人間に近づけるとミスをするようになる
ここからがこの記事の本題である、「完璧なAIが完成したとしてもミスをしないAIは完成しない」という話です。
上で挙げた優れた感覚器官をコンピュータに搭載する方法は、超例外を無視することができるようになるのであって、超例外を処理できるようになった訳ではないんです。
微妙なニュアンスの違いですが、これが結構大事です。
この方法では、見えたり聞こえたりしたものに対してのみ対処するようにしました。
逆に言うと、見えなかったり聞こえなかったりしたものに対しては対処することができないと言えます。
ここで、理解を深めるため「人間はなぜミスをするのか」を考えてみます。
人がミスをする原因
人がミスや失敗を犯すときは、
「考えてなかったから」「認識していなかったから」という場面がほとんどです。
考えてなかったから
前者は、その事象を「例外」として捉えていたため発生します。
言い換えると、「慣れにより思考が停止していた」という状況です。
↓詳しくはこちらの記事で話しています。参考までに。
認識していなかったから
後者はその事象を把握できていなかったために発生します。
この２つのミスの原因を分かりやすくするため、一つ例を挙げます。
例：メールの回答期限が過ぎてしまった
「会社の飲み会の回答期限がメールで来ていたが、その期限が過ぎてしまった。」というミスを見てみます。
メールボックスにあるメールが「どうせ重要なメールは来てないだろう。」という思いから、一括で既読にしてしまったことが原因だとした場合、「考えていなかったから」がミスの原因になります。
他方、メールは読んだが、回答期限が目に入らず期限の存在を知らなかった場合、「認識していなかったから」がミスの原因になります。
このように、人間のミスはこの２つに集約されるものだと思います。
（本人に原因がある場合はこの２つ。話が長くなるので、ミスや失敗の定義についてはここでは触れない。）
あれ？人間ってAIと同じじゃない？
起こらないであろうことには対処しない（＝考えてなかった）、見えない脅威には対処しない（＝認識してなかった）、というのが人間が無意識に行っている、「考えすぎてしまうこと」への対処法です。
「あれ？感覚器官を付けたコンピュータって人間と同じじゃんｗ」と思えてくると思います。
そうなんです。優秀なAIを作ろうとすると、どんどん人間に近づいてきます。
まぁ、AIの定義が「人間のように知的に振る舞うことができるもの」なので、ミスをするようになるのは想定の範囲内であるはずです。
人間よりも遥かにミスをしないコンピュータは作れても、完璧なコンピュータは作れません。てか作ろうとしてません。
作れたとしても、「超優秀な人間」です。
AIに疎い我々からすると「なんか思ってたのと違うなぁ」という感想になりやすいですが、AIというのはこういうものっぽいです。
まとめ
AIは、「コンピュータ自身が考え、人間のように知的に振る舞うことができるもの」のことを言います。
つまり、完成したら人間が出来上がりますｗ
超優秀な人間を作ることは出来るかもしれませんが、人間の特性である「ミス」を排除することは性質上不可能です。
なんだろう、「ガソリンに燃えるな！」って言う感じですかね？ｗ
それくらいミスをしないAIというのはおかしなものです。
と、今回はこんな感じで。
AIについて考えると、このブログのメインテーマに繋がってくることが分かってきたのでもう少し調べて考えてみるつもりです。
コンピュータが理解できないとされる「感情」「意味」について深掘りする記事が書きたいなと思っています。
まぁ、AI技術者でも何でもないただのIT勤務の人間が書くので、的外れな話になる可能性が高いですがｗ
こじらでした
じゃ
参考文献
人工知能（AI）とは | 基本知識・歴史・社会への影響は？
こんなところに使われていた！AIの活用事例を見てみよう
フレーム問題は解決済み －フレーム問題に見る、ＡＩ史の闇－
コメント