過ぎたいいとこ取りは危険

ゴールデンウィークが終わりました。
私にとっては、そんな休みは無かったですが･･･
とにもかくにも、元に戻さないと。

さて、ここのところ何かと話題になりがちなAIですが、多くの方とお話している中で「これはちょっと危険だな」と思うことがありましたので、少し書いてみようと思います。

今話題のAI、確かにとても進化しています。これまでコンピュータではできなかったことが実現できていることは素晴らしいのですが、いかんせん、ちょっと過剰期待気味なのでは?と感じています。

AIの基本的な仕組みとして「ニューラルネットワーク」というものがあります。これは本当に人間の脳細胞で起きている情報伝播をそのまま模したもので、とても「人間っぽい」ことができるのですが、それがゆえに、その技術特性を知っておかないと思わぬ落とし穴に落ちます。

ざっくりまとめると、「人間っぽくなったので、人間のように間違えます」。
実際私もAIを活用している中で、これ間違ってるなという箇所には時々遭遇します。

ただ、それは私がこれまでこの仕事を続けてきたからそういう視点が持てているだけなのかもしれません。

多くの方は、それ以前の「プログラムを動かすコンピュータ」と「今の時代のAI」を混同して、「間違っていないパーフェクトな回答を都度柔軟に思考して何でも返してくれる」という錯覚に陥っているのでは?と心配になることがあります。

これまでの「プログラムを動かすコンピュータ」は、どちらかと言うと「機械」に近い存在かもしれません。組み上げるには様々な内容を検討し、調整などを繰り返し、精度を上げていく必要があります。

しかし一度組み上がったプログラムは、停電やコンピュータの物理的破損など、よほどのことがない限り、同じ事をきっちり同じように繰り返してくれます。

かたや今話題のAIですが、そんな面倒な手続は不要です。どこからか収集した情報を基に、質問した内容に「非常にそれっぽい」回答をしてくれます。

「非常にそれっぽい」=「概ね正解」だったりするので、皆さん驚いているのですが、同じAIに同じ質問をしても必ず同じ答えが返ってくるとは限りません。まさに人間のように。

受け取る人間側が、この2つを混同して、更に「いいとこ取り」しすぎようとすると、結構厄介なことが起きます。

「プログラムなんて全部AIが書いてくれるんじゃないの?」といった考え方です。

えっと･･･まあ正直に書きますが、
「素人よりはマシです。似非エンジニアよりもマシです。でも中途半端です。」

そんなはずはないだろ、という方は、まあお試しください。本当に製品として正しく作れるようであれば、それで起業すれば大もうけですよ! って、それができているなら、当のAI作ってる会社自体が、そういう事業を既にやっていて、私たちのようなエンジニアはいなくなっているはずですが･･･なぜそうなっていないのか。お察しください。

詳しく書き始めるととても長くなるのですが、今のAIがまだ人間に追いつけない理由は、ざっくり2つです。

一つは、上記の「人を模した仕組み」を作るには、まだ細胞数(ニューロン数とか言われます)に対するエネルギーの必要量がアンバランスです。人間一人分のニューロン数には達しているものの、それを動かすには発電所一つ分くらいの電力が必要だったりと、相当コストがかかります。それを世界中から使おうとしているわけですから、当然対応できる上限は限られます。

もう一つは、「痛みを伴う経験が無い」こと。残念ながら、彼らはヤンチャやったとしても、何の痛みも返ってこないのですよ。その分、人間同等に真剣に取り組んでいるかの度合いは、やはり下がってしまいます。若干この内容の延長になりますが、AIには味覚・嗅覚・触覚が無いので、そのあたりに関連した知識などは、圧倒的に人間より劣っています。

どのような技術でもそうなのですが、技術特性を考慮しないで、人間側が表面的にすごいと思うことに過剰期待してしまうと、ちょっと良くないことが起きてしまうということは、これまで人類は度々繰り返してきています。

今年あたり、AIに組ませたプログラムのシステム障害で、何か社会的な問題になりかねないことが出てきたりするかもしれませんね。

まあ起きてみないと何とも言えないですが、私は昨今のAIに対する過熱気味は、ちょっと冷ややかに観察しつつ、自分の軸を持った上で、上手く活かしていきたいと思っています。