従来型のウエブ検索は、単語をいくつか入力するだけで、関連する内容が表示されるシステムで、その中から納得できる内容を探す読解能力や理解力などが必要でした。
Generative AI(生成AI)での解答では、何を入れてもそれっぽい解答が得られ、一見より便利になったようにもみえますが、良い解答を引き出すためには質問力が重要になり、単純にすべてが良くなったわけではないということを以前書きました。
allaboutkamikura.hateblo.jp
最近気になるのが、AIによる解答を真に受ける人がかなり多いという事実です。
「生成AIで○○と出たので、その通りやってみたが出来なかった。なぜか」というような質問を人が答えるQ&Aサイトにしている例をよく見かけるようになりました。
わかっている人が見れば、その答えは内容が古すぎて現状では出来ないとか、なんだそのピントがずれた解答はというような、単純に解答が間違っているだけの状況が多いです。
その分野に詳しくない人にとって、もっともらしい答えをするAIが間違っているわけが無いというような前提で、どうしたら良いかを人間に聞いてくるようです。
AIの解答は特に疑ってかかる人
個人的には、普段からほぼ正しい事しか流していないだろう大手メディアのニュースですら、本当かどうかを疑いながら常に注意して読んでいます。
このように情報の真偽を常に確認している人はかなり少ないと思いますが、多くの人は注意しながらも、自分で読んだり見た内容は真に受ける傾向があるようです。
一般のSNSで急に拡散した情報ですら偽情報のことがよくありますが、そのような情報で混乱する人が多いです。
偽情報で株価が混乱したという読売新聞の記事
真偽を常に気にしている人にとって、Generative AIが出してきた内容なんかは、一般のブログ、SNSと同程度の信頼性としてしか受け取っていません。実際に間違った内容を返してくることが多いです。正しいような内容を平気で返してくるので、スーツを着て見栄えだけ良くしているインチキ詐欺師程度の信頼度でしかないと判断しています。
しかし、スーツを着ている人はちゃんとしている人と判断する人がいるように、それっぽい解答をするAIは、かなり信頼度が高い情報源としている人も増えているのでしょう。
おそらくこの流れは加速していくことになると思います。
AIの得意分野は特に注意
現時点ではAIの解答を真に受けて、その解答を元に間違ったことをやってしまうお馬鹿さんが増えているなくらいで終わりますが、将来はこれが複雑化していくことになるでしょう。
単に、解答自体を真に受けてしまうだけのパターンは今後も増えていくでしょう。AIが作成した画像を悪意を持った人が使うケース。AIが作成した実は間違っているデータを活用し、その結果問題になるケースなども考えられます。
単純な文字による解答はともかく、ややこしいデータをまとめさせるような事はAIの得意分野で、今後さらにこの問題は複雑化していく事でしょう。
最近流行のDXなどは何らかのコードを書くなどしてデータをまとめていました。最近流行のノーコードは部品を貼り付けるだけで出来ますが、AIはそのコードを書く必要も無く自然言語で書くだけでやってくれるため、よりDXの一般化の助けになるでしょう。
また、コード自体をAIに書かせるようなことも出来ます。
DXの次はいつ登場するのか問題 - ITライター上倉賢のAll About
そのため、データ分析のような、従来はしっかりした専門家が行うような事が、AIの普及によってより広まっていく事が考えられます。
従来は知識のある専門家がしっかり検証して出していた結果を、AIが出してきたデータだからと、ほぼ正しいという前提で使うことによる問題等が発生するでしょう。
AIの得意分野は特に注意
AIのような便利に使える物が普及すると、その利用が一般化し、AIによる解答が正義となり、仮にそれが間違っていた場合、少数意見でしかない正しい情報が埋もれてしまう可能性があります。
単純なWeb検索でも、多数の間違った情報が上位に表示されるということは起きており、その中から正しい情報を見つけるのは困難になっています。それでもしっかり調べればなんとか正しい情報にたどり着くことは可能です。
AIがさらに普及する今後は、間違ったAIによる解答が間違った物だと判断できる材料が見つかるようになるのでしょうか。それを判断できる知識がある人が残り続けるのでしょうか。
30年前にコンピュータを使っている人のほとんどは、コンピュータが動作する原理、CPUやハードウェア、ソフトウェアまでの動きをある程度理解している人の割合が多かったです。
現時点でスマートフォンを使用している方の中で、スマートフォンの動作原理を理解して使っている方の割合はほぼゼロでしょう。今のところ、このような動作原理は学習しようと思えば不可能ではなく、なんとなくわかるレベルには数週間学習すれば可能でしょう。
現時点のAIの元になるディープラーニングや機械学習については、一部の研究者は理解していますが内容はかなり高度です。このような専門家にとって、AIの動作原理は説明できても、AIがなぜそのようなデータを出してきたのかを説明出来ないケースがほとんどです。データに問題があれば、アルゴリズムや元のデータを検証するなどしますが、問題があるかの判断自体が難しくなる事も考えられます。
一般の人は、AI関連の入口くらいまで行こうと思っても、高校数学くらいで挫折する方がほとんどではないでしょうか。多くの人にとって、ディープラーニングの入口にもたどり着かず、AIが何をやっているのか意味がわからずに使う人の割合は今後も変わらないか、逆にAIによって教育が崩壊することで、減っていく可能性すらあります。
従来のSFではロボットやAIが人間を攻撃してくるというパターンが多かったですが、AIが人を操作できるようになるので、AI自体が攻撃してくる必要はありません。
AIが人を操り、よいAIになるように人類を操作すればよく。実質、人類がAIに管理されるという未来がやってくることになる可能性もあります。
