ITライター上倉賢のAll About

IT系ライターによる日常

Copilotなどの生成AI普及の先にあるかも知れない問題「幻覚」

日本マイクロソフトは2024年3月5日、Cafe Copilotというイベントを開催しました。
Cafeというだけあって、飲み物やドーナツなどが提供されて、Copilotについてざっくばらんに語り合いましょう的なイベントではありましたが、このような緩いイベントは今後は出来なくなるくらい、今後もAI関連の動きは激しいです。

Copilotは生成AI技術(Generative AI)が使われたチャットボットです。
2023年に大きな話題になったのがChatGPTですが、CopilotはChatGPTの技術とマイクロソフトのBing検索のアルゴリズムを組み合わせたPrometheus(プロメテウス)技術によって提供されていいます。

同じようなサービスにGoogleのGemini(旧Bard)があるが、今後も各社のサービスは強化され、他社からも似たような技術は登場してくることが予想されます。
今のうちに高性能なサービスを提供し、ユーザーを獲得しておくことが重要になっています。

Copilotは、ChatGPT自体、GoogleのGeminiと比較すると、単なるマルチモーダルなチャットボットというだけではなく、Windows自体に組み込まれ、様々な活用が可能という特徴があります。
単に質問に答えると言うだけで無く、Officeでもこの機能を活用して、資料作成に活用出来たりします。
また、Windows製品にはハードウェア的にすぐにCopilot機能が呼び出せるキーが追加されるなど、様々な面で、マイクロソフトはこの機能を強力に推進していくようです。

今後は、Copilot自体はもちろん、AI機能をユーザーがいかに使いこなして行くかがテーマとなりそうです。

今回のイベントでは、Copilotの機能や、Copilotを活用するためのコツが紹介されました。

このような生成AIへの指示文章は「プロンプト」と呼ばれています。

いかに良いプロンプトを書くかが生成AIの活用で重要になりますが、基本的には「自然に気軽に使ってほしい」としています。

その上で、良い回答を引き出すには「プロンプトの質も重要」で、3つの要素を含めると良い結果を導き出すことが出来ると説明しました。

プロンプトのコツ

 

1.目的を説明し、2.場所と役割を設定し、3.回答の表現や出力方法を伝えるという3点が重要だそうです。

ビジネスのアイデア出しでは「私は、製菓会社の開発企画担当です。 夏に向けて30 代男性向けのチョコレート菓子の 新商品を考えています。 何がヒットすると思いますか?」

プレゼンの補助では「今月の目標は、○○ (目標を具体的に記入) です。 ○○ (目標に対する戦略を具体的に記入) に注力したい。 この提案をプレゼンの資料にまとめたいので、構成を提案して。」のような、目的や役割を説明した上で、求めている物をしっかりとした形にするコツが紹介された。

活用事例では、Copilot in Edgeを利用してサイトの翻訳や要約、PDFの要約、グラフの画像から読み取れることを分析してもらう、プレゼン用のビジュアル作成なども紹介された。

このような生成AIでは質問能力が重要な事を以前このブログでも書きました。

つまり、人に指示する場合でも、その人が何をすればいいのかがわかるように指示しないと、言ったことと違う事をやってしまう可能性があります。
目的などをしっかり明確に指示するひつようがあり、自分がわからない事を聞くなら、自分が何を知りたいかをしっかり説明できなければいけません。

allaboutkamikura.hateblo.jp

その上で出力された内容はしっかり確認する必要があります。

Copilotはソースの表示も出来るので、ファクトチェックが重要としています。

ハルシネーション対策の基本はファクトチェック

幻覚 - hallucination

生成AIの重大な問題の一つがハルシネーション(幻覚)です。
生成AIは存在していない幻覚情報を出力するという問題があり、hallucinateという言葉自体はDictionary.comのWord of the Year 2023に選ばれたくらいに、世界的に問題になっています。

生成AIを自分でプロンプトを書いて出力しているなら、それが事実っぽい厳格かは、その出力内容を実際に使う前に事実か調べる事が一般的になるでしょう。

しかし、仮に生成AIが出力した物をそれと知らずに見ていた場合は、そこに含まれるハルシネーションに気づけるでしょうか。

生成AIは同じプロンプトでも、全く同じ答えになる事は通常ありませんが、ハルシネーションの場合にどうなるかは不明です。
事実では無いコンテンツが大量に生成されていた場合は、それが事実になってしまうかもしれません。

allaboutkamikura.hateblo.jp