ITライター上倉賢のAll About

IT系ライターによる日常

AIはクラウドでやればいいけどクラウドも辛いよ

2023年から急速に広まった生成AI関連では、クラウド側で学習(トレーニング)を行い、推論(インファレンス)もクラウドで行うのが中心ながら、今後はクライアント側でも一部の処理が行われようとしています。

ハードウェア面では様々な動きがありますが、本格的なAI関連の演算は当面クラウドが中心になるでしょう。そのクラウド側の増強は必須となっています。

サーバーを導入すればAIを活用し放題となるのが理想でしょうが、導入から運用まで様々な課題があり、そもそも導入することも難しいのではという状況もあり得ます。

AIサーバーの導入問題

課題となるのが、サーバー自体の購入から運用までの様々な問題です。

サーバーの購入自体は必須ではなく、クラウドで借りることも可能ですが、本格的に行う場合は自社で自由に運用管理できるサーバーが必須になっていくでしょう。

高性能なAI用サーバーの中心となっているのがNVIDIAのサーバーで、例えばHGX H100や同等のサーバーは数千万円しますが、今購入しようとしても納期は年単位で時間がかかるそうです。

dynabook Days 2024で展示されていたIngrasysのHGXサーバー

2024年2月に行われたdynabook Days 2024では、IngrasysのHGXサーバーが展示されていました。
これは、IngrasysはFoxconnの関連会社で、NVIDIAGPUを実際に製造しているのがFoxconnで、FoxconnSHARPの、そしてdynabookの関連会社のため、製造元に近いdynabookから購入した方が納期が早いのだそうです。

NVIDIA HGX H100

AIサーバーは重過ぎ

このHGXサーバーで使われているNVIDIAのロゴの1つの固まりが1つのGPU部分になり、それが8つで構成されています。この1つの重さが実際に持ってみましたが10kgを超えているような持つのも大変な重量で、それが8つで構成されているので、普通の人にはとても持てない重量です。

おそらく、このサーバーだけで100kgはありそうな重量で、とても一人では持てない重さです。

かなりの重量のため、設置の際にはいくつかの問題もいくつかあります。

設置には何らかの重量物を運搬できる機器の使用が必須で、施設自体がそれに対応できる場所でないと搬入自体が出来ません。
また、それを一つのラックで設置した場合は全体の重量の問題も出てきます。

AI対応のNRT12データセンターのまだ何もないデータホール内部

2024年3月にオープンしたMCデジタル・リアルティのNRT12データセンターは、AI時代に備えて、1平方メートルあたり2トンに耐えるように設計されているそうです。

この画像は、まだ何も設置されていないデータホールです。

今後はここに多数のラックが並ぶのでしょうが、設置自体もかなりの重労働な事は想像に難くないです。

AIサーバーの電力をどうする

その設置したサーバーを動かすための電力をどうするかという問題もあります。

データセンターの電源容量は年々増えている

電源容量は今後も増えることが予想されているそうで、既存の事務所の一部屋をサーバールームにするようなことは、重量面、電力面で難しくなっていくのではないでしょうか。

AIをどう活用していくかというソフトウエア側の問題もありますが、それを実現するためのサーバーの管理運用というハードウェア面での課題も深刻です。

Copilotなどの生成AI普及の先にあるかも知れない問題「幻覚」

日本マイクロソフトは2024年3月5日、Cafe Copilotというイベントを開催しました。
Cafeというだけあって、飲み物やドーナツなどが提供されて、Copilotについてざっくばらんに語り合いましょう的なイベントではありましたが、このような緩いイベントは今後は出来なくなるくらい、今後もAI関連の動きは激しいです。

Copilotは生成AI技術(Generative AI)が使われたチャットボットです。
2023年に大きな話題になったのがChatGPTですが、CopilotはChatGPTの技術とマイクロソフトのBing検索のアルゴリズムを組み合わせたPrometheus(プロメテウス)技術によって提供されていいます。

同じようなサービスにGoogleのGemini(旧Bard)があるが、今後も各社のサービスは強化され、他社からも似たような技術は登場してくることが予想されます。
今のうちに高性能なサービスを提供し、ユーザーを獲得しておくことが重要になっています。

Copilotは、ChatGPT自体、GoogleのGeminiと比較すると、単なるマルチモーダルなチャットボットというだけではなく、Windows自体に組み込まれ、様々な活用が可能という特徴があります。
単に質問に答えると言うだけで無く、Officeでもこの機能を活用して、資料作成に活用出来たりします。
また、Windows製品にはハードウェア的にすぐにCopilot機能が呼び出せるキーが追加されるなど、様々な面で、マイクロソフトはこの機能を強力に推進していくようです。

今後は、Copilot自体はもちろん、AI機能をユーザーがいかに使いこなして行くかがテーマとなりそうです。

今回のイベントでは、Copilotの機能や、Copilotを活用するためのコツが紹介されました。

このような生成AIへの指示文章は「プロンプト」と呼ばれています。

いかに良いプロンプトを書くかが生成AIの活用で重要になりますが、基本的には「自然に気軽に使ってほしい」としています。

その上で、良い回答を引き出すには「プロンプトの質も重要」で、3つの要素を含めると良い結果を導き出すことが出来ると説明しました。

プロンプトのコツ

 

1.目的を説明し、2.場所と役割を設定し、3.回答の表現や出力方法を伝えるという3点が重要だそうです。

ビジネスのアイデア出しでは「私は、製菓会社の開発企画担当です。 夏に向けて30 代男性向けのチョコレート菓子の 新商品を考えています。 何がヒットすると思いますか?」

プレゼンの補助では「今月の目標は、○○ (目標を具体的に記入) です。 ○○ (目標に対する戦略を具体的に記入) に注力したい。 この提案をプレゼンの資料にまとめたいので、構成を提案して。」のような、目的や役割を説明した上で、求めている物をしっかりとした形にするコツが紹介された。

活用事例では、Copilot in Edgeを利用してサイトの翻訳や要約、PDFの要約、グラフの画像から読み取れることを分析してもらう、プレゼン用のビジュアル作成なども紹介された。

このような生成AIでは質問能力が重要な事を以前このブログでも書きました。

つまり、人に指示する場合でも、その人が何をすればいいのかがわかるように指示しないと、言ったことと違う事をやってしまう可能性があります。
目的などをしっかり明確に指示するひつようがあり、自分がわからない事を聞くなら、自分が何を知りたいかをしっかり説明できなければいけません。

allaboutkamikura.hateblo.jp

その上で出力された内容はしっかり確認する必要があります。

Copilotはソースの表示も出来るので、ファクトチェックが重要としています。

ハルシネーション対策の基本はファクトチェック

幻覚 - hallucination

生成AIの重大な問題の一つがハルシネーション(幻覚)です。
生成AIは存在していない幻覚情報を出力するという問題があり、hallucinateという言葉自体はDictionary.comのWord of the Year 2023に選ばれたくらいに、世界的に問題になっています。

生成AIを自分でプロンプトを書いて出力しているなら、それが事実っぽい厳格かは、その出力内容を実際に使う前に事実か調べる事が一般的になるでしょう。

しかし、仮に生成AIが出力した物をそれと知らずに見ていた場合は、そこに含まれるハルシネーションに気づけるでしょうか。

生成AIは同じプロンプトでも、全く同じ答えになる事は通常ありませんが、ハルシネーションの場合にどうなるかは不明です。
事実では無いコンテンツが大量に生成されていた場合は、それが事実になってしまうかもしれません。

allaboutkamikura.hateblo.jp

AI対応のNPU搭載PCをすぐ買うべきか問題2024

インテルのAI対応の最新プロセッサの「Core Ultra」が2023年12月に発表されました。
従来のCore iブランドから名称も変わっていますが、機能面でもインテルのプロセッサとして40年で最大の革新製品と表現しています。

インテルが言う革新の一つが、NPUというAIの推論に活用出来る新しい演算機能が搭載された点です。

インテルはこのCore Ultra搭載パソコンをAI対応PCとしてアピールしていくようです。

そもそも何がAI対応のPCなのか

Intel Core Ultra

AIの推論(Inferance)とは、AIのディープラーニングで学習(Training)した結果を元に、分析するような事です。

例えば、花の名前を調べたいときに、カメラで撮影して、ネットの何らかのサービスを使って実際の画像から花の名前を調べます。
各サービスは花の名前を、大量の花の画像から、色や形の特徴を元に事前に分析しています。AIのディープラーニングで言う学習です。その学習したデータから、カメラで撮影した花の名前を割り出すのが推論です。

この場合は数十万枚やそれ以上の大量の画像を事前に学習しますが、精度の高い大規模な演算が必要です。これは一般のパソコンでは厳しく、一般的にクラウド上のデータセンターで時間をかけて計算が行われます。
その学習したデータを使って、花の名前を調べるのが推論です。推論は学習に比べると大規模な計算は必要とせず、精度もそこまで必要ではありません。

AIの分野は様々で、花の名前を調べるようなこと以外にも、画像生成、文章作成のような2023年に急速に普及した生成AI(Generative AI)の用途もあります。

従来はAI機能自体がパソコンではあまり使われていなかったため、パソコン自体にはその機能はありませんでした。NVIDIAビデオカードGeForce RTXシリーズなどを使い、AI機能を使うことは可能でしたが、高価なゲーミングPCやワークステーションが必要でした。

この推論で使う演算では、CPUでも可能ですが、一般的にNPUという専用の演算装置を使います。NPUはNural Comuting Unitの略で、推論でよく使われる、行列の演算などを一度に大量に出来る事が特徴です。
インテルのパソコン向けプロセッサとしては、Core Ultraが初めてNPU機能を搭載しました。プロセッサ内に搭載したため、高価なゲーミングPCは必要とせず、薄型軽量パソコンでも推論が可能になりました。

インテルは今回発表したCore Ultra 7 165Hの、CPU、GPU、NPUのすべてを使って演算した場合、1秒間に35兆回の演算(35TOPS)が出来るとしています。

NPUの搭載は、一般のパソコン向けとしては、2023年にリリースされたAMDRyzen 7040シリーズで先行して搭載されました。スマートフォンでは画像処理用として、2017年から搭載されています。
インテルのCore Ultra搭載機種は2023年末から販売が開始されますが、2024年には他社含めて多くのNPUを搭載するAI対応PCが登場する事が予想されます。

そもそもNPUは何に活用されるのか

NPU搭載PCのローカルで動作するGen AIのSuperpower

 

真っ先にNPUに対応した機能としては、テレビ会議用の背景ぼかし機能などがあります。
従来はCPUの機能で演算が行われていましたが、NPUを使う事で、CPUの利用が減り、CPUを他の用途に使用したり、低消費電力で動作できるようになります。

2023年に急速に普及したAI関連ですが、AI関連の様々なサービスの登場が今後も予想されています。
多くのAI関連サービスはクラウド上で行われますが、データをクラウド上に送らなければサービスを利用出来ませんし、インターネット接続も必須です。

パソコン自体でAI機能が動作すれば、データをどこにも送らずに手元で処理可能、演算自体にネットワーク接続も必要としません。

AI関連機能で代表的なサービスがMicrosoft Copilotです。
Windows自体の操作、アプリの操作などでAI機能が利用出来ますが、NPUを搭載してパソコン内でAI機能が使えれば、インターネットに接続していない状態でもある程度のことが可能になるでしょう。

画像生成などの用途では従来はパソコンではほとんど不可能でしたが、NPUを搭載する薄型軽量のインテルのCore Ultra 155Hでも設定しだいですが、10秒程度で画像の生成が可能になっています。

Superpowerというパソコン上で動作するAIアシスタントもあり、自然言語でパソコン内のデータを元に、数秒以内に自然な文章で回答するサービスも2024年に提供されるようです。

他にも、Adobeなどの画像処理ソフトなどでもNPUは使われていますし、パソコンでの搭載が本格化すれば、ChatGPTがそうだったように、様々なソフトやサービスが登場して、急速にAIの活用の幅が広がる事が期待されています。

NPUをパソコンに搭載する意味はあるのか

現時点で、ほとんどのAI関連サービスはクラウド上で行われています。多くの方は、クラウド上での使用で困っていないと思います。

前述したように大量のデータを学習するような用途では、クラウドで行うのが現実的ですが、NPUがパソコンに搭載されれば、学習はともかく、推論はクラウドを使わずにパソコン内で可能になります。

現時点でも、テレビ会議の画像処理などでNPUが活用出来るため、NPUが搭載されていれば、CPUの利用量を減らして、低消費電力でテレビ会議が可能になります。

さらに、パソコン内でNPUを使った推論が可能になるメリットとしてよく言われているのが、データをクラウドに送らないで良いという点があります。
社内のセキュアなデータなども、セキュリティの不安無くAIの活用が可能になりますし、ネットワークに接続していないオフライン状態でもAIが利用出来るようになります。

また、クラウドでの処理はクラウドサーバー側の処理費用がかかっています。
ChatGPTなどは一部有料でサービスが行われているように、AI利用のすべてが無料で使えるわけではありません。

NPUがパソコンに搭載されていれば、パソコン内部での演算が出来るので、クラウドの費用はかかりません。AIサービス側の対応によりますが、クラウドで有料で行うことが、すべてパソコン内部で利用出来ればクラウドサービス費用が節約できます。

AI対応NPU搭載PCは高くはない

Intel Core Ultra搭載PC

従来のパソコンでAI機能を使うには、前述したようにゲーミングPCが必要でした。
30万円近いゲーミングPCでAI関連機能は使えましたが、一般的なサービスが使えていたわけでは無く、どちらかというとAI関連の開発者向けの物でした。

Core UltraなどのNPU搭載パソコンは、Core Ultra発表当初から15万円くらいから販売されています。

最も廉価なDELLのInspiron 13は、Core Ultra 5 125H搭載、メモリ16GB、512GBストレージモデルで14.7万円からとなっています。(12月18日現在)

メモリ、ストレージが同じ一世代前の第13世代インテルCore搭載モデルは12.7万円で、その差は2万円です。

この価格差は、新モデルと旧モデルの違いのような物で、機能面でのプレミアム価格ではありません。NPUを搭載している最新プロセッサでも、従来同様の新モデルの価格です。

従来と変わらない価格のパソコンで、日々進化していくAI関連サービスを自分の手元で動作できるなら、従来よりも価値は高いのかも知れません。

問題はNPUを活用するAI関連サービスがどれだけ充実するか

今後インテルのCore Ultraを搭載するモデル、他社のNPUを搭載するモデルは順次発売されるので、今慌てて買い替えるような必要は無いですが、近いうちに購入する予定があるなら、NPU搭載モデルを選んだ方がいいでしょう。

問題は、本当にAI関連機能はこれから充実するのかという点です。

少なくとも、いくつかのサービス、ソフトは登場しているので、AI関連機能自体の活用は可能です。

それらが本当に使えるか、どう活用するかはもう少し時間が経たないとわからないかも知れません。

notebookpc.jp

Intel Core Ultraを正式に発表 | NotebookPC.jp

完成度を高めたLenovo ThinkPad X1 Fold Gen 1発売へ - 折りたたみPCの進化と将来展望

ThinkPadの折りたたみ製品ThinkPad X1 Fold Gen 1が2023年12月頃より出荷されます。

この製品の発表自体は2022年に行われていましたが、1年近くたってようやく出荷されることになりますが、その間も改良は行われていたそうです。

折りたたみの部分画面ゆがみはほぼ解消

Lenovo ThinkPad X1 Fold Gen 1

2022年当時のプロトタイプの実機も確認しましたが、折りたたみ部分の折りたたみ部分がわかりやすかったと記憶しています。出荷版に限りなく近い実機では、この折りたたみ部分は限り無くわかりにくくなっていました。

よく見ると、折りたたみ部分周辺は完全な真っ平らではないですが、折りたたみ製品で気になる画面のゆがみは限り無く解消されているようです。

色が若干変わって見えるようなこともほぼ無いようです。若干の画面のゆがみはペン入力での違和感は元々ほぼ問題になりませんが、見た目での問題も無いので、大画面ペンタブレットのようにも使えます。

youtu.be

今後の折りたたみPCの問題は値段と・・・

ノートパソコンの代替として折りたたみPCを使う場合、様々な問題が発生します。

プレミアムモバイルPCが1kg以下に対して、この製品は1.26kgとそこそこ重く、これにキーボードなども含めるとまあまあの重量になります。

一方で画面サイズは16インチで、縦も横にも配置できるという利点などもありますが、薄軽のノートパソコンはと言えないです。

また、この製品は開かないと使えませんが、プレミアム製品が片手で画面を開けられるところ、ほぼ両手を使わないと開かないです。(頑張れば出来る)

また、くさび形でもない真四角な形状なので、片手で持つのも結構大変です。

折りたたみPCはこれからどうなる

ThinkPad X1 Fold Gen 1 縦配置

少なくとも、折りたたみ製品は大画面を持ち運べるなどの利点があっても、一般的なプレミアム製品の2倍の50万円を超える価格では、現状のプレミアム製品と同等の販売数は期待できないでしょう。

折りたたみでは無く、画面巻き取り型で画面自体が大きくなる機構なども考えられているようです。

様々なプラットフォームが生まれて、改良され洗練された物が残っていく事になるでしょう。

現状の折りたたみ製品はそんな将来の何かの初期製品でしかないなら、今後の進化が楽しみです。