大規模言語モデルとは何ですか？

大規模言語モデル（LLM）とは、機械学習の手法を用いて人間の言語を生成するAIモデルのことです。 これらはまず、自然言語を理解・生成できるようにするための大量の汎用データを用いて学習され、その後、より具体的な文脈に合わせて微調整されます。 例えば、一般的な知識に基づいて学習されたモデルを、小売業のデータを用いて微調整することで、 お客様 サービスお客様チャットボットを作成することができます。 LLMは、メールの下書き作成、長文の要約、コードの誤りの検出など、さまざまなユースケースに合わせて微調整することができます。

LLMはさまざまな方法で業務プロセスを効率化できますが、その能力にはいくつかの限界があることを念頭に置いておく必要があります。 LLMは、与えられたデータに基づいて動作します。 例えば、LLMに自分の誕生日を尋ねても答えは得られません。なぜなら、個人情報は学習データに含まれていないからです。 同様に、LLM単体では株価の将来を予測する上で最適な選択肢とは言えず、その場合は予測モデルを用いるほうが適切でしょう。 さらに、LLM自体は静的なものであり、環境と相互作用することはできません。 時刻や日付を伝えるといったタスクには、より能動的なフローや枠組みが必要となるでしょう。

LLMの詳細やその仕組みについては、以下を参照してください。 LLMとは何ですか？

推論とは何でしょうか？

推論とは、学習済みのAIモデルを使用して、応答を生成したり、予測を行ったり、入力を処理したりするプロセスです。 Red Hat AI Inference は、業界標準の OpenAI-compatible APIを通じて、基盤モデルに即座にアクセスできるようにします。 これにより、AIモデルの導入やスケーリングに伴う複雑さが解消され、ユーザーへの価値創出に注力できるようになります。

Inferenceは、以下の機能を提供することで、アプリケーションへのAI機能の統合という課題を解決します：

本番環境対応のAPI

インフラを管理することなく、使い慣れた業界標準のエンドポイントを利用して、基盤モデルと連携できます。

モデルへの即時アクセス

モデルのデプロイやトレーニングを待つことなく、AIを活用した機能の開発を始めましょう。

柔軟な統合

既存のシステムに会話型AIをプログラムで組み込み、大量のリクエストを処理し、特定のユースケースに合わせてモデルの挙動をカスタマイズできます。

対話型テスト

アプリケーションに組み込む前に、コンソールのプレイグラウンドでさまざまなモデルやプロンプトを試してみてください。

推論に関する詳細については、 「AI推論の仕組みをわかりやすく解説」 をご覧ください。

推論の方法に関する詳細については、「 チャットの自動補完機能の使い方 」を参照してください。

エンベディングとは何ですか？

テキスト埋め込みとは、テキストを数値ベクトル（つまり、文や文章の語義的な意味を捉えた数値のリスト）として表現する方法のことです。 テキストをこうしたベクトルに変換することで、モデルは正確な単語ではなく意味に基づいて比較や分類を行うことが可能となり、これはコンピュータが迅速かつ正確に処理できる作業です。

埋め込みモデルがテキストに対してベクトルを生成する際、そのテキストの意味を反映した値を割り当て、他のすべてのベクトルとの相対的な位置関係に基づいて、そのベクトルを高次元空間上に配置します。 その空間内では、意味が似ているテキストは互いに近くに配置され、意味が異なるテキストは互いに遠く離して配置される。 例えば、同じ主題に関する2つの文は――たとえ異なる単語が使われていたとしても――互いに近いベクトルが生成されるのに対し、無関係な主題の文では、互いに離れたベクトルが生成される。

生成されたベクトルは、ベクトルデータベースに保存することができます。 データベース内のすべてのコンテンツに対して同じ埋め込みモデルを使用してベクトルを生成すると、ベクトルストアはベクトル間の関係を活用して、関連性の高い結果を迅速に返すことができます。 従来のキーワードベースの検索とは異なり、エンベディングを用いたセマンティック検索では、単に語彙が似ているだけでなく、意味が類似した情報を検索します。 これにより、ユーザーが検索クエリをソースコンテンツとは異なる表現で入力した場合でも、より良い結果が得られます。

テキスト埋め込みの一般的な用途には、次のようなものがあります：

• セマンティック検索と情報検索
• 文書のクラスタリングと分類
• 検索強化生成（RAG）：検索されたコンテンツを言語モデルに渡して、事実に基づいた応答を生成する手法

なぜ「 Red Hat 」のAIを「 IBM Cloud 」で使うのか？

Red Hat IBM Cloud のAI機能は、当面の統合ニーズと長期的なカスタマイズ要件の両方に対応する包括的なAI機能を提供します。

推論機能との即時AI統合

インフラの管理に煩わされることなく、今すぐAIを活用した機能の開発を始めましょう。 本番環境対応のAPIを活用して、対話型AIを統合し、モデルの挙動をテストし、ビジネスのニーズに合わせてアプリケーションを拡張しましょう。

柔軟な導入オプション

データとモデルは、お客様ご自身で管理いただけます。 クラウド、オンプレミス、あるいはビジネスのニーズに応じてその他の場所でも、これらを活用することができます。 独自のビジネスデータを活用し、AIを活用したソリューションを構築することで、業務効率の向上とイノベーションの推進を図ります。

「壊滅的な忘却」のリスクを最小限に抑える

精度を高め、リスクを低減するため、 Granite の組み込みモデルを基盤として、新たなスキルや知識の習得に活用しています。 モデルが新しい情報を学習しても、以前に学習した情報は失われることはありません。

費用対効果が高く、拡張性にも優れている

IBM Cloud 上の Red Hat AIはサービスとして提供されているため、必要な分だけ料金を支払うことで、不要なコストを削減できます。 よりシンプルで、より迅速、かつより経済的なAIソリューションを提供することで、IT支出を最適化します。

業界標準のAPI

使い慣れた OpenAI-compatible のエンドポイントを活用することで、独自のインターフェースを習得することなく、既存のワークフローやアプリケーションにAI機能を統合できます。

請求処理はどのように行われますか?

請求に関する詳細については、『 よくある質問 』を参照してください。