組み込みの Watson NLP を使用して一般的な用語を見つける

事前作成されたエンリッチメントを文書に追加することで、受賞歴のある Watson Natural Language Processing (NLP) 機能を活用します。

Watson NLP を使用すると、コレクション内の意味のある情報を識別してタグ付けすることができます。これにより、そのすべての意味を理解し、より多くの情報に基づいて意思決定を行うことができます。

以下の Watson NLP エンリッチメントを使用できます。

  • エンティティー: コンテンツ内で言及されている人、都市、組織などの固有名詞を認識します。
  • キーワード: コンテンツ内の重要な用語を認識します。
  • 品詞(Part of Speech): コンテンツ内の品詞 (名詞や動詞など) を識別します。
  • 評判: コンテンツの全体的な評判を理解します。

Discoveryでは、事前にトレーニングされた以下のエンリッチメントを使用できます。

Watson NLP エンリッチメント

例えば、以下の画面キャプチャーは、エンティティーとキーワードのエンリッチメントが有効になっている Discovery コレクションに追加された米国独立宣言のトランスクリプトを示しています。 エンリッチメントによって認識されるメンションは、文書テキスト内で強調表示されます。

米国独立宣言の抜粋で、いくつかの用語が強調表示されています。
Excerpt of the US Declaration of Independence with highlighted terms

一部の NLP エンリッチメントは、プロジェクトに自動的に適用されます。 これらのプロジェクト・タイプのいずれかを使用している場合は、自分で適用する必要はありません。

プロジェクト・タイプごとのデフォルトのエンリッチメント

一部の事前ビルドされたエンリッチメントは、プロジェクト・タイプに基づいて、プロジェクト内のコレクションに自動的に適用されます。 以下の表に、各プロジェクト・タイプに適用されるデフォルトのエンリッチメントを示します。

プロジェクト・タイプごとのデフォルトのエンリッチメント
この表には行ヘッダーと列ヘッダーがあります。 行ヘッダーは、プロジェクト・タイプを識別します。 列ヘッダーは、さまざまなエンリッチメントを識別します。 デフォルトでプロジェクト・タイプに適用されるエンリッチメントを理解するには、エンリッチメントを説明する行に移動し、関心のあるプロジェクト・タイプの列を見つけます。
エンリッチメント 文書の取得 (Document Retrieval) 契約のドキュメント取得 会話型検索 (Conversational Search) コンテンツ・マイニング
契約 チェック・マーク・アイコン
エンティティー チェック・マーク・アイコン チェック・マーク・アイコン
キーワード
品詞 チェック・マーク・アイコン
文書の評判
表の理解 チェック・マーク・アイコン

事前作成された以下のエンリッチメントについて詳しくは、以下のトピックを参照してください。

カスタム・エンリッチメントの作成方法について詳しくは、 ドメイン固有のリソースの追加 を参照してください。

エンリッチメントを最大限に活用する方法について詳しくは、ブログ投稿 「Enriching your documents can make search more effective」 を参照してください。

API を使用してエンリッチメントを適用する方法について詳しくは、 API を使用したエンリッチメントの適用 を参照してください。

エンリッチメントの追加

NLP強化を追加するには、以下の手順に従います

  1. プロジェクトを開き、 「コレクションの管理」 ページに移動します。

  2. クリックすると、エンリッチするコレクションが開きます。

  3. 「Enrichments」タブを開きます。

  4. スクロールして、文書に適用する NLP エンリッチメントを見つけます。

    組み込みエンリッチメントとカスタム・エンリッチメントの両方がリストされます。 組み込みエンリッチメントのタイプ値は System です。

  5. エンリッチを適用するフィールドを 1 つ以上選択します。

    エンリッチメントは、 text フィールドと html フィールド、およびアップロードされた JSON ファイルまたは CSV ファイル、あるいは Smart Document Understanding (SDU) ツールから追加されたカスタム・フィールドに適用できます。

  6. **「変更を適用して再処理 (Apply changes and reprocess)」**をクリックします。

有効にしたエンリッチメントは、ランダムな順序で文書に適用されます。 エンリッチメントを削除する方法については、 エンリッチメントの管理 を参照してください。

エンティティー

エンティティーを識別します。 エンティティー とは、通常、データ・コレクションで言及されている人、都市、組織などの適切な名詞を表す用語です。 Discovery は、 Watson Natural Language Processing (NLP) サービスによって定義されるエンティティー・タイプ・システムの一部であるエンティティーを認識できます。

ビジネスにとって重要な一般的ではない用語を識別できるようにしたい場合は、カスタム・エンティティーを認識するように独自のモデルをトレーニングできます。 詳しくは、 エンティティー抽出 を参照してください。

Discovery によって使用される Watson NLP エンティティー抽出サービスは、 NLU タイプ・システムと呼ばれます。 この名前は、 Watson Discovery サービスに加えて、 Watson Natural Language Understanding (NLU) サービスによってタイプ・システムが使用されるという事実に由来します。 ただし、 Watson NLU 実装ではなく、Discovery によって直接使用されるタイプ・システムの Watson NLP 実装です。 その結果、2 つの実装で異なる結果が生じる可能性があります。 サービスによって認識されるエンティティーのタイプの一般的な概念については、 エンティティーを参照してください。

以下の画面キャプチャーは、Entities エンリッチメントが Systems of Government および King of Great 断絶 という用語を認識し、エンティティー・メンションとしてタグ付けしていることを示しています。

用語「政府」と「英国国王」が強調表示された宣言を示しています。
The recognized entities, Governments and King of Great Britain, are highlighted

文書の JSON ビューから、エンティティー・メンションの基礎となる JSON 構造を確認できます。

内で識別されるSystems of GovernmentおよびKing of Great BritainエンティティのJSONビューを示す

例えば、組織エンティティー・タイプを検索する場合は、すべての JSON コンテンツをテキスト・エディターにコピーして、 Organization を検索できます。 JSON ツリー・ビューのルートから 「コピー」 アイコンをクリックします。

入力

"IBM is an American multinational technology company headquartered in Armonk."

応答

JSON 出力の場合:

  • text = ストリング。 エンティティー・テキスト
  • type = ストリング。 エンティティー・タイプ ( OrganizationLocationPersonNumber など)。
  • mentions = 配列。 エンティティーの言及とロケーション
  • model_name = ストリング。 カスタムモデルの場合、このフィールドにはユーザーが指定したモデル名が含まれます。 それ以外の場合は、このフィールドにはデフォルトのモデル名、例えば、 watson_knowledge_studiodictionarycharacter_pattern などが含まれます。 natural_language_understanding
{
  "entities": [
    {
      "model_name": "natural_language_understanding",
      "mentions": [
        {
          "confidence": 0.8317045,
          "location": {
            "end": 3,
            "begin": 0
          },
          "text": "IBM"
        }
      ],
      "text": "IBM",
      "type": "Organization"
    },
    {
      "model_name": "natural_language_understanding",
      "mentions": [
        {
          "confidence": 0.6114863,
          "location": {
            "end": 75,
            "begin": 69
          },
        "text": "Armonk"
        }
      ],
      "text": "Armonk",
      "type": "Location"
    }
  ]
}

キーワード

コンテンツに含まれる重要なキーワードを返します。

例えば、以下の画面キャプチャーは、キーワード・エンリッチメントによって認識される、米国独立宣言からの強調表示された用語を示しています。

文書
で認識されたキーワードを表示します

文書の JSON ビューから、 Declaration キーワード言及の基礎となる JSON 構造を確認できます。

文書内で特定されたキーワードのJSONビューを表示*キーワードエンリッチメント" caption-side="bottom"}*の{: caption="表現

入力

"Watson Discovery is an award-winning AI search technology."

応答

JSON 出力の場合:

  • text = キーワード・テキスト
  • mentions = エンティティーの言及とロケーション
{
  "keywords": [
    {
      "mentions": [
        {
          "location": {
            "end": 157,
            "begin": 141
          },
          "text": "Watson Discovery"
        }
      ],
      "text": "Watson Discovery",
      "relevance": 0.503613
    },
    {
      "mentions": [
        {
          "location": {
           "end": 177,
            "begin": 164
          },
          "text": "award-winning"
        }
      ],
      "text": "award-winning",
      "relevance": 0.728722
    },
    {
      "mentions": [
        {
          "location": {
            "end": 198,
            "begin": 181
          },
          "text": "search technology"
        }
      ],
      "text": "search technology",
      "relevance": 0.779356
    }
  ]
}

キーワードの制限

「キーワード」エンリッチメントでは、文書ごとに最大 50 個のキーワードを識別できます。各キーワードには 1 つ以上のメンションがあります。

品詞

名詞、動詞、形容詞、副詞、接続詞、接続詞、数字などの品詞を認識してタグ付けします。