Escolher enriquecimentos
Inclua recursos que possam ensinar Discovery sobre termos ou padrões que tenham significado especial para a sua aplicação.
A tabela a seguir descreve os melhores recursos a serem incluídos para atender às diferentes necessidades.
| Objetivo | Recurso | Notas |
|---|---|---|
| Defina as categorias pelas quais o texto em seus documentos pode ser classificado | Classificador | N/D |
| Reconhecer termos e sinônimos para termos que são significativos para você, como os nomes de produtos que você vende. | Dicionário | N/D |
Defina expressões regulares que capturam padrões de significância, como que AB10045 é a sintaxe que é usada para os seus números de pedidos. |
Expressões regulares | N/D |
| Reconhecer e identificar entidades e relacionamentos definidos em um modelo de aprendizado de máquina customizado. | Modelos de aprendizado de máquina | Requer um modelo que seja construído e exportado a partir de outra ferramenta IBM. |
| Aplique regras em campos que se baseiam em regras definidas por você criando um modelo de regras avançadas em IBM Watson® Knowledge Studio. | Modelos de regras avançadas | Requer um modelo de regras avançadas que é construído e exportado a partir de IBM Watson® Knowledge Studio ou que usa um recurso de Patterns exportados. |
| IBM Cloud Reconhecer termos que são mencionados em sentenças que correspondem a um padrão sintático que você ensina Discovery para reconhecer. | Padrões(beta) | Disponível como recurso beta para coleções de língua inglesa em implementações gerenciais apenas. O enriquecimento que é derivado por definição de padrões não pode ser aplicado a projetos de Mineração de Conteúdo. Você pode exportar o recurso e usá-lo como um modelo de regras avançadas. |
| Reconhece entidades que você identifica como sendo significativas por meio do treinamento de um modelo de aprendizado de máquina extractor de entidade. | Extrator da entidade | Suporta o início de um corpus importado do Knowledge Studio. |
| Classifique as sentenças em seus documentos em classes de sentença definidas pelo usuário. | Classificador de sentença | Suporta rotulagem inteligente para acelerar o processo de rotulagem. |
Como alternativa, é possível aplicar enriquecimentos integrados do Watson NLP que localizam as informações a seguir em sua coleta:
É possível extrair significado de documentos com base na estrutura do documento, definindo um modelo Smart Document Understanding (SDU). Use a ferramenta Smart Document Understanding para identificar novos campos pelos quais destinar enriquecimentos ou para dividir documentos grandes em pedaços mais gerenciáveis. Para obter mais informações, consulte Significado Estrutural com SDU.
Dicionários e classificadores que você adiciona em um projeto podem ser usados por outros projetos.
Para obter mais informações sobre como obter o máximo de enriquecimentos, leia o post Enrichando seus documentos pode tornar a busca mais eficaz blog.
Escolhendo o tipo de enriquecimento certo
O diagrama a seguir ajuda você a escolher o enriquecimento certo para o seu caso de uso.
Usando enriquecimentos juntos
Você pode usar muitos enriquecimentos juntos para enfrentar vários desafios que você pode encontrar à medida que você desenvolve um aplicativo de pesquisa.
Muitas equipes começam criando um enriquecimento de dicionário. Os dicionários são uma ótima ferramenta para identificar termos importantes e marcá-los para que possam ser recuperados posteriormente. Digamos que você está construindo
um aplicativo de busca que precisa extrair ingredientes das receitas. Um enriquecimento de dicionário pode reconhecer menções da maioria dos ingredientes. No entanto, o enriquecimento do dicionário pode combinar parcialmente contra termos
de duas palavras. Para termos como olive oil ou mustard greens, ele pode reconhecer incorretamente apenas olive e mustard Para melhorar a precisão das buscas, é possível aumentar o enriquecimento
do dicionário com um enriquecimento padrão que pode reconhecer menções de ingredientes de duas palavras. Talvez algumas receitas mencionem os códigos de coloração de alimentos no formato europeu (E104). É possível
incluir um enriquecimento de expressão comum para reconhecer ocorrências de códigos com a sintaxe E1nn Finalmente, para capturar termos que nenhum outro enriquecimento pode reconhecer, é possível usar um enriquecimento
de machine learning. O enriquecimento pode ser aquele que você construir em uma ferramenta externa e importar para o Discovery ou aquele que você construir em Discovery criando um extrator de entidade enriquecimento.
A entidade extrator de enriquecimento é mais sofisticada que os outros enriquecimentos. Por exemplo, um enriquecimento de dicionário reconhece apenas correspondências exatas de termos de dicionário e sinônimos que ocorrem em seus documentos. Um enriquecimento de expressão regular reconhece apenas padrões específicos. Em contraste, as ocorrências de uma entidade são reconhecidas com base no contexto em que um exemplo de entidade é mencionado em uma sentença.
Por exemplo, talvez você deseje reconhecer locais e o documento que deseja processar contém os seguintes tipos de sentenças:
- Eu vivo em
Massachusetts. - Estamos viajando de
New York CityparaParisna próxima semana.
Para usar um enriquecimento de dicionário para reconhecer nomes de localização com sucesso, o dicionário deve listar todos os locais possíveis. No entanto, se você usar um enriquecimento de extrator de entidade, você pode identificar quando
um local é mencionado com base em como o local é referenciado em uma frase. Com frases como, "Eu vivo em x" ou "Eu sou de x" ou "Estou viajando para x" em seus dados de treinamento,
o extrator da entidade pode aprender que x é uma referência a um local.
Quando for necessário escolher entre usar um dicionário ou um enriquecimento de extrator de entidade, siga estas orientações:
-
Se a lista de exemplos possíveis for curta, use um dicionário.
É mais eficiente definir um termo dicionário
planetcom sinônimos comoEartheSaturndo que criar uma entidadeplanetporque existem apenas 8 planetas em nosso sistema solar. No entanto, definir uma lista de todos os locais possíveis na Terra não é viável. Um extrator de entidade pode reconhecer mais menções de localização. -
Se a lista de exemplos possíveis for estática, use um dicionário.
Polêmica sobre Plutão de lado, a categoria
planeté um bom exemplo aqui também porque a lista de planetas em nosso sistema solar é estática. Ou talvez você queira monitorar o sentimento geral do cliente sobre seus produtos. Você precisa ser capaz de reconhecer menções de nome do produto, mas pode não precisar de especificidades. Se você tiver uma grande variedade de nomes de produtos, você pode criar uma entidadeproduct name. À medida que novos produtos são adicionados ao seu portfólio, ou nomes de produtos mudam ao longo do tempo, você não precisa manter uma lista geral de produtos. O extrator da entidade pode continuar a reconhecer o feedback geral sobre seus produtos com base no contexto das sentenças em que os produtos são mencionados.
Incluir um recurso
Quando você adicionar um enriquecimento personalizado a um projeto ele está disponível para qualquer coleção no projeto.
Para adicionar um recurso, conclua as etapas a seguir:
-
Abra o seu projeto e vá até a página Melhorar e customizar.
-
No painel Ferramentas de Melhoramento, expanda Conceitos de domínio Teach e, em seguida, escolha o recurso que você deseja adicionar.
Depois de criar o recurso, ele se torna um novo tipo de enriquecimento que você pode aplicar aos seus dados.
-
Especificar a coleta e o campo em que se aplica o enriquecimento.
Você pode aplicar enriquecimentos aos campos
textehtml, e a campos personalizados que foram adicionados a partir de arquivos JSON ou CSV carregados ou a partir da ferramenta Smart Document Understanding (SDU). Apenas os primeiros 50.000 caracteres de um campo personalizado a partir de um arquivo JSON são enriquecidos.Por exemplo, se você adicionar um dicionário e optar por aplicá-lo no campo
textde uma coleção, os documentos na coleção serão reprocessados. Se o termovehicleé especificado como um sinônimo da entrada do dicionáriocare ocorre no texto do documento,vehicleé marcado como uma menção ao tipo de entrada do dicionáriocar. Se um cliente depois procurar porcar, a passagem que contém a mençãovehicleestá incluída nos resultados da pesquisa.Se o campo que você escolher vem de um arquivo JSON, depois de aplicar o enriquecimento, o tipo de dados de campo é convertido em uma matriz. O campo é convertido em uma matriz mesmo que ele contenha um valor único. Por exemplo,
"field1": "Discovery"se torna"field1": ["Discovery"].
Você pode optar por aplicar enriquecimentos derivados de recursos em seus dados posteriormente. Os enriquecimentos que você adicionar a um projeto estão disponíveis para uso de qualquer coleção no projeto. Vá até a página Gerenciar coleções, escolha a coleção onde deseja aplicar o enriquecimento e, em seguida, abra a aba Enrichments. Certise-se de que o status do enriquecimento mostre que ele esteja Pronto, e em seguida aplique o enriquecimento em um campo na coleção. Enriquecimentos que você habilitar são aplicados aos documentos em ordem aleatória. Para obter mais informações, consulte Gerenciando os enriquecimentos.
No aplicativo Content Mining implementado, é possível criar um classificador ou um anotador customizado a partir de um dicionário, expressão regular, aprendizado de máquina ou arquivo PEAR e usá-lo como um enriquecimento em coleções que são armazenadas em outros tipos de projeto. Para obter mais informações, consulte Adicionando facetas.