향후 릴리스에서는 크롤러 플러그인 및 고객 커넥터 기능을 위한 번들 JVM이 IBM Semeru 런타임, 버전 21로 전환될 예정입니다. 크롤러 플러그인 또는 사용자 정의 커넥터가 IBM SDK, Java 기술 에디션, 버전 8과 IBM Semeru 런타임, 버전 21 간에 호환되지 않는 기능을 사용하는 경우, 코드를 수정하여 Discovery 5.2.x 및 이후 릴리스와의 호환성을 보장해야 합니다.
JVM 마이그레이션에 대해서는 다음 페이지를 참조하세요:
- https://www.ibm.com/support/pages/semeru-runtimes-migration-guide
- https://www.ibm.com/support/pages/semeru-runtimes-security-migration-guide
맞춤형 크롤러 플러그인 구축
Discovery 에는 Java SDK를 사용하여 자체 크롤러 플러그인을 구축할 수 있는 옵션이 있습니다. 이제 크롤러 플러그인을 사용하여 유스 케이스에 맞는 관련 솔루션을 빠르게 개발할 수 있습니다. 설치된 Discovery 클러스터에서 SDK를 다운로드할 수 있습니다. 자세한 정보는 크롤러 플러그인 SDK 패키지 얻기를 참조하십시오.
IBM Cloud Pak for Data IBM Software Hub
이 정보는 설치된 배포에만 적용됩니다.
IBM Watson® Discovery와 함께 사용하는 모든 사용자 정의 코드는 개발자의 책임입니다. IBM 지원 센터에서는 개발자가 작성하는 사용자 정의 코드를 다루지 않습니다.
크롤러 플러그인은 다음 기능을 지원합니다.
- 크롤링된 문서의 메타데이터 목록 업데이트
- 크롤링된 문서의 컨텐츠 업데이트
- 크롤링된 문서 제외
- 참조 크롤러 구성, 마스킹 비밀번호 값
- Discovery 사용자 인터페이스에 알림 메시지 표시
crawler포드 콘솔에 로그 메시지 출력
그러나 crawler 플러그인은 다음 기능을 지원하지 않습니다:
- 크롤링된 문서를 여러 개의 문서로 분할
- 여러 문서의 컨텐츠를 단일 문서로 결합
- 액세스 제어 목록 수정
크롤러 플러그인 요구사항
이 SDK를 사용하여 crawler 플러그인을 개발하는 데 사용하려는 개발 서버에 다음 항목이 설치되어 있는지 확인합니다:
- Java SE 개발 키트(JDK) 1.8 이상
- Gradle
- cURL
- sed(스트림 편집기)
크롤러 플러그인 SDK 패키지 얻기
-
Discovery 클러스터에 로그인하십시오.
-
다음 명령을 입력하여
crawler포드 이름을 얻습니다:oc get pods | grep crawler다음 예는 샘플 출력을 보여줍니다.
wd-discovery-crawler-57985fc5cf-rxk89 1/1 Running 0 85m -
다음 명령을 입력하여
{crawler-pod-name}을 2단계에서 얻은crawler포드 이름으로 대체하여 SDK 패키지 이름을 얻습니다:oc exec {crawler-pod-name} -- ls -l /opt/ibm/wex/zing/resources/ | grep wd-crawler-plugin-sdk다음 예는 샘플 출력을 보여줍니다.
-rw-r--r--. 1 dadmin dadmin 35575 Oct 1 16:51 wd-crawler-plugin-sdk-${build-version}.zip -
다음 명령을 입력하여 SDK 패키지를 호스트 서버에 복사하고
{build-version}을 이전 단계의 빌드 버전 번호로 대체하십시오.oc cp {crawler-pod-name}:/opt/ibm/wex/zing/resources/wd-crawler-plugin-sdk-${build-version}.zip wd-crawler-plugin-sdk.zip -
필요한 경우 SDK 패키지를 개발 서버에 복사하십시오.
크롤러 플러그인 패키지 빌드
- SDK 압축 파일을 추출합니다.
src/에서 플러그인 로직을 구현하십시오. 종속성이build.gradle에 작성되었는지 확인합니다.gradle packageCrawlerPlugin을 입력하여 플러그인 패키지를 작성하십시오. 패키지는build/distributed/wd-crawler-plugin-sample.zip으로 생성됩니다.