Soumission de l'application Spark depuis la console

S'applique à: [Moteur à étincelle] [Moteur à] {: tag-blue} étincelle à accélération par gluten

Vous pouvez soumettre une application Spark écrite en langage Python, Java ou Scala depuis la console watsonx.data sur IBM Cloud.

Il est possible de spécifier les détails de l'application Spark, la version à prendre en compte, les détails du matériel et du volume, les propriétés de l'environnement Spark et les configurations Spark dans la console d' watsonx.data.

Prérequis

Votre application Spark doit être disponible dans un espace de stockage accessible.

Procédure

  1. Connectez-vous à l'instance watsonx.data. Aller à la page Gestionnaire d'infrastructure.

  2. Cliquez sur le nom du moteur Spark (dans la liste ou dans la vue topologique). La fenêtre d'informations sur le moteur s'ouvre.

  3. Dans l'onglet Applications, cliquez sur le bouton Créer une application. La page de soumission de l'application Spark s'ouvre.

    Sur cette page, vous pouvez sélectionner l'un des onglets suivants en fonction de la méthode que vous devez utiliser pour soumettre la candidature Spark.

    • Sélectionnez l'onglet Entrées pour soumettre la demande si elle se trouve dans un emplacement accessible. Configurez les détails suivants :

      Détails de configuration
      Zone Description
      Type d'application

      Vous avez le choix entre les options suivantes :

      • Python: si votre application Spark est écrite en langage Python, sélectionnez cette option. option.
      • Java ou Scala: si votre application Spark est écrite en langage Java ou Scala, sélectionnez cette option.
      Chemin d'application Précisez le chemin d'accès à votre application. Cette zone est obligatoire.
      Exemple : s3a://<application-bucket-name>/iceberg.py
      Nom de l'application Spécifiez un nom pour l'application.
      Arguments Utilisez le bouton Ajouter un argument pour spécifier tous les arguments requis par l'application.
      basée sur Yarn Entrez la version de Spark pour exécuter votre application. Les versions disponibles sont Spark 3.4, et 3.5.
      Propriétés de configuration Spark Spécifiez les propriétés Spark sous la forme d'une paire clé-valeur (« <property_name> » : « <property_value> ») séparée par une virgule. Pour plus d'informations sur les différentes propriétés, voir Propriétés.
      Propriétés de l'environnement Spark Spécifiez les propriétés de l'environnement Spark sous forme de paires clé=valeur. Pour plus d'informations sur les différentes propriétés, voir Propriétés de l'environnement.
      Configuration matérielle Précisez le nombre de cœurs de processeur (pilote et exécutant) et la mémoire nécessaires pour la charge de travail.
      Capacité en ressources (conditionnelle) Spécifiez ce champ si vous utilisez une version 2.3 (ou ultérieure) de watsonx.data. Sélectionnez le type de capacité (à la demande ou dédiée) et choisissez le pilote et les valeurs de mémoire d'exécution.
      Dépendances Spécifiez le chemin d'accès aux fichiers et les noms des packages requis par votre script d'application ou jar.
      Importation depuis la charge utile Cliquez sur ce lien pour importer et remplir automatiquement tous les champs de l'onglet Entrées si vous avez déjà spécifié la charge utile dans l'onglet Charge utile.
    • Sélectionnez l'ong let Payload (Charge utile) pour soumettre la demande si vous souhaitez écrire manuellement la charge utile.

      Dans le champ Application payload, spécifiez le JSON de charge utile d'application qui peut être accepté par le point de terminaison de l'API REST de création d'applications du moteur Spark. Vous pouvez soit saisir manuellement la charge utile ici, soit cliquer sur le lien Importer à partir des entrées pour générer automatiquement le JSON à partir des détails fournis dans l'onglet Entrées.

      Si votre application accède aux données d'un catalogue associé au moteur Spark, vous pouvez utiliser le payload spécifié dans Soumission d'une application Spark en accédant au catalogue watsonx.data.

  4. Cliquez sur Soumettre la candidature. La demande est soumise avec succès et apparaît dans l'onglet Applications.