View a markdown version of this page

Ejecute un proceso daemon en segundo plano desde el entorno de colas - Deadline Cloud

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Ejecute un proceso daemon en segundo plano desde el entorno de colas

En muchos casos prácticos de renderizado, cargar la aplicación y los datos de la escena puede llevar mucho tiempo. Si un trabajo los vuelve a cargar para cada fotograma, dedicará la mayor parte del tiempo a gastos generales. A menudo es posible cargar la aplicación una vez como un proceso daemon en segundo plano, hacer que cargue los datos de la escena y, a continuación, enviarle comandos mediante la comunicación entre procesos (IPC) para realizar los renderizados.

Muchas de las integraciones de Deadline Cloud de código abierto utilizan este patrón. El proyecto Open Job Description proporciona una biblioteca de tiempo de ejecución de adaptadores con patrones de IPC confiables en todos los sistemas operativos compatibles.

Para demostrar este patrón, hay un paquete de trabajos de ejemplo independiente que usa código Python y bash para implementar un demonio en segundo plano y el IPC para que las tareas se comuniquen con él. El demonio está implementado en Python y escucha una señal POSIX SIGUSR1 para saber cuándo procesar una tarea. Los detalles de la tarea se pasan al demonio en un archivo JSON específico y los resultados de la ejecución de la tarea se devuelven como otro archivo JSON.

Requisitos previos

Realice los siguientes pasos para ejecutar el paquete de trabajos de muestra con un proceso daemon del repositorio github de muestras de Deadline Cloud.

  1. Si no tiene una granja de Deadline Cloud con una cola y una flota de Linux asociada, siga la experiencia de incorporación guiada en la consola de Deadline Cloud para crear una con la configuración predeterminada.

  2. Si no tienes la CLI de Deadline Cloud ni el monitor de Deadline Cloud en tu estación de trabajo, sigue los pasos que se indican en la guía del usuario para configurar los remitentes de Deadline Cloud.

  3. gitUtilícelo para clonar el repositorio de muestras GitHub de Deadline Cloud.

    git clone https://github.com/aws-deadline/deadline-cloud-samples.git Cloning into 'deadline-cloud-samples'... ... cd deadline-cloud-samples/job_bundles

Ejecute el ejemplo de daemon

  1. Utilice la CLI de Deadline Cloud para enviar la job_env_daemon_process muestra.

    git clone https://github.com/aws-deadline/deadline-cloud-samples.git Cloning into 'deadline-cloud-samples'... ... cd deadline-cloud-samples/job_bundles
  2. En la aplicación de monitoreo de Deadline Cloud, verá el nuevo trabajo y podrá supervisar su progreso. Una vez que la Linux flota asociada a la cola tenga un trabajador disponible para ejecutar la tarea del trabajo, se completará en aproximadamente un minuto. Con una de las tareas seleccionada, elija la opción Ver registros en el menú superior derecho del panel de tareas.

    A la derecha hay dos acciones de sesión: iniciar DaemonProcess y ejecutar la tarea. El visor de registros situado en el centro de la ventana corresponde a la acción de sesión seleccionada a la derecha.

    Seleccione la opción Ver los registros de todas las tareas. La cronología muestra el resto de las tareas que se ejecutaron como parte de la sesión y la Shut down DaemonProcess acción que salió del entorno.

Vea los registros de los demonios

  1. En esta sección, utiliza el monitor Deadline Cloud para comparar las acciones de la sesión con el lugar en el que están definidas en la plantilla de trabajo. Continúa con la sección anterior.

    Abre el archivo job_env_daemon_process/template .yaml en un editor de texto. Compare las acciones de la sesión con el lugar en el que están definidas en la plantilla de trabajo.

  2. Seleccione la acción de la Launch DaemonProcess sesión en el monitor de Deadline Cloud. Verá el resultado del registro de la siguiente manera.

    2024/07/17 16:27:20-07:00 2024/07/17 16:27:20-07:00 ============================================== 2024/07/17 16:27:20-07:00 --------- Entering Environment: DaemonProcess 2024/07/17 16:27:20-07:00 ============================================== 2024/07/17 16:27:20-07:00 ---------------------------------------------- 2024/07/17 16:27:20-07:00 Phase: Setup 2024/07/17 16:27:20-07:00 ---------------------------------------------- 2024/07/17 16:27:20-07:00 Writing embedded files for Environment to disk. 2024/07/17 16:27:20-07:00 Mapping: Env.File.Enter -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/enter-daemon-process-env.sh 2024/07/17 16:27:20-07:00 Mapping: Env.File.Exit -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/exit-daemon-process-env.sh 2024/07/17 16:27:20-07:00 Mapping: Env.File.DaemonScript -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/daemon-script.py 2024/07/17 16:27:20-07:00 Mapping: Env.File.DaemonHelperFunctions -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/daemon-helper-functions.sh 2024/07/17 16:27:20-07:00 Wrote: Enter -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/enter-daemon-process-env.sh 2024/07/17 16:27:20-07:00 Wrote: Exit -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/exit-daemon-process-env.sh 2024/07/17 16:27:20-07:00 Wrote: DaemonScript -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/daemon-script.py 2024/07/17 16:27:20-07:00 Wrote: DaemonHelperFunctions -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/daemon-helper-functions.sh 2024/07/17 16:27:20-07:00 ---------------------------------------------- 2024/07/17 16:27:20-07:00 Phase: Running action 2024/07/17 16:27:20-07:00 ---------------------------------------------- 2024/07/17 16:27:20-07:00 Running command sudo -u job-user -i setsid -w /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/tmp_u8slys3.sh 2024/07/17 16:27:20-07:00 Command started as pid: 2187 2024/07/17 16:27:20-07:00 Output: 2024/07/17 16:27:21-07:00 openjd_env: DAEMON_LOG=/sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/daemon.log 2024/07/17 16:27:21-07:00 openjd_env: DAEMON_PID=2223 2024/07/17 16:27:21-07:00 openjd_env: DAEMON_BASH_HELPER_SCRIPT=/sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/daemon-helper-functions.sh

    Las siguientes líneas de la plantilla de trabajo especifican esta acción.

    stepEnvironments: - name: DaemonProcess description: Runs a daemon process for the step's tasks to share. script: actions: onEnter: command: bash args: - "{{Env.File.Enter}}" onExit: command: bash args: - "{{Env.File.Exit}}" embeddedFiles: - name: Enter filename: enter-daemon-process-env.sh type: TEXT data: | #!/bin/env bash set -euo pipefail DAEMON_LOG='{{Session.WorkingDirectory}}/daemon.log' echo "openjd_env: DAEMON_LOG=$DAEMON_LOG" nohup python {{Env.File.DaemonScript}} > $DAEMON_LOG 2>&1 & echo "openjd_env: DAEMON_PID=$!" echo "openjd_env: DAEMON_BASH_HELPER_SCRIPT={{Env.File.DaemonHelperFunctions}}" echo 0 > 'daemon_log_cursor.txt' ...
  3. Seleccione una de las acciones Task Run: N session en Deadline Cloud monitor. Verá el resultado del registro de la siguiente manera.

    2024/07/17 16:27:22-07:00 2024/07/17 16:27:22-07:00 ============================================== 2024/07/17 16:27:22-07:00 --------- Running Task 2024/07/17 16:27:22-07:00 ============================================== 2024/07/17 16:27:22-07:00 Parameter values: 2024/07/17 16:27:22-07:00 Frame(INT) = 2 2024/07/17 16:27:22-07:00 ---------------------------------------------- 2024/07/17 16:27:22-07:00 Phase: Setup 2024/07/17 16:27:22-07:00 ---------------------------------------------- 2024/07/17 16:27:22-07:00 Writing embedded files for Task to disk. 2024/07/17 16:27:22-07:00 Mapping: Task.File.Run -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/run-task.sh 2024/07/17 16:27:22-07:00 Wrote: Run -> /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/embedded_fileswy00x5ra/run-task.sh 2024/07/17 16:27:22-07:00 ---------------------------------------------- 2024/07/17 16:27:22-07:00 Phase: Running action 2024/07/17 16:27:22-07:00 ---------------------------------------------- 2024/07/17 16:27:22-07:00 Running command sudo -u job-user -i setsid -w /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/tmpv4obfkhn.sh 2024/07/17 16:27:22-07:00 Command started as pid: 2301 2024/07/17 16:27:22-07:00 Output: 2024/07/17 16:27:23-07:00 Daemon PID is 2223 2024/07/17 16:27:23-07:00 Daemon log file is /sessions/session-972e21d98dde45e59c7153bd9258a64dohwg4yg1/daemon.log 2024/07/17 16:27:23-07:00 2024/07/17 16:27:23-07:00 === Previous output from daemon 2024/07/17 16:27:23-07:00 === 2024/07/17 16:27:23-07:00 2024/07/17 16:27:23-07:00 Sending command to daemon 2024/07/17 16:27:23-07:00 Received task result: 2024/07/17 16:27:23-07:00 { 2024/07/17 16:27:23-07:00 "result": "SUCCESS", 2024/07/17 16:27:23-07:00 "processedTaskCount": 1, 2024/07/17 16:27:23-07:00 "randomValue": 0.2578537967668988, 2024/07/17 16:27:23-07:00 "failureRate": 0.1 2024/07/17 16:27:23-07:00 } 2024/07/17 16:27:23-07:00 2024/07/17 16:27:23-07:00 === Daemon log from running the task 2024/07/17 16:27:23-07:00 Loading the task details file 2024/07/17 16:27:23-07:00 Received task details: 2024/07/17 16:27:23-07:00 { 2024/07/17 16:27:23-07:00 "pid": 2329, 2024/07/17 16:27:23-07:00 "frame": 2 2024/07/17 16:27:23-07:00 } 2024/07/17 16:27:23-07:00 Processing frame number 2 2024/07/17 16:27:23-07:00 Writing result 2024/07/17 16:27:23-07:00 Waiting until a USR1 signal is sent... 2024/07/17 16:27:23-07:00 === 2024/07/17 16:27:23-07:00 2024/07/17 16:27:23-07:00 ---------------------------------------------- 2024/07/17 16:27:23-07:00 Uploading output files to Job Attachments 2024/07/17 16:27:23-07:00 ----------------------------------------------

    Las siguientes líneas de la plantilla de trabajo especifican esta acción. ```pasos:

    steps: - name: EnvWithDaemonProcess parameterSpace: taskParameterDefinitions: - name: Frame type: INT range: "{{Param.Frames}}" stepEnvironments: ... script: actions: onRun: timeout: 60 command: bash args: - '{{Task.File.Run}}' embeddedFiles: - name: Run filename: run-task.sh type: TEXT data: | # This bash script sends a task to the background daemon process, # then waits for it to respond with the output result. set -euo pipefail source "$DAEMON_BASH_HELPER_SCRIPT" echo "Daemon PID is $DAEMON_PID" echo "Daemon log file is $DAEMON_LOG" print_daemon_log "Previous output from daemon" send_task_to_daemon "{\"pid\": $$, \"frame\": {{Task.Param.Frame}} }" wait_for_daemon_task_result echo Received task result: echo "$TASK_RESULT" | jq . print_daemon_log "Daemon log from running the task" hostRequirements: attributes: - name: attr.worker.os.family anyOf: - linux