Uso de Amazon MWAA con Amazon RDS para Microsoft SQL Server - Amazon Managed Workflows para Apache Airflow

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Uso de Amazon MWAA con Amazon RDS para Microsoft SQL Server

Puede utilizar Amazon Managed Workflows para Apache Airflow para conectarse a un RDS para SQL Server. El siguiente código de ejemplo utiliza los DAG de un entorno Amazon Managed Workflows para Apache Airflow para conectarse a un servidor Amazon RDS para Microsoft SQL Server y ejecutar consultas en él.

Versión

  • El código de ejemplo de esta página se puede utilizar con Apache Airflow v1 en Python 3.7.

  • Puede usar el código de ejemplo que aparece en esta página con Apache Airflow v2 en Python 3.10.

Requisitos previos

Para usar el código de muestra de esta página, necesitará lo siguiente:

  • Un entorno de Amazon MWAA.

  • Amazon MWAA y el RDS para SQL Server deben ejecutarse en la misma Amazon VPC.

  • Los grupos de seguridad de VPC de Amazon MWAA y el servidor deben configurarse con las siguientes conexiones:

    • Una regla de entrada para el puerto 1433 abierto para Amazon RDS en el grupo de seguridad de Amazon MWAA

    • O una regla de salida para el puerto 1433 abierto de Amazon MWAA a RDS

  • Apache Airflow Connection para RDS para SQL Server refleja el nombre de host, el puerto, el nombre de usuario y la contraseña de la base de datos del servidor SQL de Amazon RDS creada en el proceso anterior.

Dependencias

Para usar el código de ejemplo de esta sección, agregue la siguiente dependencia a su requirements.txt. Para obtener más información, consulte Instalación de dependencias de Python

Apache Airflow v2
apache-airflow-providers-microsoft-mssql==1.0.1 apache-airflow-providers-odbc==1.0.1 pymssql==2.2.1
Apache Airflow v1
apache-airflow[mssql]==1.10.12

Conexión Apache Airflow v2

Si utiliza una conexión en Apache Airflow v2, asegúrese de que el objeto de conexión Airflow incluya los siguientes pares clave-valor:

  1. ID de conexión: mssql_default

  2. Tipo de conexión: Amazon Web Services

  3. Host: YOUR_DB_HOST

  4. Esquema:

  5. Inicio de sesión: admin

  6. Contraseña:

  7. Puerto: 1433

  8. Extra:

Código de ejemplo

  1. En el símbolo del sistema, vaya hasta el directorio en el que esté almacenado el código DAG. Por ejemplo:

    cd dags
  2. Copie el contenido del código de ejemplo siguiente y guárdelo localmente como sql-server.py.

    """ Copyright Amazon.com, Inc. or its affiliates. All Rights Reserved. Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the "Software"), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so. THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE. """ import pymssql import logging import sys from airflow import DAG from datetime import datetime from airflow.operators.mssql_operator import MsSqlOperator from airflow.operators.python_operator import PythonOperator default_args = { 'owner': 'aws', 'depends_on_past': False, 'start_date': datetime(2019, 2, 20), 'provide_context': True } dag = DAG( 'mssql_conn_example', default_args=default_args, schedule_interval=None) drop_db = MsSqlOperator( task_id="drop_db", sql="DROP DATABASE IF EXISTS testdb;", mssql_conn_id="mssql_default", autocommit=True, dag=dag ) create_db = MsSqlOperator( task_id="create_db", sql="create database testdb;", mssql_conn_id="mssql_default", autocommit=True, dag=dag ) create_table = MsSqlOperator( task_id="create_table", sql="CREATE TABLE testdb.dbo.pet (name VARCHAR(20), owner VARCHAR(20));", mssql_conn_id="mssql_default", autocommit=True, dag=dag ) insert_into_table = MsSqlOperator( task_id="insert_into_table", sql="INSERT INTO testdb.dbo.pet VALUES ('Olaf', 'Disney');", mssql_conn_id="mssql_default", autocommit=True, dag=dag ) def select_pet(**kwargs): try: conn = pymssql.connect( server='sampledb.<xxxxxx>.<region>.rds.amazonaws.com', user='admin', password='<yoursupersecretpassword>', database='testdb' ) # Create a cursor from the connection cursor = conn.cursor() cursor.execute("SELECT * from testdb.dbo.pet") row = cursor.fetchone() if row: print(row) except: logging.error("Error when creating pymssql database connection: %s", sys.exc_info()[0]) select_query = PythonOperator( task_id='select_query', python_callable=select_pet, dag=dag, ) drop_db >> create_db >> create_table >> insert_into_table >> select_query

Siguientes pasos