Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
CatBoost
CatBoost
CatBoost introduce due progressi algoritmici fondamentali per GBDT:
-
L'implementazione del boosting ordinato, un'alternativa basata sulla permutazione all'algoritmo classico
-
Un algoritmo innovativo per l'elaborazione di funzionalità categoriali
Entrambe le tecniche sono state create per contrastare un cambiamento di previsione causato da uno speciale tipo di perdita di dati di destinazione presente in tutte le implementazioni attualmente esistenti degli algoritmi di gradient boosting.
Come usare SageMaker CatBoost
Puoi usarlo CatBoost come algoritmo SageMaker integrato di Amazon. La sezione seguente descrive come utilizzare CatBoost con SageMaker Python SDK. Per informazioni su come utilizzare CatBoost dall'interfaccia utente di Amazon SageMaker Studio Classic, consultaAddestra, implementa e valuta modelli preaddestrati con SageMaker JumpStart.
-
Utilizza CatBoost come algoritmo integrato
Utilizzate l'algoritmo CatBoost integrato per creare un contenitore di CatBoost addestramento, come mostrato nel seguente esempio di codice. Puoi individuare automaticamente l'URI dell'immagine dell'algoritmo CatBoost integrato utilizzando l' SageMaker
image_uris.retrieveAPI (o l'get_image_uriAPI se utilizzi Amazon SageMaker Python SDKversione 2). Dopo aver specificato l'URI CatBoost dell'immagine, puoi utilizzare il CatBoost contenitore per creare uno stimatore utilizzando l'API Estimator e avviare un SageMaker processo di formazione. L'algoritmo CatBoost integrato viene eseguito in modalità script, ma lo script di training viene fornito automaticamente e non è necessario sostituirlo. Se hai una vasta esperienza nell'uso della modalità script per creare un lavoro di SageMaker formazione, puoi incorporare i tuoi script di CatBoost formazione.
from sagemaker import image_uris, model_uris, script_uris train_model_id, train_model_version, train_scope = "catboost-classification-model", "*", "training" training_instance_type = "ml.m5.xlarge" # Retrieve the docker image train_image_uri = image_uris.retrieve( region=None, framework=None, model_id=train_model_id, model_version=train_model_version, image_scope=train_scope, instance_type=training_instance_type ) # Retrieve the training script train_source_uri = script_uris.retrieve( model_id=train_model_id, model_version=train_model_version, script_scope=train_scope ) train_model_uri = model_uris.retrieve( model_id=train_model_id, model_version=train_model_version, model_scope=train_scope ) # Sample training data is available in this bucket training_data_bucket = f"jumpstart-cache-prod-{aws_region}" training_data_prefix = "training-datasets/tabular_multiclass/" training_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/train" validation_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/validation" output_bucket = sess.default_bucket() output_prefix = "jumpstart-example-tabular-training" s3_output_location = f"s3://{output_bucket}/{output_prefix}/output" from sagemaker import hyperparameters # Retrieve the default hyperparameters for training the model hyperparameters = hyperparameters.retrieve_default( model_id=train_model_id, model_version=train_model_version ) # [Optional] Override default hyperparameters with custom values hyperparameters[ "iterations" ] = "500" print(hyperparameters) from sagemaker.estimator import Estimator from sagemaker.utils import name_from_base training_job_name = name_from_base(f"built-in-algo-{train_model_id}-training") # Create SageMaker Estimator instance tabular_estimator = Estimator( role=aws_role, image_uri=train_image_uri, source_dir=train_source_uri, model_uri=train_model_uri, entry_point="transfer_learning.py", instance_count=1, instance_type=training_instance_type, max_run=360000, hyperparameters=hyperparameters, output_path=s3_output_location ) # Launch a SageMaker Training job by passing the S3 path of the training data tabular_estimator.fit( { "training": training_dataset_s3_path, "validation": validation_dataset_s3_path, }, logs=True, job_name=training_job_name )Per ulteriori informazioni su come configurarlo CatBoost come algoritmo integrato, consultate i seguenti esempi di notebook.
Interfaccia di input e output per l'algoritmo CatBoost
Il gradient boosting agisce sui dati tabulari, con le righe che rappresentano le osservazioni, una colonna che rappresenta la variabile o l'etichetta di destinazione e le colonne rimanenti che rappresentano le caratteristiche.
L' SageMaker implementazione dei CatBoost supporti CSV per l'addestramento e l'inferenza:
-
Per Training ContentType, gli input validi devono essere text/csv.
-
Per Inference ContentType, gli input validi devono essere text/csv.
Nota
Per l’addestramento CSV, l'algoritmo presume che la variabile di destinazione si trovi nella prima colonna e che CSV non disponga di un record di intestazione.
Per l'inferenza CSV, l'algoritmo presuppone che l'input CSV non disponga della colonna di etichette.
Formato di input per dati di addestramento, dati di convalida e caratteristiche categoriali
Prestate attenzione a come formattare i dati di allenamento per l'immissione nel modello. CatBoost Devi fornire il percorso di un bucket Amazon S3 contenente i dati di addestramento e convalida. Puoi includere anche un elenco di funzionalità categoriali. Utilizza entrambi i canali training e validation per fornire i dati di input. In alternativa, puoi utilizzare solo il canale training.
Usa entrambi i canali training e validation
È possibile fornire i dati di input tramite due percorsi S3, uno per il canale training e uno per il canale validation. Ogni percorso S3 può essere un prefisso S3 che punta a uno o più file CSV o un percorso S3 completo che punta a un file CSV specifico. Le variabili di destinazione devono trovarsi nella prima colonna del file CSV. Le variabili predittive (funzionalità) dovrebbero trovarsi nelle colonne rimanenti. Se vengono forniti più file CSV per i validation canali training or, l' CatBoost algoritmo concatena i file. I dati di convalida vengono utilizzati per calcolare un punteggio di convalida alla fine di ogni iterazione di potenziamento. L'arresto anticipato viene applicato quando il punteggio di convalida smette di migliorare.
Se i tuoi predittori includono funzionalità categoriche, puoi fornire un file JSON denominato categorical_index.json nella stessa posizione del file o dei file di dati di addestramento. Se fornisci un file JSON per le funzionalità categoriali, il tuo canale training deve puntare a un prefisso S3 e non a un file CSV specifico. Questo file dovrebbe contenere un dizionario Python in cui la chiave è la stringa "cat_index_list" e il valore è un elenco di numeri interi univoci. Ogni numero intero nella lista dei valori deve indicare l'indice delle colonne delle funzionalità categoriali corrispondenti nel file CSV dei dati di addestramento. Ogni valore deve essere un numero intero positivo (maggiore di zero perché zero rappresenta il valore di destinazione), minore di Int32.MaxValue (2147483647) e minore del numero totale di colonne. Dovrebbe esserci un solo file JSON di indice categorico.
Usa solo il canale training:
In alternativa, puoi fornire i dati di input tramite un singolo percorso S3 per il canale training. Questo percorso S3 deve puntare a una directory con una sottodirectory denominata training/ che contiene uno o più file CSV. Facoltativamente, puoi includere un'altra sottodirectory nella stessa posizione denominata validation/ che contiene anche uno o più file CSV. Se i dati di convalida non vengono forniti, il 20% dei dati di addestramento viene campionato casualmente per fungere da dati di convalida. Se i tuoi predittori includono funzionalità categoriali, puoi fornire un file JSON denominato categorical_index.json nella stessa posizione delle sottodirectory dei dati.
Nota
Per la modalità di input dell’addestramento CSV, la memoria totale disponibile per l'algoritmo (calcolo dell'istanza moltiplicata per la memoria disponibile nel InstanceType) deve essere in grado di gestire il set di dati di addestramento.
SageMaker CatBoost utilizza i catboost.CatBoostRegressor moduli catboost.CatBoostClassifier and per serializzare o deserializzare il modello, che può essere utilizzato per salvare o caricare il modello.
Utilizzare un modello addestrato con SageMaker CatBoost catboost
-
Utilizza il seguente codice Python:
import tarfile from catboost import CatBoostClassifier t = tarfile.open('model.tar.gz', 'r:gz') t.extractall() file_path = os.path.join(model_file_path, "model") model = CatBoostClassifier() model.load_model(file_path) # prediction with test data # dtest should be a pandas DataFrame with column names feature_0, feature_1, ..., feature_d pred = model.predict(dtest)
Raccomandazione dell'istanza Amazon EC2 per l'algoritmo CatBoost
SageMaker CatBoost attualmente si allena solo con CPU. CatBoost è un algoritmo legato alla memoria (anziché legato al calcolo). Pertanto, un'istanza di calcolo a scopo generico (ad esempio, M5) rappresenta una scelta migliore rispetto a un'istanza ottimizzata per il calcolo (ad esempio, C5). Inoltre, consigliamo di disporre di memoria sufficiente nelle istanze selezionate per conservare i dati di addestramento.
CatBoost quaderni di esempio
La tabella seguente illustra una serie di notebook di esempio che affrontano diversi casi d'uso dell'algoritmo Amazon. SageMaker CatBoost
| Titolo del notebook | Descrizione |
|---|---|
|
Classificazione tabulare con Amazon SageMaker LightGBM e algoritmo CatBoost |
Questo notebook dimostra l'uso dell' SageMaker CatBoostalgoritmo Amazon per addestrare e ospitare un modello di classificazione tabulare. |
|
Regressione tabulare con Amazon SageMaker LightGBM e algoritmo CatBoost |
Questo notebook dimostra l'uso dell' SageMaker CatBoostalgoritmo Amazon per addestrare e ospitare un modello di regressione tabulare. |
Per istruzioni su come creare e accedere alle istanze di notebook Jupyter utilizzabili per eseguire l'esempio, consulta. SageMaker Istanze Amazon SageMaker Notebook Dopo aver creato un'istanza di notebook e averla aperta, scegli la scheda SageMakerEsempi per visualizzare un elenco di tutti gli esempi. SageMaker Per aprire un notebook, seleziona la relativa scheda Utilizza e scegli Crea copia.
