Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Amazon SageMaker AI NTM es un algoritmo de aprendizaje no supervisado que se utiliza para organizar un corpus de documentos en temas que contienen agrupaciones de palabras en función de su distribución estadística. Los documentos que contienen presencias frecuentes de palabras como "moto", "coche", "tren", "distancia" y "velocidad", es probable que compartan un tema de "transporte", por ejemplo. El modelado de temas se puede utilizar para clasificar o resumir documentos en función de los temas detectados o para recuperar información o contenido recomendado en función de similitudes por tema. Los temas de documentos que aprende NTM son caracterizado como una representación latente porque los temas se infieren a partir de las distribuciones de palabras observadas en el corpus. La semántica de los temas se infiere normalmente mediante el examen de las palabras más importantes que contienen. Puesto que el método no es supervisado, se especifican previamente solo los números de temas, no los propios temas. Además, no se garantiza que los temas sigan los procedimientos de categorización naturales de los documentos.
Los modelos de temas proporcionan una forma de visualizar contenido de un gran cuerpo de documentos en términos de temas aprendidos. Los documentos relevantes para cada tema deben indexarse o buscarse en función de las etiquetas de temas blandas. Las representaciones latentes de documentos pueden utilizarse para buscar documentos similares en el espacio del tema. También puede utilizar las representaciones latentes de documentos que aprende el modelo del tema para la entrada en otro algoritmo supervisado como un clasificador de documentos. Puesto que se prevé que las representaciones latentes de documentos capturen la semántica de los documentos subyacentes, se espera que los algoritmos basados en parte en estas representaciones tengan un mejor rendimiento que los basados solo en características léxicas.
Si bien puede utilizar los algoritmos NTM y LDA de Amazon SageMaker AI para el modelado de temas, son algoritmos distintos y se espera que produzcan resultados diferentes en los mismos datos de entrada.
Para obtener más información sobre las operaciones matemáticas que se encuentran detrás de NTM, consulte Inferencia variacional neuronal para el procesamiento de texto
Temas
Interfaz de entrada/salida para el algoritmo NTM
El modelo de temas neuronales de Amazon SageMaker AI admite cuatro canales de datos: tren, validación, prueba y auxiliar. Los canales de datos de validación, prueba y auxiliar son opcionales. Si especifica cualquiera de estos canales opcionales, establezca el valor del S3DataDistributionType parámetro para ellos FullyReplicated. Si proporciona datos de validación, la pérdida en estos datos se registra en cada fecha de inicio y el modelo detiene la capacitación cuando detecta que esa pérdida de validación no mejora. Si no proporciona datos de validación, el algoritmo detiene los datos basados anteriormente en la capacitación, pero esto puede ser menos eficiente. Si proporciona datos de prueba, el algoritmo informa de la pérdida de prueba del modelo final.
Los canales de datos de capacitación, validación y prueba para NTM admiten recordIO-wrapped-protobuf (denso y disperso) y formatos de archivo CSV. Para el formato CSV, cada fila debe representarse densamente con recuentos de cero para las palabras no presentes en el documento correspondiente y tener la dimensión igual a: (número de registros) * (tamaño de vocabulario). Puede usar el modo de archivo o el modo de canalización para capacitar modelos con datos con formato recordIO-wrapped-protobuf o CSV. El canal auxiliar se utiliza para suministrar un archivo de texto que contiene vocabulario. Al proporcionar el archivo de vocabulario, los usuarios pueden ver las palabras principales de cada uno de los temas impresas en el registro en lugar de su número entero IDs. Tener el archivo de vocabulario también permite a NTM calcular puntuaciones de Coherencia del tema de incrustación de palabra (WETC), una nueva métrica que se muestran en el registro que captura similitud entre las primeras palabras en cada tema de forma eficaz. La ContentType correspondiente al canal auxiliar estext/plain, en la que cada línea contiene una sola palabra, en el orden correspondiente al número entero IDs proporcionado en los datos. El archivo de vocabulario debe tener el nombre vocab.txt y actualmente solo se admite la codificación UTF-8.
Para la inferencia, se admiten los tipos de contenido text/csv, application/json, application/jsonlines y application/x-recordio-protobuf. Es posible pasar los datos dispersos para application/json y application/x-recordio-protobuf. La inferencia de NTM devuelve predicciones application/json o application/x-recordio-protobuf , que incluyen el vector topic_weights para cada observación.
Consulte la entrada de blog
Para obtener más información sobre los formatos de archivo de entrada y salida, consulte Formatos de respuesta de NTM para inferencia y Bloc de notas de muestra de NTM.
EC2 Recomendación de instancia para el algoritmo NTM
La capacitación de NTM admite tanto los tipos de instancia de GPU como de CPU. Recomendamos las instancias de GPU, pero para determinadas cargas de trabajo, las instancias de CPU pueden generar costos de capacitación inferiores. Las instancias de CPU deben ser suficientes para la inferencia. El algoritmo NTM admite las familias de instancias de GPU P2, P3, G4dn y G5 para el entrenamiento y la inferencia.
Bloc de notas de muestra de NTM
Para ver un ejemplo de cuaderno que utiliza el algoritmo NTM de SageMaker IA para descubrir temas en documentos a partir de una fuente de datos sintética en la que se conoce la distribución de los temas, consulte la Introducción a las funciones básicas
