Utilisation des quotas de stockage Lustre - FSxpour Lustre

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utilisation des quotas de stockage Lustre

Vous pouvez créer des quotas de stockage pour les utilisateurs, les groupes et les projets sur les systèmes de fichiers FSx for Lustre. Les quotas de stockage vous permettent de limiter la quantité d'espace disque et le nombre de fichiers qu'un utilisateur, un groupe ou un projet peut consommer. Les quotas de stockage suivent automatiquement l'utilisation au niveau de l'utilisateur, au niveau du groupe et au niveau du projet afin que vous puissiez surveiller la consommation, que vous choisissiez ou non de définir des limites de stockage.

Amazon FSx applique les quotas et empêche les utilisateurs qui les ont dépassés d'écrire sur l'espace de stockage. Lorsque les utilisateurs dépassent leur quota, ils doivent supprimer suffisamment de fichiers pour atteindre les limites du quota afin de pouvoir à nouveau écrire dans le système de fichiers.

Application des quotas

L'application des quotas pour les utilisateurs, les groupes et les projets est automatiquement activée sur tous les systèmes de fichiers FSx for Lustre. Vous ne pouvez pas désactiver l'application des quotas.

Types de quotas

Les administrateurs système disposant des informations d'identification de l'utilisateur root du AWS compte peuvent créer les types de quotas suivants :

  • Un quota d'utilisateurs s'applique à un utilisateur individuel. Un quota d'utilisateurs pour un utilisateur spécifique peut être différent de celui des autres utilisateurs.

  • Un quota de groupe s'applique à tous les utilisateurs membres d'un groupe spécifique.

  • Un quota de projet s'applique à tous les fichiers ou répertoires associés à un projet. Un projet peut inclure plusieurs répertoires ou des fichiers individuels situés dans différents répertoires d'un système de fichiers.

    Note

    Les quotas de projet ne sont pris en charge que sur la version 2.15 de Lustre sur les systèmes de fichiers FSx for Lustre.

  • Un quota de blocs limite la quantité d'espace disque qu'un utilisateur, un groupe ou un projet peut utiliser. Vous configurez la taille de stockage en kilo-octets.

  • Un quota d'inodes limite le nombre de fichiers ou de répertoires qu'un utilisateur, un groupe ou un projet peut créer. Vous configurez le nombre maximum d'inodes sous forme d'entier.

Note

Les quotas par défaut ne sont pas pris en charge.

Si vous définissez des quotas pour un utilisateur et un groupe particuliers et que l'utilisateur est membre de ce groupe, l'utilisation des données de l'utilisateur s'applique aux deux quotas. Il est également limité par les deux quotas. Si l'une des limites de quota est atteinte, l'utilisateur n'est pas autorisé à écrire dans le système de fichiers.

Note

Les quotas définis pour l'utilisateur root ne sont pas appliqués. De même, l'écriture de données en tant qu'utilisateur root à l'aide de la sudo commande contourne l'application du quota.

Limites de quotas et délais de grâce

Amazon FSx applique les quotas d'utilisateurs, de groupes et de projets sous forme de limite stricte ou de limite souple avec une période de grâce configurable.

La limite stricte est la limite absolue. Si les utilisateurs dépassent leur limite stricte, l'allocation d'un bloc ou d'un inode échoue avec un message indiquant que le quota de disque est dépassé. Les utilisateurs ayant atteint la limite stricte de leur quota doivent supprimer suffisamment de fichiers ou de répertoires pour passer sous le quota avant de pouvoir à nouveau écrire dans le système de fichiers. Lorsqu'une période de grâce est définie, les utilisateurs peuvent dépasser la limite souple pendant la période de grâce s'ils sont inférieurs à la limite stricte.

Pour les limites souples, vous configurez un délai de grâce en secondes. La limite souple doit être inférieure à la limite stricte.

Vous pouvez définir différentes périodes de grâce pour les quotas d'inodes et de blocs. Vous pouvez également définir différentes périodes de grâce pour un quota d'utilisateurs, un quota de groupe et un quota de projet. Lorsque les quotas d'utilisateurs, de groupes et de projets ont des périodes de grâce différentes, la limite souple devient une limite stricte une fois la période de grâce de l'un de ces quotas expirée.

Lorsque les utilisateurs dépassent une limite souple, Amazon FSx leur permet de continuer à dépasser leur quota jusqu'à la fin de la période de grâce ou jusqu'à ce que la limite stricte soit atteinte. Une fois la période de grâce terminée, la limite souple est convertie en limite stricte, et les utilisateurs sont empêchés de poursuivre leurs opérations d'écriture jusqu'à ce que leur utilisation du stockage revienne en dessous du quota de blocs ou des limites de quota d'inode définies. Les utilisateurs ne reçoivent aucune notification ni aucun avertissement lorsque le délai de grâce commence.

Définition et affichage des quotas

Vous définissez les quotas de stockage à l'aide des lfs commandes du système de fichiers Lustre dans votre terminal Linux. La lfs setquota commande définit les limites de quota et affiche les lfs quota informations relatives aux quotas.

Pour plus d'informations sur les commandes de quota Lustre, consultez le manuel d'utilisation de Lustre sur le site Web de documentation de Lustre.

Définition des quotas d'utilisateurs, de groupes et de projets

La syntaxe de la setquota commande permettant de définir les quotas d'utilisateur, de groupe ou de projet est la suivante.

lfs setquota {-u|--user|-g|--group|-p|--project} username|groupname|projectid [-b block_softlimit] [-B block_hardlimit] [-i inode_softlimit] [-I inode_hardlimit] /mount_point

Où :

  • -uou --user indique un utilisateur pour lequel définir un quota.

  • -gou --group indique un groupe pour lequel définir un quota.

  • -pou --project indique un projet pour lequel définir un quota.

  • -bdéfinit un quota de blocs avec une limite souple. -Bdéfinit un quota de blocs avec une limite stricte. block_softlimit et block_hardlimit sont exprimés en kilo-octets, et la valeur minimale est de 1024 Ko.

  • -idéfinit un quota d'inodes avec une limite souple. -Idéfinit un quota d'inodes avec une limite stricte. inode_softlimit et inode_hardlimit sont exprimés en nombre d'inodes, et la valeur minimale est de 1024 inodes.

  • mount_point est le répertoire dans lequel le système de fichiers a été monté.

Exemple de quota utilisateur : la commande suivante définit une limite de blocs souples de 5 000 Ko, une limite de blocs fixes de 8 000 Ko, une limite d'inodes souples de 2 000 et un quota de limite de 3 000 inodes durs pour le système de fichiers user1 sur lequel est monté le système de fichiers. /mnt/fsx

sudo lfs setquota -u user1 -b 5000 -B 8000 -i 2000 -I 3000 /mnt/fsx

Exemple de quota de groupe : la commande suivante définit une limite de blocs fixes de 100 000 Ko pour le groupe nommé group1 sur le système de fichiers sur lequel est monté/mnt/fsx.

sudo lfs setquota -g group1 -B 100000 /mnt/fsx

Exemple de quota de projet : assurez-vous d'abord que vous avez utilisé la project commande pour associer les fichiers et répertoires souhaités au projet. Par exemple, la commande suivante associe tous les fichiers et sous-répertoires du /mnt/fsxfs/dir1 répertoire au projet dont l'ID de projet est100.

sudo lfs project -p 100 -r -s /mnt/fsxfs/dir1

Utilisez ensuite la setquota commande pour définir le quota du projet. La commande suivante définit une limite de bloc souple de 307 200 Ko, une limite de bloc rigide de 309 200 Ko, une limite de 10 000 inodes souples et un quota de 11 000 inodes durs pour le projet sur le système de fichiers sur lequel est monté le projet250. /mnt/fsx

sudo lfs setquota -p 250 -b 307200 -B 309200 -i 10000 -I 11000 /mnt/fsx

Définition des délais de grâce

Le délai de grâce par défaut est d'une semaine. Vous pouvez ajuster le délai de grâce par défaut pour les utilisateurs, les groupes ou les projets à l'aide de la syntaxe suivante.

lfs setquota -t {-u|-g|-p} [-b block_grace] [-i inode_grace] /mount_point

Où :

  • -tindique qu'un délai de grâce sera défini.

  • -udéfinit un délai de grâce pour tous les utilisateurs.

  • -gdéfinit un délai de grâce pour tous les groupes.

  • -pfixe un délai de grâce pour tous les projets.

  • -bdéfinit un délai de grâce pour les quotas par bloc. -idéfinit un délai de grâce pour les quotas d'inodes. block_grace et inode_grace sont exprimés en secondes entières ou au format. XXwXXdXXhXXmXXs

  • mount_point est le répertoire dans lequel le système de fichiers a été monté.

La commande suivante définit des périodes de grâce de 1 000 secondes pour les quotas de blocage des utilisateurs et de 1 semaine et 4 jours pour les quotas d'inode des utilisateurs.

sudo lfs setquota -t -u -b 1000 -i 1w4d /mnt/fsx

Afficher les quotas

La quota commande affiche des informations sur les quotas d'utilisateurs, les quotas de groupe, les quotas de projet et les périodes de grâce.

Afficher la commande de quota Informations sur les quotas affichées

lfs quota /mount_point

Informations générales sur les quotas (utilisation du disque et limites) pour l'utilisateur exécutant la commande et le groupe principal de l'utilisateur.

lfs quota -u username /mount_point

Informations générales sur les quotas pour un utilisateur spécifique. Les utilisateurs disposant AWS d'informations d'identification utilisateur root peuvent exécuter cette commande pour n'importe quel utilisateur, mais les utilisateurs non root ne peuvent pas exécuter cette commande pour obtenir des informations sur les quotas d'autres utilisateurs.

lfs quota -u username -v /mount_point

Informations générales sur les quotas pour un utilisateur spécifique et statistiques détaillées sur les quotas pour chaque cible de stockage d'objets (OST) et cible de métadonnées (MDT). Les utilisateurs disposant AWS d'informations d'identification utilisateur root peuvent exécuter cette commande pour n'importe quel utilisateur, mais les utilisateurs non root ne peuvent pas exécuter cette commande pour obtenir des informations sur les quotas d'autres utilisateurs.

lfs quota -g groupname /mount_point

Informations générales sur les quotas pour un groupe spécifique.

lfs quota -p projectid /mount_point

Informations générales sur les quotas pour un projet spécifique.

lfs quota -t -u /mount_point

Bloquez et annulez les délais de grâce pour les quotas d'utilisateurs.

lfs quota -t -g /mount_point

Bloquez et annulez les délais de grâce pour les quotas de groupe.

lfs quota -t -p /mount_point

Bloquez et annulez les délais de grâce pour les quotas de projet.

Quotas et compartiments liés à Amazon S3

Vous pouvez lier votre système de fichiers FSx for Lustre à un référentiel de données Amazon S3. Pour plus d’informations, consultez Lier votre système de fichiers à un compartiment Amazon S3.

Vous pouvez éventuellement choisir un dossier ou un préfixe spécifique dans un compartiment S3 lié comme chemin d'importation vers votre système de fichiers. Lorsqu'un dossier dans Amazon S3 est spécifié et importé dans votre système de fichiers depuis S3, seules les données de ce dossier sont prises en compte dans le quota. Les données de l'ensemble du bucket ne sont pas prises en compte dans les limites du quota.

Les métadonnées des fichiers d'un compartiment S3 lié sont importées dans un dossier dont la structure correspond au dossier importé depuis Amazon S3. Ces fichiers sont pris en compte dans les quotas d'inodes des utilisateurs et des groupes propriétaires des fichiers.

Lorsqu'un utilisateur effectue un chargement hsm_restore différé ou qu'il charge un fichier, la taille totale du fichier est prise en compte dans le quota de blocs associé au propriétaire du fichier. Par exemple, si l'utilisateur A charge paresseusement un fichier appartenant à l'utilisateur B, la quantité de stockage et l'utilisation des inodes sont prises en compte dans le quota de l'utilisateur B. De même, lorsqu'un utilisateur utilise l'API Amazon FSx pour publier un fichier, les données sont libérées des quotas de bloc de l'utilisateur ou du groupe propriétaire du fichier.

Comme les restaurations HSM et le chargement différé sont effectués avec un accès root, ils contournent l'application des quotas. Une fois les données importées, elles sont comptabilisées pour l'utilisateur ou le groupe en fonction de la propriété définie dans S3, ce qui peut amener les utilisateurs ou les groupes à dépasser leurs limites de blocage. Dans ce cas, ils devront libérer des fichiers pour pouvoir à nouveau écrire dans le système de fichiers.

De même, les systèmes de fichiers sur lesquels l'importation automatique est activée créeront automatiquement de nouveaux inodes pour les objets ajoutés à S3. Ces nouveaux inodes sont créés avec un accès root et contournent l'application des quotas lors de leur création. Ces nouveaux inodes seront pris en compte dans le calcul des utilisateurs et des groupes, en fonction du propriétaire de l'objet dans S3. Si ces utilisateurs et groupes dépassent leur quota d'inodes basé sur l'activité d'importation automatique, ils devront supprimer des fichiers afin de libérer de la capacité supplémentaire et de dépasser leurs limites de quota.

Quotas et restauration des sauvegardes

Lorsque vous restaurez une sauvegarde, les paramètres de quota du système de fichiers d'origine sont implémentés dans le système de fichiers restauré. Par exemple, si des quotas sont définis dans le système de fichiers A et que le système de fichiers B est créé à partir d'une sauvegarde du système de fichiers A, les quotas du système de fichiers A sont appliqués dans le système de fichiers B.