*NOUVEAU* Anthropic Sonnet de Claude 3.7

Anthropic Claude 3.7 Sonnet est le premier modèle de Claude à proposer un step-by-step raisonnement, qui Anthropic a appelé « pensée étendue ». Avec Claude 3.7 Sonnet, le recours au step-by-step raisonnement est facultatif. Vous pouvez choisir entre la pensée standard et la pensée étendue pour un raisonnement avancé. Parallèlement à une réflexion approfondie, Claude 3.7 Sonnet autorise jusqu'à 128 000 jetons de sortie par demande (jusqu'à 64 000 jetons de sortie sont généralement considérés comme disponibles, mais les sorties entre 64 Ko et 128 Ko sont en version bêta). De plus, Anthropic a amélioré sa version bêta d'utilisation des ordinateurs avec la prise en charge de nouvelles actions.

Avec Claude 3.7 Sonnet, max_tokens (qui inclut votre budget de réflexion lorsque la réflexion est activée) est appliquée en tant que limite stricte. Le système renvoie désormais une erreur de validation si prompt tokens + max_tokens dépasse la taille de la fenêtre contextuelle. Lorsque vous calculez l'utilisation d'une fenêtre contextuelle avec la fonction de réflexion activée, il convient de prendre en compte certaines considérations :

Raisonnement (pensée étendue)

Réflexion approfondie sur Claude 3.7 Sonnet permet aux capacités de chain-of-thought raisonnement d'améliorer la précision des tâches complexes, tout en garantissant la transparence de son processus de step-by-step réflexion avant de fournir une réponse finale. Lorsque vous activez la pensée étendue, Claude montre son processus de raisonnement par le biais de blocs de thinking contenu dans la réponse. Ces thinking blocs représentent le processus interne de résolution de problèmes de Claude utilisé pour éclairer la réponse. Claude 3.7 Sonnetle mode de raisonnement (ou de réflexion) est désactivé par défaut. Chaque fois que vous activez le thinking mode Claude, vous devez définir un budget pour le nombre maximum de jetons que Claude peut utiliser pour son processus de raisonnement interne. Vous thinking budget_tokens devez toujours être inférieur à celui que max_tokens vous spécifiez dans votre demande. Vous pouvez voir des blocs de réflexion expurgés apparaître dans votre sortie lorsque la sortie de raisonnement ne répond pas aux normes de sécurité. Ce comportement est normal. Le modèle peut toujours utiliser cette réflexion expurgée pour éclairer ses réponses tout en maintenant les garde-fous de sécurité. Lorsque vous passez thinking et redacted_thinking rebloquez l'API dans le cadre d'une conversation à plusieurs tours, vous devez fournir le bloc complet et non modifié.

Les jetons de réflexion contenus dans votre réponse sont pris en compte dans la fenêtre contextuelle et sont facturés comme des jetons de sortie. Étant donné que les jetons de réflexion sont traités comme des jetons de sortie normaux, ils sont également pris en compte dans le calcul de votre limite de quota de service par minute (TPM). Dans les conversations à plusieurs tours, les blocs de réflexion associés aux messages précédents de l'assistant ne sont pas facturés en tant que jetons de saisie.

Travailler avec un budget réfléchi :

Le minimum budget_tokens est de 1 024 jetons. Anthropic suggère d'essayer au moins 4 000 jetons pour obtenir un raisonnement plus complet et nuancé.

Compatibilité raisonnée avec d'autres paramètres :

Raisonnement et mise en cache rapide (aperçu limité)

Inclusion des blocs de pensée :

Le cache est invalidé lorsque :

Limites de persistance :

Utilisation de l'outil avec raisonnement

Lorsque vous retransmettez les blocs thinking et redacted_thinking à l'API dans le cadre d'une conversation à plusieurs tours, vous devez fournir le bloc complet et non modifié. Cela nécessite de préserver les blocages de pensée lors de l'utilisation de l'outil, pour deux raisons :

Lorsque vous associez la pensée à l'utilisation d'outils, tenez compte du schéma de comportement suivant :

L'ordre normal d'une conversation basée sur l'utilisation d'un outil avec réflexion suit les étapes suivantes :

Cette conception permet à l'assistant de montrer son processus de raisonnement avant de faire des demandes d'outils, mais de ne pas répéter le processus de réflexion après avoir reçu les résultats de l'outil.

Avec Anthropic Claude 3.7 Sonnet modèle, vous pouvez spécifier un outil que le modèle peut utiliser pour répondre à un message. Pour plus d'informations, voir Utilisation de l'outil (appel de fonctions) dans le Anthropic Claude .

Utilisation de l'ordinateur mise à jour (version bêta)

Avec l'utilisation d'un ordinateur, Claude peut vous aider à automatiser les tâches grâce à des actions de base de l'interface graphique.

L'API d'utilisation de l'ordinateur propose plusieurs outils d'utilisation prédéfinis que vous pouvez utiliser. Vous pouvez ensuite créer une invite avec votre demande, telle que « envoyer un e-mail à Ben avec les notes de ma dernière réunion » et une capture d'écran (si nécessaire). La réponse contient une liste d'tool_useactions au format JSON (par exemple, scroll_down, left_button_press, capture d'écran). Votre code exécute les actions de l'ordinateur et fournit Claude avec capture d'écran présentant les sorties (sur demande).

Claude 3.7 Sonnet permet d'étendre les capacités d'utilisation des ordinateurs grâce à une nouvelle version de l'outil bêta d'utilisation des ordinateurs existant. Pour utiliser ces nouveaux outils, vous devez spécifier le paramètre d'inférence anthropic-bêta « anthropic_beta » : ["computer-use-2025-01-24"]. L'ensemble des actions de retour possibles liées à l'utilisation d'un ordinateur comprend : faire défiler, attendre, cliquer avec le bouton gauche de la souris vers le bas, maintenir la touche enfoncée et cliquer trois fois. Il continuera à suivre le même format d'utilisation de l'outil dans les sorties.

Pour plus d'informations, voir Utilisation de l'ordinateur (version bêta) dans le Anthropic .

Voici un exemple de réponse qui suppose que la demande contient une capture d'écran de votre bureau avec une icône Firefox.

{
    "id": "msg_123",
    "type": "message",
    "role": "assistant",
    "model": "anthropic.claude-3-7-sonnet-20250219-v1:0",
    "anthropic_beta": ["computer-use-2025-01-24"] ,
    "content": [
        {
            "type": "text",
            "text": "I see the Firefox icon. Let me click on it and then navigate to a weather website."
        },
        {
            "type": "tool_use",
            "id": "toolu_123",
            "name": "computer",
            "input": {
                "action": "mouse_move",
                "coordinate": [
                    708,
                    736
                ]
            }
        },
        {
            "type": "tool_use",
            "id": "toolu_234",
            "name": "computer",
            "input": {
                "action": "left_click"
            }
        }
    ],
    "stop_reason": "tool_use",
    "stop_sequence": null,
    "usage": {
        "input_tokens": 3391,
        "output_tokens": 132
    }
}

Blocs de réflexion

Les blocs de pensée représentent Claude 3.7 Sonnetle processus de pensée interne.

InvokeModel Demande

{
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 24000,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 16000
    },
    "messages": [
        {
            "role": "user",
            "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?"
        }
    ]
}

InvokeModel Réponse

{
    "content": [
        {
            "type": "thinking",
            "thinking": "To approach this, let's think about what we know about prime numbers...",
            "signature": "eyJhbGciOiJFUzI1NiIsImtpZCI6ImtleS0xMjM0In0.eyJoYXNoIjoiYWJjMTIzIiwiaWF0IjoxNjE0NTM0NTY3fQ...."
        },
        {
            "type": "text",
            "text": "Yes, there are infinitely many prime numbers such that..."
        }
    ]
}

Afin de permettre à Claude de résoudre les problèmes avec un minimum de restrictions internes tout en respectant les normes de sécurité, Anthropic a défini ce qui suit :

Parfois, le raisonnement interne de Claude sera signalé par des systèmes de sécurité automatisés. Lorsque cela se produit, l'intégralité du bloc de pensée est cryptée et vous est renvoyée sous la forme d'un bloc redacted_thinking. Ces blocs de pensée expurgés sont déchiffrés lorsqu'ils sont renvoyés au modèle, ce qui permet à Claude de poursuivre sa réponse sans perdre le contexte.

Voici un exemple de réponse InvokeModel montrant à la fois des blocs de pensée normaux et expurgés :

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "redacted_thinking",
      "data": "EmwKAhgBEgy3va3pzix/LafPsn4aDFIT2Xlxh0L5L8rLVyIwxtE3rAFBa8cr3qpP..."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Vous pouvez voir des blocs de réflexion expurgés apparaître dans votre sortie lorsque la sortie de raisonnement ne répond pas aux normes de sécurité. Ce comportement est normal. Le modèle peut toujours utiliser cette réflexion expurgée pour éclairer ses réponses tout en maintenant les garde-fous de sécurité. Lorsque vous retransmettez les blocs thinking et redacted_thinking à l'API dans le cadre d'une conversation à plusieurs tours, vous devez fournir le bloc complet et non modifié.

InvokeModelWithResponseStream

Lorsque le streaming est activé, vous recevrez du contenu de réflexion issu des événements thinking_delta. Voici comment gérer le streaming en toute réflexion :

Demande

{
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 24000,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 16000
    },
    "messages": [
        {
            "role": "user",
            "content": "What is 27 * 453?"
        }
    ]
}

Réponse

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-3-7-sonnet-20250219", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "Let me solve this step by step:\n\n1. First break down 27 * 453"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n2. 453 = 400 + 50 + 3"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "27 * 453 = 12,231"}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

Longueur de sortie étendue (version bêta)

Claude 3.7 Sonnet peut produire des réponses nettement plus longues que les modèles Claude précédents, avec la prise en charge d'un maximum de 128 000 jetons de sortie (version bêta). Cette longueur de sortie étendue peut être utilisée avec les nouvelles capacités de raisonnement. Cette fonctionnalité peut être activée en transmettant un paramètre d'anthropic-betainférence deoutput-128k-2025-02-19.

Utilisation de l'ordinateur mise à jour (version bêta)

Claude 3.7 Sonnet permet d'étendre les capacités d'utilisation des ordinateurs grâce à une nouvelle version de l'outil bêta d'utilisation des ordinateurs existant. Pour utiliser ces nouveaux outils, vous devez spécifier le paramètre anthropic-beta computer_20250212 d'inférence. L'ensemble des actions de retour possibles liées à l'utilisation d'un ordinateur comprend : faire défiler, attendre, cliquer avec le bouton gauche de la souris vers le bas, maintenir la touche enfoncée et cliquer trois fois. Il continuera à suivre le même format d'utilisation de l'outil dans les sorties.

Nouveaux outils définis par Anthropic

L'éditeur de texte et les outils bash n'étaient auparavant disponibles que dans le cadre de la computer-use-20241022 version bêta. Dans le cadre de Claude 3.7 Sonnet, ils seront désormais également disponibles sous forme d'outils autonomes définis par Anthropic :

Ni l'outil de remplacement de chaînes ni l'outil bash ne nécessitent de paramètre d'inférence anthropique bêta.

Demande et réponse

Le corps de la demande est transmis dans le body champ d'une demande à InvokeModelou InvokeModelWithResponseStream. La taille maximale de la charge utile que vous pouvez envoyer dans une demande est de 20 Mo.

Pour plus d'informations, consultez https://docs.anthropic.com/claude/reference/messages_post.

{
    "anthropic_version": "bedrock-2023-05-31", 
    "anthropic_beta": ["computer-use-2025-01-24"] 
    "max_tokens": int,
    "system": string,    
    "messages": [
        {
            "role": string,
            "content": [
                { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "content image bytes" } },
                { "type": "text", "text": "content text" }
      ]
        }
    ],
    "temperature": float,
    "top_p": float,
    "top_k": int,
    "tools": [
        {
                "type": "custom",
                "name": string,
                "description": string,
                "input_schema": json
            
        },
        { 
            "type": "computer_20250212",  
            "name": "computer", 
            "display_height_px": int,
            "display_width_px": int,
            "display_number": 0 int
        },
        { 
            "type": "bash_20250124", 
            "name": "bash"
        },
        { 
            "type": "text_editor_20250124",
            "name": "str_replace_editor"
        }
        
    ],
    "tool_choice": {
        "type" :  string,
        "name" : string,
    },
    

 
    "stop_sequences": [string]
}