*NOVO* Anthropic Claude 3.7 Soneto

Anthropic Claude 3.7 Sonnet é o primeiro modelo de Claude a oferecer step-by-step raciocínio, que Anthropic denominou “pensamento estendido”. With Claude 3.7 Sonnet, o uso do step-by-step raciocínio é opcional. Você pode escolher entre o pensamento padrão e o pensamento estendido para o raciocínio avançado. Junto com o pensamento ampliado, Claude 3.7 Sonnet permite até 128K tokens de saída por solicitação (até 64K tokens de saída são considerados geralmente disponíveis, mas saídas entre 64K e 128K estão na versão beta). Além disso, Anthropic aprimorou sua versão beta de uso do computador com suporte para novas ações.

With Claude 3.7 Sonnet, max_tokens (que inclui seu orçamento de pensamento quando o pensamento está ativado) é aplicado como um limite estrito. O sistema agora retornará um erro de validação se o prompt tokens + max_tokens exceder o tamanho da janela de contexto. Ao calcular o uso da janela de contexto com o pensamento ativado, há algumas considerações que você deve considerar:

Raciocínio (pensamento estendido)

Pensamento ampliado sobre Claude 3.7 Sonnet permite que chain-of-thought os recursos de raciocínio aumentem a precisão em tarefas complexas, ao mesmo tempo em que fornece transparência em seu processo de step-by-step pensamento antes de fornecer uma resposta final. Quando você ativa o pensamento estendido, Claude mostra seu processo de raciocínio por meio de blocos de thinking conteúdo na resposta. Esses thinking blocos representam o processo interno de solução de problemas de Claude usado para informar a resposta. Claude 3.7 SonnetO modo de raciocínio (ou pensamento) está desativado por padrão. Sempre que você ativar o thinking modo Claude, você precisará definir um orçamento para o número máximo de tokens que Claude pode usar para seu processo interno de raciocínio. Seu thinking budget_tokens deve sempre ser menor do max_tokens que o especificado em sua solicitação. Você pode ver blocos de pensamento redigidos aparecerem em sua saída quando a saída de raciocínio não atende aos padrões de segurança. Esse comportamento é esperado. O modelo ainda pode usar esse pensamento redigido para informar suas respostas e, ao mesmo tempo, manter as barreiras de segurança. Ao passar thinking e redacted_thinking bloquear de volta para a API em uma conversa de vários turnos, você deve fornecer o bloco completo e não modificado.

Os tokens de pensamento em sua resposta contam para a janela de contexto e são cobrados como tokens de saída. Como os tokens pensantes são tratados como tokens de saída normais, eles também contam para seu limite de token de cota de serviço por minuto (TPM). Em conversas de vários turnos, os blocos de pensamento associados às mensagens anteriores do assistente não são cobrados como tokens de entrada.

Trabalhando com o orçamento pensante:

O mínimo budget_tokens é 1.024 tokens. Anthropic sugere tentar pelo menos 4.000 tokens para obter um raciocínio mais abrangente e diferenciado.

Compatibilidade do raciocínio com outros parâmetros:

Raciocínio e cache imediato (pré-visualização limitada)

Inclusão do Thinking Block:

O cache é invalidado quando:

Limitações de persistência:

Uso de ferramentas com raciocínio

Ao passar os blocos thinking e redacted_thinking de volta para a API em uma conversa de vários turnos, você deve fornecer o bloco completo e não modificado. Isso requer a preservação dos blocos de pensamento durante o uso da ferramenta, por dois motivos:

Ao usar o pensamento com o uso de ferramentas, esteja ciente do seguinte padrão de comportamento:

A ordem normal de uso de uma ferramenta para conversar com o pensamento segue estas etapas:

Esse design permite que o assistente mostre seu processo de raciocínio antes de fazer solicitações de ferramentas, mas não repita o processo de raciocínio após receber os resultados da ferramenta.

With Anthropic Claude 3.7 Sonnet modelo, você pode especificar uma ferramenta que o modelo pode usar para responder a uma mensagem. Para obter mais informações, consulte Uso de ferramentas (chamada de função) no Anthropic Claude documentação.

Uso atualizado do computador (beta)

Com o uso do computador, Claude pode ajudá-lo a automatizar tarefas por meio de ações básicas da GUI.

A API de uso do computador oferece várias ferramentas predefinidas de uso do computador para você usar. É possível criar um prompt com sua solicitação, como “enviar um e-mail para Ben com as anotações da minha última reunião” e uma captura de tela (quando necessário). A resposta contém uma lista de ações de tool_use no formato JSON (por exemplo, scroll_down, left_button_press, screenshot). Seu código executa as ações do computador e fornece Claude com captura de tela mostrando as saídas (quando solicitado).

O Claude 3.7 Sonnet permite recursos expandidos de uso do computador com uma nova versão da ferramenta beta de uso do computador existente. Para usar essas novas ferramentas, você deve especificar o parâmetro de inferência beta antrópica “anthropic_beta”: ["computer-use-2025-01-24"]. O conjunto de ações de retorno possíveis do uso do computador inclui: rolar, esperar, pressionar o botão esquerdo do mouse, levantar o botão esquerdo do mouse, segurar a tecla e clicar três vezes. Ele continuará seguindo o mesmo formato de uso da ferramenta nas saídas.

Para obter mais informações, consulte Uso do computador (beta) no Anthropic documentação.

Esta é uma resposta de exemplo que pressupõe que a solicitação continha uma captura de tela da área de trabalho com um ícone do Firefox.

{
    "id": "msg_123",
    "type": "message",
    "role": "assistant",
    "model": "anthropic.claude-3-7-sonnet-20250219-v1:0",
    "anthropic_beta": ["computer-use-2025-01-24"] ,
    "content": [
        {
            "type": "text",
            "text": "I see the Firefox icon. Let me click on it and then navigate to a weather website."
        },
        {
            "type": "tool_use",
            "id": "toolu_123",
            "name": "computer",
            "input": {
                "action": "mouse_move",
                "coordinate": [
                    708,
                    736
                ]
            }
        },
        {
            "type": "tool_use",
            "id": "toolu_234",
            "name": "computer",
            "input": {
                "action": "left_click"
            }
        }
    ],
    "stop_reason": "tool_use",
    "stop_sequence": null,
    "usage": {
        "input_tokens": 3391,
        "output_tokens": 132
    }
}

Blocos de pensamento

Os blocos de pensamento representam Claude 3.7 Sonnetdo processo de pensamento interno.

InvokeModel Solicitação

{
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 24000,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 16000
    },
    "messages": [
        {
            "role": "user",
            "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?"
        }
    ]
}

InvokeModel Resposta

{
    "content": [
        {
            "type": "thinking",
            "thinking": "To approach this, let's think about what we know about prime numbers...",
            "signature": "eyJhbGciOiJFUzI1NiIsImtpZCI6ImtleS0xMjM0In0.eyJoYXNoIjoiYWJjMTIzIiwiaWF0IjoxNjE0NTM0NTY3fQ...."
        },
        {
            "type": "text",
            "text": "Yes, there are infinitely many prime numbers such that..."
        }
    ]
}

Para permitir que Claude resolva problemas com restrições internas mínimas, mantendo os padrões de segurança, a Anthropic definiu o seguinte:

Ocasionalmente, o raciocínio interno de Claude será sinalizado por sistemas de segurança automatizados. Quando isso ocorre, todo o bloco de pensamento é criptografado e devolvido a você como um bloco redacted_thinking. Esses blocos de pensamento redigidos são decifrados quando devolvidos ao modelo, permitindo que Claude continue sua resposta sem perder o contexto.

Aqui está um exemplo de resposta do InvokeModel mostrando blocos de pensamento normais e editados:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "redacted_thinking",
      "data": "EmwKAhgBEgy3va3pzix/LafPsn4aDFIT2Xlxh0L5L8rLVyIwxtE3rAFBa8cr3qpP..."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Você pode ver blocos de pensamento redigidos aparecerem em sua saída quando a saída de raciocínio não atende aos padrões de segurança. Esse comportamento é esperado. O modelo ainda pode usar esse pensamento redigido para informar suas respostas e, ao mesmo tempo, manter as barreiras de segurança. Ao passar os blocos thinking e redacted_thinking de volta para a API em uma conversa de vários turnos, você deve fornecer o bloco completo e não modificado.

InvokeModelWithResponseStream

Quando o streaming estiver ativado, você receberá conteúdo inteligente dos eventos thinking_delta. Veja como lidar com o streaming pensando:

Solicitação

{
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 24000,
    "thinking": {
        "type": "enabled",
        "budget_tokens": 16000
    },
    "messages": [
        {
            "role": "user",
            "content": "What is 27 * 453?"
        }
    ]
}

Resposta

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-3-7-sonnet-20250219", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "Let me solve this step by step:\n\n1. First break down 27 * 453"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n2. 453 = 400 + 50 + 3"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "27 * 453 = 12,231"}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

Comprimento de saída estendido (beta)

O Claude 3.7 Sonnet pode produzir respostas substancialmente mais longas do que os modelos Claude anteriores, com suporte para até 128K tokens de saída (beta). Esse comprimento de saída estendido pode ser usado com os novos recursos de raciocínio. Esse recurso pode ser ativado passando um parâmetro de anthropic-beta inferência deoutput-128k-2025-02-19.

Uso atualizado do computador (beta)

O Claude 3.7 Sonnet permite recursos expandidos de uso do computador com uma nova versão da ferramenta beta de uso do computador existente. Para usar essas novas ferramentas, você deve especificar o parâmetro computer_20250212 de anthropic-beta inferência. O conjunto de ações de retorno possíveis do uso do computador inclui: rolar, esperar, pressionar o botão esquerdo do mouse, levantar o botão esquerdo do mouse, segurar a tecla e clicar três vezes. Ele continuará seguindo o mesmo formato de uso da ferramenta nas saídas.

Novas ferramentas antrópicas definidas

Anteriormente, o editor de texto e as ferramentas bash estavam disponíveis apenas como parte da computer-use-20241022 versão beta. Como parte do Claude 3.7 Sonnet, eles agora também estarão disponíveis como ferramentas autônomas definidas pela Anthropic:

Nem a ferramenta de substituição de caracteres nem a ferramenta bash requerem um parâmetro de inferência beta antrópica.

Solicitação e reposta

O corpo da solicitação é passado no body campo de uma solicitação para InvokeModelou InvokeModelWithResponseStream. O tamanho máximo da carga útil que você pode enviar em uma solicitação é de 20 MB.

Para obter mais informações, consulte https://docs.anthropic.com/claude/reference/messages_post.

{
    "anthropic_version": "bedrock-2023-05-31", 
    "anthropic_beta": ["computer-use-2025-01-24"] 
    "max_tokens": int,
    "system": string,    
    "messages": [
        {
            "role": string,
            "content": [
                { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "content image bytes" } },
                { "type": "text", "text": "content text" }
      ]
        }
    ],
    "temperature": float,
    "top_p": float,
    "top_k": int,
    "tools": [
        {
                "type": "custom",
                "name": string,
                "description": string,
                "input_schema": json
            
        },
        { 
            "type": "computer_20250212",  
            "name": "computer", 
            "display_height_px": int,
            "display_width_px": int,
            "display_number": 0 int
        },
        { 
            "type": "bash_20250124", 
            "name": "bash"
        },
        { 
            "type": "text_editor_20250124",
            "name": "str_replace_editor"
        }
        
    ],
    "tool_choice": {
        "type" :  string,
        "name" : string,
    },
    

 
    "stop_sequences": [string]
}