O que é IPsec

IPsec (Internet Protocol Security) é um conjunto de protocolos para proteger tráfego que usa o protocolo IP. Na prática, ele cria “camadas” de proteção sobre pacotes IP, podendo oferecer autenticidade (verificar que o tráfego veio de um par esperado) e confidencialidade (criptografar o conteúdo), além de integridade para reduzir a chance de adulteração.

É importante entender que IPsec não é um único “programa”, e sim uma família de mecanismos. Dois conceitos costumam aparecer em qualquer explicação:

  • Como se protege o pacote: define-se o que será aplicado ao tráfego (por exemplo, autenticar e/ou criptografar pacotes).
  • Como se gerencia o acordo e as chaves: é preciso haver um método para estabelecer parâmetros criptográficos entre os endpoints.

Um modelo simples: “proteger pacotes” com parâmetros por sessão

Uma forma didática de enxergar IPsec é como proteção de pacotes baseada em parâmetros negociados entre as partes. Esses parâmetros normalmente incluem chaves e escolhas de algoritmos, e são usados para criar o tratamento criptográfico do tráfego.

Mesmo sem entrar em detalhes de implementação, o fluxo conceitual costuma ser:

  1. Identificar o tráfego que deve ser protegido (ex.: “entre estes endereços”, “para estas redes”, ou “para este tipo de comunicação”).
  2. Negociar/estabelecer parâmetros de proteção e chaves com o par remoto.
  3. Aplicar proteção aos pacotes IP de acordo com as regras e os parâmetros vigentes.
  4. Manter e rotacionar (quando aplicável) as sessões/parâmetros por tempo ou por eventos, para reduzir exposição.

Esse modelo ajuda a explicar por que muita gente interpreta “IPsec funciona ou não” na forma de: se a negociação falha, ou se as regras de tráfego não batem, o túnel/fluxo não se estabelece do jeito esperado.

Componentes e tipos comuns de proteção

Em termos práticos, é comum encontrar duas grandes ideias no funcionamento:

Proteção no nível do tráfego IP

IPsec pode proteger comunicações de maneiras diferentes, dependendo de como o tráfego é encapsulado/tratado.

  • Modo transporte: tende a proteger principalmente as “partes” do tráfego relacionadas à comunicação, sem encapsular tudo para um novo envelope IP.
  • Modo túnel: tende a encapsular o tráfego em um novo formato para que o “envelope” também seja parte do que está protegido, o que costuma ser útil quando há roteamento entre redes.

A consequência direta para o entendimento é: o que é protegido e como o tráfego trafega na rede muda entre os modos, então o diagnóstico também muda.

Estabelecimento de parâmetros e autenticação

Para que criptografia funcione de forma coerente, os endpoints precisam alinhar:

  • quais algoritmos usar,
  • como autenticar a contraparte,
  • e quais chaves/valores aplicar.

Quando esse alinhamento não ocorre (por exemplo, incompatibilidade de algoritmos, chaves não aceitas ou métodos de autenticação diferentes), a proteção pode não ser estabelecida.

Diferenças e limitações que mais aparecem

IPsec pode ser muito efetivo, mas tem limitações típicas em cenários reais. As mais comuns para quem precisa “colocar para funcionar” ou pelo menos entender o comportamento são:

1) Configuração de escopo (o “o que” será protegido)

Se as regras de política (quais IPs/fluxos entram) não casam com o tráfego real, pode parecer que “IPsec falhou”, quando na verdade ele simplesmente não está aplicado ao fluxo desejado.

2) Compatibilidade entre endpoints

Como IPsec depende de escolhas criptográficas e de modos de operação, endpoints precisam ser compatíveis. Incompatibilidades podem ocorrer por:

  • conjuntos de algoritmos,
  • versões/recursos suportados,
  • exigências de autenticação.

3) NAT e endereçamento intermediário

Em redes com tradução de endereços (NAT) e dispositivos intermediários, o encapsulamento e o tratamento criptográfico podem interagir de forma inesperada. Mesmo quando a criptografia está correta, políticas de firewall e regras de passagem podem impedir o tráfego.

4) Firewall e regras de passagem

IPsec costuma exigir que determinados fluxos sejam permitidos. Se o firewall bloqueia o tráfego necessário para a negociação ou para o transporte protegido, a conexão não se estabelece ou cai em tentativas.

5) Diagnóstico: “protegido” não significa “apto”

IPsec pode proteger dados, mas não garante automaticamente:

  • que o roteamento esteja correto,
  • que não haja bloqueios por políticas locais,
  • ou que aplicações terão o mesmo comportamento esperado.

Verificações práticas para conferir se está funcionando

Para que o leitor consiga checar de forma independente (sem depender de “achismos”), vale focar em verificações observáveis:

A) Confirme se a política cobre o tráfego real

Antes de concluir que há problema criptográfico, verifique se as regras de “quais fluxos entram no IPsec” realmente cobrem os endereços/rotas envolvidos. Um erro comum é proteger “rede A” para “rede B”, mas o tráfego real ir por outros endereços (ou rotas).

B) Cheque o acordo: negociação e autenticação

Observe se o endpoint remoto é alcançável e se existe evidência de negociação/estabelecimento de parâmetros. Se a negociação não ocorre, a proteção não será aplicada.

C) Verifique o caminho de rede e bloqueios

Confirme se existem regras de firewall permitindo o tráfego necessário (tanto o que inicia/negocia quanto o que transporta o fluxo protegido). Se houver NAT ou middleboxes, verifique se a configuração trata esse cenário de forma coerente.

D) Compare modos e expectativas

Se um lado espera modo transporte e o outro opera em modo túnel (ou configurações equivalentes), ou se o encapsulamento não está como esperado, o tráfego pode não bater nas políticas e ser descartado.

E) Valide sintomas comuns de incompatibilidade

Quando há incompatibilidade de algoritmos ou métodos de autenticação, costuma haver falhas recorrentes de estabelecimento. Mesmo sem “entrar no log”, o padrão de tentativa e falha ajuda a diferenciar problema de rede (alcance) de problema de alinhamento criptográfico.

Quando IPsec é a escolha certa (e quando pode ser difícil)

IPsec tende a ser adequado quando você precisa de proteção no nível de IP com mecanismos que permitam controle de políticas e autenticação entre partes. Porém, pode ser mais difícil em ambientes onde:

  • o tráfego passa por vários intermediários com comportamento complexo,
  • há muita dependência de NAT e regras de rede específicas,
  • ou existe heterogeneidade grande de endpoints.

Além disso, IPsec não elimina a necessidade de governança de rede: endereçamento, roteamento, políticas locais e compatibilidade ainda são determinantes.

Se a sua meta é apenas “criptografar um fluxo” sem controlar políticas e escopo, talvez você precise avaliar alternativas — mas aqui o ponto principal é: o que torna IPsec efetivo é a combinação de proteção e uma política bem encaixada ao tráfego real.