Matemática discreta aplicada ao computador
Aritmética computacional para iniciantes é muito mais simples do que a maioria dos materiais sugere no início, mas também é mais difícil de dominar do que parece à primeira vista. A maior parte do problema não está nos conceitos em si, mas na forma como os computadores representam números. Um float de 64 bits não se comporta exatamente como você esperaria quando faz uma conta com valores muito pequenos ou muito grandes, e isso gera erros que passam despercebidos por muito tempo. Ao trabalhar com bibliotecas como NumPy ou BigDecimal, eu me deparei recentemente com um caso onde uma soma acumulada em ponto flutuante produzia um resultado 0,0001 diferente do esperado ao processar 50 mil entradas. O cálculo parecia correto isoladamente, mas o acúmulo de erros de arredondamento tornava o resultado final inutilizável para a aplicação. A solução foi usar compensação de Kahan, que funciona praticamente assim: a cada adição, você rastreia o erro perdido e o soma de volta na próxima operação. Em vez de fazer total += valor, você separa o que foi perdido no arredondamento e adiciona esse resíduo no passo seguinte. Muda apenas três linhas de código e elimina a maior parte dos erros acumulados.
Por que a aritmética computacional para iniciantes não começa com fórmulas bonitas
A representação binária de números reais segue o padrão IEEE 754. Ele divide o número em três partes: bit de sinal, expoente e mantissa. Isso permite representar números muito grandes e muito pequenos com uma precisão fixa de aproximadamente 15 dígitos decimais para floats de dupla precisão. O problema é que esse espaço é finito. Entre dois números consecutivos representáveis existe uma lacuna, e quando o resultado de uma operação cai no meio dessa lacuna, o computador arredonda para o valor mais próximo. Esse arredondamento é o que causa a maioria dos problemas práticos. O primeiro erro que iniciantes cometem é confiar cegamente em comparações de igualdade entre números de ponto flutuante. Comparar diretamente se dois floats são iguais raramente funciona no mundo real. A prática correta é usar uma tolerância, um epsilon, para decidir se dois valores são "suficientemente próximos". Um epsilon de 1e-9 funciona na maioria dos casos, mas para cálculos financeiros o cenário muda completamente, porque ali nenhum arredondamento é aceitável.
Tipos de dados e quando usar cada um
O tipo int retorna resultados exatos desde que a operação não transborde o tamanho máximo do tipo. Um int de 64 bits aguenta valores até cerca de 9,2 quintilhões antes de estourar. Soma, subtração e multiplicação funcionam de forma previsível dentro desse limite. Divisão inteira corta a parte fracionária, o que em muitos casos não é o que você quer. Float de precisão simples (32 bits) oferece cerca de 7 dígitos decimais de precisão. É útil para gráficos e simulações onde o erro mínimo não impacta o resultado final, mas perigoso em qualquer contexto onde a exatidão numérica importa. Float de dupla precisão (64 bits) é o padrão da maioria das linguagens e oferece 15 dígitos decimais, o que resolve a maior parte dos problemas do dia a dia.
Quando o dinheiro está envolvido, a escolha é quase sempre BigDecimal ou Decimal. Essas bibliotecas representam números como uma sequência exata de dígitos decimais, sem o problema do arredondamento binário. Se você já viu o clássico problema de 0,1 + 0,2 não dar exatamente 0,3 em código, esse é o cenário típico onde BigDecimal resolve. A desvantagem é velocidade: operações com BigDecimal são significativamente mais lentas do que com floats, geralmente cerca de dez vezes mais devagar embenchmarks comuns, mas a precisão é garantida.
👉 Clique no botão abaixo para saber mais sobre o assunto!
Operações que parecem inofensivas e quebram coisas
Divisão seguida de multiplicação pelo mesmo divisor não retorna exatamente ao valor original. Isso parece contraintuitivo, mas acontece porque cada operação sofre seu próprio arredondamento independente. No meu trabalho, isso causou um bug onde um cálculo de média que deveria ser idempotente produzia resultados levemente diferentes a cada iteração. A correção foi evitar a divisão intermediária e reter os valores acumulados até o passo final. Subtração de números muito próximos gera cancelamento catastrófico. Quando dois valores quase iguais são subtraídos, os dígitos significativos somem e o resultado fica dominado pelo ruído de arredondamento. Isso aparece frequentemente em fórmulas que calculam diferenças de grandezas físicas. Um jeito prático de contornar é reformular a expressão algébricamente antes de executar o código, convertendo subtrações perigosas em formas que preservam dígitos significativos.
Overflow em inteiros não gera exceção automática em muitas linguagens. O valor simplesmente vira negativo e continua rodando. Esse comportamento silencioso é um dos mais traiçoeiros porque passa direto pela revisão de código. Sempre verifique se há possibilidade de exceder o limite do tipo antes de acumular valores, especialmente quando os números vêm de entrada do usuário.
Como começar na prática
Comece escrevendo scripts simples que testam o comportamento dos números. Pegue um float e some ele com 0,1 várias vezes. Veja quantas repetições são necessárias para o resultado se desviar do esperado. Esse exercício mostra de forma concreta onde a imprecisão entra, muito mais do que qualquer explicação teórica. Leva cerca de 10 minutos para rodar e fica gravado. Instale uma biblioteca de precisão arbitrária e use ela em pelo menos um projeto pequeno. Python com decimal, Ccom decimal, Java com BigDecimal. A curva de aprendizado é pequena: a interface é similar à aritmética normal, só que com métodos em vez de operadores em alguns casos. A diferença de performance só se torna relevante quando você executa milhões de operações em loop fechado.
Para quem está entrando no tema agora, o caminho mais direto é estudar primeiro a teoria da representação numérica, depois praticar com casos reais de erro. Livros como Computer Arithmetic: Algorithms and Hardware Designs ou o documento original IEEE 754 são densos, mas referências sólidas. Para algo mais acessível, tutoriais focados em floating point arithmetic com exemplos em Python e C são suficientes para construir uma base funcional em algumas semanas. O campo da aritmética computacional para iniciantes cresce constantemente com novas recomendações de bibliotecas e práticas. A escolha da representação numérica errada pode custar horas de depuração e, em sistemas críticos, dinheiro real. A melhor defesa é entender o que acontece nos bastidores de cada operação antes de escrever a primeira linha de código que depende de precisão.
