Precisão de coordenadas geográficas: tabela em metros
22 de setembro de 2009
6min de leitura
22 de setembro de 2009
6min de leitura
Resumo rápido
Artigo de Carlos Eduardo Falconi, publicado em setembro de 2009. Resumo, tabelas e perguntas frequentes acrescentados pela Redação do Piloto Policial em novembro de 2026.
É importante que todo piloto saiba a precisão necessária ao seu planejamento, a fim de escolher o tipo correto de notação das coordenadas geográficas. Veremos a seguir alguns conceitos básicos para se definir esta precisão.
A Terra, para efeito de estudos, pode ser considerada uma esfera perfeita, embora se saiba que tem um achatamento nos polos de aproximadamente 40 km. O diâmetro da Terra, segundo dados oficiais da ICAO (Organização da Aviação Civil Internacional), é de 12.733,4 quilômetros no Equador. Assim, para se achar seu raio, basta dividir o diâmetro por 2, obtendo-se um raio de 6.366,7 quilômetros.
Pela teoria matemática, o perímetro (o comprimento) de um círculo é calculado pela fórmula 2 x pi x raio; assim, temos: perímetro = 2 x 3,1416 x 6.366,7 = 40.003,2 km.
Dividindo-se o perímetro pelos 360° da circunferência da Terra, chega-se à conclusão de que cada grau de curvatura terrestre tem 111,12 quilômetros.
Como cada grau tem 60 minutos, dividindo-se este último valor por 60 obtemos o valor de 1,852 quilômetros.
A este valor foi dado o nome de milha náutica (NM).
Assim, fica fácil perceber que 1 NM é igual a 1 minuto da circunferência terrestre. Do mesmo modo, 60 NM equivalem a 1 grau da circunferência terrestre.
Sabendo-se a relação entre graus de arco e medidas de distância, como visto anteriormente, utilizando regras de três simples podemos abstrair a seguinte tabela:
ARCO | NM | Metros |
1 minuto | 1 | 1.852 |
1 segundo | 0,017 | 30,87 |
Podemos calcular agora a diferença entre duas latitudes, para saber sua precisão.
Por exemplo, qual a diferença de precisão entre as duas coordenadas: 03º 20’ 16,44” N e 03º 20’ 16” N.
Basta calcular, no caso, a DLA (diferença de latitude) entre elas, ou seja: 0,44 segundos.
Assim, 0,44 x 30,87 metros = 13,58 metros.
Esta é a diferença entre usar a casa dos centésimos no segundo ou arredondar este valor.
Como o arredondamento máximo na casa centesimal do segundo é de 0,5, a maior diferença seria 0,5 x 30,87, ou seja, 15,44 metros.
Caso a coordenada seja utilizada para planejar um voo entre duas localidades, este valor não faz diferença; no entanto, caso se pretenda uma aproximação para o alinhamento de uma pista, por exemplo, esta precisão se faz necessária, pois a aproximação corre o risco de ser feita 15 metros à direita ou à esquerda da pista.
Da mesma maneira, em aplicações mais específicas, até mesmo a casa centesimal não resolve o problema, como no caso de aplicações de engenharia civil ou militares.
Assim, podemos calcular, por exemplo, quantas casas decimais de segundos seriam necessárias para se ter a precisão de 1 cm.
Se 1 segundo = 30,87 metros, transformando metros em centímetros, teremos que 1 segundo = 3.086,67 cm.
Dividindo-se 1 metro por este valor, teremos o valor de 1 segundo de arco igual a 0,000323974 segundos, ou seja, seriam necessárias 9 casas decimais na indicação do segundo para se conseguir medir valores em centímetros.
A NASA chega a utilizar equipamentos de GPS com precisão de 20 casas decimais, dando precisão milimétrica às coordenadas geográficas. Obviamente, utilizando sistemas extremamente caros para conseguir esta precisão em velocidade adequada.
Os modernos equipamentos GPS que integram as aeronaves têm precisão, geralmente, de 2 ou 3 casas decimais no segundo, o que equivale à precisão de 15 metros ou 3 metros.
Muito cuidado ao utilizar qualquer tipo de GPS para a navegação aérea. Sempre verifique que tipo de precisão este equipamento pode oferecer.
As tabelas usam a mesma base do artigo: 1 minuto de arco equivale a 1 milha náutica, que é definida internacionalmente como exatamente 1.852 metros. Os valores são para latitude. O erro máximo de arredondamento é a metade do valor da última casa usada, como o autor mostra no exemplo acima.
| Última casa usada | Exemplo | Vale cerca de |
|---|---|---|
| 1 segundo | 23°37’51″S | 30,9 m |
| 0,1 segundo | 23°37’51,4″S | 3,1 m |
| 0,01 segundo | 23°37’51,42″S | 31 cm |
| 0,001 segundo | 23°37’51,423″S | 3 cm |
| Última casa usada | Exemplo | Vale cerca de |
|---|---|---|
| 0,1 minuto | 23°37,9’S | 185 m |
| 0,01 minuto | 23°37,86’S | 18,5 m |
| 0,001 minuto | 23°37,857’S | 1,9 m |
| Última casa usada | Exemplo | Vale cerca de |
|---|---|---|
| 0,01° | -23,63 | 1,1 km |
| 0,001° | -23,631 | 111 m |
| 0,0001° | -23,6310 | 11 m |
| 0,00001° | -23,63095 | 1,1 m |
| 0,000001° | -23,630951 | 11 cm |
Os meridianos se aproximam em direção aos polos. Por isso, 1 segundo de longitude vale 30,9 m multiplicado pelo cosseno da latitude:
| Local | Latitude aproximada | 1 segundo de longitude |
|---|---|---|
| Equador | 0° | 30,9 m |
| Manaus | 3°S | 30,8 m |
| Brasília | 15,8°S | 29,7 m |
| São Paulo | 23,5°S | 28,3 m |
| Porto Alegre | 30°S | 26,7 m |
Em latitude, cerca de 30,9 m em qualquer lugar do planeta. Em longitude, 30,9 m no Equador, diminuindo com a latitude: cerca de 28,3 m em São Paulo e 26,7 m em Porto Alegre.
Para planejamento de voo, 4 casas (cerca de 11 m) costumam bastar. Para marcar um ponto de pouso, uma ocorrência ou um alvo com erro de cerca de 1 metro, use 5 casas. Mais de 6 casas só faz sentido em topografia e engenharia.
Não. As casas decimais definem a precisão da notação, ou seja, o tamanho do menor passo que a coordenada consegue representar. A exatidão da posição depende do receptor, da geometria dos satélites e de obstáculos como prédios e relevo.
Some os graus, os minutos divididos por 60 e os segundos divididos por 3.600. Exemplo: 23°37’51,42″ = 23 + 37/60 + 51,42/3.600 = 23,63095°. No Hemisfério Sul e a oeste de Greenwich, o valor fica negativo (-23,63095). O passo a passo completo está no artigo Navegação aérea: como converter coordenadas geográficas.
Porque a milha náutica nasceu exatamente dessa relação: a circunferência da Terra (cerca de 40.000 km) dividida em 360 graus de 60 minutos cada dá cerca de 1.852 m por minuto de arco, valor adotado como definição da milha náutica.