[firebase-br] Resultado de conta diferente apenas no firebird, porquê?
Gladiston Santana
gladiston em vidy.com.br
Qui Out 29 16:53:56 -03 2015
Valeu, eu estava quebrando a cabeça com isso.
Então todos os membros de uma equação devem ter a mesma precisão.
Essa forma de calcular segue alguma orientação geral ou é algo
caracteristico do Firebird?
Afinal, tentei vários programas e apenas o Firebird resultou diferente.
Em 29 de outubro de 2015 16:32, Carlos H. Cantu <listas em warmboot.com.br>
escreveu:
> A precisão (casas decimais) do resultado de divisão no firebird será
> sempre a soma da precisão dos membros da formula.... no seu caso,
> 2183.48 (2) e 37.25 (2) o resultado terá 2+2 = 4 casas decimais. Se
> quiser mais, use um cast, ou aumente as decimais de algum membro, ex:
>
> (2183.48/(1-(37.25/100.00)))
>
> dará 6 casas decimais no resultado (2 + 2 + 2)
>
> []s
> Carlos H. Cantu
> www.FireBase.com.br - www.firebirdnews.org
> www.warmboot.com.br - blog.firebase.com.br
>
> GS> Pessoal é o seguinte, ao executar a seguinte sentença matemática:
> GS> select (2183.48/(1-(37.25/100))) as valor from rdb$database
>
> GS> No Firebird, o resultado que obtenho é sempre o mesmo, isto é,
> 3465,8412
> GS> Mas em qualquer lugar que vou, já tentei Excel, LibreOffice Calc,
> Microsoft
> GS> SQL Server a té mesmo o Google, o valor correto é 3479,6494023904.
>
> GS> Debugando porque isso acontece descobri que o problema está em
> GS> (1-(37.25/100)) na sentença, se eu trocá-la por (1-0.3725) então passa
> a
> GS> corresponder corretamente.
>
> GS> Eu gostaria de entender porque isso aconteceu para talvez olhar
> cálculos
> GS> passados.
>
> GS> []´s a todos
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas:
> http://www.firebase.com.br/pesquisa_lista.html
>
--
--
B em B@BU iB em M@B. B em MBBO MBBMMB em B@BZLr E@@@@i r@@@BU
vB em M@O E em B@Bu BBBM em 0 G em MMM@N8MBB em ZP5r B em B@k 8B@@O
OB em B@q 2 em BBBM B em B@BO BB em B@B,.:,7B em B@@L uB em B@, OB em B@.
,@@@B@ @BBB@, @BBB em 8 M em M@@@ PB em B@B @@@BN iB em B@L
U em B@B2 LB em B@X B em MBBO MBBM em B i em BBB@. 7 em B@Bi B em B@E
B@@@BiM em M@B. @BBM em G M em MMB@ v@@M em B, G em B@Z v em B@B.
7B em B@O em B@B5 B em B@B8 BBBM em B Z@@@B@ iB@@@2 em B@Br
NB em M@B em B8 @B em B@8 M em B@B em i:i75 em B@B em r E@@B em B@Bq
. em B@@@B@: B em B@B@ @B@@@B em B@B@@@ME; .BB em MBB@
55.ANOS OMOGBS PBZGGOOMOO117, 7 em BBB@r
==============================================r@@@@F=====
Gladiston Santana 8 em B@B,
Supervisor de TI G em B@B7
Tel.:+551147873122 R:228 :@B em B0
Grupo VIDY - SGQ ISO9001 - 55 ANOS @B em B@.
Visite nosso site: www·vidy·com·br BB@@@u
Visite também : www·expolabor·com·br GB em B@N
Mais detalhes sobre a lista de discussão lista