[firebase-br] Qual melhor usar Numeric ou Double Precision
Luciano franca
luapfirebird em yahoo.com.br
Qui Jul 7 15:01:30 -03 2016
Então está explicado Carlos realmente depois de 14 digitos exemplo
Fiz testes aqui
Até esse numero vai bem 999.999.999.999.99depois disso ele vai arredondar para 100.000.000.000.000
e nas casas decimais mesmo coisa o problema só ocorre depois dos 14 digitos.
Agora o colega sabe me dizer se o problema é só esse com numero extremamente grandes ? pois eu só uso Domain Numeric(10, 6) quer dizer que no total nunca vou usar mais que os 14 digitos.
Assim acho que não terei problemas com Double
Em Quinta-feira, 7 de Julho de 2016 9:51, Luciano franca <luapfirebird em yahoo.com.br> escreveu:
Então está explicado Carlos realmente depois de 14 digitos exemplo
Fiz testes aqui
Até esse numero vai bem 999.999.999.999.99depois disso ele vai arredondar para 100.000.000.000.000
e nas casas decimais mesmo coisa o problema só ocorre depois dos 14 digitos.
Agora o colega sabe me dizer se o problema é só esse com numero extremamente grandes ? pois eu só uso Domain Numeric(10, 6) quer dizer que no total nunca vou usar mais que os 14 digitos.
Assim acho que não terei problemas com Double
Em Quinta-feira, 7 de Julho de 2016 9:12, Carlos H. Cantu <listas em warmboot.com.br> escreveu:
De cabeça, o double começará a apresentar imprecisão quando o número
tiver mais de 14 dígitos (no total, não só depois da virgula).
[]s
Carlos H. Cantu
eBook Guia de Migração para o FB 3 - www.firebase.com.br/guiafb3.php
www.FireBase.com.br - www.firebirdnews.org - blog.firebase.com.br
Lf> Sim já vi vários relatos na internet sobre isso porém na pratica meus teste me revelaram isso
Lf> o campo do tipo Float sim tem esse problema porém o Double Precision não tenho visto isso.
Lf> Valor Double Precision Float
Lf> "10,000059" "10,000059" "10,0000591278076"
Lf> "999,199" "999,199" "999,198974609375"
Lf> "999999999,199" '999999999,199000001' "1000000000"
Lf> Qual outra situação de problema pois até agora em teste que
Lf> tenho feito não tenho visto essa impressão numérica.
Lf> Grato.
Lf> Em Quarta-feira, 6 de Julho de 2016 22:32, Carlos H. Cantu
Lf> <listas em warmboot.com.br> escreveu:
Lf>
Lf> O problema do double precision é que ele não garante a precisão dos
Lf> números armazenados. Pesquisa no site da FireBase para saber mais.
Lf> []s
Lf> Carlos H. Cantu
Lf> eBook Guia de Migração para o FB 3 - www.firebase.com.br/guiafb3.php
Lf> www.FireBase.com.br - www.firebirdnews.org - blog.firebase.com.br
Lf>> Pessoal estou numa duvida cruel, antes do FB 3 eu tinha uma
Lf>> rotina que alterava meus Domains pelas tabelas do sistema do
Lf>> Firebird agora com o FB 3 não consigo mais
Lf>> assim vou ter que deixar fixo no sistema algo como "Numeric(10,
Lf>> 6)" porque meu sistema permite trabalhar até com 6 casas decimais
Lf>> porem estou tendo problemas com alguns relatórios onde está me
Lf>> dando o erro "Integer overflow. The result of an integer
Lf>> operation caused the most significant bit of the result to carry."
Lf>> Achei esse Link "http://www.firebirdfaq.org/faq207/" que me
Lf>> explica o motivo porém vou ter problemas assim estava pensando em
Lf>> trabalhar com "Double Precision" já fiz alguns testes e parece que
Lf>> ele funciona bem, agora a questão é depois conforme for usando
Lf>> aparecer algum problema no cliente depois ai para voltar terei problemas.
Lf>> Pelos meus testes o Tipo Float é bem problemático porem o "Double Precision" é muito bom.
Lf>> Alguns exemplos de valores e resultado nos campos para comparativos
Lf>> Valor Double Precision Float
Lf>> "10,000059" "10,000059" "10,0000591278076"
Lf>> "999,199" "999,199" "999,198974609375"
Lf>> "999999999,199" '999999999,199000001' "1000000000"
Lf>> Algum colega usa esse tipo de campo Double ? eu tenho que
Lf>> usar varias casas decimais no meu caso eu Deixo Numeric(10, 6)
Lf>> porém na configuração do sistema se o cliente colocar 2 casas
Lf>> decimais eu travo no sistema para ele não digitar mais que duas
Lf>> casas decimais e ainda coloco um FormatFloat em todos os
Lf>> relatórios para 2 casas decimais.
Lf>> Grato a todos.
Lf>> ______________________________________________
Lf>> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Lf>> Para saber como gerenciar/excluir seu cadastro na lista, use:
Lf>> http://www.firebase.com.br/fb/artigo.php?id=1107
Lf>> Para consultar mensagens antigas:
Lf>> http://www.firebase.com.br/pesquisa_lista.html
Lf> ______________________________________________
Lf> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Lf> Para saber como gerenciar/excluir seu cadastro na lista, use:
Lf> http://www.firebase.com.br/fb/artigo.php?id=1107
Lf> Para consultar mensagens antigas:
Lf> http://www.firebase.com.br/pesquisa_lista.html
Lf>
______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Para saber como gerenciar/excluir seu cadastro na lista, use: http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://www.firebase.com.br/pesquisa_lista.html
Mais detalhes sobre a lista de discussão lista