Articles of precisión

Representando números enteros en dobles

¿Puede un doble (de un número dado de bytes, con un equilibrio de mantisa / exponente razonable) mantener con precisión el rango de un entero sin signo de la mitad de ese número de bytes? Por ejemplo, ¿puede un doble de ocho bytes mantener con precisión el rango de números de un byte de cuatro […]

¿Qué significa “real * 8”?

El manual de un progtwig escrito en Fortran 90 dice: “Todas las variables y parámetros reales se especifican en precisión de 64 bits (es decir, real*8 )”. Según Wikipedia , la precisión simple corresponde a la precisión de 32 bits, mientras que la precisión doble corresponde a la precisión de 64 bits, por lo que […]

Almacenamiento exacto de enteros grandes

En el software R a <- 123456789123456789123456789 sprintf("%27f",a) #[1] "123456789123456791337762816.000000" Recibí la respuesta incorrecta. Quiero a valor exacto ¿Por qué el sistema muestra el valor incorrecto de a ?

¿Cuál es la precisión del doble largo en C ++?

¿Alguien sabe cómo averiguar la precisión del long double en una plataforma específica? Parece que pierdo precisión después de 17 dígitos decimales, que es lo mismo que cuando uso double . Esperaría obtener más, ya que el double está representado con 8 bytes en mi plataforma, mientras que el long double es de 12 bytes. […]

¿Cuál es la biblioteca de número grande (precisión arbitraria) estándar (o mejor soportada) para Lua?

Estoy trabajando con grandes números que no puedo completar. Utilizando la biblioteca matemática estándar de Lua, parece que no hay una manera conveniente de preservar la precisión más allá de un límite interno. También veo que hay varias bibliotecas que se pueden cargar para trabajar con grandes números: http://oss.digirati.com.br/luabignum/ http://www.tc.umn.edu/~ringx004/mapm-main.html http://lua-users.org/lists/lua-l/2002-02/msg00312.html (podría ser idéntico al […]

Decimales de precisión arbitraria en C #

Posibles duplicados: Enteros grandes en C # C # dígitos decimales significativos sin límite (precisión arbitraria) sin java Leí la pregunta en decimales de precisión arbitrarios en C #? pero no tengo la biblioteca J #. Necesito una biblioteca para decimales de precisión arbitrarios con C #.

¿Cómo ‘cout’ el número correcto de lugares decimales de un valor doble?

Necesito ayuda para mantener la precisión de un double . Si asigno un literal a un doble, el valor real se truncó. int main() { double x = 7.40200133400; std::cout << x << "\n"; } Para el fragmento de código anterior, la salida fue 7.402 ¿Hay alguna manera de prevenir este tipo de truncamiento? ¿O […]

problema de punto flotante en R?

Posible duplicado: ¿Por qué estos números no son iguales? La expresión siguiente, que evalúa a 0.1, se considera mayor que 0.1. > round(1740/600,0) – 1740/600 [1] 0.1 > (round(1740/600,0) – 1740/600) (round(1740/600,0) – 1740/600) <= 0.1000000000000000000000000000000000000001 [1] TRUE Pensando que el problema podría deberse al redondeo, intenté esto con el mismo resultado: > 3 – […]

¿Cuántos números dobles hay entre 0.0 y 1.0?

Esto es algo que he tenido en mente durante años, pero nunca me tomé el tiempo para preguntar antes. Muchos (pseudo) generadores de números aleatorios generan un número aleatorio entre 0.0 y 1.0. Matemáticamente hay números infinitos en este rango, pero el double es un número de punto flotante, y por lo tanto tiene una […]

Doble precisión – decimales

Por lo que he leído, un valor de tipo de datos doble tiene una precisión aproximada de 15 decimales. Sin embargo, cuando uso un número cuya representación decimal se repite, como 1.0 / 7.0, encuentro que la variable tiene el valor de 0.14285714285714285, que es de 17 lugares (a través del depurador). Me gustaría saber […]