Articles of doble

Establecer la precisión de std :: to_string al convertir los valores de coma flotante

En C ++ 11, std :: to_string se establece de manera predeterminada en 6 lugares decimales cuando se le da un valor de entrada de tipo float o double . ¿Cuál es el método recomendado o más elegante para cambiar esta precisión?

Convierte doble a BigDecimal y establece la precisión BigDecimal

En Java, quiero tomar un doble valor y convertirlo en un BigDecimal e imprimir su valor String con una cierta precisión. import java.math.BigDecimal; public class Main { public static void main(String[] args) { double d=-.00012; System.out.println(d+””); //This prints -1.2E-4 double c=47.48000; BigDecimal b = new BigDecimal(c); System.out.println(b.toString()); //This prints 47.47999999999999687361196265555918216705322265625 } } Imprime esta gran […]

Pérdida de precisión – int -> flotante o doble

Tengo una pregunta de examen por la que estoy revisando y la pregunta es por 4 puntos. “En java podemos asignar un int a un double o un float”. ¿Esto alguna vez perderá información y por qué? Lo puse porque los enteros son normalmente de longitud o tamaño fijos: la precisión para almacenar datos es […]

La conversión de un número decimal a doble en C # da como resultado una diferencia

Resumen del problema: Para algunos valores decimales, cuando convertimos el tipo de decimal a doble, se agrega una pequeña fracción al resultado. Lo que lo empeora es que puede haber dos valores decimales “iguales” que dan como resultado valores dobles diferentes al convertirlos. Muestra de código: decimal dcm = 8224055000.0000000000m; // dcm = 8224055000 double […]

Compara doble a cero usando épsilon

Hoy, estaba buscando un código de C ++ (escrito por otra persona) y encontré esta sección: double someValue = … if (someValue < std::numeric_limits::epsilon() && someValue > -std::numeric_limits::epsilon()) { someValue = 0.0; } Estoy tratando de averiguar si esto incluso tiene sentido. La documentación para epsilon() dice: La función devuelve la diferencia entre 1 y […]

Número de dígitos decimales en un doble

Necesito el número de dígitos enteros y el número de dígitos después del decimal en un número como 234.12413 en Java.

¿Doble o flotante, que es más rápido?

Estoy leyendo “acelerado C ++”. Encontré una oración que dice “a veces el double es más rápido en la ejecución que el float en C ++”. Después de leer la oración, me confundí acerca de la float y el double trabajo. Por favor explícame este punto.

Double.TryParse o Convert.ToDouble – ¿Qué es más rápido y más seguro?

Mi aplicación lee un archivo Excel usando VSTO y agrega los datos leídos a un StringDictionary . Agrega solo datos que son números con algunos dígitos (1000 1000,2 1000,34 – la coma es un delimitador en los estándares rusos). ¿Qué es mejor verificar si la cadena actual es un número apropiado? object data, string key; […]

DOUBLE vs DECIMAL en MySQL

OK, entonces sé que hay toneladas de artículos que dicen que no debo usar DOUBLE para almacenar dinero en una base de datos MySQL, o terminaré con errores de precisión difíciles. El punto es que no estoy diseñando una nueva base de datos, me pregunto para encontrar la manera de optimizar un sistema existente. La […]

Portabilidad de la serialización binaria de tipo doble / flotante en C ++

El estándar de C ++ no discute el diseño subyacente de los tipos float y double, solo el rango de valores que deberían representar. (Esto también es cierto para los tipos con signo, es un cumplido de dos o algo más) Mi pregunta es: ¿Cuáles son las técnicas utilizadas para serializar / deserializar los tipos […]