Вопросы по теме 'floating-point'
Ограничить точность с плавающей запятой?
Есть ли способ округлить плавающие точки до 2 точек? Например: 3576.7675745342556 становится 3576.76 .
44528 просмотров
schedule
22.04.2024
Ошибка с плавающей запятой
Я пытался понять эту проблему с плавающей запятой в javascript. Это пример того, что я хочу сделать:
var x1 = 0
for(i=0; i<10; i++)
{
x1+= 0.2
}
Однако в этой форме я получу ошибку округления, 0,2 -> 0,4 -> 0,600...001.
Я...
428 просмотров
schedule
06.03.2024
Возникли проблемы с распечаткой итогов только с двумя десятичными точками [Python 2.7]
Мои расчеты кажутся неверными, несмотря на то, что десятичный формат правильный.
import time # It was reccommend in our text to always have your import data located outside of any loops, thus I put mine here.
while True: # This is the...
168 просмотров
schedule
07.03.2024