Вопросы по теме 'floating-point'

Ограничить точность с плавающей запятой?
Есть ли способ округлить плавающие точки до 2 точек? Например: 3576.7675745342556 становится 3576.76 .
44528 просмотров

Ошибка с плавающей запятой
Я пытался понять эту проблему с плавающей запятой в javascript. Это пример того, что я хочу сделать: var x1 = 0 for(i=0; i<10; i++) { x1+= 0.2 } Однако в этой форме я получу ошибку округления, 0,2 -> 0,4 ​​-> 0,600...001. Я...
428 просмотров

Возникли проблемы с распечаткой итогов только с двумя десятичными точками [Python 2.7]
Мои расчеты кажутся неверными, несмотря на то, что десятичный формат правильный. import time # It was reccommend in our text to always have your import data located outside of any loops, thus I put mine here. while True: # This is the...
168 просмотров
schedule 07.03.2024