Вопросы с тэгом [floating-accuracy]

голоса
5
ответов
3
просмотр
8k
SQL сервер 2005 числовой потери точности
Задан 24/09/2008 в 09:31
пользователем Ilya Komakhin
Задан 30/10/2008 в 06:12
пользователем MrDatabase
Задан 13/11/2008 в 01:06
пользователем darudude
голоса
5
ответов
3
просмотр
26k
Ограничения плавающей запятой
Задан 02/01/2009 в 08:17
пользователем user46646
голоса
11
ответов
10
просмотр
21k
ПИ и точность числа с плавающей точкой
Задан 03/02/2009 в 15:24
пользователем Hrushikesh
голоса
2k
ответов
35
просмотр
213k
Сломана точка математика с плавающей?
Задан 25/02/2009 в 20:39
пользователем Cato Johnston
Задан 26/02/2009 в 13:39
пользователем AndyUK
Задан 06/04/2009 в 10:11
пользователем Dhana
Задан 01/05/2009 в 18:12
пользователем Josh
голоса
7
ответов
8
просмотр
1k
Как определить точность Pi (я)
Задан 20/05/2009 в 14:59
пользователем Kriem
Задан 03/06/2009 в 11:48
пользователем NeilInglis
голоса
19
ответов
9
просмотр
20k
Округление ошибки?
Задан 06/06/2009 в 15:41
пользователем Humphrey Bogart
голоса
6
ответов
12
просмотр
1k
1,265 * 10000 = +126499,99999999999?
Задан 08/06/2009 в 07:17
пользователем vladaruz
голоса
35
ответов
17
просмотр
46k
Как сделать целое log2 () в C ++?
Задан 15/06/2009 в 04:30
пользователем Peter Smit
Задан 17/06/2009 в 02:38
пользователем Sasha Chedygov
Задан 04/07/2009 в 09:51
пользователем Ion Br.
Задан 06/07/2009 в 16:28
пользователем user128807
голоса
1
ответов
2
просмотр
239
С плавающей точкой эквивалентности?
Задан 29/07/2009 в 19:40
пользователем Anzurio
голоса
20
ответов
11
просмотр
13k
Широта / долгота хранения и сжатия в С
Задан 03/08/2009 в 00:28
пользователем Justicle
Задан 17/08/2009 в 05:15
пользователем user157558
голоса
39
ответов
6
просмотр
23k
Большие числа ошибочно округляется в Javascript
Задан 04/09/2009 в 14:24
пользователем Jaanus
Задан 17/11/2009 в 01:36
пользователем Anycorn
голоса
1
ответов
4
просмотр
1k
Jquery отображает $ +20,099999999999998 вместо $ 20,1
Задан 19/11/2009 в 05:47
пользователем Steven
голоса
8
ответов
4
просмотр
5k
Python поплавка - ул - поплавок странность
Задан 22/11/2009 в 09:28
пользователем Sharun
Задан 02/12/2009 в 08:48
пользователем kevchadders
Задан 03/12/2009 в 08:41
пользователем Igor Oks
голоса
8
ответов
4
просмотр
43k
Плавающий форматирования точка в Е ()
Задан 07/12/2009 в 22:22
пользователем sfactor
Задан 14/12/2009 в 22:41
пользователем Claudiu
голоса
4
ответов
9
просмотр
8k
Целые и точности с плавающей точкой
Задан 15/12/2009 в 11:29
пользователем nunos
Задан 19/12/2009 в 19:41
пользователем martinus
голоса
1
ответов
2
просмотр
1k
Подтвердить двойной диапазон значений и шаг
Задан 22/12/2009 в 07:57
пользователем Bulgur
Задан 31/12/2009 в 01:50
пользователем priyanka.sarkar
Задан 03/01/2010 в 18:21
пользователем Naximus
Задан 10/01/2010 в 20:14
пользователем Frerich Raabe
Задан 13/01/2010 в 23:00
пользователем hhafez
Задан 17/01/2010 в 09:09
пользователем Prashant
голоса
29
ответов
7
просмотр
82k
Плавающие примеры неточности точечных
Задан 20/01/2010 в 09:10
пользователем David Rutten
голоса
4
ответов
5
просмотр
2k
Подсчет числа в обращении
Задан 27/01/2010 в 22:54
пользователем daniel
Задан 31/01/2010 в 23:26
пользователем dsimcha
Задан 04/02/2010 в 09:48
пользователем Robert
голоса
10
ответов
2
просмотр
2k
В чем разница между этими двумя сравнениями?
Задан 09/02/2010 в 07:40
пользователем esther
голоса
5
ответов
4
просмотр
1k
Что такое статус tcl_precision?
Задан 18/02/2010 в 03:37
пользователем Don Wakefield
голоса
23
ответов
3
просмотр
19k
Как Java string.Format с переменной точностью?
Задан 20/02/2010 в 03:26
пользователем Willi Ballenthin
голоса
1
ответов
5
просмотр
3k
С плавающей точкой Modulo проблемы
Задан 24/02/2010 в 01:33
пользователем SapphireSun
Задан 24/02/2010 в 01:47
пользователем Chris
Задан 25/02/2010 в 15:13
пользователем unknown
голоса
6
ответов
2
просмотр
1k
JQuery и длинный ИНТ ида
Задан 27/02/2010 в 12:14
пользователем Anton Koval'
голоса
18
ответов
7
просмотр
878
Почему (INT) (33,46639 * 1000000) возвращение 33466389?
Задан 11/03/2010 в 00:52
пользователем jfar
голоса
0
ответов
4
просмотр
1k
Функция гидроразрыва потери точности
Задан 16/03/2010 в 11:40
пользователем PDM
Задан 19/03/2010 в 20:48
пользователем Vladimir Panteleev
голоса
7
ответов
5
просмотр
673
Почему мой номер округляется неправильно?
Задан 24/03/2010 в 15:43
пользователем izb




Задан 28/03/2010 в 16:05
пользователем SigTerm
Задан 31/03/2010 в 14:00
пользователем Rick Regan
голоса
8
ответов
5
просмотр
4k
С плавающей точкой точность в Visual C ++
Задан 02/04/2010 в 07:16
пользователем user240092
Задан 04/04/2010 в 12:19
пользователем Ahmed Khalaf
Задан 07/04/2010 в 07:53
пользователем RED SOFT ADAIR
Задан 21/04/2010 в 20:19
пользователем Andrew Walker
Задан 28/04/2010 в 12:06
пользователем Michal Czardybon
Задан 11/05/2010 в 05:26
пользователем yahoo.com
Задан 17/05/2010 в 08:28
пользователем msteiger
Задан 24/05/2010 в 08:42
пользователем Praneeth
голоса
3
ответов
5
просмотр
36k
C ++ плавающей точкой
Задан 25/05/2010 в 23:22
пользователем Davinel
голоса
0
ответов
2
просмотр
1k
Почему 99,99 / 100 = 0,9998999999999999
Задан 28/05/2010 в 14:34
пользователем redcalx
голоса
2
ответов
4
просмотр
1k
Исправление ошибки с плавающей точкой
Задан 30/05/2010 в 22:19
пользователем HannesNZ
голоса
1
ответов
6
просмотр
510
0.699 х 100 = +69,89999999999999?
Задан 01/06/2010 в 13:05
пользователем Sirber
голоса
10
ответов
4
просмотр
8k
питон число с плавающей
Задан 06/06/2010 в 21:22
пользователем user359925
голоса
7
ответов
6
просмотр
11k
Почему я не могу умножить поплавок?
Задан 13/06/2010 в 04:00
пользователем Dpp
голоса
4
ответов
5
просмотр
936
странные результаты с / FPA: быстрый
Задан 15/06/2010 в 05:16
пользователем martinus
голоса
0
ответов
3
просмотр
19k
Разделение двойной с целым числом
Задан 16/06/2010 в 05:33
пользователем hardcoder
Задан 18/06/2010 в 17:47
пользователем David Cary
голоса
2
ответов
4
просмотр
203
Как обойти некоторые ошибки округления?
Задан 23/06/2010 в 00:28
пользователем Jake Petroules
Задан 02/07/2010 в 04:34
пользователем Ritwik Bose
голоса
1
ответов
2
просмотр
721
Как десятичная точность Python сравнить, что С?
Задан 08/07/2010 в 06:06
пользователем Chris Cooper
голоса
4
ответов
2
просмотр
1k
C ++ Precision: String Удвоить
Задан 08/07/2010 в 09:44
пользователем donalmg
Задан 13/07/2010 в 16:53
пользователем Yogesh Arora
Задан 17/07/2010 в 06:07
пользователем DJC
Задан 23/07/2010 в 17:39
пользователем woho
Задан 26/07/2010 в 00:59
пользователем EMiller
голоса
6
ответов
2
просмотр
1k
Perl вопрос оператора по модулю
Задан 26/07/2010 в 13:15
пользователем Eugene Yarmash
Задан 04/08/2010 в 15:10
пользователем oyd11
голоса
2
ответов
2
просмотр
1k
Цель C Math Формула Сбой
Задан 06/08/2010 в 20:41
пользователем alrightSpider
Задан 11/08/2010 в 21:17
пользователем Dukeh
Задан 13/08/2010 в 15:14
пользователем JMzance
голоса
6
ответов
9
просмотр
9k
п-й корень числа
Задан 16/08/2010 в 14:15
пользователем narayanpatra
голоса
2
ответов
3
просмотр
459
C # .Net двойной выпуск ... 6,8! = 6,8?
Задан 16/08/2010 в 15:36
пользователем Corey Ogburn
Задан 18/08/2010 в 05:16
пользователем Sanjay
голоса
3
ответов
7
просмотр
252
Округление в PHP
Задан 18/08/2010 в 12:37
пользователем alex shishkin
голоса
2
ответов
2
просмотр
117
Как оптимизировать этот расчет
Задан 03/09/2010 в 17:28
пользователем Jack
Задан 04/09/2010 в 10:22
пользователем Jesper Blad Jensen
голоса
0
ответов
3
просмотр
1k
Почему видеть -0,000000000000001 в запросе доступа?
Задан 12/09/2010 в 04:07
пользователем x-freestyler
голоса
69
ответов
9
просмотр
30k
PHP - Плавающий число Точность
Задан 16/09/2010 в 11:39
пользователем dcmoody
Задан 17/09/2010 в 15:52
пользователем NullUserException
Задан 19/09/2010 в 00:42
пользователем ZuluForce
Задан 22/09/2010 в 21:21
пользователем flow
Задан 24/09/2010 в 18:46
пользователем why should I tell you my name
голоса
3
ответов
7
просмотр
655
почему 1,2 * 30 = 35?
Задан 28/09/2010 в 08:25
пользователем Thomas Weber
голоса
6
ответов
3
просмотр
2k
C ++ против точности Python
Задан 02/10/2010 в 15:45
пользователем jknair
голоса
1
ответов
3
просмотр
260
Некоторые вопросы о плавающих точках
Задан 06/10/2010 в 15:10
пользователем tjm
Задан 08/10/2010 в 10:43
пользователем LukeN
Задан 08/10/2010 в 16:32
пользователем user293756
Задан 12/10/2010 в 19:07
пользователем gumuz




Задан 15/10/2010 в 23:53
пользователем martinus
голоса
40
ответов
5
просмотр
13k
отрицательный нуль в питоне
Задан 02/11/2010 в 23:57
пользователем max
голоса
5
ответов
6
просмотр
3k
всплывает двойное назначение
Задан 11/11/2010 в 11:36
пользователем Ram
Задан 16/11/2010 в 09:10
пользователем Björn Pollex
Задан 17/11/2010 в 00:32
пользователем fostandy
Задан 25/11/2010 в 06:22
пользователем Veeru
Задан 29/11/2010 в 05:33
пользователем prabhakaran
Задан 30/11/2010 в 19:04
пользователем sascha
Задан 02/12/2010 в 19:14
пользователем nus
Задан 13/12/2010 в 10:13
пользователем Madhur Ahuja
голоса
20
ответов
8
просмотр
34k
Как правильно и сравнить Стандартно поплавки?
Задан 28/12/2010 в 16:38
пользователем Dmitriy
голоса
3
ответов
3
просмотр
1k
0,1 + 0,7! = 0,8
Задан 31/12/2010 в 15:20
пользователем Eimantas
Задан 05/01/2011 в 11:24
пользователем Timo Willemsen
Задан 10/01/2011 в 16:00
пользователем Andrew
Задан 11/01/2011 в 19:15
пользователем Andrew
голоса
11
ответов
12
просмотр
34k
Усечение числа с плавающей точкой с PHP
Задан 12/01/2011 в 11:11
пользователем Dessislava Mitova
голоса
2
ответов
6
просмотр
567
C / C ++: Поплавок Арифметика Вопрос
Задан 15/01/2011 в 00:30
пользователем user542687
Задан 24/01/2011 в 19:46
пользователем Nils_M
голоса
2
ответов
2
просмотр
416
Работа с малыми числами и точности
Задан 25/01/2011 в 21:12
пользователем Cheetah
Задан 31/01/2011 в 11:49
пользователем Maurycy
голоса
0
ответов
5
просмотр
644
С плавающей точкой Weird явление в Java
Задан 04/02/2011 в 05:20
пользователем aman_novice
голоса
55
ответов
26
просмотр
105k
Усечь (не округлять) десятичных чисел в JavaScript
Задан 06/02/2011 в 09:42
пользователем kcssm
голоса
9
ответов
5
просмотр
1k
Почему CLng дают разные результаты?
Задан 14/02/2011 в 07:03
пользователем Torben Klein
Задан 15/02/2011 в 18:35
пользователем Brian Cole
Задан 18/02/2011 в 14:54
пользователем Dallaylaen
Задан 01/03/2011 в 06:16
пользователем invert
голоса
1
ответов
3
просмотр
248
.NET Проблема при использовании двойников
Задан 08/03/2011 в 03:09
пользователем mukesh
Задан 09/03/2011 в 06:23
пользователем Thomson
Задан 10/03/2011 в 03:53
пользователем Hitosu
Задан 10/03/2011 в 07:35
пользователем tunnuz
голоса
7
ответов
2
просмотр
770
Ошибка Сложение с рубиновой-1.9.2
Задан 24/03/2011 в 04:53
пользователем Sadiksha Gautam
голоса
0
ответов
2
просмотр
1k
Рубин номер точность с простой арифметикой
Задан 24/03/2011 в 12:21
пользователем Philo
Задан 05/04/2011 в 20:16
пользователем Michael McGowan
Задан 18/04/2011 в 09:07
пользователем Jibin
голоса
3
ответов
4
просмотр
255
«Динамический» дисплей поплавков?
Задан 19/04/2011 в 22:25
пользователем AndreasG
голоса
3
ответов
4
просмотр
853
Почему и как питон усечения числовых данных?
Задан 20/04/2011 в 09:40
пользователем nemesisfixx
Задан 21/04/2011 в 08:46
пользователем Timo Willemsen
Задан 26/04/2011 в 07:48
пользователем ProfK
голоса
3
ответов
2
просмотр
2k
DBL_MAX & Max значение двойной
Задан 29/04/2011 в 00:09
пользователем Jarir
Задан 06/05/2011 в 10:15
пользователем Matt
Задан 15/05/2011 в 20:47
пользователем Jamie Cook
голоса
0
ответов
1
просмотр
484
выбор расчетной модели с плавающей запятой
Задан 17/05/2011 в 18:23
пользователем mete
Задан 19/05/2011 в 13:41
пользователем Jay
Задан 24/05/2011 в 23:11
пользователем Ondřej Čertík
голоса
3
ответов
3
просмотр
331
Проблема преобразования в ANSI C
Задан 31/05/2011 в 19:54
пользователем Jordan Borisov
голоса
8
ответов
1
просмотр
1k
Что разница между Math.pow (9, 18) и 9 ^ 18
Задан 02/06/2011 в 04:21
пользователем JavaUser
Задан 08/06/2011 в 06:08
пользователем tsiki
Задан 08/06/2011 в 10:38
пользователем Matt Bond
Задан 14/06/2011 в 13:25
пользователем floatingPointStudent
Задан 14/06/2011 в 14:33
пользователем loosecannon




Задан 16/07/2011 в 17:47
пользователем rjmunro
Задан 29/07/2011 в 11:32
пользователем Rookie
голоса
74
ответов
3
просмотр
16k
Почему 0,1 + 0,2 == 0,3 в D?
Задан 29/07/2011 в 13:03
пользователем Stas
голоса
4
ответов
2
просмотр
10k
с плавающей точкой вопрос в R?
Задан 29/07/2011 в 13:43
пользователем dnagirl
Задан 31/07/2011 в 11:39
пользователем Guillaume07
голоса
2
ответов
2
просмотр
713
Вычитание близко друг к другу числа в PHP
Задан 31/07/2011 в 23:17
пользователем Errol Fitzgerald
голоса
4
ответов
4
просмотр
681
IEEE 754: Как именно это работает?
Задан 10/08/2011 в 03:20
пользователем Ram
голоса
3
ответов
2
просмотр
1k
NumberFormat Анализировать Issue
Задан 16/08/2011 в 08:33
пользователем Mallinok
голоса
4
ответов
4
просмотр
5k
Плохой результат от оператора по модулю Java?
Задан 16/08/2011 в 18:07
пользователем Sam Dealey
голоса
2
ответов
4
просмотр
1k
Есть ли рубин высчитывает плавает так?
Задан 17/08/2011 в 10:42
пользователем florianguenther
голоса
1
ответов
3
просмотр
1k
двойная арифметика и равенство в Java
Задан 02/09/2011 в 20:25
пользователем PengOne
голоса
8
ответов
2
просмотр
11k
точности с плавающей точкой рубина
Задан 05/09/2011 в 18:58
пользователем user561938
Задан 23/09/2011 в 15:23
пользователем Winston Ewert
голоса
0
ответов
2
просмотр
288
Плавающая ошибка точки в представлении?
Задан 28/09/2011 в 09:23
пользователем Ahmad Ibrahem
Задан 09/10/2011 в 06:59
пользователем Ben
голоса
0
ответов
4
просмотр
963
Javascript проблема с математическими расчетами
Задан 16/10/2011 в 20:48
пользователем Mike
Задан 02/11/2011 в 15:26
пользователем Dan
Задан 11/11/2011 в 12:50
пользователем Yola
голоса
1
ответов
3
просмотр
840
PHP плавать математическую операцию ошибку?
Задан 15/11/2011 в 03:56
пользователем Elliot Yap
голоса
3
ответов
2
просмотр
844
Рубин число одинарной точности
Задан 17/11/2011 в 13:40
пользователем Henrik
Задан 07/12/2011 в 09:28
пользователем Rakesh Singh
Задан 09/12/2011 в 16:05
пользователем Tarek
голоса
0
ответов
3
просмотр
1k
Java Math.pow вопрос
Задан 13/12/2011 в 13:39
пользователем gmaster
Задан 14/12/2011 в 19:04
пользователем user1094566
Задан 20/12/2011 в 20:22
пользователем Paul Johnson
голоса
1
ответов
2
просмотр
1k
Разделение поплавка на 10
Задан 24/12/2011 в 04:16
пользователем Shane Hsu
голоса
3
ответов
6
просмотр
3k
Java округление Issue
Задан 28/12/2011 в 14:44
пользователем mino
Задан 03/01/2012 в 03:00
пользователем Andrew Grimm
Задан 09/01/2012 в 10:46
пользователем Alex
Задан 18/01/2012 в 19:33
пользователем Phil
голоса
2
ответов
1
просмотр
1k
круглый поплавок из микропоры
Задан 20/01/2012 в 17:57
пользователем Sergey L
Задан 24/01/2012 в 14:32
пользователем spraff
голоса
4
ответов
3
просмотр
1k
C # Math.sin () и Math.log () Неточности
Задан 25/01/2012 в 17:01
пользователем amdilley
Задан 30/01/2012 в 23:11
пользователем ddayan
Задан 01/02/2012 в 01:29
пользователем orokusaki
голоса
12
ответов
5
просмотр
766
Как проверить зависимости поплавков
Задан 03/02/2012 в 21:26
пользователем user1006274
голоса
0
ответов
3
просмотр
203
С плавающей точкой Java неожиданно округлый
Задан 17/02/2012 в 12:09
пользователем TyC
голоса
2
ответов
2
просмотр
1k
Точности плавающей запятой в Clojure
Задан 29/02/2012 в 10:00
пользователем user1147851
голоса
209
ответов
6
просмотр
26k
Почему эти цифры не равны?
Задан 29/02/2012 в 21:46
пользователем dplanet
голоса
3
ответов
1
просмотр
180
Возникли проблемы округления в с
Задан 13/03/2012 в 22:34
пользователем John John
Задан 14/03/2012 в 08:50
пользователем vmg
Задан 21/03/2012 в 13:38
пользователем smilingbuddha
голоса
1
ответов
3
просмотр
199
Нецелочисленные ULP ошибка?
Задан 23/03/2012 в 19:55
пользователем follyroof
голоса
7
ответов
7
просмотр
11k
Сравнивая Same Поплавок значения в C
Задан 24/03/2012 в 07:41
пользователем gursahib.singh.sahni
голоса
5
ответов
5
просмотр
9k
C # неправильно вычитание? 12,345 - 12 = 0,345000000000001
Задан 27/03/2012 в 12:28
пользователем c0ntrol
Задан 30/03/2012 в 12:23
пользователем Roberto
Задан 30/03/2012 в 17:03
пользователем Roberto
Задан 04/04/2012 в 19:57
пользователем smilingbuddha
голоса
0
ответов
2
просмотр
1k
Двойная точность - MS Visual C ++ 2005 Vs Matlab
Задан 05/04/2012 в 05:55
пользователем Yogi

Cookies help us deliver our services. By using our services, you agree to our use of cookies. Learn more