Калькулятор = ОБЫЧНЫЙ - □ X Журнал Память V(4) - 2 = -1,068281969439142е-19 -1,068281969439142е-19 / Windows 10 :: Windows :: экспонента :: глюк :: Калькулятор :: geek (Прикольные гаджеты. Научный, инженерный и айтишный юмор)

Windows 10 Windows Калькулятор глюк экспонента песочница geek 
Калькулятор = ОБЫЧНЫЙ	- □ X Журнал Память
V(4) - 2 = -1,068281969439142е-19 -1,068281969439142е-19 МС MR М+ М- MS	
% СЕ V 7	С <Е\ -т-8 9 х
х2 4	5 б -
х3 1	2 3 +
Vx ±	0,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор
Подробнее
Калькулятор = ОБЫЧНЫЙ - □ X Журнал Память V(4) - 2 = -1,068281969439142е-19 -1,068281969439142е-19 МС MR М+ М- MS % СЕ V 7 С <Е\ -т-8 9 х х2 4 5 б - х3 1 2 3 + Vx ± 0
Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор
Еще на тему
Развернуть
Вечно с этими дробными значениями проблемы...
alex4321 alex4321 19.02.201621:24 ответить ссылка 0.0
а еще в javascript очень весело вычисления производятся. я даже пруфы заскринил когда изучал:
QHhl ПГПДНИ1
0.10000000000000000555111512312578270211815834045410
0.20000000000000001110223024625156540423631668090820
/ий", которые нужно выделить ограничителями ?
0.29999999999999998889776975374843459576368331909180
0.40000000000000002220446049250313080847263336181641
есть подозрение что после 20-го(примерно) знака у него какойто мусор в памяти, видимо чота там программисты захардкодили думая что никто после 20-го знака не полезет :))
fura fura 19.02.201621:34 ответить ссылка -0.1
Таки да: https://en.wikipedia.org/wiki/Extended_precision#x86_Extended_Precision_Format. Захардкодили не просто так, а для скорости (вычисления с плавающей точкой - узкое место). Там шестьдесят четыре бита мантиссы, т. е. примерно двадцать десятичных знаков.
Не очень понял, при чем какое-то "захардкоживание". Числа с плавающей точкой здесь хранятся в двоичной системе. Тут причина в том, что не все конечные десятичные дроби представимы в виде конечных двоичных дробей. Числа вроде 0,1 в двоичном виде в область памяти ограниченного размера ее целиком записать нельзя, только округлив до какой-то точности. Точно так же нельзя конечной десятичной дробью записать, например, 1/7.
Нет. Причина в том, что количество битов в мантиссе конечно.
Или, вернее так: ошибка вообще возникает из-за конечных десятичных дробей, а в двадцатом знаке она из-за мантиссы в шестьдесят четыре бита.
Если совсем уж придираться, то в примере на JavaScript в случае дроби 0,5 мантисса точно такой же длины, а ошибки нет. Как раз потому, что 1/2 может быть точно представлена в виде двоичной дроби.
Но корень квадратный из четырех тоже можно точно представить в двоичной системе.
Операция деления проще, чем извлечение корня, и реализована в качестве базовой в процессоре. Поэтому где это возможно, результат окажется точным. А для извлечения корня в стандартных библиотеках обычно используется какой-нибудь сходящийся итеративный алгоритм, который дает приближенное значение.
самый простой вариант 0.1+0.2 = 0.30000000000000004
MIKEk8 MIKEk8 19.02.201623:46 ответить ссылка 0.0
Калькулятор — □	X
= ОБЫЧНЫЙ	©
МС MR М+ М- MS	0
V(1) -	1 = 0
V(9) - 3 = 1,121252885047248е-1 9
centyre centyre 19.02.201621:35 ответить ссылка 0.0
Калькулятор
□
X
= ИНЖЕНЕРНЫЙ	©
-8,1648465955514287168521180122928е-39
AR
V(4) - 2 =
-8,16484659555142871685
21180122928е-39
TORTIK TORTIK 19.02.201622:41 ответить ссылка 0.0
У меня такой-же результат, не так как у ТС
Это инженерный так считает. ПРи переключении на обычный такой :
Калькулятор
□
X
= ОБЫЧНЫЙ	©
-1,068281969439142е-19
V(4) - 2 =
-1,0б8281969439142е-19
TORTIK TORTIK 19.02.201623:43 ответить ссылка 0.0
Win7 тоже не смог
На WinXP всё ещё хуже.. там вообще выглядит так, словно 2 - 2 = -8,1
Р Калькулятор р Калькулятор р Калькулятор . Правка Вид Справка 4. Правка Вид Справка 4. Правка Вид Справка 2. Г Backspace CE C МС 7 I 8 I 9 I / sqrt j MR I 4 5 6 • X MS 1 2 3 - Ш Мн- 0 +/- # = Г Backspace CE C MC 7 I 8 I 9 I | sqrt MR 4 5 6 • X MS 1 2 3 -
Вы искренне считаете, что большинство людей - бараны, не замечающие E-39 и/или не знающие, что это такое?
За 20 лет "компьютеризации" и работы с Экселем - большинство уже информированы.
edd_k edd_k 20.02.201612:16 ответить ссылка -0.1
Лично я вот искренне считаю, что вычитая 2 из 2, в ответе должен быть 0, а не хренова экспонента с кучей знаков после запятой. И, черт возьми, я не про это писал! Сложно прочитать фразу "выглядит так, словно" и посмотреть на скриншоты?
Ты написал, что "выглядит словно -8.1". Я именно по этому поводу и ответил. Что так оно выглядит только для тех, кто не в теме (столкнулся первый, например), а не в теме этой беды на сегодня уже совсем мало людей.

По поводу самой беды - ну ты ж в курсе, откуда она берется? А зачем на обычном калькуляторе использовать нестандартного собственного монстра вместо нативных для CPU типов данных? Там же гемора будет столько, что из-за этого юзер-френдли калькулятора они бы не доделали половину более полезной в винде чепухи.
edd_k edd_k 20.02.201614:27 ответить ссылка 0.1
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы

Похожие посты

4:12 PM
start £ nfc
Admin
Internet Explorer
, _
VJ Outlook Express
U Windows Explorer Notepad ^ Paint 0 WordPad j Calculator Accessibility Wizard ^ J Tour Windows XP jg' Solitaire ,V* Windows XP Mode
Welcome to Windows XP
All Programs

Control Pane
©) Help and Support
P Search
n Run.
подробнее»

новости geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор Windows Операционная система Windows 10 Windows XP

 4:12 PM start £ nfc Admin Internet Explorer , _ VJ Outlook Express U Windows Explorer Notepad ^ Paint 0 WordPad j Calculator Accessibility Wizard ^ J Tour Windows XP jg' Solitaire ,V* Windows XP Mode Welcome to Windows XP All Programs Control Pane ©) Help and Support P Search n Run.
Vi
i.I5 Mikko Hypponen
Ö +& Follow
@mikko
A Microsoft developer explains in a Reddit thread why Windows 10 is called Windows
Reply t-i Retweet ★ Favorite ••• More
Microsoft dev here, the internal rumours are that early testing revealed just how many third party products that had code of the f
подробнее»

geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор windows 9 Windows 10 reddit

Vi i.I5 Mikko Hypponen Ö +& Follow @mikko A Microsoft developer explains in a Reddit thread why Windows 10 is called Windows Reply t-i Retweet ★ Favorite ••• More Microsoft dev here, the internal rumours are that early testing revealed just how many third party products that had code of the f
ссосососоесс Win 7
Win 8
Win 3.11
Win 98
Win XP
Windows 10