Просто по разному округляет.
В первом случае до 5 знаков после точки (несмотря на то что написано 6)
0.12346
Во втором случае до 6 знаков после точки
0.123457
Если добавить один ">" знак то округление будет по другому.
message string(d,">>>,>>9.9<<<<<")
Почему Прогресс так округляет ... не известно.
Если вам нужна большая точность....избегайте округления, там где это важно.
Если вам нужна абсолютная точность....избегайте Progress
string
Re: string
Последний раз редактировалось dmitri 02 авг 2013, 17:32, всего редактировалось 1 раз.
Dmitri Levin and