0
我想将科学记数法中的数字投射到蜂巢中的十进制数,但是我得到了错误的输出。我在哪里做错了..铸造科学数到蜂巢中的十进制
以下是我的查询来测试。
select cast(-1.36666E2 as decimal(6,1))
我期待的输出为-1.36666。但我得到了-136.7
我想将科学记数法中的数字投射到蜂巢中的十进制数,但是我得到了错误的输出。我在哪里做错了..铸造科学数到蜂巢中的十进制
以下是我的查询来测试。
select cast(-1.36666E2 as decimal(6,1))
我期待的输出为-1.36666。但我得到了-136.7
DECIMAL(precision,scale)是数据类型。
精度是一个数字中的位数。 比例是数字中小数点右侧的位数。
例如,数136.7具有为4的精度以及1 因此,如果你有1.36666,精度为6分和5
select cast(-1.36666E2 as decimal(6,3))
-1.36666E2一个标尺-1.36666 * 10^2。这将返回-136.666。输入-1.36666E2
输出无误。如果你期望-1.36666然后修剪E2 – Valli
可能是我的精确度是错误的。有没有任何修剪? –
哪一个是错的? -1.36666E2的值是-136.66 – Valli