2017-10-16 53 views
0

我想将科学记数法中的数字投射到蜂巢中的十进制数,但是我得到了错误的输出。我在哪里做错了..铸造科学数到蜂巢中的十进制

以下是我的查询来测试。

select cast(-1.36666E2 as decimal(6,1)) 

我期待的输出为-1.36666。但我得到了-136.7

+0

输出无误。如果你期望-1.36666然后修剪E2 – Valli

+0

可能是我的精确度是错误的。有没有任何修剪? –

+0

哪一个是错的? -1.36666E2的值是-136.66 – Valli

回答

1

DECIMAL(precision,scale)是数据类型。

精度是一个数字中的位数。 比例是数字中小数点右侧的位数。

例如,数136.7具有为4的精度以及1 因此,如果你有1.36666,精度为6分和5

select cast(-1.36666E2 as decimal(6,3)) 

-1.36666E2一个标尺-1.36666 * 10^2。这将返回-136.666。输入-1.36666E2