0
可能重复:
Precision of multiplication by 1.0 and int <=> float conversion差异在犰狳乘法
我使用的犰狳C++库线性和因与取得一致的结果的困难。当我打印vector,freq时,这些是正确的值,但是当我将它与标量值相乘时,这是错误的。即使使用freq * 1.0!任何建议都会很棒。
mat::fixed<621,1>freq;
2.0 * arma::datum::pi * freq
您可以将代码放在乘法和存储之后打印出来吗? – rutgersmike
我试过两种方法: mat :: fixed <621,1> freq cout << 2.0 * arma :: datum :: pi * freq << endl; 和,我也打印它使用mat w = 2.0 * arma :: datum :: pi * freq; w.print()在不同的运行中给出不同的值。 –
在计算中使用它之前,你正在初始化'freq'吗?否则,它是垃圾。 – rutgersmike