bignum

    0热度

    1回答

    我最近试图将我从-v 2.5.0安装到1.3.0的rspec版本更改为与rails 2.x一起使用。卸载黄瓜,rspec-rails和rspec后,我去重新安装,然后收到错误“错误:执行gem ...(RangeError)bignum太大而不能转换成'long'。我尝试安装其他gems rspec-rails和黄瓜,但他们现在也给我这个错误,即使当我尝试安装rspec -v 2.5.0之前我得到

    1热度

    1回答

    OpenSSL是否支持使用BN API的二次扩展字段(或者复杂数字操作)的操作? 如果不是,还有其他的开源库吗?

    6热度

    2回答

    我想我已经在iPhone OS(iOS 4)中找到了一些宝石。 我发现有128位,256位,512位和1024位整数数据类型,由Accelerate Framework提供。此外,Apple还实施了基本线性代数子程序(BLAS),Apple实现LAPACK(线性代数包)和数字信号处理(DSP)子程序。 我很激动,因为据我所知,BLAS和LAPACK是最好的(也是最有名的)图书馆。 (如果你从未听过

    3热度

    1回答

    我混淆了我如何用PHPUnit获取相当大的数量。 我写了斐波那契数。但在100的情况下,我写下。 http://github.com/sanemat/kata-fibonacci-phpunit/commit/b6b2945d2eff1b95e7e25b8be8c7bff11098d44d 我希望这个返回TRUE。 失败。 http://www.php.net/manual/en/langua

    13热度

    1回答

    在我的一个模块中,我必须处理无限的概念。迄今为止,我一直在使用9**9**9作为正无穷,并且这似乎运行良好,速度很快,并且似乎是perl内部使用的无穷大。 然而,事情变得有点冒险,如果我的模块的用户决定使用大数模块之一(如use bigint;),然后他们使用inf或Math::BigInt->binf()表示无穷。 在一些地方,它似乎工作正常,但在其他地方,应该是真实的或应该是错误的比较最终会导

    0热度

    1回答

    几天前,我开始了一个项目,在这个项目中我需要做一些度量计算;具体为:统计计算。那么,这不是问题,问题出现在舍入浮动数字(带小数的数字)以及JavaScript处理它的方式。我在网上找到了一些四舍五入的javascript数字方法,但没有一个是ms excel功能(ROUND.MAX功能)的绝佳替代方案。所以我必须自己重新创建这个函数行为。所以这是代码: MathExt = { init: fu

    13热度

    3回答

    我可以使用Delphi中的内置方法处理大量数据(大于10^400)吗?

    4热度

    1回答

    2^64仍然远离“无限”我的内存/硬盘驱动器可以处理... 首先,我想GMP如何与内存/处理器,因为它确实某种见不得人的优化的... 我也想知道是否有一种在任意数量的字节上存储整数(无符号,更容易)的方法。例如,在50个字节上,我会有一个2^400 -1的上限。 要做的事情就是保持数字一致,从一个字节到另一个字符保持一致,我对此有一些想法,但我真的不确定这是否是最快的方法。我甚至不确定我是否正确。

    5热度

    1回答

    我在这里有一个短的haskell函数,它应该将“ABCDEF”转换为0x41,0x42,0x43,0x44,0x45,0x46(它们的ascii值),然后将它们相乘,使它变为0x4142,4344,4546,但它似乎是限制整数长度 - 我认为haskell使用任意的bignums? 代码的最后一行正常工作,这让我为难, 任何想法?非常感谢 import Data.Char import Nume

    7热度

    2回答

    似乎GMP提供MPF(浮点)的唯一字符串序列类型: mpf_get_str(),mpf_class::get_str() 的MPZ(整数)类型具有用于原始字节额外的接口:mpz_out_raw() http://gmplib.org/manual/Function-Index.html 我错过了什么吗?有谁知道另一个可以序列化GMP浮点的库吗?有谁知道另一个提供强大序列化的bignum库吗? 编辑