integer-arithmetic

    0热度

    5回答

    我怎么能检测到32位的整数溢出

    我知道这样的话题被问了好几次，但我的问题是关于整个32位int溢出。例如： 11111111111111111111111111111111 + 00000000000000000000000000000001 = 00000000000000000000000000000000 //overflow! 我发现topic有类似的问题，但这个算法并不完美。 111111111
    java integer bit-manipulation integer-arithmetic 2014-01-20

    0热度

    3回答

    整数arithemetic舍入

    试图找到一种方法，只使用整数类型进行简易舍入。发现了以下解决方案： 例1 - 围捕 Value1=260 Value2=305 Tmp1=(10 * Value1)/Value2 = 8.52 = 8 (integer) Tmp1=(Tmp1 + 5)/10 = (8 + 5)/10 = 1.3 = 1 (integer) 例2 - 舍去 Value1=76 Value2=305
    integer integer-arithmetic 2013-10-16

    1热度

    1回答

    将数字列表转换为数字

    我想知道是否有方法获取数字（数字）列表，并将Scheme中的数字一起截断成一个大数字（不是加法）。例如，我想要 (foo '(1 2 3 4)) ;=> 1234 是否Scheme具有内置函数来执行此操作？
    math scheme integer-arithmetic 2013-10-23

    1热度

    3回答

    正则表达式来获得分子和分母为比X/Y

    输出是好的，我假定输入是“好”和x/y形式的，没有空间，是仅采用整数值： run: 272/273 matching group 1 272 273 matching group 2 BUILD SUCCESSFUL (total time: 0 seconds) 代码： package stackoverflow; import java.util.regex.Matcher
    java regex integer-arithmetic 2013-12-18

    0热度

    2回答

    如何将Map <String，String>更改为Map <String，Ratio>，比率为x/y

    我有一串混合数据，一些单词和数字。数字可以是整数，整数的比率，也可以是整数前的百分号。我试图在程序运行期间（而不是数据库）将这些信息存储在Map中（可能是另一种类型的对象，如果有意义的话）。撇开百分号，剩下的数据被解析好了。我总是可以期待这些数据是以冒号形式存在的。 正确的输出（制表符给出滑稽缩进）： AB: 272/272 CD: 204/529 EFGH: 105 HIJKL: 105 MN:
    java regex generics map integer-arithmetic 2013-12-18

    5热度

    2回答

    什么使Lisp具有出色的数学表现？

    我在一个Lisp教科书阅读本： Lisp语言可以用数字进行了一些惊人的技艺，特别是当与大多数其他语言相比。举例来说，在这里我们使用功能expt计算的53五十三届功率： CL> (expt 53 53) 24356848165022712132477606520104725518533453128685640844505130879576720609150223301256150373 大多数
    lisp common-lisp integer-arithmetic 2013-10-30

    1热度

    1回答

    溢出Clojure中的计算，尽管使用BigInt有

    下关闭计算溢出尽管使用大整数的： (defn binomial-coefficient [n k] (let [rprod (fn [a b] (reduce * (range a (inc b))))] (/ (rprod (- n k -1) n) (rprod 1 k)))) (binomial-coefficient 100N 50N) 我无法揣摩出溢出发生。例
    clojure integer-arithmetic 2013-10-31

    0热度

    3回答

    初学Java程序员算术错误

    我最近着手进入Java编程，并认为自己是编程新手。这似乎是我的源代码算术问题。我已经验证了所有嵌套的if-else语句，并且它们都运行到最后的else语句的算术运算。它不能正确计算我已经设置了上面的if-else语句。 else语句是假设从量减去40再申请1项％的费用。我曾尝试else语句fee = ((checkAmount - 40) * .01)和fee = ((checkAmount *
    java math integer-arithmetic 2014-02-08

    0热度

    2回答

    一点数学的东西：给定整数<code>d</code> & <code>x</code>广场和圆角

    Scala中，我将有一个布尔表达式，当且仅当y = (x^2 - 1)/d^2是一个正方形，其应该是真实的。 我尝试这样做： (Math.sqrt((x * x - 1)/(d * d)).toInt * Math.sqrt((x * x - 1)/(d * d)).toInt == ((x * x - 1)/(d * d))) 但3元组(x = 2, d = <all values test
    scala math floating-point integer-arithmetic 2013-09-27

    0热度

    1回答

    8位微处理器上的C - 32位和16位算术

    我正在为旧的8位微处理器（旧的NEC PC引擎控制台中的Hu6280 - WDC 65C02衍生物）编写一些代码，内存为32kb，最大为2.5 mbytes数据/代码rom。语言是小-C的变体，但仅限于以下两种基本类型： char (1 byte) int (2 byte) 它没有struct支持，没有长整型支持。 我正在写一个FAT文件系统库来与一个主要为加载游戏ROM映像而开发的SD读卡
    c filesystems embedded microprocessors integer-arithmetic 2014-01-07
最新问题