2016-08-05 39 views
1

我使用rubyzip-1.2.0与ruby 2.2.1来生成包含单个文件(本例中为python脚本)的zip文件。内容文件不会改变,并且生成的zip字符串的md5sum保持不变,但是一旦我写入并读取zip文件到文件,长度会增加,并且md5sum每次都会有所不同。无论我使用File.open(zip_file, 'wb') {}还是IO.binwrite(zip_file, zip_string),都会发生这种情况。ruby​​zip输出字符串和写入文件的md5sum不同

为了增加兴奋度,在OS X上,压缩字符串和写入的文件大小不同(当然,md5sum不同),但在Ubuntu 14.04上,大小保持一致,并且md5sum不同。

如果我多次生成文件而没有暂停,校验和(通常)是相同的;如果我进入睡眠状态,它们会有所不同,这让我怀疑rubyzip是否正在为文件写入某种时间戳?

我可能只是缺少一些ruby二进制文件处理的细微差别。

require 'zip' 
require 'digest' 

def update_zip_file(source_file) 
    zip_file = source_file.sub(/py$/, 'zip') 
    new_zip = create_lambda_zip_file(source_file) 
    puts "Zip string length: #{new_zip.length}" 
    md5_string = Digest::MD5.new 
    md5_string.update IO.binread(zip_file) 
    puts "Zip string MD5: #{md5_string.hexdigest}" 
    File.open(zip_file, 'wb') do |f| 
    puts "Updating #{zip_file}" 
    f.write new_zip 
    end 
    puts "New file size: #{File.size(zip_file)}" 
    md5_file_new = Digest::MD5.new 
    md5_file_new.update IO.binread(zip_file) 
    puts "New file MD5: #{md5_file_new.hexdigest}" 
end 

def create_lambda_zip_file(source_file) 
    zip_file = source_file.sub(/py$/, 'zip') 
    zip = Zip::OutputStream.write_buffer do |zio| 
    zio.put_next_entry(File.basename(source_file)) 
    zio << File.read(source_file) 
    end 
    zip.string 
end 

(1..3).each do 
    update_zip_file('test.py') 
    sleep 2 
end 

输出在OS X:

Zip string length: 973 
Zip string MD5: 2578d03cecf9539b046fb6993a87c6fd 
Updating test.zip 
New file size: 1019 
New file MD5: 03e0aa2d345cac9731d1482d2674fc1e 
Zip string length: 973 
Zip string MD5: 03e0aa2d345cac9731d1482d2674fc1e 
Updating test.zip 
New file size: 1019 
New file MD5: bb6fca23d13f1e2dfa01f93ba1e2cd16 
Zip string length: 973 
Zip string MD5: bb6fca23d13f1e2dfa01f93ba1e2cd16 
Updating test.zip 
New file size: 1019 
New file MD5: 3d27653fa1662375de9aa4b6d2a49358 

输出在Ubuntu 14.04:

Zip string length: 1020 
Zip string MD5: 4a6f5c33b420360fed44c83f079202ce 
Updating test.zip 
New file size: 1020 
New file MD5: 0cd8a123fe7f73be0175b02f38615572 
Zip string length: 1020 
Zip string MD5: 0cd8a123fe7f73be0175b02f38615572 
Updating test.zip 
New file size: 1020 
New file MD5: 0a010e0ae0d75e5cde0c4c4ae098d436 
Zip string length: 1020 
Zip string MD5: 0a010e0ae0d75e5cde0c4c4ae098d436 
Updating test.zip 
New file size: 1020 
New file MD5: e91ca00a43ccf505039a9d70604e184c 

任何解释或解决方法吗?我想在重写文件之前确保zip文件内容不同。

编辑修复文件md5sum和更新输出。

编辑 事实上,rubyzip确实把每个条目中的当前时间戳(为什么?)。如果我猴子补丁,所以我可以操纵条目属性,zip字符串的md5sum将保持不变。

module Zip 
    class OutputStream 
    attr_accessor :entry_set 
    end 

    class Entry 
    attr_accessor :time 
    end 
end 

... 

def create_lambda_zip_file(source_file) 
    zip_file = source_file.sub(/py$/, 'zip') 
    zip = Zip::OutputStream.write_buffer do |zio| 
    zio.put_next_entry(File.basename(source_file)) 
    zio << File.read(source_file) 
    zio.entry_set.each {|e| puts e.time = Zip::DOSTime.at(File.mtime(source_file).to_i)} 
    end 
    zip.string 
end 
+0

是否文件更改的编码?例如从ISO8859到UTF-8。 – spickermann

回答

0

8caba7d65b81501f3b65eca199c28acetest.zip md5值:你md5'd的文件名。

长度的差异可能是由于String#length返回字符串中的码点数,而File.size是计数字节。 String#bytesize方法应该返回与文件检查相同的结果。

在我的机器上(OS X,ruby 2.3.1)从zip返回的字符串声称具有utf-8编码,这解释了为什么长度与字节数不一致。该字符串实际上并不是有效的UTF8 - 但我认为这是一个错误。无论是不同的版本,或者可能与语言环境相关的环境变量导致你的Linux机器不是假装的压缩数据是UTF8

使用force_encoding改变编码ASCII-8BIT可以帮助

+0

糟糕,文件名的md5sum而不是内容发生在我压缩发布代码的时候。将编辑原始帖子。它还掩盖了我看到的原始问题,这不仅是长度的变化,而且是文件内容校验和的移动目标。什么是适当的zip文件编码? –

+0

ASCII-8BIT(或其同义词二进制) –