缓慢加载的一个问题是在每次更新时都进行提交。确保自动提交关闭,并且每1000行或者其他操作一次。如果它不是一个巨大的负载,不要做它们。另外,请勿在加载过程中创建索引,然后再创建索引。
此外,我不确定OLE是如何做到这一点的最佳方式。我一直使用DBI和Win32 :: ODBC加载Access数据库。速度非常快。
根据要求,这里是样本加载程序,在WinXP,Access 2003,ActiveState Perl 5.8.8上每分钟做了大约100k条记录。
use strict;
use warnings;
use Win32::ODBC;
$| = 1;
my $dsn = "LinkManagerTest";
my $db = new Win32::ODBC($dsn)
or die "Connect to database $dsn failed: " . Win32::ODBC::Error();
my $rows_added = 0;
my $error_code;
while (<>) {
chomp;
print STDERR "." unless $. % 100;
print STDERR " $.\n" unless $. % 5000;
my ($source, $source_link, $url, $site_name) = split /\t/;
my $insert = qq{
insert into Links (
URL,
SiteName,
Source,
SourceLink
)
values (
'$url',
'$site_name',
'$source',
'$source_link'
)
};
$error_code = $db->Sql($insert);
if ($error_code) {
print "\nSQL update failed on line $. with error code $error_code\n";
print "SQL statement:\n$insert\n\n";
print "Error:\n" . $db->Error() . "\n\n";
}
else {
$rows_added++;
}
$db->Transact('SQL_COMMIT') unless $. % 1000;
}
$db->Transact('SQL_COMMIT');
$db->Close();
print "\n";
print "Lines Read: $.\n";
print "Rows Added: $rows_added\n";
exit 0;
在20分钟内装载了多少行?每行有多少列(字段)?输入文件总共有多大字节?你是否在加载时创建索引? –