2012-06-20 52 views
-6

我有10000个TEXTFILES具有这种结构流每秒巨大的数据用java

x   y 
------------------ text file structure 

2   1 
3   2 
3   3 
.   . 
.   . 
.   . 

如我在Java发送每秒10000个数据(一个第二信息是文件的线)?我想模仿10000 gps的

感谢您的帮助。

+0

你想如何发送这些数据?作为文件?作为一个web服务调用?通过网络端口? – Freiheit

+0

每个文件读取一行并发送每秒的行信息,也许json编码...通过使用rabbitmq的网络端口是一种可能的解决方案 –

+0

文件是否必须实时读取或可以预处理? – Freiheit

回答

1

看来,每秒钟一次你想从10,000个不同的文件中读取一行。

您将遇到的一个问题是,某些操作系统不允许一次打开10,000个文件,重复打开和关闭文件效率非常低。

解决此问题的一个方法是合并文件或增加允许的最大文件。

由于您正在模拟GPS,您需要以与他们相同的方式进行通信。例如如果使用JSon和rabbitmq,请使用这些。但是,如果他们不使用这些,你会使这种模拟变得不现实。

从打开的文件中读取每秒10,000行应该不成问题。

这些文件是否有实际的时间戳,例如以毫秒或微秒为单位,因此您可以按事件发生时排列事件?

+0

是的,文件有第二次第三列,然后有效的方式是合并文件,然后,订购事件,非常感谢! –

+0

如果您每秒更新一次,那么最好使用更准确的时间戳,因为您不知道订单差异来源向您提供了他们的数据。 –