我有10000个TEXTFILES具有这种结构流每秒巨大的数据用java
x y
------------------ text file structure
2 1
3 2
3 3
. .
. .
. .
如我在Java发送每秒10000个数据(一个第二信息是文件的线)?我想模仿10000 gps的
感谢您的帮助。
我有10000个TEXTFILES具有这种结构流每秒巨大的数据用java
x y
------------------ text file structure
2 1
3 2
3 3
. .
. .
. .
如我在Java发送每秒10000个数据(一个第二信息是文件的线)?我想模仿10000 gps的
感谢您的帮助。
看来,每秒钟一次你想从10,000个不同的文件中读取一行。
您将遇到的一个问题是,某些操作系统不允许一次打开10,000个文件,重复打开和关闭文件效率非常低。
解决此问题的一个方法是合并文件或增加允许的最大文件。
由于您正在模拟GPS,您需要以与他们相同的方式进行通信。例如如果使用JSon和rabbitmq,请使用这些。但是,如果他们不使用这些,你会使这种模拟变得不现实。
从打开的文件中读取每秒10,000行应该不成问题。
这些文件是否有实际的时间戳,例如以毫秒或微秒为单位,因此您可以按事件发生时排列事件?
是的,文件有第二次第三列,然后有效的方式是合并文件,然后,订购事件,非常感谢! –
如果您每秒更新一次,那么最好使用更准确的时间戳,因为您不知道订单差异来源向您提供了他们的数据。 –
你想如何发送这些数据?作为文件?作为一个web服务调用?通过网络端口? – Freiheit
每个文件读取一行并发送每秒的行信息,也许json编码...通过使用rabbitmq的网络端口是一种可能的解决方案 –
文件是否必须实时读取或可以预处理? – Freiheit