我正在实施实时出价的一些API, 它要求我实现一个HTTP服务器。 ,但要保持运行,我必须在100ms
, 内响应,它也可以达到50,000
每秒请求,所以我不得不 把负载均衡器与许多实例。 所以,因为响应时间对我来说很有价值,AWS负载平衡器如何影响响应时间?
负载均衡器如何影响这个?
我正在实施实时出价的一些API, 它要求我实现一个HTTP服务器。 ,但要保持运行,我必须在100ms
, 内响应,它也可以达到50,000
每秒请求,所以我不得不 把负载均衡器与许多实例。 所以,因为响应时间对我来说很有价值,AWS负载平衡器如何影响响应时间?
负载均衡器如何影响这个?
SSL终止会嚼碎资源(CPU电源)。您可以将它放在负载平衡器或Web服务器上,但需要考虑是否真的需要SSL以及您将使用何种级别的加密。
请记住,如果您要获得流量高峰,您应该预热负载均衡器。
除此之外,负载均衡器不应该真正成为延迟的根本用途,它很可能是您的Web服务器变得饱和,因此请确保您为应用/流量设置了正确的指标自动扩展。
还有很多其他的事情可以使您的Web服务器需要做的工作(缓存,APC for PHP,将静态文件移动到CDN,缓存数据库调用或使用非关系数据库,使用Nginx来代替的Apache)
编辑:AWS ELB构建为自动扩展。我无法找到有关延迟是什么以及这会如何影响您的响应时间的数字。如果你有兴趣,你可以直接测试点击服务器与点击LB,但我怀疑结果可以忽略不计。用足够的流量击中你的LB(或服务器),你会看到响应时间继续增加。
我知道所有的工作,我有mongo数据库与redis缓存,我只是不知道花费在负载平衡器 – Dima 2013-04-29 14:14:43
上的时间做你的特定设置的测试。尝试与LB并比较没有。 – 2013-04-30 01:58:40
在这种情况下,AWS可能不是最好的选择。 AWS是一个多租户虚拟化环境。这意味着多个用户共享资源。您不会完全控制延迟。 – datasage 2013-04-29 12:42:30
即时通讯不会使用微型实例,所以它不是真的共享......它的虚拟化,但我得到完整的CPU和内存,我订购 – Dima 2013-04-29 12:48:33
除非你使用专用实例,一切都是共享的。嘈杂的邻居可能会降低您的预期CPU性能。 – datasage 2013-04-29 13:17:38