Herokuの各Dynoにアクセスを振り分けるHTTPロードバランサー

sticky-sessionやWebSocketに対応していたりして、なかなかよく考えて実装されているようだ

定期的なdynoの再起動とgraceful restartのためのルールが実装されている

アプリがclientに30秒以内にレスポンスを返さないとエラーと見なす、等

詳しくはHeroku Error Codeへ