<html><head><meta http-equiv="Content-Type" content="text/html charset=utf-8"></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;" class=""><br class=""><div><blockquote type="cite" class=""><div class="">On Jun 17, 2018, at 8:47 PM, Jonathan Morton <<a href="mailto:chromatix99@gmail.com" class="">chromatix99@gmail.com</a>> wrote:</div><div class=""><p dir="ltr" class="">If you have instructions for setting up a test, I could try it.</p></div></blockquote></div><div class="">Ok, thanks for that, code and scripts are attached, see README.txt.</div><div class=""><br class=""></div><div class="">I now use plain netns (no lxc containers), which is easier to set up and has lower RTTs and higher throughputs, probably due to no bridge device.</div><div class=""><br class=""></div><div class="">Per Eric’s tip, the nfq no-op code is run with chrt -rr 99, which reduces RTTs somewhat and increases throughputs ~2-3x. No busy polling yet.</div><div class=""><br class=""></div><div class="">I also tried it on VMWare with a 2011 MBP, which looks radically better than the APU2 (for nfq, RTTs ~16% of APU2 and throughput 4x higher in the non-GSO case, 11x with GSO). Results attached, and to summarize:</div><div class=""><br class=""></div><div class="">ping mean (min-max) RTTs:</div><div class=""><br class=""></div><div class="">APU2, no nfq: 35 us (23-291)</div><div class=""><div class="">APU2, nfq without GSO: 80 us (53-288)</div></div><div class=""><div class="">APU2, nfq with GSO: 85 us (56-270)</div></div><div class="">2011 MBP, no nfq: 4 us (4-529) [11% of APU2]</div><div class="">2011 MBP, nfq without GSO: 13 us (11-197) [16% of APU2]</div><div class="">2011 MBP, nfq with GSO: 14 us (11-1568) [16% of APU2]</div><div class=""><br class=""></div><div class="">iperf3 throughputs (Gbps):</div><div class=""><br class=""></div><div class="">APU2, no nfq: 5.01 Gbps</div><div class="">APU2, nfq without GSO: 391 Mbps</div><div class="">APU2, nfq with GSO: 3.35 Gbps</div><div class=""><div class="">2011 MBP, no nfq: 39.8 Gbps [7.9x APU2]</div><div class="">2011 MBP, nfq without GSO: 1.48 Gbps [3.8x APU2]</div><div class="">2011 MBP, nfq with GSO: 38.0 Gbps [11.3x APU2]</div></div><div class=""><br class=""></div><div class="">Results from a decent physical box instead of a VM may be interesting to see.</div><div class=""></div></body></html>