<div dir="ltr">I have to argue with you on 'equally limited' streaming being ok.  That allows for 'internet-like' service but no/poor streaming, a service that clamps down really hard on streaming and then offers you an upgrade to make it work.  Neutrality doesn't mean 'kind of' neutral.  If it's called 'Internet' then no specific service or even type of service should be limited for the provider's direct benefit or whims.  I can see no positive case for a provider limiting any service/type below the customers quoted service.  The provider gets to save money, but since they offer an inferior product that is essentially false advertised and customers have no way to know this then capitalist tools like consumer choice can't work.  Consumers don't know they can get a better suited service, they don't show demand in a market, that prevents competition from having an opportunity, etc.   Most people have just 1 fast internet option.<br><br>Does a customer that can't figure out why their new Roku 4K on their new 4K TV refuses to stream 4K Netflix on their 100M internet service say "Netflix sucks!".  or Roku sucks or Sony sucks or whatever?  So this spills over into making other services take the blame for bad connections. <br><br><br><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Nov 12, 2022 at 10:19 AM Herbert Wolverson via LibreQoS <<a href="mailto:libreqos@lists.bufferbloat.net">libreqos@lists.bufferbloat.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Net neutrality is complex (I'm generally in favor of the concept). There's nothing stopping an ISP from having rules that video streaming be limited - but ALL video streaming has to be equally limited. So ComCast could use Sandvine, but only without any vendor-specific limitations. Same for Cambium. Limit streams that look like video, and you're fine. With that said, it runs into something I say a lot: don't penalize your customers for using your product. If you're buying a 100mbit/s pipe, hooking it to your fancy 4k streaming system - it's entirely reasonable to expect sharp 4k video. In fact, your shaping emphasis should be on keeping their video nice and watchable even though someone just decided to download the newest Call of Duty, update their xbox, and update the firmware on their smart fridge. Likewise, if someone really wants the smallest 5 mbit connection you once offered - because they only ever use it to check email (we actually had a customer complain when we offered them a free upgrade from a 5mbit/s plan, years ago!) - you want to do your best to make it a usable tiny plan for them. Fair queuing (along with a bit of user education; we eventually convinced the customer that "no change in fees" actually meant not charging them more money) helps with all of that. <br></div><div><br></div><div>It can win customers, too. We have a couple of business customers who switched us from their backup to their primary because "our service felt snappier". We had a business go with us because their 24x7 lobby streaming video looked better on our (smaller) connection, and a couple of fraternities who likewise decided to use us because their overkill 4k video setup looked better (even with the 20+ Xboxes we could see on their network).</div><div><br></div><div>QUIC makes me chuckle, because it's <i>exactly</i> what we were doing in gamedev land in the late 90s to make deathmatches run smoothly. (Seriously, QuakeWorld and the original Unreal Tournament had the most amazing network code; they basically implemented what is now known as "reliable UDP" to incredible results).</div><div><br></div><div>With that said, I think we've got a remarkable amount of wiggle-room to make things better (and it's not at all shoddy right now!). XDP is amazing as-is, and is improving fast. (I'm currently reading <a href="https://github.com/ilejn/xdpbridge" target="_blank">https://github.com/ilejn/xdpbridge</a> - an older project that doesn't seem to have gained much traction, but I'm wondering if it couldn't provide some seriously fast bridge offloading; I'll have to setup a better test environment to find out)<br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Nov 12, 2022 at 10:09 AM Robert Chacón via LibreQoS <<a href="mailto:libreqos@lists.bufferbloat.net" target="_blank">libreqos@lists.bufferbloat.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Thank you, Dan.</div><div>I completely agree with you 100% there. It's a risky way to save a tiny amount of money on bandwidth costs.</div><div>Comcast paid out <a href="https://arstechnica.com/tech-policy/2010/04/comcast-owes-p2p-users-16-yes-they-should-take-it/?comments=1&post=20329187" target="_blank">$16 million in a settlement</a> over using Sandvine's DPI in this way.</div><div>Since then, Comcast has switched from DPI to fair queueing with <a href="https://www.reddit.com/r/eero/comments/rc8e2j/getting_a_bufferbloat_grade_with_comcast_aqm/" target="_blank">DOCSIS-pie</a>.</div><div><br></div><div><span dir="auto" lang="en"><div><div dir="auto" style="text-align:start">California's <a href="https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=201720180SB822&fbclid=IwAR2LmNyy5ZkbtzayIyNerJ-Q_OUwK4G0H4aYv4XZwVNz-QF41d5v0BiST-E" target="_blank">SB-822</a><span dir="auto" lang="en"></span> will be used as a template by many other states going forward on Net Neutrality.<a href="https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=201720180SB822&fbclid=IwAR2LmNyy5ZkbtzayIyNerJ-Q_OUwK4G0H4aYv4XZwVNz-QF41d5v0BiST-E" rel="nofollow noopener" role="link" target="_blank"></a> <br></div><div dir="auto" style="text-align:start"></div></div><div><div dir="auto" style="text-align:start">SB-822
 even clarified that "Reasonable Network Management" needs to be "as 
application-agnostic as possible".</div><div dir="auto" style="text-align:start">These DPI approaches like Cambium's will not hold up in court the way Fair Queuing (Preseem, LibreQoS) based 
solutions will.</div><div dir="auto" style="text-align:start">We can point to years of public research and RFCs when
 defending a Fair Queuing QoE approach.</div><div dir="auto" style="text-align:start">They can't so easily defend using a
 product that advertised its big "scale down 4k to save money" knob or 
"accelerate their speeds only when they run speed tests" button.</div><div style="text-align:start">It's concerning to me that these QoE vendors are not disclosing "hey, don't use this in NN states like California please".</div><div style="text-align:start">The WISP industry will be hurt long-term by these products with consumers viewing us as an inferior technology that limits their usage in intrusive ways.</div><div style="text-align:start">Like you said, let's let them use their plan however they want. It doesn't hurt us. But things like capping end-users at HD will hurt us long-term in lost sales.<br></div><div dir="auto" style="text-align:start"><br></div><div style="text-align:start">Regarding TCP acceleration, I'm leaning toward the <a href="https://youtu.be/3r4FWGKho3c?t=1879" target="_blank">argument made by Dan from Preseem</a> that QUIC adoption is growing pretty quickly and we may not want to mess with TCP at the expense of UDP given the rise of QUIC.</div><div style="text-align:start">Cloudlfare says HTTP/3 and QUIC are already at <a href="https://radar.cloudflare.com/adoption-and-usage?range=28d" target="_blank">28% and growing</a>.<br></div><div style="text-align:start">One point he brought up is that if we use TCP acceleration, and a middlebox has to be rebooted or something - all client TCP sessions will break when OSPF switches paths around the box.</div></div></span></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Nov 12, 2022 at 8:36 AM dan via LibreQoS <<a href="mailto:libreqos@lists.bufferbloat.net" target="_blank">libreqos@lists.bufferbloat.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">I think there's a thin grey line between what other vendors (paraqum, bequant/cambium) and libreQoS is trying to do.  The first two are REALLY pushing this selecting narrowing of traffic and they'll go straight after streaming for their demos.  Most people that drop in the cambium QoE appliance turn the knobs on Netflix down and then praise the 40% savings on their network.  Same with PQ.   I think this is fundamentally wrong.  This is the entire reason Net Neutrality keeps popping up.  Why does the ISP get to say "You only need 25Mbps for your netflix".  That's double wrong if they offer their own video services.  It's not about improving the customer's experience, it's about spending less on upstream bandwidth at the customer's expense.  As soon as they say 'pays for itself in bandwidth savings' you know what the product is primarily for.<br><br>This is why I like the preseem and libreqos model of just using a 'stock' cake and just finessing the data coming in to keep the pipe from clogging.  Who cares if someone pulls 90M bursts of apple TV+ on their 100M pipe.  Only dial that back so other requests they make get through cleanly.<br><br>preseem is going more towards wireless monitoring etc and kinda letting shaping be a secondary.... if they were doing more libreqos like stuff I'd just stick with preseem.<br><br>libreQoS may end up being the best and most net neutral product you can get.  The only current disadvantage (ignoring DPI) is lack of TCP accelleration that PQ and Bequant/cambium have.<br><br>I should add that 3 states already have laws on the books that straight up make PQ and Cambium's solution illegal because they target certain services for throttling.  My state (Montana) has the same rule except only when working with a government contract.  Libreqos is actually compliant (as is preseem).</div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Nov 12, 2022 at 8:11 AM Dave Taht via LibreQoS <<a href="mailto:libreqos@lists.bufferbloat.net" target="_blank">libreqos@lists.bufferbloat.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">this report predates the libreqos list...<br>
<br>
---------- Forwarded message ---------<br>
From: Dave Taht <<a href="mailto:dave.taht@gmail.com" target="_blank">dave.taht@gmail.com</a>><br>
Date: Mon, Oct 17, 2022 at 8:15 PM<br>
Subject: A quick report from the WISPA conference<br>
To: Sina Khanifar <<a href="mailto:sina@waveform.com" target="_blank">sina@waveform.com</a>><br>
Cc: Cake List <<a href="mailto:cake@lists.bufferbloat.net" target="_blank">cake@lists.bufferbloat.net</a>>, Make-Wifi-fast<br>
<<a href="mailto:make-wifi-fast@lists.bufferbloat.net" target="_blank">make-wifi-fast@lists.bufferbloat.net</a>>, Rpm<br>
<<a href="mailto:rpm@lists.bufferbloat.net" target="_blank">rpm@lists.bufferbloat.net</a>>, Stuart Cheshire <<a href="mailto:cheshire@apple.com" target="_blank">cheshire@apple.com</a>>,<br>
bloat <<a href="mailto:bloat@lists.bufferbloat.net" target="_blank">bloat@lists.bufferbloat.net</a>><br>
<br>
<br>
On Mon, Oct 17, 2022 at 7:51 PM Sina Khanifar <<a href="mailto:sina@waveform.com" target="_blank">sina@waveform.com</a>> wrote:<br>
><br>
> Positive or negative, I can claim a bit of credit for this video :). We've been working with LTT on a few projects and we pitched them on doing something around bufferbloat. We've seen more traffic to our Waveforn test than ever before, which has been fun!<br>
<br>
Thank you. Great job with that video! And waveform has become the goto<br>
site for many now.<br>
<br>
I can't help but wonder tho... are you collecting any statistics, over<br>
time, as to how much better the problem is getting?<br>
<br>
And any chance they could do something similar explaining wifi?<br>
<br>
...<br>
<br>
I was just at WISPA conference week before last. Preseem's booth<br>
(fq_codel) was always packed. Vilo living had put cake in their wifi 6<br>
product. A<br>
keynote speaker had deployed it and talked about it with waveform<br>
results on the big screen (2k people there). A large wireless vendor<br>
demo'd privately to me their flent results before/after cake on their<br>
next-gen radios... and people dissed tarana without me prompting for<br>
their bad bufferbloat... and the best thing of all that happened to me<br>
was... besides getting a hug from a young lady (megan) who'd salvaged<br>
her schooling in alaska using sqm - I walked up to the paraqum booth<br>
(another large QoE middlebox maker centered more in india) and asked.<br>
<br>
"So... do y'all have fq_codel yet?"<br>
<br>
And they smiled and said: "No, we have something better... we've got cake."<br>
<br>
"Cake? What's that?" - I said, innocently.<br>
<br>
They then stepped me through their 200Gbps (!!) product, which uses a<br>
bunch of offloads, and can track rtt down to a ms with the intel<br>
ethernet card they were using. They'd modifed cake to provide 16 (?)<br>
levels of service, and were running under dpdk (I am not sure if cake<br>
was). It was a great, convincing pitch...<br>
<br>
... then I told 'em who I was. There's a video of the in-both concert after.<br>
<br>
...<br>
<br>
The downside to me (and the subject of my talk) was that in nearly<br>
every person I talked to, fq_codel was viewed as a means to better<br>
subscriber bandwidth plan enforcement (which is admittedly the market<br>
that preseem pioneered) and it was not understood that I'd got<br>
involved in this whole thing because I'd wanted an algorithm to deal<br>
with "rain fade", running directly on the radios. People wanted to use<br>
the statistics on the radios to drive the plan enforcement better<br>
(which is an ok approach, I guess), and for 10+ I'd been whinging<br>
about the... physics.<br>
<br>
So I ranted about rfc7567 a lot and begged people now putting routerOS<br>
7.2 and later out there (mikrotik is huge in this market), to kill<br>
their fifos and sfqs at the native rates of the interfaces... and<br>
watch their network improve that way also.<br>
<br>
I think one more wispa conference will be a clean sweep of everyone in<br>
the fixed wireless market to not only adopt these algorithms for plan<br>
enforcement, but even more directly on the radios and more CPE.<br>
<br>
I also picked up enough consulting business to keep me busy the rest<br>
of this year, and possibly more than I can handle (anybody looking?)<br>
<br>
I wonder what will happen at a fiber conference?<br>
<br>
> On Mon, Oct 17, 2022 at 7:45 PM Dave Taht via Bloat <<a href="mailto:bloat@lists.bufferbloat.net" target="_blank">bloat@lists.bufferbloat.net</a>> wrote:<br>
>><br>
>> On Mon, Oct 17, 2022 at 5:02 PM Stuart Cheshire <<a href="mailto:cheshire@apple.com" target="_blank">cheshire@apple.com</a>> wrote:<br>
>> ><br>
>> > On 9 Oct 2022, at 06:14, Dave Taht via Make-wifi-fast <<a href="mailto:make-wifi-fast@lists.bufferbloat.net" target="_blank">make-wifi-fast@lists.bufferbloat.net</a>> wrote:<br>
>> ><br>
>> > > This was so massively well done, I cried. Does anyone know how to get in touch with the ifxit folk?<br>
>> > ><br>
>> > > <a href="https://www.youtube.com/watch?v=UICh3ScfNWI" rel="noreferrer" target="_blank">https://www.youtube.com/watch?v=UICh3ScfNWI</a><br>
>> ><br>
>> > I’m surprised that you liked this video. It seems to me that it repeats all the standard misinformation. The analogy they use is the standard terrible example of waiting in a long line at a grocery store, and the “solution” is letting certain traffic “jump the line, angering everyone behind them”.<br>
>><br>
>> Accuracy be damned. The analogy to common experience resonates more.<br>
>><br>
>> ><br>
>> > Some quotes from the video:<br>
>> ><br>
>> > > it would be so much more efficient for them to let you skip the line and just check out, especially since you’re in a hurry, but they’re rudely refusing<br>
>><br>
>> I think the person with the cheetos pulling out a gun and shooting<br>
>> everyone in front of him (AQM) would not go down well.<br>
>><br>
>> > > to go back to our grocery store analogy this would be like if a worker saw you standing at the back ... and either let you skip to the front of the line or opens up an express lane just for you<br>
>><br>
>> Actually that analogy is fairly close to fair queuing. The multiple<br>
>> checker analogy is one of the most common analogies in queue theory<br>
>> itself.<br>
>><br>
>> ><br>
>> > The video describes the problem of bufferbloat, and then describes the same failed solution that hasn’t worked for the last three decades.<br>
>><br>
>> Hmm? It establishes the scenario, explains the problem *quickly*,<br>
>> disses gamer routers for not getting it right..  *points to an<br>
>> accurate test*, and then to the ideas and products that *actually<br>
>> work* with "smart queueing", with a screenshot of the most common<br>
>> (eero's optimize for gaming and videoconferencing), and fq_codel and<br>
>> cake *by name*, and points folk at the best known solution available,<br>
>> openwrt.<br>
>><br>
>> Bing, baddabang, boom. Also the comments were revealing. A goodly<br>
>> percentage already knew the problem, more than a few were inspired to<br>
>> take the test,<br>
>> there was a whole bunch of "Aha!" success stories and 360k views,<br>
>> which is more people than we've ever been able to reach in for<br>
>> example, a nanog conference.<br>
>><br>
>> I loved that folk taking the test actually had quite a few A results,<br>
>> without having had to do anything. At least some ISPs are getting it<br>
>> more right now!<br>
>><br>
>> At this point I think gamers in particular know what "brands" we've<br>
>> tried to establish - "Smart queues", "SQM", "OpenWrt", fq_codel and<br>
>> now "cake" are "good" things to have, and are stimulating demand by<br>
>> asking for them,   It's certainly working out better and better for<br>
>> evenroute, firewalla, ubnt and others, and I saw an uptick in<br>
>> questions about this on various user forums.<br>
>><br>
>> I even like that there's a backlash now of people saying "fixing<br>
>> bufferbloat doesn't solve everything" -<br>
>><br>
>> >  Describing the obvious simple-minded (wrong) solution that any normal person would think of based on their personal human experience waiting in grocery stores and airports, is not describing the solution to bufferbloat. The solution to bufferbloat is not that if you are privileged then you get to “skip to the front of the line”. The solution to bufferbloat is that there is no line!<br>
>><br>
>> I like the idea of a guru floating above a grocery cart with a better<br>
>> string of explanations, explaining<br>
>><br>
>>    - "no, grasshopper, the solution to bufferbloat is no line... at all".<br>
>><br>
>> ><br>
>> > With grocery stores and airports people’s arrivals are independent and not controlled. There is no way for a grocery store or airport to generate backpressure to tell people to wait at home when a queue begins to form. The key to solving bufferbloat is generating timely backpressure to prevent the queue forming in the first place, not accepting a huge queue and then deciding who deserves special treatment to get better service than all the other peons who still have to wait in a long queue, just like before.<br>
>><br>
>> I am not huge on the word "backpressure" here. Needs to signal the<br>
>> other side to slow down, is more accurate. So might say timely<br>
>> signalling rather than timely backpressure?<br>
>><br>
>> Other feedback I got  was that the video was too smarmy (I agree),<br>
>> different audiences than gamers need different forms of outreach...<br>
>><br>
>> but to me, winning the gamers has always been one of the most<br>
>> important things, as they make a lot of buying decisions, and they<br>
>> benefit the most for<br>
>> fq and packet prioritization as we do today in gamer routers and in<br>
>> cake + qosify.<br>
>><br>
>> maybe that gets in the way of more serious markets. Certainly I would<br>
>> like another video explaining what goes wrong with videoconferencing.<br>
>><br>
>><br>
>><br>
>><br>
>><br>
>><br>
>> ><br>
>> > Stuart Cheshire<br>
>> ><br>
>><br>
>><br>
>> --<br>
>> This song goes out to all the folk that thought Stadia would work:<br>
>> <a href="https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz" rel="noreferrer" target="_blank">https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz</a><br>
>> Dave Täht CEO, TekLibre, LLC<br>
>> _______________________________________________<br>
>> Bloat mailing list<br>
>> <a href="mailto:Bloat@lists.bufferbloat.net" target="_blank">Bloat@lists.bufferbloat.net</a><br>
>> <a href="https://lists.bufferbloat.net/listinfo/bloat" rel="noreferrer" target="_blank">https://lists.bufferbloat.net/listinfo/bloat</a><br>
<br>
<br>
<br>
--<br>
This song goes out to all the folk that thought Stadia would work:<br>
<a href="https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz" rel="noreferrer" target="_blank">https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz</a><br>
Dave Täht CEO, TekLibre, LLC<br>
<br>
<br>
-- <br>
This song goes out to all the folk that thought Stadia would work:<br>
<a href="https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz" rel="noreferrer" target="_blank">https://www.linkedin.com/posts/dtaht_the-mushroom-song-activity-6981366665607352320-FXtz</a><br>
Dave Täht CEO, TekLibre, LLC<br>
_______________________________________________<br>
LibreQoS mailing list<br>
<a href="mailto:LibreQoS@lists.bufferbloat.net" target="_blank">LibreQoS@lists.bufferbloat.net</a><br>
<a href="https://lists.bufferbloat.net/listinfo/libreqos" rel="noreferrer" target="_blank">https://lists.bufferbloat.net/listinfo/libreqos</a><br>
</blockquote></div>
_______________________________________________<br>
LibreQoS mailing list<br>
<a href="mailto:LibreQoS@lists.bufferbloat.net" target="_blank">LibreQoS@lists.bufferbloat.net</a><br>
<a href="https://lists.bufferbloat.net/listinfo/libreqos" rel="noreferrer" target="_blank">https://lists.bufferbloat.net/listinfo/libreqos</a><br>
</blockquote></div><br clear="all"><br>-- <br><div dir="ltr"><div dir="ltr">Robert Chacón<br><div>CEO | <a href="http://jackrabbitwireless.com" target="_blank">JackRabbit Wireless LLC</a></div><div>Dev | <a href="http://LibreQoS.io" target="_blank">LibreQoS.io</a><br></div><br></div></div>
_______________________________________________<br>
LibreQoS mailing list<br>
<a href="mailto:LibreQoS@lists.bufferbloat.net" target="_blank">LibreQoS@lists.bufferbloat.net</a><br>
<a href="https://lists.bufferbloat.net/listinfo/libreqos" rel="noreferrer" target="_blank">https://lists.bufferbloat.net/listinfo/libreqos</a><br>
</blockquote></div>
_______________________________________________<br>
LibreQoS mailing list<br>
<a href="mailto:LibreQoS@lists.bufferbloat.net" target="_blank">LibreQoS@lists.bufferbloat.net</a><br>
<a href="https://lists.bufferbloat.net/listinfo/libreqos" rel="noreferrer" target="_blank">https://lists.bufferbloat.net/listinfo/libreqos</a><br>
</blockquote></div>