<font face="verdana" size="2"><p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">Sooner or later it dawns on all security professionals that the idea of a "provably secure system" is a pipedream. Same with systems designers working on fault tolerance who are tasked with making their systems "NonStop" as the Tandem claim used to go.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">What we see here in most of the examples is a failure of design, especially of modularity.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">Modularity is there to tame complexity, that's really its only reason to exist.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">One thing that helps enforce modularity is end-to-end encryption, though there are other such concepts. The baseband processor shouldn't have the encryption keys - it has no "need to know".</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">The bigger problem is that those who design these "modules" don't understand the way to make systems containing them modular. A module, for example, performs a function that can be described abstractly, without knowing what is inside it. And it should hide information about "how" and "what" it does to the largest extent possible (Parnas' Information Hiding Principle). There are other time-tested notions of modular design that help.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">But what we see often are what we used to describe in software as "taking the listing and breaking it into files by tearing on page boundaries".  The tendency is toward throwing a grab bag of functions on a chip that have no consistent and modular functionality. (e.g. the so-called "chipsets" that accompany new Intel CPU releases).</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">I don't know what can be done, other than to design systems that have modular structure where we can.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">The one remaining thing we can do is limit the bad things that can happen in a design, by compartmentalizing failure and security risk using fairly strong and redundant approaches. Defense in depth. Don't assume that your firewall will prevent errors from creeping in.</p>
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"> </p>
<!--WM_COMPOSE_SIGNATURE_START--><!--WM_COMPOSE_SIGNATURE_END-->
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;"><br /><br />On Monday, October 9, 2017 4:32am, "Mikael Abrahamsson" <swmike@swm.pp.se> said:<br /><br /></p>
<div id="SafeStyles1507573292">
<p style="margin:0;padding:0;font-family: verdana; font-size: 10pt; overflow-wrap: break-word;">> On Sat, 7 Oct 2017, valdis.kletnieks@vt.edu wrote:<br />> <br />> > Know how x86 people complain that SSM mode introduces jitter? That's<br />> > just the tip of the iceberg. Believe it or not, there's an entire<br />> > IPv4/IPv6 stack *and a webserver* hiding in there...<br />> ><br />> > https://schd.ws/hosted_files/ossna2017/91/Linuxcon%202017%20NERF.pdf<br />> ><br />> > Gaak. Have some strong adult beverage handy, you'll be needing it....<br />> <br />> Also see the wifi processor remote exploit that Apple devices (and others<br />> I presume) had problems with.<br />> <br />> Mobile baseband processors behave in the same way, and also have their own<br />> stack. I have talked to mobile developers who discovered all of a sudden<br />> the baseband would just silently "steal" a bunch of UDP ports from the<br />> host OS and just grab these packets. At least with IPv6, the baseband can<br />> have its own IPv6 address, separated from the host stack IPv6 addreses.<br />> <br />> Just to illustrate (incompletely) what might be going on when you're<br />> tethering through a mobile phone.<br />> <br />> Packet comes in on the 4G interface. It now hits the baseband processor<br />> (that runs code), which might send the packet to either the host OS, or<br />> via an packet accelerator path (which the host OS might or not have a<br />> control plane into), and this accelerator runs code, and then it hits the<br />> wifi chip, which also runs code.<br />> <br />> So while the host OS programmer might see their host OS doing something,<br />> in real life the packet potentially hits at least three other things that<br />> run code using their own firmware. Also, these components are manufactured<br />> in factories, how do we verify that these actually do what they were<br />> intended to do, and not modified between design and production? How do we<br />> know the firmware we load is actually loaded and it's not intercepted and<br />> real time patched before execution? Oh, also, the OS is loaded from<br />> permanent storage, that is also running code. There are several talks<br />> about people modifying the storage controller (which also runs code of<br />> coutse) to return different things depending on usage pattern. So it's not<br />> safe for the OS to read data, check that it passes integrity checks, and<br />> then read it again, and execute. The storage might return different things<br />> the second time.<br />> <br />> I don't know that we as humanity know how to do this securely. I've<br />> discussed this with vendors in different sectors, and there's a lot of<br />> people who aren't even aware of the problem.<br />> <br />> I'd say the typical smartphone today probably has 10 things or more<br />> running code/firmware, all susceptable to bugs, all of them risked of even<br />> with exposed security problems, they're never going to be patched.<br />> <br />> So the IoT problem isn't only for "smart meters" etc, it's for everything.<br />> We've created devices that are impossible to verify without destroying<br />> them (sanding down ICs and looking at billions of gates), and in order to<br />> verify them, you need equipment and skills that are not available to most<br />> people.<br />> <br />> --<br />> Mikael Abrahamsson email: swmike@swm.pp.se<br />> </p>
</div></font>