传统的服务器操作系统，包括大多数Linux发行版，每隔几年都会更换。在这期间，开发者会不断用安全补丁和更新完善这个系统，但是不会进行特别大的改动，最终这个操作系统以及其上的软件会慢慢僵化。但是CoreOS的思想是成为一个随时可被替换的操作系统，甚至在这个替换的过程中，应用程序的运行不会被打断。
CoreOS有两个root分区，我们暂且称其为root A和root B。CoreOS会与更新服务进行交互，查找更新并自动下载可用的更新，如果初始状态下，系统在root A下启动，更新就会被安装到root B，重新在root B下启动系统就可以完成更新。这个个过程中，被更新的机器不需要从负载集群中移除。同时，为了保证其它应用程序不被打断，CoreOS会通过Linux cgroups限制更新过程中的硬盘和网络I/O。
CoreOS为现代网络的服务器量身定做，Polvi团队对这个服务器操作系统做了最大的精简，所有附加的功能都被剔除了，并将操作系统和应用程序做了完全的分离。CoreOS核心思想是降低操作系统和应用程序的耦合度，使运行这些服务器的公司可以更快速、更廉价地更新自己的线上业务。
在CoreOS中，所有应用程序都被装在一个个集装箱（Container）中，这些集装箱就像一个个软件代码的小气泡，通过最简单的接口运行在操作系统之上。这意味着你可以很轻松得将应用程序在操作系统和计算机之间转移，就像是在轮船和火车上搬运箱子一样，同时也意味着可以在不中断应用程序的情况下更新操作系统。Polvi说：“我们之所以能够持续、快速地更新操作系统就在于我们能够保证应用程序的持续运行。”
开发一个这样的系统比想象中要复杂的多，但是Google已经在ChromeOS上做了很多基础性的工作，并且一个现有的集装箱项目Docker也解决了很多软件构建的问题。CoreOS和ChromeOS一样，都基于Linux内核，运行container的方式也类似于其它Linux操作系统。
