勿忘初心

个人签名

530篇博客

不仅Docker会使用Control Group,KVM也会使用Cgroup来控制资源分配 (1)

勿忘初心2018-11-08 14:14

此文已由作者刘超授权网易云社区发布。

欢迎访问网易云社区,了解更多网易技术产品运营经验


使用过Docker的人都知道,Docker使用cgroup来控制进程的资源使用量,在OpenStack中使用KVM同样也存在这个问题,KVM虽然可以做内核的隔离,但是使用起主机上的CPU来,也是互相争抢的,需要使用cgroup控制资源使用量。

Control Group又称cgroup,用于控制进程的资源使用:CPU, Disk I/O, Memory, Network等。


Cgroup有几个重要的概念:

  • 任务:对应于进程,将进程ID放到cgroup里面,就算cgroup的一个任务,受cgroup控制

  • 层次:

    • cgroup是分层次的,子cgroup会继承父cgroup的设置

    • Cgroup的管理通常使用file system的接口,一个cgroup会被mount成一个cgroup的文件系统,则层次结构对应于文件夹结构

  • 子系统:系统的资源被不同的子系统控制

    • blkio -- 为块设备设定输入/输出限制,比如物理设备(磁盘,固态硬盘,USB等等)。

    • cpu -- 使用调度程序提供对CPU的cgroup任务访问。

    • cpuacct -- 自动生成cgroup中任务所使用的CPU报告。

    • cpuset -- 为cgroup中的任务分配独立CPU (在多核系统)和内存节点。

    • devices -- 可允许或者拒绝cgroup中的任务访问设备。

    • freezer -- 挂起或者恢复cgroup中的任务。

    • memory -- 设定cgroup中任务使用的内存限制,并自动生成由那些任务使用的内存资源报告。

    • net_cls -- 使用等级识别符(classid)标记网络数据包,可允许Linux流量控制程序tc识别从 具体cgroup中生成的数据包。

    • ns -- 名称空间子系统。






一、对CPU的控制


CFS (Completely Fair Scheduler) :

  • 将所有可运行的任务放入一棵红黑树,key是vruntime

  • 红黑树是平衡的,左面的任务得到的时间少,右面的任务得到的时间多,最左面的任务有最高的优先级

  • cfs_period_us的意思是cgroup对CPU的调度的干预周期,cfs_quota_us是指则一个周期内这个进程得到的时间片长度。比如cfs_period_us=100000说明100毫秒cgroup进行一次干预,cfs_quota_us=25000表示在100毫秒里面,这个进程能够得到25毫秒的时间片,如果对cgroup进行的修改,则要等到下个100毫秒才起作用

  • cpu.shares是一个相对值,进程之间的cpu使用率按照这个数字的比例来



查看cpuset,在如下路径下面:

cgroup on /sys/fs/cgroup/cpuset type cgroup (rw,relatime,cpuset)

cat ubuntutest.libvirt-qemu/cpuset.cpus #0-3

cat ubuntutest2.libvirt-qemu/cpuset.cpus #0-3

两个VM都同时使用四个CPU,为了查看CPU调度,我们使用一个CPU

关闭VM,设置cpuset.cpus


重启VM


在两台虚拟机上创建一个无限循环的python程序

没有设置cgroup的时候,两台虚拟机同时运行这个程序

 

设置cpu.shares

查看现在的设置

 

修改ubuntutest2的设置

echo 4096 > ubuntutest2.libvirt-qemu/cpu.shares

 

也可以通过virsh设置和查看

virsh schedinfo ubuntutest --set cpu_shares=2048


 

设置vcpu_quota


 


二、对block I/O的控制

查看major number和minor number

 

相对值:范围在100到1000

echo 8:0 500 > blkio.weight_device

绝对值(bytes per second):

echo "8:0 10485760" > /cgroup/blkio/testcg/blkio.throttle.read_bps_device

echo "8:0 10485760" > /cgroup/blkio/testcg/blkio.throttle.write_bps_device

使用virsh


使用iotop -P -o查看速度

设置cache='none'



设置写入速度

echo "8:0 10485760" > ubuntutest.libvirt-qemu/blkio.throttle.write_bps_device

echo "8:0 20971520" > ubuntutest.libvirt-qemu/blkio.throttle.write_bps_device




相关阅读:不仅Docker会使用Control Group,KVM也会使用Cgroup来控制资源分配 (1)

不仅Docker会使用Control Group,KVM也会使用Cgroup来控制资源分配 (2)

不仅Docker会使用Control Group,KVM也会使用Cgroup来控制资源分配 (3)


11.1—11.15云计算基础服务全场5折起

免费体验云安全(易盾)内容安全、验证码等服务

更多网易技术、产品、运营经验分享请点击