<div dir="ltr"><div class="gmail_extra"><div>> Yeah that's weird.</div><div>> </div><div>> Look around /var/log and see what is mounting those cgroups</div><div><br></div><div>I tried to search the log about mounting cgroups. But I did not know which is the log.</div><div>The following are log of the mount and <span style="color:rgb(0,0,0);font-family:Arial,'Arial New','\00ff2d\00ff33  \00ff30  \0030b4\0030b7\0030c3\0030af',sans-serif;font-size:13px;line-height:19.2000007629395px">state of the mount </span>I think.</div><div><br></div><div>root@okapi:~# tail -n 5 /var/log/upstart/mounted-proc.log</div><div>chmod: cannot access '/proc/slabinfo': No such file or directory</div><div>chmod: cannot access '/proc/slabinfo': No such file or directory</div><div>chmod: cannot access '/proc/slabinfo': No such file or directory</div><div>chmod: cannot access '/proc/slabinfo': No such file or directory</div><div>chmod: cannot access '/proc/slabinfo': No such file or directory</div><div>root@okapi:~# tail -n 5 /var/log/upstart/mountall.log</div><div>mountall: Event failed</div><div>mountall: Event failed</div><div>mountall: Event failed</div><div>mountall: Event failed</div><div>mountall: Event failed</div><div>root@okapi:~# mount</div><div>/dev/ploop10682p1 on / type ext4 (rw,relatime,barrier=1,data=ordered,balloon_ino=12)</div><div>proc on /proc type proc (rw,relatime)</div><div>sysfs on /sys type sysfs (rw,relatime)</div><div>none on /dev type devtmpfs (rw,nosuid,noexec,relatime,mode=755)</div><div>none on /dev/pts type devpts (rw,nosuid,noexec,relatime,gid=5,mode=620,ptmxmode=000)</div><div>none on /proc/sys/fs/binfmt_misc type binfmt_misc (rw,nosuid,nodev,noexec,relatime)</div><div>none on /sys/fs/cgroup type tmpfs (rw,relatime,size=4k,mode=755)</div><div>none on /run type tmpfs (rw,nosuid,noexec,relatime,size=52432k,mode=755)</div><div>none on /run/lock type tmpfs (rw,nosuid,nodev,noexec,relatime,size=5120k)</div><div>none on /run/shm type tmpfs (rw,relatime)</div><div>none on /run/user type tmpfs (rw,nosuid,nodev,noexec,relatime,size=102400k,mode=755)</div><div><br></div><div>> at boot.  What files still exist under /etc/init and /etc/init.d?</div><div><br></div><div>Files under /etc/init and /etc/init.d are the following.</div><div><br></div><div>root@okapi:~# ls -al /etc/init</div><div>total 312</div><div>drwxr-xr-x  2 root root 4096 Jan 16 13:44 .</div><div>drwxr-xr-x 89 root root 4096 Jan 23 13:45 ..</div><div>-rw-r--r--  1 root root  328 Feb 22  2014 bootmisc.sh.conf</div><div>-rw-r--r--  1 root root 1169 Apr 14  2014 cgmanager.conf</div><div>-rw-r--r--  1 root root 1169 Apr 14  2014 cgmanager.conf~</div><div>-rw-r--r--  1 root root  855 Apr 14  2014 cgproxy.conf</div><div>-rw-r--r--  1 root root  379 Mar 13  2013 cgroup-lite.conf</div><div>-rw-r--r--  1 root root  232 Feb 22  2014 checkfs.sh.conf</div><div>-rw-r--r--  1 root root  253 Feb 22  2014 checkroot-bootclean.sh.conf</div><div>-rw-r--r--  1 root root  307 Feb 22  2014 checkroot.sh.conf</div><div>-rw-r--r--  1 root root  100 Jan 23 13:45 console.conf</div><div>-rw-r--r--  1 root root 1122 Jul 18  2014 container-detect.conf</div><div>-rw-r--r--  1 root root  356 Jul 18  2014 control-alt-delete.conf</div><div>-rw-r--r--  1 root root  297 Feb  9  2013 cron.conf</div><div>-rw-r--r--  1 root root  489 Nov 11  2013 dbus.conf</div><div>-rw-r--r--  1 root root  273 Nov 19  2010 dmesg.conf</div><div>-rw-r--r--  1 root root 1105 Mar  7  2014 dovecot.conf</div><div>-rw-r--r--  1 root root 1377 Jul 18  2014 failsafe.conf</div><div>-rw-r--r--  1 root root  267 Jul 18  2014 flush-early-job-log.conf</div><div>-rw-r--r--  1 root root  284 Jul 23  2013 hostname.conf</div><div>-rw-r--r--  1 root root  557 Sep 25 18:51 hwclock.conf</div><div>-rw-r--r--  1 root root  444 Sep 25 18:51 hwclock-save.conf</div><div>-rw-r--r--  1 root root  689 Apr 10  2014 kmod.conf</div><div>-rw-r--r--  1 root root  268 Feb 22  2014 mountall-bootclean.sh.conf</div><div>-rw-r--r--  1 root root 1232 Feb 22  2014 mountall.conf</div><div>-rw-r--r--  1 root root  349 Feb 22  2014 mountall-net.conf</div><div>-rw-r--r--  1 root root  261 Feb 22  2014 mountall-reboot.conf</div><div>-rw-r--r--  1 root root  311 Feb 22  2014 mountall.sh.conf</div><div>-rw-r--r--  1 root root 1201 Feb 22  2014 mountall-shell.conf</div><div>-rw-r--r--  1 root root  327 Feb 22  2014 mountdevsubfs.sh.conf</div><div>-rw-r--r--  1 root root  405 Feb 22  2014 mounted-debugfs.conf</div><div>-rw-r--r--  1 root root  730 Feb 22  2014 mounted-dev.conf</div><div>-rw-r--r--  1 root root  480 Feb 22  2014 mounted-proc.conf</div><div>-rw-r--r--  1 root root  618 Feb 22  2014 mounted-run.conf</div><div>-rw-r--r--  1 root root 1890 Feb 22  2014 mounted-tmp.conf</div><div>-rw-r--r--  1 root root  903 Feb 22  2014 mounted-var.conf</div><div>-rw-r--r--  1 root root  323 Feb 22  2014 mountkernfs.sh.conf</div><div>-rw-r--r--  1 root root  249 Feb 22  2014 mountnfs-bootclean.sh.conf</div><div>-rw-r--r--  1 root root  313 Feb 22  2014 mountnfs.sh.conf</div><div>-rw-r--r--  1 root root  238 Feb 22  2014 mtab.sh.conf</div><div>-rw-r--r--  1 root root 1770 Feb 19  2014 mysql.conf</div><div>-rw-r--r--  1 root root 2359 Jan  1 08:06 networking.conf</div><div>-rw-r--r--  1 root root 1109 May  8  2014 network-interface.conf</div><div>-rw-r--r--  1 root root  530 Mar 20  2014 network-interface-container.conf</div><div>-rw-r--r--  1 root root 1756 May  4  2013 network-interface-security.conf</div><div>-rw-r--r--  1 root root  534 Feb 17  2014 passwd.conf</div><div>-rw-r--r--  1 root root  519 Mar 13  2014 plymouth.conf</div><div>-rw-r--r--  1 root root  326 Mar 13  2014 plymouth-log.conf</div><div>-rw-r--r--  1 root root  675 Mar 13  2014 plymouth-ready.conf</div><div>-rw-r--r--  1 root root  778 Mar 13  2014 plymouth-shutdown.conf</div><div>-rw-r--r--  1 root root  899 Mar 13  2014 plymouth-splash.conf</div><div>-rw-r--r--  1 root root  796 Mar 13  2014 plymouth-stop.conf</div><div>-rw-r--r--  1 root root  421 Apr 11  2014 plymouth-upstart-bridge.conf</div><div>-rw-r--r--  1 root root  363 Jan  6  2014 procps.conf</div><div>-rw-r--r--  1 root root  661 Jul 18  2014 rc.conf</div><div>-rw-r--r--  1 root root  683 Jul 18  2014 rcS.conf</div><div>-rw-r--r--  1 root root 1543 Jul 18  2014 rc-sysinit.conf</div><div>-rw-r--r--  1 root root  426 Apr 18  2013 rsyslog.conf</div><div>-rw-r--r--  1 root root  277 Jul 18  2014 shutdown.conf</div><div>-rw-r--r--  1 root root  641 May  2  2014 ssh.conf</div><div>-rw-r--r--  1 root root  711 Mar 13  2014 startpar-bridge.conf</div><div>-rw-r--r--  1 root root 1183 Oct 29 07:02 systemd-logind.conf</div><div>-rw-r--r--  1 root root  348 Jul 18  2014 tty1.conf</div><div>-rw-r--r--  1 root root   97 Jan 23 13:45 tty2.conf</div><div>-rw-r--r--  1 root root  333 Jul 18  2014 tty3.conf</div><div>-rw-r--r--  1 root root  333 Jul 18  2014 tty4.conf</div><div>-rw-r--r--  1 root root  232 Jul 18  2014 tty5.conf</div><div>-rw-r--r--  1 root root  232 Jul 18  2014 tty6.conf</div><div>-rw-r--r--  1 root root  337 May  7  2014 udev.conf</div><div>-rw-r--r--  1 root root  645 Sep 12 14:03 udev-fallback-graphics.conf</div><div>-rw-r--r--  1 root root  768 May  7  2014 udev-finish.conf</div><div>-rw-r--r--  1 root root  356 May  7  2014 udevmonitor.conf</div><div>-rw-r--r--  1 root root  190 Oct 22 00:13 udev-static.conf</div><div>-rw-r--r--  1 root root  335 Oct 22 00:13 udevtrigger.conf</div><div>-rw-r--r--  1 root root  412 Jul 18  2014 upstart-file-bridge.conf</div><div>-rw-r--r--  1 root root  329 Jul 18  2014 upstart-socket-bridge.conf</div><div>-rw-r--r--  1 root root  553 Jul 18  2014 upstart-udev-bridge.conf</div><div>-rw-r--r--  1 root root 1521 Jul 18  2014 wait-for-state.conf</div><div><br></div><div>root@okapi:~# ls -al /etc/init.d</div><div>total 188</div><div>drwxr-xr-x  2 root root  4096 Jan 10 20:45 .</div><div>drwxr-xr-x 89 root root  4096 Jan 23 13:45 ..</div><div>-rwxr-xr-x  1 root root  9974 Jan  7  2014 apache2</div><div>-rwxr-xr-x  1 root root    19 Oct 22 00:12 bind9</div><div>lrwxrwxrwx  1 root root    21 Feb  9  2013 cron -> /lib/init/upstart-job</div><div>-rwxr-xr-x  1 root root  2813 Nov 25 19:37 dbus</div><div>-rwxr-xr-x  1 root root  1329 Mar 13  2014 halt</div><div>-rwxr-xr-x  1 root root  3523 Jan  4  2013 iptables-persistent</div><div>-rwxr-xr-x  1 root root  1293 Mar 13  2014 killprocs</div><div>-rwxr-xr-x  1 root root  1990 Jan 22  2013 kmod</div><div>-rw-r--r--  1 root root     0 Oct 22 00:13 .legacy-bootordering</div><div>-rwxr-xr-x  1 root root   674 Oct 22 00:13 modules_dep.sh</div><div>-rwxr-xr-x  1 root root  5491 Feb 19  2014 mysql</div><div>-rwxr-xr-x  1 root root  4479 Mar 20  2014 networking</div><div>-rwxr-xr-x  1 root root  1292 Mar 13  2014 ondemand</div><div>-rwxr-xr-x  1 root root  7507 Feb 12  2014 postfix</div><div>-rwxr-xr-x  1 root root  1192 May 27  2013 procps</div><div>-rwxr-xr-x  1 root root  3092 Dec 27  2012 quota</div><div>-rwxr-xr-x  1 root root  1959 Dec 27  2012 quotarpc</div><div>-rwxr-xr-x  1 root root  6120 Mar 13  2014 rc</div><div>-rwxr-xr-x  1 root root   782 Mar 13  2014 rc.local</div><div>-rwxr-xr-x  1 root root   117 Mar 13  2014 rcS</div><div>-rw-r--r--  1 root root  2427 Mar 13  2014 README</div><div>-rwxr-xr-x  1 root root   639 Mar 13  2014 reboot</div><div>-rwxr-xr-x  1 root root  2913 Dec  4  2013 rsyslog</div><div>-rwxr-xr-x  1 root root 10536 Oct  6  2013 saslauthd</div><div>-rwxr-xr-x  1 root root  3920 Mar 13  2014 sendsigs</div><div>-rwxr-xr-x  1 root root   590 Mar 13  2014 single</div><div>-rw-r--r--  1 root root  4290 Mar 13  2014 skeleton</div><div>-rwxr-xr-x  1 root root  4077 May  2  2014 ssh</div><div>-rwxr-xr-x  1 root root   731 Feb  5  2014 sudo</div><div>-rwxr-xr-x  1 root root  6173 May  7  2014 udev</div><div>-rwxr-xr-x  1 root root  2721 Mar 13  2014 umountfs</div><div>-rwxr-xr-x  1 root root  2260 Mar 13  2014 umountnfs.sh</div><div>-rwxr-xr-x  1 root root  1872 Mar 13  2014 umountroot</div><div>-rwxr-xr-x  1 root root  3111 Mar 13  2014 urandom</div><div>-rwxr-xr-x  1 root root   229 Oct 22 00:12 vzreboot</div><div>-rwxr-xr-x  1 root root    19 Oct 22 00:12 wide-dhcpv6-client</div><div>-rwxr-xr-x  1 root root  2666 Sep 25  2013 x11-common</div><div><br></div><div>2015-01-22 3:19 GMT+09:00 Serge Hallyn <<a href="mailto:serge.hallyn@ubuntu.com">serge.hallyn@ubuntu.com</a>>:</div><div>> Quoting Smart Goldman (<a href="mailto:ytlec2014@gmail.com">ytlec2014@gmail.com</a>):</div><div>> > 2015-01-17 5:31 GMT+09:00 Serge Hallyn <<a href="mailto:serge.hallyn@ubuntu.com">serge.hallyn@ubuntu.com</a>>:</div><div>> ></div><div>> > > Operation not permitted?  That's unexpected.  Are you running a custom</div><div>> > > kernel or custom selinux policy?</div><div>> ></div><div>> > Yes, mine is ubuntu system provided by a VPS service of</div><div>> > <a href="https://crissic.net/los-angeles_vps_pre-launch">https://crissic.net/los-angeles_vps_pre-launch</a></div><div>> > I think it's a possibility. I may need to ask the provider about it..</div><div>> ></div><div>> > Although I do not think this information will be helpful, this is my kernel</div><div>> > version.</div><div>> > root@okapi:~# uname -a</div><div>> > Linux okapi 2.6.32-042stab093.5 #1 SMP Wed Sep 10 17:39:49 MSK 2014 x86_64</div><div>> > x86_64 x86_64 GNU/Linux</div><div>> > I think I've never changed the kernel by myself.</div><div>> ></div><div>> > > I do think removing cgroup-bin</div><div>> > ></div><div>> > > sudo apt-get purge cgroup-bin</div><div>> > ></div><div>> > > will fix the mounting of the name=beancounter etc hierarchies.</div><div>> ></div><div>> > I had removed cgroup-bin.</div><div>> > But unfortunately it looks like it was not fixed.</div><div>> ></div><div>> > Each file after removing cgroup-bin, reboot and re-login is now as follows:</div><div>> ></div><div>> > root@okapi:~# cat /proc/self/cgroup</div><div>> > 4:name=systemd:/</div><div>> > 3:freezer,devices,name=container:/12042</div><div>> > 2:cpuacct,cpu,cpuset,name=fairsched:/12042</div><div>> > 1:blkio,name=beancounter:/12042</div><div>> ></div><div>> > root@okapi:~# tail -n 13 /var/log/upstart/cgmanager.log</div><div>> > Mounted systemd onto /run/cgmanager/fs/none,name=systemd</div><div>> > Mounted container onto /run/cgmanager/fs/none,name=container</div><div>> > Mounted fairsched onto /run/cgmanager/fs/none,name=fairsched</div><div>> > Mounted beancounter onto /run/cgmanager/fs/none,name=beancounter</div><div>> > found 4 controllers</div><div>> > buf is /run/cgmanager/agents/cgm-release-agent.systemd</div><div>> > buf is /run/cgmanager/agents/cgm-release-agent.container</div><div>> > buf is /run/cgmanager/agents/cgm-release-agent.fairsched</div><div>> > buf is /run/cgmanager/agents/cgm-release-agent.beancounter</div><div>> > Mounted systemd onto /run/cgmanager/fs/none,name=systemd</div><div>> > cgmanager: Failed mounting /run/cgmanager/fs/none,name=container: Operation</div><div>> > not permitted</div><div>> </div><div>> Yeah that's weird.</div><div>> </div><div>> Look around /var/log and see what is mounting those cgroups</div><div>> at boot.  What files still exist under /etc/init and /etc/init.d?</div><div>> </div><div>> > cgmanager: Failed mounting cgroups</div><div>> > cgmanager: Failed to set up cgroup mounts</div><div>> ></div><div>> > root@okapi:~# tail -n 10 /var/log/auth.log</div><div>> > Jan 17 00:31:48 okapi sudo:     root : TTY=pts/0 ; PWD=/root ; USER=root ;</div><div>> > COMMAND=/usr/bin/apt-get -y purge cgroup-bin</div><div>> > Jan 17 00:31:48 okapi sudo: pam_unix(sudo:session): session opened for user</div><div>> > root by root(uid=0)</div><div>> > Jan 17 00:31:55 okapi sudo: pam_unix(sudo:session): session closed for user</div><div>> > root</div><div>> > Jan 17 00:32:53 okapi systemd-logind[326]: New seat seat0.</div><div>> > Jan 17 00:32:54 okapi sshd[492]: Server listening on 0.0.0.0 port 22.</div><div>> > Jan 17 00:32:54 okapi sshd[492]: Server listening on :: port 22.</div><div>> > Jan 17 00:34:09 okapi sshd[897]: Accepted password for root from</div><div>> > 119.105.136.26 port 56815 ssh2</div><div>> > Jan 17 00:34:09 okapi sshd[897]: pam_unix(sshd:session): session opened for</div><div>> > user root by (uid=0)</div><div>> > Jan 17 00:34:09 okapi systemd-logind[326]: Failed to create cgroup</div><div>> > name=systemd:/user/0.user: No such file or directory</div><div>> > Jan 17 00:34:09 okapi sshd[897]: pam_systemd(sshd:session): Failed to</div><div>> > create session: No such file or directory</div><div>> </div><div>> > _______________________________________________</div><div>> > lxc-users mailing list</div><div>> > <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a></div><div>> > <a href="http://lists.linuxcontainers.org/listinfo/lxc-users">http://lists.linuxcontainers.org/listinfo/lxc-users</a></div><div>> </div><div>> _______________________________________________</div><div>> lxc-users mailing list</div><div>> <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a></div><div>> <a href="http://lists.linuxcontainers.org/listinfo/lxc-users">http://lists.linuxcontainers.org/listinfo/lxc-users</a></div><div><br></div></div></div>