<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Tue, Mar 29, 2016 at 7:18 AM, Tycho Andersen <span dir="ltr"><<a href="mailto:tycho.andersen@canonical.com" target="_blank">tycho.andersen@canonical.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span class="">On Mon, Mar 28, 2016 at 08:47:24PM -0700, jjs - mainphrame wrote:<br>
> I've looked at ct migration between 2 ubuntu 16.04 hosts today, and had<br>
> some interesting problems;  I find that migration of stopped containers<br>
> works fairly reliably; but live migration, well, it transfers a lot of<br>
> data, then exits with a failure message. I can then move the same<br>
> container, stopped, with no problem.<br>
><br>
> The error is the same every time, a failure of "mkdtemp" -<br>
<br>
</span>It looks like your host /tmp isn't writable by the uid map that the<br>
container is being restored as?<br></blockquote><div><br></div><div>Which is odd, since /tmp has 1777 perms on both hosts, so I don't see how it could be a permissions problem. Surely the default apparmor profile is not the cause? You did give me a new idea though, and I'll set up a test with privileged containers for comparison. Is there a switch to enable verbose logging?</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">
<span class=""><br>
><br>
> root@ronnie:~# lxc move third lxd:<br>
> error: Error transferring container data: restore failed:<br>
> (00.033172)      1: Error (cr-restore.c:1489): mkdtemp failed<br>
> crtools-proc.x9p5OH: Permission denied<br>
> (00.060072) Error (cr-restore.c:1352): 9188 killed by signal 9<br>
> (00.117126) Error (cr-restore.c:2182): Restoring FAILED.<br>
><br>
> root@raskolnikov:~# lxc move third lxd2:<br>
> error: Error transferring container data: restore failed:<br>
> (00.039099)      1: Error (cr-restore.c:1489): mkdtemp failed<br>
> crtools-proc.a3U2t5: Permission denied<br>
> (00.063015) Error (cr-restore.c:1352): 1771 killed by signal 9<br>
> (00.115261) Error (cr-restore.c:2182): Restoring FAILED.<br>
><br>
> root@ronnie:~# lxc move third lxd:<br>
> error: Error transferring container data: restore failed:<br>
> (00.034542)      1: Error (cr-restore.c:1489): mkdtemp failed<br>
> crtools-proc.gee5YS: Permission denied<br>
> (00.059955) Error (cr-restore.c:1352): 9274 killed by signal 9<br>
> (00.109272) Error (cr-restore.c:2182): Restoring FAILED.<br>
><br>
><br>
> Thanks for any pointers you can provide -<br>
><br>
> PS  - on a side note, I'd originally set up the new box with a separate<br>
> /var partition on btrfs. As a result, "criu check" would die instantly with<br>
> a segmentation error. After putting /var back on / (ext4) criu check<br>
> produces the message "Looks good."<br>
<br>
</span>Hmm. Can you get the backtrace?<br></blockquote><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span class=""><font color="#888888">
Tycho<br></font></span></blockquote><div><br></div><div>Sorry to say, I moved on quickly and the btrfs filesystem is no more, but I can recreate that scenario again later.<br></div><div><br></div><div><br></div><div>Regards,</div><div><br></div><div>Jake</div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span class=""><font color="#888888">
</font></span><div class=""><div class="h5"><br>
> Jake<br>
><br>
><br>
><br>
> On Mon, Mar 28, 2016 at 7:47 AM, Tycho Andersen <<br>
> <a href="mailto:tycho.andersen@canonical.com">tycho.andersen@canonical.com</a>> wrote:<br>
><br>
> > On Sun, Mar 27, 2016 at 09:22:44PM -0700, jjs - mainphrame wrote:<br>
> > > You've had some success with live migrations? At any rate, I'm upgrading<br>
> > my<br>
> > > ubuntu 15.10 test box to 16.04 so that I'll have 2 of them. I'll give it<br>
> > a<br>
> > > whirl.<br>
> ><br>
> > Yes, there are still various unsupported kernel features, but it<br>
> > should work out of the box for a modern stock xenial image on a xenial<br>
> > host. There is one more xenial kernel patch which will eventually be<br>
> > released that will break things, but I'm in the process of upstreaming<br>
> > some CRIU patches to handle that case, and we'll distro patch those<br>
> > when they're ready.<br>
> ><br>
> > Tycho<br>
> ><br>
> > > On Sun, Mar 27, 2016 at 9:20 PM, Fajar A. Nugraha <<a href="mailto:list@fajar.net">list@fajar.net</a>><br>
> > wrote:<br>
> > ><br>
> > > > On Sun, Mar 27, 2016 at 11:31 PM, jjs - mainphrame <<a href="mailto:jjs@mainphrame.com">jjs@mainphrame.com</a><br>
> > ><br>
> > > > wrote:<br>
> > > > > The 2nd link you sent seems to indicate that<br>
> > > > > live migration wants to work, but I haven't been able to find any<br>
> > reports<br>
> > > > > from normal users in the field who've actually succeeded with live<br>
> > > > > migration. if I've missed something, please let me know.<br>
> > > ><br>
> > > > My best advice is to try yourself with latest 16.04 daily.<br>
> > > ><br>
> > > > I've had both success and failure with it.<br>
> > > ><br>
> > > > --<br>
> > > > Fajar<br>
> > > > _______________________________________________<br>
> > > > lxc-users mailing list<br>
> > > > <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a><br>
> > > > <a href="http://lists.linuxcontainers.org/listinfo/lxc-users" rel="noreferrer" target="_blank">http://lists.linuxcontainers.org/listinfo/lxc-users</a><br>
> > > ><br>
> ><br>
> > > _______________________________________________<br>
> > > lxc-users mailing list<br>
> > > <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a><br>
> > > <a href="http://lists.linuxcontainers.org/listinfo/lxc-users" rel="noreferrer" target="_blank">http://lists.linuxcontainers.org/listinfo/lxc-users</a><br>
> ><br>
> > _______________________________________________<br>
> > lxc-users mailing list<br>
> > <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a><br>
> > <a href="http://lists.linuxcontainers.org/listinfo/lxc-users" rel="noreferrer" target="_blank">http://lists.linuxcontainers.org/listinfo/lxc-users</a><br>
> ><br>
<br>
> _______________________________________________<br>
> lxc-users mailing list<br>
> <a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a><br>
> <a href="http://lists.linuxcontainers.org/listinfo/lxc-users" rel="noreferrer" target="_blank">http://lists.linuxcontainers.org/listinfo/lxc-users</a><br>
<br>
_______________________________________________<br>
lxc-users mailing list<br>
<a href="mailto:lxc-users@lists.linuxcontainers.org">lxc-users@lists.linuxcontainers.org</a><br>
<a href="http://lists.linuxcontainers.org/listinfo/lxc-users" rel="noreferrer" target="_blank">http://lists.linuxcontainers.org/listinfo/lxc-users</a></div></div></blockquote></div><br></div></div>