基于OpenStack的虚拟机在线迁移

共计 4052 个字符，预计需要花费 11 分钟才能阅读完成。

虚拟机的迁移是指在源物理主机上运行的虚拟机操作系统及应用程序移动到目标物理主机上或虚拟机上，并且在目标主机上能够正常运行。在 openstack 中，openstack 自带虚拟机的迁移功能，允许一个正在 running 的虚拟机实例从一个 compute node 迁移到另一个 compute node。下面给大家推荐一篇相关的实战案例，作者是用友公有云技术总监，中国计算机学会高级会员，大数据专委会委员，前中科院副研究员。

以下是作者原文：

一直想和大家分享虚拟机的在线迁移，考虑到稳定性，我们在线上运行了几个月比较稳定后，再总结出来和大家分享。

大致描述一下场景：系统采用了计算存储松耦合结构，虚机的映像文件在远端共享存储上，所以迁移起来速度很快。在我们系统中，最快一个用了 6 秒，即完成了在线迁移，这是真正的 live migration，我们一边迁移，一边故意在虚机里写数据，也正常完成。

配置方案

遇到的问题和解决办法

1. 虚机的 disk 的 cache mode 为 writethrough，迁移的时候报错

openstack 认为在 CentOS 上磁盘 cache mod 为 writethrough 时，迁移是不安全的。
解决的办法：在 nova.conf live_migration_flag 参数后面增加 VIR_MIGRATE_UNSAFE，官方在线迁移配置文件里没有这个参数。

2.qemu1.4 的一个 bug 导致迁移失败

迁移失败，在目的节点上 /var/log/libvrit/qemu/instances–xxxx.log 里：
char device redirected to /dev/pts/1 (label charserial1)
qemu: warning: error while loading state section id 2
load of migration failed
解决办法：
1. 在源计算节点上修改要迁移虚机的 /var/run/libvirt/qemu/instance–xxx.xml 文中删除 migrate-qemu-fd 这一行
2. 重启源计算节点上的 libvirtd
3. 然后再执行 nova live-migration 命令
这个操作已经编写了一个程序自动执行。

3.vncserver 的问题，需要重启虚拟机才可以迁移。

由于之前 Nova.conf 中 vncserver_listen= 计算机节点的 ip，所以在虚拟机 Kvm 进程中参数中 vnc= 计算节点的 ip，迁移的时候报错，在目的节点绑定不了源节点的 IP, 所以需要修改 Libvirt.xml 配置文件，重启虚机，然后才能进行迁移。
解决办法：
1. 在源计算节点上 /var/run/libvirt/qemu/instance–xxx.xml 文中将 vnc 的参数修改成 0.0.0.0
2. 重启源计算节点 libvirtd
3. 然后再执行 nova live-migration 命令
这个操作已经编写了程序来自动完成

4. 迁移完成后 console.log,disk 属主变成了 root/root

迁移完成后，发现虚机的 console.log 和 disk 文件属主由 qemu.qumu 变成了 root.root，这个估计是 openstack 迁移程序的问题，这个问题目前没有影响虚机。
解决办法:
修改文件属主，这个操作已经编写了程序来自动完成

5. 源节点和目的节点 cpu 不兼容问题

迁移失败，在 /var/log/nova/compute 的日志：
“InvalidCPUInfo: Unacceptable CPU info: CPU doesn’t have compatibility.\n\n0\n\nRefer to <a href=”http://libvirt.org/html/libvirt-libvirt.html#virCPUCompareResult\n” ]”=”” style=”cursor: pointer; color: rgb(0, 102, 204); text-decoration: none;”>http://libvirt.org/html/libvirt-libvirt.html#virCPUCompareResult\n”]
解决办法：
目前还没有解决办法

6. 目的节点内存为负，

迁移失败，从控制节点的 api.log 上输出的错误是目的节点内存为 -3400，不能满足迁移的需要。
解决办法：
用 nova 命令指定在该计算节点上创建虚机，能够成功。估计是迁移时候的调度算法和创建虚机时的调度算法不一致。

7. 错误日志，在 2.4 上 api.log

迁移时候一般看的日志有：
1. 目的节点上的 /var/log/libvirt/qemu/instances–xxx.log
2. 目的节点上的 /var/log/nova/compute.log
3. 源节点上的 /var/log/nova/compute.log
有时候迁移失败，命令行执行后报错：
ERROR: Live migration of instance bd785968-72f6-4f70-a066-b22b63821c3b to host compute-13 failed (HTTP 400) (Request-ID: req-180d27b5-9dc7-484f-9d9a-f34cccd6daa2)
但在上述的三个日志文件中都看不到任何的错误信息。
解决办法：
在控制节点或者是在操作迁移命令的节点上 /var/log/nova/api.log 有错误信息

走的弯路

1. 尝试不用修改 nova.conf 里的 vncserver_listen 参数为 0.0.0.0，

将 /var/run/log/libvirt/qemu/instances–xxx.log 里的 vnc 改成目的节点的 ip，重启 libvritd，然后进行迁移，可以成功，但如果迁移失败，当需要重新虚机的时候，虚机启动失败，在 /var/log/libvrit/qemu/instances-xx.log 的错误是
Failed to start VNC server on `172.18.2.15:0′: Failed to bind socket: Cannot assign requested address
而 /mnt/instances/instance–xxx/libvirt.xml 里没有修改成目的节点的 Ip。不知道这个参数被保存到了哪里

2.vnc 端口问题

在一次迁移失败后，在目的节点 /var/log/libvirt/qemu/instance–xxx.log 里的错误是：
2013-11-05 05:42:39.401+0000: shutting down
qemu: terminating on signal 15 from pid 10271，
猜想是由于虚机在源节点上的 vnc 监听端口在目的节点上被占用，所以导致启动不了。后来在其他机器上做了测试发现，在迁移到目的节点后 vnc 的端口自己会调整。

参考：

How to Migrate an Instance with Zero Downtime: OpenStack Live Migration with KVM Hypervisor and NFS Shared Storage

相关阅读：

在 Ubuntu 12.10 上安装部署 Openstack http://www.linuxidc.com/Linux/2013-08/88184.htm

Ubuntu 12.04 OpenStack Swift 单节点部署手册 http://www.linuxidc.com/Linux/2013-08/88182.htm

OpenStack 云计算快速入门教程 http://www.linuxidc.com/Linux/2013-08/88186.htm

企业部署 OpenStack：该做与不该做的事 http://www.linuxidc.com/Linux/2013-09/90428.htm

Ubuntu 上搭建 Hadoop 环境（单机模式 + 伪分布模式）http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu 下 Hadoop 环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建 Hadoop 环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm