www.onsi.com.ar Cluster en Ubuntu 8.04 Autor: ganis at onsi dot com dot ar Versión: 1.0 Septiembre 2008 Introducción:
Views 182 Downloads 36 File size 83KB
www.onsi.com.ar
Cluster en Ubuntu 8.04 Autor: ganis at onsi dot com dot ar Versión: 1.0 Septiembre 2008
Introducción: Balanceo de carga y alta disponibilidad en Ubuntu. Dado que hay poca información en internet sobre este tema, decidí documentar una implementación. Palabras clave: Cluster en Linux, Load balancing, High Availability, HA con LVS, Direct Routing, Keepalived.
Mini-Howto: Si conoce la teoría, este mini-howto ahorra tiempo. ________ | | | client | (local o internet) |________| | (GW)-------------+ | | VIP | | | +--------+-------+ | ____|_____ ____|_____ | | | | | | | director | | director | | | master | | backup | | |__________| |__________| | DIP1 DIP2 | | | | +--------+---------+ | | | +----------------+---------------+ RIP1,VIP RIP2,VIP RIP3,VIP ____________ ____________ ____________ | | | | | | | realserver | | realserver | | realserver | |____________| |____________| |____________| Terminología: VIP (IP Virtual): 192.168.6.240 DIP1 (Director Master): 192.168.6.2 DIP2 (Director Backup): 192.168.6.3 RIP1 (Servidor Real 1): 192.168.6.4 RIP2 (Servidor Real 2): 192.168.6.5 RIP3 (Servidor Real 3): 192.168.6.6
Configuración En los directores: 1. # apt-get install keepalived 2. # nano /etc/keepalived/keepalived.conf
1-7
www.onsi.com.ar
######### /etc/keepalived/keepalived.conf #################### global_defs { notification_email { [email protected] } notification_email_from [email protected] smtp_server 127.0.0.1 smtp_connect_timeout 30 lvs_id LVS1 } virtual_server 192.168.6.240 80 { delay_loop 30 lb_algo rr lb_kind DR persistence_timeout 50 protocol TCP real_server 192.168.6.4 80 { weight 1 TCP_CHECK { connect_port 80 connect_timeout 3 } } real_server 192.168.6.5 80 { weight 2 TCP_CHECK { connect_port 80 connect_timeout 3 } } } vrrp_instance VI_1 { state MASTER interface eth0 lvs_sync_daemon_inteface eth0 virtual_router_id 51 priority 150 advert_int 1 smtp_alert authentication { auth_type PASS auth_pass 1234 } virtual_ipaddress { 192.168.6.240 } } ####### fin /etc/keepalived/keepalived.conf ############ 3. # echo 1 > /proc/sys/net/ipv4/ip_forward 4. # /etc/init.d/keepalived start En los servidores reales: 5. 6. 7. 8. 9.
# # # # #
ifconfig lo:0 192.168.6.240 netmask 255.255.255.255 broadcast 192.168.6.240 up route add -host 192.168.6.240 dev lo:0 echo "net/ipv4/conf/all/arp_ignore = 1" >> /etc/sysctl.conf echo "net/ipv4/conf/all/arp_announce = 2" >> /etc/sysctl.conf sysctl -p
Listo!. Si tiene más tiempo, puede leer la forma larga de hacer lo mismo.
2-7
www.onsi.com.ar
Descripción extensa: Hasta el momento (primavera 2008) hay poca documentación sobre Linux Virtual Server (LVS) en Ubuntu o Debian. La idea es la siguiente: implementar un cluster de computadoras con balanceo de carga y alta disponibilidad. El sistema tendrá una sola IP, llamada IP Virtual, en esta caso 192.168.6.240. El requerimiento inicial lo atiende el director o balanceador de carga (192.168.6.2), pero redirecciona el paquete para que los servicios sean atendidos por N servidores reales. Para que este director no se convierta en un único punto de falla, creamos la alta disponibilidad con un director backup (192.168.6.3). Lleva mas tiempo leer este artículo que poner en funcionamiento el cluster.
Imagen de http://www.estrellateyarde.es/discover/cluster-lvs-keepalived-en-linux Software: El balanceo de carga se logra con LVS. La alta disponibilidad de varias formas: Heartbeat con Ldirector, Piranha, Ultramonkey o Keepalived (hay mas formas). Usaremos Keepalived porque permite manejar el cluster con una sola herramienta. Empecemos por el balanceo de carga: LVS, ipvsadm y keepalived. Linux Virtual Server (LVS) viene integrado en el kernel de Ubuntu 8.04, por lo que no tenemos que recompilar. Sólo hay que instalar la herramienta ipvsadm para agregar reglas de balanceo de carga. Más adelante, cuando configuremos la alta disponibilidad, Keepalived instalará todo de un solo paso. La red del cluster: Existen 3 técnicas para configurar la red de clusters con balanceo de carga: NAT, TUN y DR. Hay información en www.linuxvirtualserver.org. Aquí implementaremos Direct Routing (DR), porque es el más sencillo y rápido. Tiene la limitación de que los servidores reales y el director deben estar en el mismo segmento de red. El paquete es enviado a la IP Virtual y es atendido por el director. Este reenvía a los servidores reales de acuerdo a un algoritmo de balanceo de carga (hay 7 disponibles). El servidor real contesta directamente al cliente, sin pasar por el director. La IP Virtual debe estar configurada tanto en el director como en los servidores reales. El problema ARP: Una situación a resolver en esta configuración es el "Problema ARP". Como varios servidores tienen la misma IP, si la publican ante un requerimiento ARP habrá una competencia por el paquete, llamado "Race Condition". Para evitar eso, debemos asegurarnos que el único que publica la dirección IP Virtual es el director, por lo que debemos deshabilitar la publicación ARP en los servidores reales.
3-7
www.onsi.com.ar
Algoritmos de balanceo de carga Tenemos disponibles 7 algoritmos. Podemos empezar por Round Robin hasta ver que funcione, después pasamos a Weighted Least-Connection. Podemos probar con todos: • rr: Robin Robin: distribuye la carga en forma equitativa entre los servidores, una petición a cada uno. • wrr: Weighted Round Robin: proporcional a su peso. Servidores con mas peso reciben mas carga. A igual peso, igual carga. • lc: Least-Connection: más carga a servidores con menos conexiones. • wlc: Weighted Least-Connection: mas carga a servidores con menos conexiones y relativo al peso. Otros: • lblc: Locality-Based Least-Connection • dh: Destination Hashing • sh: Source Hashing Implementación Suficiente teoría. Vamos a implementar el cluster: un web server. Asumiremos que los servidores reales tienen Apache funcionando con el mismo sitio :), ya sea con un storage centralizado, mirror a través de red (DRDB) o NFS. Ese tema no es parte de este artículo. Los directores master y backup deben tener keepalived instalado y configurado, la IP virtual configurada y habilitado el forwarding IP. Los servidores reales deben tener el servicio andando :), la IP virtual configurada en lo:0, deshabilitada la publicación ARP y configurada una ruta estática. 1. Instalamos Keepalived, el cual instalará ipvsadm como dependencia. # apt-get install keepalived 2. creamos el archivo de configuración # nano /etc/keepalived/keepalived.conf Y aquí copiamos el archivo que está en el mini-howto más arriba. 4. Habilitar ip forwarding: esto sí hay que hacerlo manualmente # echo 1 > /proc/sys/net/ipv4/ip_forward 4. Arrancamos keepalived # /etc/init.d/keepalived start Starting Keepalived for LVS:
[ OK ]
5. Comprobar la IP virtual: # ip addr sh eth0 Debemos ver algo así: inet 192.168.6.3/24 brd 192.168.6.255 scope global eth0 inet 192.168.6.240/32 scope global eth0 6. Comprobamos el cluster # ipvsadm -L -n IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags 4-7
www.onsi.com.ar
-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.6.240:80 wrr -> 192.168.6.4:80 Route 1 0 0 -> 192.168.6.5:80 Route 2 0 0 Esto es lo que hace keepalived: # ipvsadm -A -t 192.168.6.240:80 -s wrr # ipvsadm -a -t 192.168.6.240:80 -r 192.168.6.4 -g # ipvsadm -a -t 192.168.6.240:80 -r 192.168.6.5 -g El primer comando agrega un servicio con ip virtual y puerto (-A) protocolo TCP (-t) y algoritmo (-s) Weighted Round Robin. El segundo agrega un server real al servicio (-a) con ip real (-r) y balanceo tipo direct routing. 7. En el server real configuramos la IP Virtual y la ruta estática: # ifconfig lo:0 192.168.6.240 netmask 255.255.255.255 broadcast 192.168.6.240 up # route add -host 192.168.6.240 dev lo:0 Para hacer la configuración permanente, creamos un script: # nano /etc/network/if-up.d/lvs Con lo siguiente: #!/bin/sh /sbin/ifconfig lo:0 192.168.6.240 netmask 255.255.255.255 broadcast 192.168.6.240 up /sbin/route add -host 192.168.6.240 dev lo:0 Y lo hacemos ejecutable # chmod 755 /etc/network/if-up.d/static-routes 8. Deshabilitamos la publicación ARP en /etc/sysctl.conf: # echo "net/ipv4/conf/all/arp_ignore = 1" >> /etc/sysctl.conf # echo "net/ipv4/conf/all/arp_announce = 2" >> /etc/sysctl.conf Finalmente ejecutamos: # sysctl -p 9. Listo. Simular el fallo del director master: # /etc/init.d/keepalived stop Simular el fallo en algun servidor real: # /etc/init.d/apache2 stop
Comentarios: Este archivo /etc/keepalived/keepalived.conf tiene 3 partes: global_defs: Definiciones globales.
5-7
www.onsi.com.ar
global_defs { notification_email { [email protected] } notification_email_from [email protected] smtp_server 127.0.0.1 smtp_connect_timeout 30 lvs_id LVS1 } notification_email: quién recibe el email de alerta. notification_email_from: remite del email de alerta. lvs_id: identificador del director. virtual_server: directivas de cada servidor virtual. Por ejemplo, para un servidor web en la IP virtual 192.168.6.240, puerto 80: virtual_server 192.168.6.240 80 { delay_loop 15 lb_algo rr lb_kind DR persistence_timeout 50 protocol TCP real_server 192.168.6.4 80 { weight 1 TCP_CHECK { connect_port 80 connect_timeout 3 } } real_server 192.168.6.5 80 { weight 2 TCP_CHECK { connect_port 80 connect_timeout 3 } } } Lo importante es: lb_algo: algoritmo de balanceo de carga: rr|wrr|lc|wlc|lblc|sh|dh lb_kind: tipo de balanceo: NAT|DR|TUN real_server: servidor real perteneciente al pool. weight: peso relativo del servidor para balancear la carga. TCP_CHECK: método para chequear la disponibilidad del servidor. Si tenemos más IPs virtuales o servicios agregamos otras secciones virtual_server: por ejemplo, en la misma IP virtual 192.168.6.240 un servidor de correo en el puerto 25: virtual_server 192.168.6.240 25 { delay_loop 15 lb_algo wlc lb_kind DR persistence_timeout 50 protocol TCP sorry_server 192.168.6.2 25 real_server 192.168.6.6 25 { weight 1 TCP_CHECK { connect_port 25 connect_timeout 3 }
6-7
www.onsi.com.ar
} real_server 192.168.6.7 25 { weight 2 TCP_CHECK { connect_port 25 connect_timeout 3 } } } vrrp_instance: directivas para monitorizar los directores: vrrp_instance VI_1 { state MASTER interface eth0 lvs_sync_daemon_inteface eth0 virtual_router_id 51 priority 150 advert_int 1 smtp_alert authentication { auth_type PASS auth_pass 1234 } virtual_ipaddress { 192.168.6.240 } } state: MASTER o BACKUP. priority: el master debe tener mayor prioridad. El archivo de configuración de Keepalived en el backup es casi igual al del master, sólo se diferencia en tres líneas: lvs_id: LVS2, el id debe ser distinto. priority: 100, inferior a la prioridad del master. state: BACKUP. Hay información completa con el comando: # man keepalived.conf
Conclusión Fin de la implementación LVS en Ubuntu.
7-7