Ir al contenido principal

Instalar Apache Zookeeper y Kafka en Centos


1.    Instalar y montar Máquina Virtual con S.O. Centos




Descargamos el instalable de VirtualBox y lo instalamos:


Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos


Descargamos la MV de CentOS:



Instalar Apache Zookeeper y Kafka en Centos

Al picar 2 veces encima del archivo descargado, este se instalará en el VirtualBox.

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos


Ya podemos iniciar el Sistema Operativo instalado:

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos
la contraseña del usuario es usuario
la contraseña del root es Curso2020


2.    Instalación de Apache Zookeeper y Apache Kafka

Accedemos a la Web de Apache Zookeeper y descargamos el fichero de instalación:


Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos


Una vez descargado, lo descomprimimos y lo instalamos.

La documentación de cómo se instala también puedes verla en el siguiente Link, aunque te lo vamos a explicar paso a paso a continuación: https://zookeeper.apache.org/doc/r3.6.1/index.html

$ su -
# cd /home/usuario/Descargas/
# ls
# tar -xzvf apache-zookeeper-3.6.1-bin.tar.g


Instalar Apache Zookeeper y Kafka en Centos

Movemos el programa a /usr/local/zookeeper y hacemos una copia del fichero ejemplo de configuración
# mv apache-zookeeper-3.6.1-bin /usr/local/zookeeper
# cd /usr/local/zookeeper/
# ls
# cp zoo_sample.cfg zoo.cfg


Realizamos los ajustes de configuración, …
# nano zoo.cfg
Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Estas son las variables del fichero a tener en cuenta para su configuración:
tickTime=2000
dataDir=/var/lib/zookeeper
clientPort=2181

·         tickTime : la unidad de tiempo básica en milisegundos utilizada por ZooKeeper. Se utiliza para hacer latidos y el tiempo de espera mínimo de la sesión será el doble del tiempo tick.
·         dataDir : la ubicación para almacenar las instantáneas de la base de datos en memoria y, a menos que se especifique lo contrario, el registro de transacciones de las actualizaciones a la base de datos.
·         clientPort : el puerto para escuchar las conexiones del cliente

Ahora que se ha creado el archivo de configuración, se puede iniciar ZooKeeper:
# /usr/local/zookeeper/bin/zkServer.sh start
# /usr/local/zookeeper/bin/zkServer.sh status

Instalar Apache Zookeeper y Kafka en Centos




Accedemos a la Web de Apache Kafka y descargamos el fichero de instalación:

Instalar Apache Zookeeper y Kafka en Centos


Descargamos los ficheros binarios para no tener luego problemas en el arranque del servicio.
En este caso el 2.13.


Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Una vez descargado, lo descomprimimos y lo instalamos:
# tar -xzvf kafka_2.13-2.5.0.tgz


Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Con el usuario de root, movemos el programa a /usr/local/kafka:
# mv kafka_2.13-2.5.0 /usr/local/kafka
# cd /usr/local/
# ls

Instalar Apache Zookeeper y Kafka en Centos

Accedemos al fichero de Configuración, …
# cd kafka/
# cd config/
# nano server.properties


Instalar Apache Zookeeper y Kafka en Centos

Verificamos que por defecto está bien configurado el enlace con Zookeeper:
listeners=PLAINTEXT://localhost:9092

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Arrancamos el servicio:
# bin/kafka-server-start.sh config/server.properties

Instalar Apache Zookeeper y Kafka en Centos

Nos da un error de arraque.
Vamos a ver que versión de java tenemos y vamos a actualizarla:
# java -version
# yum install java-1.8.0-openjdk

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Una vez actualizado Java, ya podemos iniciar de nuevo Kafka, teniendo en cuenta que, si se ha modificado algo del fichero de configuración, debemos parar y arrancar primero zookeeper:
# /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties

Instalar Apache Zookeeper y Kafka en Centos

Instalar Apache Zookeeper y Kafka en Centos

Comentarios

Entradas populares de este blog

Configuración y Uso de Pandora FMS 5.0 SP3

CONFIGURACIÓN DE LA RED Lo primero que se debe de hacer es conocer la red que necesitas monitorizar, las distintas redes que posees y configurar las interfaces del CentOS donde tienes instalado Pandora FMS para que este sistema pueda verlas. Si haces un ping a alguna de estas redes, este debería responderte. Un ejemplo de como configurar distintas redes en CentOS sería el siguiente, donde las X son las que corresponda a tú red: # cd /etc/sysconfig/network-scripts/ # cat ifcfg-eth0 DEVICE=eth0 HWADDR=00:0C:29:75:A5:F2 TYPE=Ethernet BOOTPROTO=static IPADDR=10.x.x.155 BROADCAST=10.x.x.254 GATEWAY=10.x.x.1 NETMASK=255.255.255.0 DNS1=10.x.x.x DOMAIN=dominio.local DEFROUTE=yes IPV4_FAILURE_FATAL=yes IPV6INIT=no UUID=920d0ead-e3ad-4c99-8c79-617812986fb4 ONBOOT=yes # cat ifcfg-eth0:0 DEVICE=eth0:0 HWADDR=00:0C:29:75:A5:F2 TYPE=Ethernet BOOTPROTO=static IPADDR=10.x.x.155 BROADCAST=10.x.x.254 GATEWAY=10.x.x.

Mensajería OpenFire: Instalación y Configuración

Exportamos una nueva OVA de DEBIAN. Configuramos su interfaz: # rm /etc/udev/rules.d/70-persistem-net.rules # reboot Preparamos la conexión remota: # apt-get install ssh #ifconfig -a Instalación paso a paso: $ ssh root@192.168.1.198 Necesitaremos en la instalación de  mensajería   OpenFire : Servidor LAMP •           Linux •           Apache •           MySQL •           PHP phpadmin y Java # apt-get install apache2 php5 mysql-server phpmyadmin # apt-get install openjdk-6-jdk Descarga y puesta en funcionamiento de OpenFire: # wget http://download.igniterealtime.org/openfire/openfire_3.9.1_all.deb # dpkg -i openfire_3.9.1_all.deb Para saber que está funcionando: # netstat -putan|grep java Voy al navegador de mi máquina REAL y pongo la IP:8080, en mi caso, 192.168.1.198:9090 No se recomienda que se use la Base de Datos internas

pfsense: Proxy Squid3 instalación y configuración

Nuestra máquina de pfsense con 2 adaptadores , uno en adaptador puente y otra en solo anfitrión: Me conecto desde el interfaz anfitrión al pfsense desde el navegador: Nos movemos a: System / Package/Available Packages/instalamos squid3 Service / Proxy server Configuramos en la pestaña de General las siguientes opciones: LAN Proxy Port: 3128 Allow users on interface(picado) Transparent Proxy(picado) Enabled logging(picado) Log Store Directory: /var/squid/logs Administrator email: email administrador Language: es SAVE Nos aseguramos que squid está corriendo: Status / Service Con esta configuración debemos tener internet en nuestro cliente Windows. RESTRICCIONES Y PERMISOS Podemos configurar las restricciones en la pestaña Service / Proxy server / (pestaña)ACLs Por ejemplo, restringimos el acceso a google.es: En Service / Proxy server / Local Cache o

FireWall de PFsense: NAT

NAT Network address transletion - Traducciones de direcciones de red Se diferencia de la tabla filter, que con estas reglas se redirecciona. Si queremos que nuestro servidor web de servicio al exterior, tiene una dirección interna, pero si sale con esta IP, al salir se corta la IP. Que el router coja esta IP interna de este servidor Web y la cambie por la IP publica del route se llama NAT. Esto que hace el router automáticamente es lo que vamos a hacer ahora. SNAT: source NAT(origen) DNAT: destination NAT(destino) SNAT, cambiamos el origen. Windows manda el paquete y llega a pfsense, y este cambia el origen PAQUETE: origen: wXP (192.168.56.2) ↔ WAN (80.21.21.21) destino: google.es DNAT, cambiamos el destino Queremos dar servicio web, pero mi servidor esta en una red privada, en la 10.0.0.2. Al dar la IP de mi WAN, debo hacer que llegue a mi servidor. Cada vez que llegue un paquete a la Wan al puerto, en este caso, 80, l

FireWall de PFsense: Reglas de Filtro 1/3

FILTER RULES (Reglas de Filtro) Para instalar el PFsense te recuerdo el enlace donde se explica en mi blog: http://mjesussuarez.blogspot.com.es/2013/12/instalacion-y-uso-de-pfsense.html A partir de este punto, entramos en PFsense a partir de la IP LAN: 192.168.56.2 Las 2 opciones mas interesantes de ver sobre cortafuegos en PFsense es NAT y Rules . Aunque usaremos también los Aliases . Dentro de interfaces tenemos LAN y WAN, pero también podemos asignar interfaces, como por ejemplo una zona demilitarizada(DMZ) para alojar en esta rama un Servidor Web . Para crear una interfaz nueva debemos ir a Interfaces / assign / VLANs . Pero que es una VLAN . Significa que físicamente están todas las redes unidas, pero Virtualmente se han formado LANs independientes y que no se ven unas a otras, o si se ven, pero están separadas virtualmente como si estuvieran separadas de forma física. Pero este tema lo trataremos mas adelante, ahora haremos