91 640 41 50 hola@artyco.com
Data Warehouse y Data Lake. Qué son y para qué sirven

Data Warehouse y Data Lake. Qué son y para qué sirven

Internet y las nuevas tecnologías han provocado el acceso y el almacenamiento desmesurado de información de los clientes y potenciales. Las empresas son cada vez más conscientes de la importancia que tienen esos datos para conocer mejor a los usuarios y así poder ofrecerles aquello que realmente piden, y no lo que nosotros pensamos que necesitan. Esto es lo que se llama, aplicar estrategias customer centric. Para ello se necesita gestionar altos volúmenes de datos, tanto en tiempo real como organizados. Para ello, no hay nada mejor que un Data Warehouse o un Data Lake. Si no sabes exactamente en qué consisten, no te preocupes, en este post te cuento de una manera sencilla, qué son, para qué sirven y las principales ventajas, ¿vamos a por ello?

El término de Data Warehouse fue acuñado por Bill Inmon, traduciéndose literalmente como Almacén de Datos. Sin embargo, si fuera meramente un almacén de datos, no solucionaría el principal problema por el que se creó, estructurar de una manera lógica la información, con el objetivo de poder construir consultas que aporten información de valor al analista de datos.

Según lo definió el propio Bill Inmon, el Data Warehouse se compone de las siguientes características:

  • Los datos almacenados en el Data Warehouse deben integrarse en una estructura consistente. La información, además, debe estructurarse en diferentes niveles, adecuándose a las necesidades de cada uno de los usuarios.
  • Los datos se deben de organizar por temas para facilitar su acceso y entendimiento por parte de los usuarios. Por ejemplo, todos los datos sobre ventas, deben de estar almacenados en el mismo sitio, de tal modo que al realizar la consulta sobre ventas, sea más sencillo.
  • Los datos suelen representar una situación en un momento presente, sin embargo, el Data Warehouse debe de cargarse con los distintos valores que toma una variable en el tiempo para permitir analizar las tendencias y crear un histórico.
  • La información que se almacena en un Data Warehouse es permanente y no debe ser modificada. Se deben de incorporar nuevos valores de las mismas variables, sin realizar ninguna acción sobre las ya existentes. De este modo podemos sacar conclusiones.

Sin embargo, el objetivo último del Data Warehouse, no es otro que facilitar el procesamiento de datos, con el fin de analizar dicha información desde diferentes puntos de vista y a gran velocidad.

Para ello, es fundamental poder realizar un análisis multidimensional. De este modo, si queremos conocer el número de ventas del modelo de zapatillas X, color azul, de la tienda de la calle Real, en La Coruña, del año 2016 al año 2018, disponiendo de un Data Warehouse, el proceso es sencillo, ya que previamente hemos realizado una jerarquización de la información y creado diferentes dimensiones.

Otra característica importante del Data Warehouse, son los metadatos, ¿qué es esto? Muy sencillo. Imagínate que tienes una serie de datos almacenados, pero no sabes de dónde proceden, cuándo se incluyeron, su fiabilidad, la forma de calcularlos… Con los metadatos tienes toda esa información. Estos metadatos son también los responsables de que se puedan construir consultas, informes o análisis.

Ahora que sabes qué es un Data Warehouse, vamos a ver cuáles son sus principales ventajas.

 

Principales ventajas del uso de un Data Warehouse

Ventajas del Data Warehouse

Estas son las principales ventajas que se pueden encontrar en la implantación de un Data Warehouse en el proceso de gestión del dato en tu negocio:

  • Facilita la toma de decisiones basadas en datos, en cualquier área funcional de la empresa, ya que te proporciona información integrada y global del negocio.
  • La información se convierte en un valor añadido para cualquier negocio, gracias a que permite aplicar técnicas estadísticas de análisis y modelización que ayudan a encontrar relaciones ocultas entre los datos almacenados.
  • Te permite de manera sencilla aprender de los datos del pasado y predecir situaciones futuras para diferentes escenarios.
  • Simplifica la implantación de sistemas de gestión integral de la relación con el cliente, dentro de la empresa.
  • Supone una optimización tecnológica y económica en entornos de Centro de Información, estadística o de generación de informes con retornos de la inversión espectaculares.
  • Es un sistema especialmente útil para el medio y el largo plazo.
  • Aumenta la productividad de las empresas de manera muy sustancial.
  • Te permite realizar planes de una manera mucho más efectiva.
  • Permite la integración de todas las herramientas corporativas. Por ejemplo, nosotros en Artyco integramos toda la información que recogemos a través de todas nuestras aplicaciones (monitorización web, crm, wifi tracking, campañas…) en un Data Warehouse, de donde sacar la información necesaria ante consultas determinadas.
  • Para trabajar de manera correcta un Data Warehouse, es preciso que todos los componentes de la organización hablen el mismo lenguaje, es decir, que todos llamen a las cosas por su nombre. De este modo, gracias al Data Warehouse se pueden unificar conceptos.

 

Qué es un Data Lake y para qué sirve

Que es un data lake

Un Data Lake no es otra cosa que un gran almacén de datos en bruto, los cuales se mantienen tal cual han llegado, y hasta que se necesitan para su uso. La principal diferencia con el Data Warehouse, está en la jerarquía y el almacenamiento de los datos en ficheros y carpetas que utiliza este, frente a la arquitectura plana del Data Lake. Podríamos decir que el Data Lake se nutre de Big Data y datos en tiempo real, tanto estructurados como no estructurados, en una amalgama plana, sobre la cual puedes recoger aquella información que necesites.

Las principales características de un Data Lake son estas:

  • Permite una fácil y rápida búsqueda de datos. El Data Lake está asociado al Big Data, en el sentido de que es el recipiente donde descansan todos esos datos. Al no estar organizados como en el Data Warehouse, se hace necesaria una búsqueda eficiente de la información que en este se contiene. Esta búsqueda se realiza básicamente a través de machine learning
  • Un Data Lake inteligente permite analizar eficazmente el grado de protección de la información que se guarda en los diferentes silos. Con la nueva normativa europea GDPR, esta seguridad en la privacidad de los datos se ve asegurada.
  • El Data Lake te permite ser rápido y disponer de datos en tiempo real. Además, te permite preparar y compartir rápidamente datos que son fundamentales para ofrecer analíticas competitivas.
  • Te permite guardar pasos de preparación de datos y luego reproducir rápidamente esos pasos dentro de procesos automatizados. Es decir, muchas veces los analistas repiten las mismas actividades en la preparación de datos. Con un Data Lake inteligente, puedes acceder a esos procesos y reducir tiempos y esfuerzos.

¿Vamos bien? Pues veamos cuáles son los principales beneficios que tiene el implantar un Data Lake en tu empresa.

 

Principales beneficios de un Data Lake

Ventajas de un Data Lake

Un Data Lake tiene muchas ventajas. Las más destacables son estas:

  • El Data Lake permite centralizar todos los datos en un mismo lugar, vengan de la fuente que vengan. Una vez incluidas en su silo correspondiente de información, pueden ser procesadas a través de herramientas de Big Data. Muchas veces, en esa disparidad de información, habrá datos que requieran un tratamiento especial en cuanto a seguridad. Gracias al Data Lake, este aspecto se puede solventar.
  • Puede que la fuente original del dato esté obsoleta o se haya desactivado, sin embargo, su contenido puede que siga siendo valioso para el análisis. A través del Data Lake, puedes acceder a dicha información.
  • Todo dato que llegue al Data Lake puede ser normalizado y enriquecido.
  • Los datos se preparan en función de la necesidad del momento. Esto permite reducir considerablemente los costes y los tiempos. En el Data Warehouse, por ejemplo, es necesaria dicha preparación.
  • Se puede acceder a la información y enriquecerla desde cualquier punto del planeta, por cualquier usuario autorizado por el Data Lake. Esto ayuda a la organización a recopilar más fácilmente los datos necesarios para la toma de decisiones.
  • Un Data Lake pone la información en manos de un mayor número de personas dentro de cualquier organización, aprovechándose mejor la empresa de ese conocimiento que adquieren dichos individuos.

 

Diferencias entre Data Warehouse y Data Lake

Diferencias Data Warehouse Data Lake

Podemos resumirlas en cinco grandes diferencias.

  • Un Data Lake conserva todos los datos, no sólo los que podrían utilizarse actualmente, sino también aquello que podrían necesitarse en un futuro. En frente, está el Data Warehouse que estudia muy bien qué datos incluir, cuáles son las fuentes de los datos. Además, se necesita dedicar tiempo para entender el negocio y así perfilar los datos. El Data Warehouse al final, contiene un modelo de datos altamente estructurado, diseñado para la generación de informes. El Data Lake utiliza un hardware muy diferente al del Data Warehouse. En el Data Lake, la ampliación a terabytes y petabytes es mucho más económico que en el caso del Data Warehouse. Es por eso, que en este último se mira tanto qué datos son necesarios para conservar, y cuales eliminar, ya que supone un costoso almacenamiento.
  • Un Data Lake soporta todos los tipos de datos, es decir, en este se guardan todos los datos, independientemente de la fuente y la estructura, y además, se mantienen en su forma bruta, transformándolos sólo cuando van a ser utilizados. En el Data Warehouse los datos almacenados son muchos más críticos para el negocio y la realización de informes. Por ejemplo, los datos de imágenes, comentarios en redes sociales, textos, etc, no suelen ser tenidos en cuenta, ya que, como he comentado, su almacenamiento es muy costoso.
  • Los Data Lakes son más flexibles que los Data Warehouses. Uno de los mayores problemas que presenta un Data Warehouse, está en el momento que se necesita realizar un cambio importante. Todo cambio se convierte en una tarea realmente difícil, ya que adaptar un Data Warehouse supone invertir mucho tiempo en el desarrollo de la estructura del almacén. Hoy día, las organizaciones demandan respuestas rápidas a sus preguntas comerciales, y en muchos casos, no pueden esperar a que el Data Warehouse se adapte. En cambio, el Data Lake, al almacenar todos los datos en bruto, permite el acceso de cualquier usuario para que los explote y analice en función de sus necesidades, encontrando la manera de responder a sus preguntas a su ritmo.
  • El Data Warehouse te proporciona unos resultados más limpios, estructurados y fiables. Sin embargo, en el Data Lake, al disponer de datos en bruto y sin estructurar, al hacer las consultas, usuarios no demasiado cualificados, recibirán información rápida, pero no del todo precisa, tal y como la obtendrían de un Data Warehouse. Normalmente, para usuarios de perfil Data scientist, este problema no existe en el Data Lake, ya que ellos crean sus reglas y estructuran la información para preparar sus análisis y modelos. El verdadero problema reside en el 80% del resto de usuarios, quienes simplemente buscan tener acceso a ciertos kpis diarios.

Tanto los Data Warehouses como los Data Lakes están destinados a convivir en las empresas que deseen basar sus decisiones en datos. Como habrás podido entender, ambos son complementarios, no sustitutivos, pudiendo ayudar a cualquier negocio a conocer mejor el mercado y el consumidor, de cara a poder realizar estrategias basadas en el conocimiento de estos, con comunicaciones cada vez más personalizadas, es decir, ser más customer centric.

En Artyco trabajamos con estos sistemas de cuidado, almacenamiento y análisis de datos, apoyado por desarrolladores especialistas y un equipo de data scientists y data analysts que ayudan a nuestros clientes a tomar las decisiones adecuadas. ¿Quieres que hagamos lo mismo con tu empresa?, ¿hablamos?

¿Ves que necesitas un Data Warehouse?

Ponte en contacto con nosotros y te explicaremos cómo sacar valor a toda aquella información que tienes de tus clientes y potenciales.