Sobre el proyecto
Apache Fluss es un sistema de almacenamiento de streaming de código abierto diseñado para cargas de trabajo de analítica en tiempo real e IA. Sirve como capa de datos en tiempo real para arquitecturas Lakehouse, cerrando la brecha entre el streaming de datos y el Lakehouse de datos. Fluss permite la ingesta y el procesamiento de datos de baja latencia y alto rendimiento, integrándose con motores de cómputo populares como Apache Flink y Apache Spark, con soporte para StarRocks planificado.
Las características clave incluyen:
- **Frescura de datos inferior a un segundo**: Ingesta continua y disponibilidad inmediata de datos para analítica de baja latencia y toma de decisiones en tiempo real.
- **Unificación de Streaming y Lakehouse**: Utiliza tablas como una única abstracción para unificar datos en tiempo real e históricos entre motores, permitiendo almacenamiento nativo de streaming con acceso de baja latencia sobre el lakehouse.
- **Streaming columnar**: Basado en Apache Arrow, soporta primitivas de base de datos en flujos de datos, poda de columnas y pushdown de predicados para minimizar costos de I/O y red.
- **Separación cómputo-almacenamiento**: Los procesadores de streaming se centran en el cómputo mientras Fluss gestiona el estado y el almacenamiento, ofreciendo características como deduplicación, actualizaciones parciales, delta joins y motores de fusión de agregación.
- **Almacenamiento listo para ML e IA**: Una capa de almacenamiento unificada que soporta datos basados en filas, columnas, vectores y multimodales para almacenes de características en tiempo real y repositorios centralizados de datos de ML/IA.
- **Changelogs y seguimiento de decisiones**: La generación integrada de changelogs proporciona un historial de solo anexión de la evolución del estado y las decisiones para auditoría, reproducibilidad y observabilidad.
## Compilación
Requisitos previos: entorno similar a Unix, Git, Maven (>= 3.8.6) y Java 11.
```bash
git clone https://github.com/apache/fluss.git
cd fluss
./mvnw clean package -DskipTests
```
La compilación utiliza Maven Wrapper para asegurar la versión correcta de Maven. El proyecto se instala en `build-target`.
## Contribuciones
Apache Fluss es de código abierto y da la bienvenida a contribuciones. Puedes unirte a discusiones, abrir issues para errores o solicitudes de características, y contribuir con código o documentación.
## Licencia
Apache Fluss está licenciado bajo la Apache License 2.0.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.