LLMs están listos para hacer que las herramientas de inteligencia empresarial pesadas sean más fáciles y rápidas de usar

En este momento, las grandes organizaciones a menudo emplean herramientas de "inteligencia empresarial" (BI) para averiguar qué está sucediendo dentro de sus operaciones. Esto ha dado lugar a muchos leviatanes pesados en el mundo del software.

Ahora, la startup británica Fluent ha cerrado una ronda de inversión semilla de $7.5 millones liderada por Hoxton Ventures y Tiferes Ventures para aplicar modelos de lenguaje grandes basados en inteligencia artificial (LLMs) a las bases de datos empresariales, haciendo que sean mucho más fáciles de interrogar por la persona promedio.

Esencialmente, las herramientas de BI se conectan a una base de datos empresarial y utilizan SQL para crear visualizaciones y construir paneles de control de BI. Hay grandes empresas involucradas en este espacio: Tableau (propiedad de Salesforce), Power BI (propiedad de Microsoft), Looker (propiedad de Google) y QuickSight (propiedad de Amazon) por nombrar solo algunos.

El mercado de soluciones es masivo. Según un informe, el mercado global de inteligencia empresarial fue valorado en $27.11 mil millones en 2022 y se proyecta que crecerá de $29.42 mil millones en 2023 a $54.27 mil millones para 2030. Gartner piensa que podría ser aún más grande si la inteligencia artificial y los LLMs se aplican más ampliamente.

Sin embargo, los equipos de datos pasan mucho tiempo construyendo estos paneles de control, especialmente para organizaciones grandes. Y siempre está el desafío de hacer que la gente realmente los use, una tarea difícil cuando los equipos de datos gimen ante la idea de cumplir solicitudes que podrían llevar días construir.

En lugar de eso, Fluent quiere ser una "capa conversacional" a través de LLMs de lenguaje natural que se sitúan encima del almacén de datos de una empresa. Traduce esas preguntas a SQL y genera esas respuestas mucho más rápido. Por lo tanto, cualquier persona, independientemente de sus habilidades técnicas o contexto empresarial, puede hacer preguntas en inglés claro sobre sus datos y obtener información, según la compañía.

Por supuesto, esto probablemente acortará significativamente los tiempos de respuesta. Robert Van Den Bergh, CEO de Fluent, me dijo: "Los consultores pasan de esperar dos semanas por una visión a 30 segundos. Eso significa que hacen muchas más preguntas, utilizan considerablemente más datos en su trabajo. Los datos se convierten en algo a lo que ahora pueden acceder".

Los clientes de Fluent ya incluyen a Bain & Company.

Aunque admite que Fluent está "utilizando principalmente el modelo GPT4 de Azure OpenAI", enfatizó que esta no es una startup con un "envoltorio OpenAI".

Ese enfoque simplista no funciona para generar SQL preciso y, por lo tanto, respuestas correctas a preguntas de datos en el contexto de las herramientas de BI, afirmó. "A través de 18 meses de trabajo, hemos podido construir un método para lograr la precisión de respuestas en las que organizaciones como Bain & Company pueden confiar y aprovechar en todas sus organizaciones".

Ian Weber, socio de Bain & Company, dijo en una declaración de apoyo: "La plataforma de Fluent nos ha ayudado a aprovechar los LLMs para interrogar y entregar ideas de grandes conjuntos de datos complejos. Fluent permite a nuestros consultores obtener rápidamente las respuestas que necesitan de manera eficiente y precisa, especialmente para preguntas demasiado complejas o específicas para los paneles de datos preconstruidos".

Van Den Bergh dijo: "Todo lo que los usuarios comerciales quieren son respuestas a preguntas. No quieren hacer modelado. Quieren saber cómo está funcionando este cliente en comparación con este cliente. O cómo les está yendo aquí. Y cómo está funcionando esta campaña de marketing". Dijo que otros actores del mercado se enfocan en los usuarios de datos, mientras que Fluent se dirige al mercado empresarial, no a los datos.

El espacio de la consulta de lenguaje natural solo recientemente se ha hecho posible, por lo que aún no es un mercado saturado.

Por ejemplo, Metabase es una aplicación de análisis y inteligencia de negocios de código abierto que permite a los usuarios crear paneles de control de manera más fácil. La empresa con sede en San Francisco ha recaudado $51 millones hasta la fecha.

Einblick, una empresa estadounidense que fue adquirida recientemente por Databricks (que se está preparando para salir a bolsa), parece ser el jugador más cercano a Fluent en el mercado. Sin embargo, Fluent afirma que la oferta de Einblick tiende más hacia los usuarios técnicos dentro de los equipos de datos.

ThoughtSpot, que ha afirmado una valoración de $4 mil millones, también cuenta con un sistema de consulta de lenguaje natural.