Inicio > AireTech > Despliegue de Ollama en SoaxNG: IA Local en Cloud Empresarial

Despliegue de Ollama en SoaxNG: IA Local en Cloud Empresarial

IA local en entornos empresariales

La convergencia entre IA local en entornos empresariales y las infraestructuras cloud marcan un hito en la evolución tecnológica actual. SoaxNG, la capa de orquestación propietaria de OASIX Cloud basada en OpenStack, se posiciona como plataforma ideal para implementar Ollama, el framework líder para ejecución local de Large Language Models (LLMs). Esta integración permite combinar la escalabilidad cloud con la privacidad de procesamiento AI in situ, creando ecosistemas híbridos donde los datos sensibles permanecen bajo control directo mientras se aprovechan las ventajas computacionales de la nube.

Fundamentos Tecnológicos de Ollama en Entornos SoaxNG

¿Porqué utilizar Ollama con Openweb-UI?

La combinación de Ollama con una interfaz gráfica como Open WebUI permite interactuar con modelos de lenguaje a través de una plataforma visual e intuitiva, eliminando la necesidad de utilizar la línea de comandos. Esto facilita su adopción por parte de usuarios sin experiencia técnica y resulta especialmente útil para equipos que buscan trabajar de forma colaborativa en entornos accesibles y eficientes

Arquitectura de Despliegue Contenerizado

Ollama opera bajo un modelo de contenedores Docker que SoaxNG gestiona mediante su motor de orquestación avanzado. Esta simbiosis tecnológica permite:

  • Aislamiento de recursos: Cada instancia Ollama se ejecuta en contenedores independientes con asignación granular de CPU/GPU24
  • Escalabilidad: SoaxNG autoajusta los recursos para soportar el  incremento de réplicas durante picos de inferencia para ejecutar tus modelos
  • Integración storage cloud: Volúmenes persistentes conectados a los sistemas Flash Scale Premium de OASIX para manejo de modelos GGUF >100GB

El despliegue típico utiliza Docker Compose con perfiles específicos para CPU/GPU, aprovechando las capacidades multi-tenant de SoaxNG para segregar entornos de desarrollo/producción Un stack básico incluye:

  • Ollama Core: Contenedor principal con runtime para modelos GGUF
  • Open WebUI: Interfaz gráfica unificada para gestión de modelos y chats
  • Nginx: Proxy inverso con terminación TLS y balanceo de carga

Modelos Soportados y Especificaciones Técnicas

SoaxNG optimiza el rendimiento de diversos modelos mediante perfiles hardware predefinidos:

Modelo vCPU Mínimas RAM Mínima Almacenamiento Caso Uso Principal
DeepSeek-R1 8 32GB 150GB Razonamiento analítico13
Llama 3.2 4 16GB 45GB Generación textual11
CodeLlama-70B 12 64GB 85GB Asistencia desarrollo15
LLaVA-1.6 6 24GB 35GB Visión computacional7

 

Casos de Uso Estratégicos

Ciberseguridad Automatizada

Ollama en SoaxNG potencia SOCs mediante:

  • Generación automática de playbooks: Crea procedimientos IR ante nuevos CVE usando MITRE ATT&CK
  • Análisis forense acelerado: Procesa 1TB de logs diarios identificando patrones APT
  • Simulación de ataques: Genera escenarios realistas para entrenar equipos rojos

Automatización de Procesos Empresariales

  • Procesamiento documental: Extracción inteligente de contratos usando LLaVA
  • Asistencia regulatoria: Monitoreo cambios normativos ENISA/GDPR en tiempo real
  • Generación de contenidos: Creación automatizada de documentación técnica con validación cross-team

DevOps Inteligente

  • Código seguro: Análisis estático/dinámico con sugerencias de parcheo
  • Optimización infraestructura: Recomendaciones de scaling basadas en telemetría
  • Incident management: Clasificación automática de tickets con RCA preliminar

Modelo de Seguridad y Gobernanza

Arquitectura Zero-Trust

SoaxNG implementa protección multi-nivel:

  • Cifrado homomórfico: Para inferencia sobre datos sensibles (salud/finanzas)
  • NVIDIA Confidential Computing: Aislamiento hardware de modelos mediante GPU TEE
  • RBAC granular: Permisos a nivel de modelo/prompt/output7

Cumplimiento Normativo

La solución certifica:

  • ENS Alto: Para organismos públicos españoles
  • GDPR Art.35: DPIA para procesamiento de datos personales
  • ISO 27001/27017: Gestión segura en infraestructura cloud

Los modelos incluyen auditorías periódicas mediante BERT de cumplimiento para detectar desviaciones regulatorias.

Menús y opciones principales de OpenWebUI con Ollama

  1. Pantalla de inicio y autenticación
  • Al acceder por primera vez, se solicita crear una cuenta con usuario y contraseña. El primer usuario creado tiene permisos de administrador y puede gestionar la base de datos y la configuración general.
  • La autenticación puede desactivarse mediante parámetros al ejecutar el servidor.
  1. Selección de modelos
  • En el menú superior izquierdo, aparecen todos los modelos descargados y disponibles en Ollama. Puedes seleccionar el modelo con el que deseas interactuar, cambiarlo en cualquier momento y probar diferentes opciones según tus necesidades.
  • Es posible añadir, borrar o descargar nuevos modelos directamente desde la interfaz.

  1. Chat principal
  • El área central permite enviar mensajes y recibir respuestas del modelo seleccionado, igual que en un chat tradicional.
  • Puedes crear múltiples conversaciones y gestionar el historial de chats.

  1. Opciones avanzadas y configuración

 

  • Configuración de conexión: Permite establecer o modificar la IP y puerto del servidor Ollama, así como añadir modelos de embedding o visión si están disponibles.
  • Ajustes de parámetros: Puedes modificar parámetros del modelo, como el tamaño de contexto, temperatura, top-p, etc., y confirmar que estos ajustes se aplican correctamente.
  • Configuración de audio e imágenes: Puedes activar el uso de micrófono para entrada de voz, ajustar cómo se procesa el audio, y habilitar la generación o análisis de imágenes si tu modelo lo soporta.
  • OCR y documentos: Hay opciones para subir documentos (PDF, imágenes) y activar la extracción de texto mediante OCR directamente desde la interfaz.
  1. Funciones adicionales
  • Plantillas de prompt: Puedes guardar, editar y reutilizar prompts personalizados para acelerar tareas repetitivas.
  • Integración con internet: Algunas versiones permiten consultar información en línea o consumir páginas web desde la interfaz, si el modelo y la configuración lo permiten.
  • Gestión de usuarios: El administrador puede gestionar usuarios y, en entornos empresariales, integrar autenticación SSO (por ejemplo, con Microsoft.

Ollama + SoaxNG: claves para la adopción de IA local en entornos empresariales

Aprovecha la integración de Ollama y Open WebUI para gestionar modelos de lenguaje mediante una interfaz intuitiva, ideal para quienes se inician en la inteligencia artificial. Para organizaciones españolas, representa una oportunidad estratégica para adoptar IA generativa manteniendo soberanía digital simplificando la instalación, permitiendo que cualquier usuario, sin importar su experiencia técnica, configure estas herramientas rápidamente.

Tras completar la instalación, tendrás acceso a un panel de control donde podrás elegir modelos, ejecutarlos y descubrir funciones colaborativas diseñadas para potenciar la productividad.

Open WebUI incorpora utilidades avanzadas, como la búsqueda en internet y la personalización de parámetros del modelo, lo que resulta especialmente útil para quienes buscan adaptar las respuestas a sus necesidades.

Si deseas implementar tus propios modelos, puedes importar bases de conocimiento, experimentar con diferentes instrucciones y combinar recursos personalizados desarrollados por la comunidad.

¿Tienes dudas? Contacta con nosotros y te ayudaremos a resolverlas.

 

Si te ha gustado, compártelo en redes sociales

Artículos relacionados

Javier Polo

CEO

Con más de 20 años de trayectoria en los sectores de las telecomunicaciones y la tecnología, Javier tiene la firme convicción de que la tecnología debe resolver problemas reales y generar ventajas competitivas con resultados tangibles para el negocio.

Ha ocupado posiciones ejecutivas relevantes en compañías como Amena y Orange, donde lideró áreas de planificación estratégica, marketing y go-to-market. Fue CEO de PlayGiga, la primera startup tecnológica española adquirida por Meta (Facebook). Antes de incorporarse como CEO de Grupo Aire, dirigió el Grupo AIA, empresa especializada en inteligencia artificial, con foco en analítica avanzada y algoritmos predictivos.

Ha sido también consejero y asesor en múltiples compañías tecnológicas respaldadas por fondos de venture capital y private equity, en sectores como cloud, ciberseguridad y blockchain.

Previamente, desarrolló su carrera en el ámbito de la consultoría estratégica como Principal en Monitor Company, donde asesoró a grandes corporaciones en procesos de crecimiento, internacionalización y eficiencia operativa.

Con un enfoque que combina pensamiento estratégico y capacidad de ejecución, se incorpora a Grupo Aire como CEO para liderar una nueva etapa.

Pablo García

En Teradisk son consultores expertos en servicios gestionados para entornos cloud. Proveedores de infraestructura cloud con migración, monitorización, seguridad e integraciones; especializados en servicios de ciberseguridad con SOC propio, sistemas de misión crítica, alta disponibilidad y entornos web distribuidos y escalables, ofreciendo el servicio y operativa en formato 24/7.

Compañía dedicada a la provisión de servicios de conectividad y data center en las Islas Canarias, con una potente red y que orienta su negocio a clientes empresas, AAPP y Wholesale.

Carlos Cortés

Carlos descubrió que su pasión era la tecnología en el año 1997, cuando comenzó a trabajar para Motorola, el fabricante americano de tecnología, líder del mercado mundial durante décadas.

A partir de ahí, se sumergió en el sector tecnológico hasta que en 2018 encontró un proyecto que le apasionó y que le ofrecía la oportunidad de volver a trabajar en su tierra, Alicante.

Un proyecto que le permite desarrollar su pasión por las cosas bien hechas, en busca del crecimiento y mejora constante, buscando dar lo mejor de sí mismo y de la compañía, ofreciendo lo mejor a nuestros clientes.

Félix Nebreda

Félix inició su carrera como consultor en tecnología hace casi 30 años, trabajando para diversas compañías. Fue en Unisys España donde descubrió que su verdadera pasión era la relación con el cliente. Desde entonces, ha asumido responsabilidades de negocio en cuentas clave, tanto a nivel nacional como internacional, en multinacionales como Colt y Brocade.

Posteriormente, se embarcó en la emocionante tarea de participar en el lanzamiento de LCRcom, un nuevo operador para empresas en el ámbito nacional, con gran éxito. Desde el principio, en LCRcom ha sido responsable de la generación de negocio en diferentes territorios y de la gestión de equipos comerciales.

Actualmente, en Grupo Aire, Félix dirige el Área SME, donde se dedica a desarrollar y ejecutar estrategias de negocio que mantienen al Grupo Aire como líder en el sector a nivel nacional.

Joan Aniorte

Joan ve la tecnología como una palanca con la que accionar el acceso al conocimiento y posibilitar la comunicación entre personas en tiempo real. Desde sus inicios en Grupo Aire, cuando estaba en el último curso de universidad, se ha esforzado por superar los retos técnicos a los que se ha ido enfrentando, con la motivación de aprender y llegar al fondo de cada proyecto. Como CTO Staff, aplica esta experiencia, su visión, empuje y mimo por los detalles a distintas áreas de trabajo. Del proyecto destaca su vocación tecnológica y su equipo, por su calidad humana y su enfoque de resolución del problema.

Manuel Rivera
Rosa Ronda

Su trabajo en distintas posiciones en empresas tecnológicas la han llevado a estar siempre rodeada de ingenieros y a respirar ese ambiente techie en el día a día. Esa experiencia en el sector, junto con su conocimiento y una visión de la función financiera estratégica, es lo que aporta Rosa a Grupo Aire. Así como mejores prácticas y soporte a los accionistas y equipo directivo para la toma de decisiones. Todo ello con el objetivo de llevar a la compañía hacia las metas propuestas en el plan de negocio.

Del Grupo Aire destaca su capacidad de innovación y desarrollo; el alto volumen de soluciones propias y lo arraigado que está el proyecto en el sector.

Zigor Gaubeca

A pesar de criarse en un pequeño pueblo con menor facilidades de acceso a la tecnología, para Zigor no fue una barrera el sumergirse en el sector tecnológico desde muy joven, comenzando después la carrera de Ingeniería Informática con la intención de seguir profundizando sobre todo lo que había ido aprendiendo de forma autodidacta a lo largo de los años.

Su sueño de dedicarse al mundo de la conectividad se hizo realidad al llegar a la compañía, donde sintió el proyecto como suyo desde el primer momento, compartiendo triunfos y aprendiendo de los fracasos.

Con un gran sentido de equipo, Zigor trabaja diariamente para ayudar en la toma de decisiones aportando su visión y experiencia, asumiendo todos los retos que pueda encontrar en el camino y manteniendo ese ADN de la compañía en el que la tecnología, el trabajo en equipo y la innovación son esenciales.

Santi Magazù

Santi Magazù tiene más de 20 años de experiencia en el sector de telecomunicaciones y de servicios TI, habiendo ocupado puestos directivos en multinacionales como Telefónica, donde desempeñó varios cargos, como director de ingeniería de servicios TI para España y director comercial de Cloud Computing para todo el Grupo. También ha trabajado como director de Marketing en el operador regional Grapes, y como CEO y COO en startups de tecnología, entre ellas en PlayGiga, la primera compañía adquirida por Facebook en España. Inició su carrera como consultor de estrategia en Monitor Co., actualmente parte de Deloitte.

En cuanto a su formación, es ingeniero industrial por el Politécnico de Milán y MBA por INSEAD (Francia).

Ángel Blancas

Ángel Blancas tiene una carrera a nivel directivo de más de 30 años en compañías como Grupo SIA (Indra), donde estuvo liderando el área de Cloud Computing y Managed Services como Senior Director; Colt Technology dónde ocupo la posición de Regional General Manager en España y Portugal. Otras empresas en las que ha trabajado dentro del sector tecnológico son T-Systems Iberia, Dell Computer, Getronics y Sun Microsystems (Oracle). Recientemente, ocupó la posición de Regional Director en Claranet.

Estudió Ingeniería de Telecomunicaciones en la Universidad Politécnica de Madrid y tiene un máster en Inteligencia Artificial por la Universidad Internacional de Valencia. Llega a Grupo Aire para dar apoyo en la definición y estrategia de Producto.

Miguel Tecles

Consejero

Curiosidad y pasión por la tecnología son el motor imparable de una carrera profesional que empezó, nada menos que a los 4 años, arreglando el cable roto de una plancha que había dejado de funcionar. Desde ese precoz impulso, la biografía de Miguel Tecles está escrita con cables de colores, líneas de programación, ondas de radio, señales de internet cuando casi no existía, muchos voltios y algún calambre inesperado.

Hoy, con el cargo de Chief Technology Officer en Aire Networks, Miguel Tecles es uno de sus principales pilares.

Nadie mejor que él personifica el compromiso de la compañía con sus clientes: llevar la tecnología siempre al siguiente nivel, haciendo lo que nadie hace, como nadie lo hace y llegando hasta donde nadie llega, para ofrecer servicios que generen valor para todos.

Raúl Aledo

Presidente

Apasionado de la tecnología y el funcionamiento interno de todo lo que le rodeaba desde muy temprana edad, Raúl empezó sus primeros pinitos en el mundo de la electrónica y la programación a los 14 años, cuando hizo su primer programa de facturación, contabilidad y gestión de almacén para la empresa familiar.

Con ello y la llegada de internet, comenzó su dedicación al mundo de las telecomunicaciones, estudiando Ingeniería Informática, donde conoció a su primer socio, Miguel Tecles, a través de lo que fue una de las primeras redes sociales, IRC. Tras más de dos años trabajando juntos y mejorando su know-how, conocieron a Emilio Gras, el tercer socio de la actual compañía, comenzando juntos en 1996 su primer proyecto de ServiHosting, e iniciando un camino que los llevaría hasta donde están hoy.

Raúl es pilar fundamental en el Grupo Aire, no solo a través de su experiencia, sino a través de los valores que aporta e implementa en la compañía, como la visión de futuro, aceptando retos y alcanzando metas; su compromiso con cada detalle y el sentimiento de equipo, fomentándolo día a día.

Configuración de las cookies

Las cookies y otras tecnologías similares son una parte esencial de cómo funciona nuestra web. El objetivo principal de las cookies es que tu experiencia de navegación sea más cómoda y eficiente y poder mejorar nuestros servicios y la propia web. Aquí podrás obtener toda la información sobre las cookies que utilizamos y podrás activar y/o desactivar las mismas de acuerdo con tus preferencias, salvo aquellas Cookies que son estrictamente necesarias para el funcionamiento de la web de Aire Networks. Ten en cuenta que el bloqueo de algunas cookies puede afectar tu experiencia en la web y el funcionamiento de la misma. Al pulsar “Guardar cambios”, se guardará la selección de cookies que has realizado. Si no has seleccionado ninguna opción, pulsar este botón equivaldrá a rechazar todas las cookies. Para más información puedes visitar nuestra Políticas de Cookies. Podrás cambiar en cualquier momento tus preferencias de cookies pinchando en el enlace “Preferencias de cookies” situado en la parte inferior de nuestra web.