Usar ChatGPT o Gemini es cómodo, pero cada pregunta viaja a los servidores de otra empresa. Si manejas información sensible, o simplemente no quieres depender de los precios de terceros, puedes correr tu propia IA en un servidor privado. Con Ollama y Open WebUI lo tienes funcionando en menos de una hora.
Por qué tener una IA propia
- Privacidad: los documentos y conversaciones no salen de tu servidor.
- Costo predecible: pagas el servidor, no cada token.
- Integración: la conectas a tus bots, tu CRM o tus automatizaciones con n8n.
- Independencia: si un proveedor cambia precios o condiciones, tu sistema sigue igual.
Qué servidor necesitas
| Uso | Recursos orientativos |
|---|---|
| Pruebas y modelos pequeños | 4-8 GB de RAM, 4 vCPU |
| Modelos de 7-8 mil millones de parámetros, uso personal o equipo pequeño | 12-16 GB de RAM, 6 vCPU |
| Varios modelos o varios usuarios a la vez | 32-48 GB de RAM o más |
| Modelos grandes con respuestas rápidas | Servidor con GPU |
Un Cloud VPS 20 (12 GB de RAM DDR4, 6 vCPU y 100 GB NVMe) es un buen punto de partida para modelos pequeños y medianos con CPU.
Paso 1: instala Ollama
Conéctate a tu VPS por SSH (Ubuntu o Debian) y ejecuta el instalador oficial:
curl -fsSL https://ollama.com/install.sh | sh
Luego descarga y prueba un modelo. Los nombres cambian con frecuencia, así que revisa la biblioteca de ollama.com y elige uno de tamaño acorde a tu RAM, por ejemplo de las familias Llama, Qwen, Gemma o DeepSeek:
ollama run llama3.2
Si te responde en la terminal, ya tienes una IA corriendo en tu servidor.
Paso 2: una interfaz tipo ChatGPT con Open WebUI
Open WebUI te da una interfaz web con usuarios, historial y carga de documentos. La forma más sencilla es con Docker (te explicamos Docker en nuestra guía de Docker en VPS):
docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Fíjate en el 127.0.0.1: la interfaz solo escucha dentro del servidor. En el siguiente paso la publicamos de forma segura.
Paso 3: protégela antes de abrirla a internet
- No expongas el puerto de Ollama (11434) a internet: no tiene autenticación.
- Publica Open WebUI detrás de Nginx con tu propio dominio y certificado SSL de Let's Encrypt.
- Crea la cuenta de administrador apenas abras la interfaz y desactiva el registro abierto si es solo para tu equipo.
- Activa el firewall (por ejemplo, UFW) y deja abiertos solo SSH, HTTP y HTTPS.
- Programa backups del volumen de datos.
Ideas para usarla en tu negocio
- Responder preguntas sobre tus manuales y políticas internas.
- Resumir correos, reuniones y tickets de soporte.
- Clasificar mensajes de clientes y redactar borradores de respuesta.
- Conectarla a WhatsApp o Telegram con automatizaciones, como contamos en automatizaciones con IA.
Conclusión
Tener tu propia IA ya no es cosa de grandes empresas. Con un Cloud VPS, Ollama y Open WebUI tienes un asistente privado, integrable y con costo fijo. Si prefieres que lo dejemos configurado, nuestro equipo de servicios profesionales puede hacerlo por ti.
Preguntas frecuentes
¿Necesito una tarjeta gráfica para correr IA en un VPS?
No es obligatorio. Los modelos pequeños y medianos funcionan con CPU, aunque más lento. Para modelos grandes o muchos usuarios a la vez, una GPU marca una gran diferencia.
¿Cuánta RAM necesito?
Como referencia, un modelo de unos 7-8 mil millones de parámetros cuantizado necesita alrededor de 8 GB de RAM libre. Modelos más grandes necesitan bastante más.
¿Es tan buena como ChatGPT?
Los modelos abiertos que caben en un servidor modesto no igualan a los modelos más avanzados, pero son muy útiles para resumir, clasificar, responder sobre tus documentos y automatizar tareas, con la ventaja de que tus datos no salen de tu servidor.
Fuentes
