¿Qué es Ollama?
Ollama descarga y ejecuta modelos de lenguaje localmente con un solo comando (ollama run llama3.2) y expone una API compatible con muchas herramientas. Ideal combinado con Open WebUI para tener tu propio ChatGPT privado.
Instalación con Docker Compose
📘 Adaptado del docker run oficial 🧪 Sin probar todavía por MontaTuNube ✔ Imágenes verificadas en su registry
Guárdalo como compose.yaml en una carpeta nueva y ejecuta docker compose up -d. Después entra a http://IP-de-tu-servidor:11434.
services:
ollama:
image: ollama/ollama
container_name: ollama
restart: unless-stopped
ports:
- "11434:11434"
volumes:
- ollama:/root/.ollama
# GPU NVIDIA (requiere NVIDIA Container Toolkit), equivale a --gpus=all:
# deploy:
# resources:
# reservations:
# devices:
# - driver: nvidia
# count: all
# capabilities: [gpu]
volumes:
ollama:
Para GPU NVIDIA necesitas NVIDIA Container Toolkit y descomentar el bloque deploy (equivalente al --gpus=all de la doc).
Fuente: https://docs.ollama.com/docker · Doc de instalación: docs.ollama.com/docker
Este archivo está transcrito de la documentación oficial y puede quedar desactualizado: ante la duda, prevalece la doc del proyecto. Cambia siempre contraseñas y rutas de ejemplo.
Requisitos de hardware
| RAM | 8 GB para modelos de 7B, 16 GB para 13B, 32 GB para 33B |
|---|---|
| CPU / GPU | Funciona en CPU; con GPU NVIDIA/AMD es muchísimo más rápido |
| Notas | Cifras de RAM según el README oficial de Ollama. |
¿No sabes dónde correrlo? Mira nuestra guía de hardware y VPS →