Ollama en AMD sobre Proxmox

Jonatan Castro

¿Quieres correr Ollama con aceleración GPU en AMD dentro de Proxmox? En este tutorial te enseño a instalar Ollama en un LXC sin privilegios y a activar ROCm para usar la Radeon 780M (AMD iGPU). Pasamos los dispositivos /dev/dri/renderD* y /dev/kfd, instalamos los drivers ROCm sin DKMS, y añadimos las variables de entorno que hacen la magia para que Ollama use la GPU (no solo CPU).