Durante mis recientes experimentos con un sistema LLM en Python, me encontré con un problema recurrente: el proceso de entrenamiento se terminaba abruptamente con un error de Out of Memory, y el sistema lo mataba automáticamente. La solución pasó por habilitar un archivo swap en mi VPS —algo que, por defecto, no estaba configurado— permitiéndome proporcionar un “colchón” de memoria y evitar esos infortunados kills.
En esta entrada te muestro mi solución a este inconveniente, presentándote un sencillo script en Bash que crea un archivo swap de forma automática. A continuación, te explico paso a paso cómo funciona y por qué puede marcar la diferencia en tus proyectos:
¿Por qué es importante el swap en un VPS?
Al trabajar en proyectos de inteligencia artificial, sobre todo durante el entrenamiento de modelos intensivos, es vital tener una gestión de memoria robusta. Sin un archivo swap, el sistema tiene un límite estricto de RAM, lo que puede provocar que procesos de alta demanda sean terminados súbitamente. Implementar un swap proporciona una extensión a la memoria física, dando tiempo extra a los procesos antes de que se alcance un fallo crítico.
El script paso a paso
A continuación, te dejo el script en Bash que puedes utilizar para crear y activar el archivo swap. La idea es asignar un tamaño definido (en este ejemplo, 2GB), configurarlo con los permisos correctos y activarlo:
#!/bin/bash
# Variables
SWAPFILE="/swapfile"
SIZE="2G" # Puedes ajustar el tamaño según tus necesidades
echo "Creando un archivo swap de tamaño $SIZE en $SWAPFILE..."
# Crear el archivo swap usando fallocate
sudo fallocate -l $SIZE $SWAPFILE
# Configurar los permisos: solo root debe tener acceso
sudo chmod 600 $SWAPFILE
# Formatear el archivo como swap
sudo mkswap $SWAPFILE
# Activar el swap creado
sudo swapon $SWAPFILE
echo "¡Archivo swap creado y activado exitosamente!"
# Agregar la configuración al fstab para que se monte automáticamente en cada reinicio
echo "$SWAPFILE none swap sw 0 0" | sudo tee -a /etc/fstab
echo "Configuración añadida a /etc/fstab para persistencia."
¿Cómo utilizar el script?
- Copia el código en un archivo de tu VPS, por ejemplo
crear_swap.sh. - Asigna permisos de ejecución:
chmod +x crear_swap.sh - Ejecuta el script con privilegios de superusuario:
sudo ./crear_swap.sh
Con estos simples pasos, tu VPS estará mejor preparado para manejar procesos intensivos sin riesgos inmediatos de quedarse sin memoria.
Implementar esta solución no solo te ayudará a evitar esos molestos kills del sistema, sino que además te permitirá centrarte en lo verdaderamente innovador: experimentar y mejorar tus modelos de LLM sin interrupciones inesperadas. ¿Te animas a probarlo en tu VPS? ¡Comparte tus experiencias!
Si te interesa conocer más sobre mejoras en la gestión de recursos en sistemas Linux o tienes alguna duda sobre el script, seguimos la conversación en los comentarios. Además, en próximos post profundizaré en otras técnicas de optimización para entrenamientos de LLMs y cómo integrar estas soluciones en flujos de trabajo automatizados.
¿Qué otros temas te gustaría ver? Estoy preparando contenido sobre Dockerización de ambientes de desarrollo y CI/CD en proyectos de IA. ¡Mantente atento!
Happy coding y a seguir optimizando tus proyectos.
#Linux #Bash #VPS #Script #Swap #InteligenciaArtificial #LLM #OutOfMemory #DesarrolloTech