Con el auge de la inteligencia artificial, era cuestión de tiempo para que existiera el primer modelo open source que se pudiera instalar localmente y que sea completamente privado, con esto se abren multitud de posibilidades donde he visto noticias de personas que lo han logrado ejecutar hasta en una raspberry pi, es por ello que hoy les vengo a enseñar como integrarlo en Oracle Linux en un entorno OCI o bien ejecutarlo en una máquina local.
Pero primero…
Qué es DeepSeek-R1?
DeepSeek es una herramienta de inteligencia artificial que desafía a gigantes como OpenAI. Se destaca por ser desarrollada con pocos chips y bajo costo, lo que la hace más accesible, en sí, la mayor ventaja que tenemos con DeepSeek-R1 a diferencia de otros modelos de lenguaje es que este modelo es capaz de responder a tus preguntas, generar textos, y hacer muchas otras cosas.
Es como tener un asistente virtual muy inteligente a nuestra disposición una herramienta de inteligencia artificial prometedora que demuestra que la innovación no siempre requiere de grandes recursos.
DeepSeek-R1 destaca por varias razones:
- Aprendizaje innovador: Su entrenamiento basado en refuerzo le permite aprender de manera más autónoma y resolver problemas complejos.
- Asequibilidad: Funciona en hardware común, lo que lo hace accesible para muchos usuarios, sin embargo, los modelos más completos, requerirán el hardware más top.
- Flexibilidad: Al ser de código abierto, puedes personalizarlo y adaptarlo a tus necesidades, con esto podríamos utilizar multitud de librerías y servicios que lo usen sin necesidad de hacer un pago.
Cómo ejecutar DeepSeek-R1 en un entorno con Oracle Linux?
Para ejecutar DeepSeek-R1 en Linux, utilizaremos Ollama, una plataforma que facilita la implementación y ejecución de modelos de lenguaje de gran tamaño de manera local. Funciona de forma similar a Docker, pero especializada en modelos de IA.
Pueder verificar su página con documentación y mas información Ollama.
Para instalar Ollama usaremos el siguiente código:
[root@Labs ~]# cat /etc/system-release Oracle Linux Server release 8.10 [root@Labs ~]# curl -fsSL https://ollama.com/install.sh | sh
Posterior a la instalación de Ollama, descargaremos la versión de DeepSeek-R1 que queramos usar, para ello seleccionaremos el modelo «distilled» de DeepSeek-R1 que sea compatible con tu GPU (o CPU).
Los comandos para ejecutar cada modelo son:
- 1.5B parámetros (aprox. 1.1GB): ollama run deepseek-r1:1.5b
- 7B parámetros (aprox. 4.7GB): ollama run deepseek-r1
- 70B parámetros (requiere +24GB de VRAM): ollama run deepseek-r1:70b
- Versión completa 671B (para entusiastas con +300GB de VRAM): ollama run deepseek-r1:671b
En este caso usaremos un modelo pequeño para esta demostración por lo que usaremos el comando del primero modelo:
[root@Labs ~]# ollama run deepseek-r1:1.5b
Esto descargará el modelo y apenas termine se quedará ejecutando una ventana de dialogo, donde podrás hacer cualquier pregunta y el modelo te responderá:
Nota: Si tu computadora tiene grandes capacidades de CPU, puedes probar los modelos más pesados de DeepSeek-R1, toma en cuenta que los modelos más pequeños tienen muchas limitaciones. así que vale la pena probar modelos más grandes.
De esta manera y aún sin utilizar internet, simplemente podemos ejecutar DeepSeek y hacerle consultas de lo que queramos, esto nos brindará un entorno 100% privado.