OpenAI, Google, DeepSeek, Mistral, Anthropic, etc. Muchas empresas ofrecen modelos ling\u00fc\u00edsticos de IA con diferentes capacidades. Disponibles como soluci\u00f3n SaaS, estas inteligencias artificiales tambi\u00e9n implican compartir informaci\u00f3n con terceros. Por lo tanto, utilizar Ollama localmente puede ofrecer una serie de ventajas:<\/p>\n\n\n\n
- \n
- Confidencialidad: <\/strong>ning\u00fan dato sale de su m\u00e1quina, lo que es ideal para intercambiar datos o documentos sensibles. A primera vista, esta es la principal ventaja. <\/li>\n\n\n\n
- Disponibilidad offline:<\/strong> funciona sin conexi\u00f3n a Internet.<\/li>\n\n\n\n
- Costes reducidos:<\/strong> no es necesario pagar por una API en la nube, aunque por supuesto existe el coste de su hardware y su consumo de energ\u00eda.<\/li>\n\n\n\n
- Personalizaci\u00f3n:<\/strong> puede ajustar un modelo a sus necesidades<\/li>\n<\/ul>\n\n\n\n
Ollama se puede utilizar por s\u00ed solo, con Open WebUI que proporciona una interfaz web intuitiva (como la interfaz ChatGPT, por ejemplo). Veremos c\u00f3mo utilizar estas dos herramientas con un modelo DeepSeek R1 (propuesto por una empresa china). <\/p>\n\n\n\n
II. Rendimiento y elecci\u00f3n del modelo <\/h2>\n\n\n\n
Ejecutar un LLM localmente<\/strong> no es tan f\u00e1cil y no podr\u00e1s alojar un ChatGPT localmente, al menos no con las mismas capacidades, porque no tendr\u00e1s la potencia necesaria. Ollama ofrece la posibilidad de utilizar LLM<\/strong> (Large Language Models) localmente y cada uno de estos modelos, con un tama\u00f1o <\/strong>indicado en \"B<\/strong>\" (mil millones de par\u00e1metros), corresponde al n\u00famero total de par\u00e1metros entrenables<\/strong> utilizados en la red neuronal del modelo.<\/p>\n\n\n\n
Un par\u00e1metro es un valor num\u00e9rico (peso o sesgo) que influye en la forma en que el modelo genera el texto. Cuantos m\u00e1s par\u00e1metros haya, mayor ser\u00e1 la capacidad del modelo para captar patrones complejos en los datos. <\/p>\n\n\n\n
Estos son algunos de los modelos que encontrar\u00e1:<\/p>\n\n\n\n
- \n
- 1B (1.000 millones de par\u00e1metros):<\/strong> modelo ligero, adecuado para tareas sencillas, bajo coste de recursos.<\/li>\n\n\n\n
- 4B (4.000 millones de par\u00e1metros): <\/strong>capaz de gestionar tareas m\u00e1s complejas, pero a\u00fan con limitaciones.<\/li>\n\n\n\n
- 12B (12 mil millones de par\u00e1metros): <\/strong>nivel intermedio, capaz de un razonamiento m\u00e1s avanzado y un mejor rendimiento en PNL.<\/li>\n\n\n\n
- 27B (27.000 millones de par\u00e1metros):<\/strong> muy potente, cercana a los modelos de IA de consumo.<\/li>\n<\/ul>\n\n\n\n
Cuantos m\u00e1s par\u00e1metros tenga un modelo, m\u00e1s recursos necesitar\u00e1 para funcionar de forma aceptable. Si tienes que esperar 5 minutos cada vez que haces una pregunta a la IA, te aburrir\u00e1s r\u00e1pidamente... <\/strong>Todo depende de su configuraci\u00f3n: con o sin GPU, y si hay GPU, cu\u00e1les son sus capacidades.<\/p>\n\n\n\n
Algunos modelos, adem\u00e1s de su propia capacidad, tambi\u00e9n pueden consumir m\u00e1s recursos. En marzo de 2025, Google lanz\u00f3 sus nuevos modelos Gemma3<\/strong> de c\u00f3digo abierto, basados en Gemini 2.0 y capaces de funcionar con configuraciones m\u00e1s ligeras. <\/p>\n\n\n\n
\n
Nota:<\/strong> los modelos Gemma son modelos LLM de c\u00f3digo abierto de Google, mientras que los modelos Gemini son propietarios y se incluyen en las ofertas comerciales de Google.<\/p>\n<\/blockquote>\n\n\n\n
III. Instalaci\u00f3n de Ollama en Windows <\/h2>\n\n\n\n
A. Descarga e instalaci\u00f3n<\/h3>\n\n\n\n
Ollama puede instalarse f\u00e1cilmente en Windows, ya sea descargando el paquete de instalaci\u00f3n desde el sitio web oficial<\/a> o desde WinGet. Dado que el gestor de paquetes WinGet est\u00e1 integrado en Windows 11 y Windows Server 2025, podemos instalar Ollama simplemente con este comando : <\/p>\n\n\n\n
winget install ollama.ollama<\/code><\/pre>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Installation-Ollama-sur-Windows-1-800x256.png\")
<\/figure>\n\n\n\nAdem\u00e1s de lo que ocurre en la l\u00ednea de comandos, aparecer\u00e1 un instalador en la pantalla durante unos instantes. La instalaci\u00f3n es autom\u00e1tica. <\/p>\n\n\n\n
![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Installation-Ollama-sur-Windows-2-800x591.png\")
<\/figure>\n\n\n\nCuando termine, cierra la consola y rein\u00edciala. Ejecute el siguiente comando para mostrar la versi\u00f3n de Ollama, que es una oportunidad para comprobar que est\u00e1 instalado correctamente. <\/p>\n\n\n\n
ollama --version<\/code><\/pre>\n\n\n\nLa orden
ollama<\/code><\/strong> es accesible desde la consola de Windows (PowerShell o S\u00edmbolo del sistema) porque la ruta al ejecutable se ha a\u00f1adido a la variable de entornoPATH<\/code><\/strong> en Windows. En este caso, la herramienta se ha instalado enC:UsersAdministrateurAppDataLocalProgramsOllama<\/code><\/strong>.<\/p>\n\n\n\nB. A\u00f1adir y utilizar un modelo con Ollama<\/h3>\n\n\n\n
Actualmente no es posible obtener una lista de todos los modelos disponibles en la biblioteca Ollama desde la l\u00ednea de comandos. Es necesario ir directamente a esta p\u00e1gina<\/a> del sitio web oficial. <\/p>\n\n\n\n
![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Modeles-DeepSeek-R1-sur-Ollama.png\")
<\/figure>\n\n\n\nHay dos comandos disponibles para descargar un modelo:<\/p>\n\n\n\n
- \n
ollama pull<\/code><\/strong> descargar el modelo localmente<\/li>\n\n\n\nollama run<\/code><\/strong> ejecutar el modelo (y descargarlo si es necesario)<\/li>\n<\/ul>\n\n\n\nEl siguiente comando descarga y ejecuta el modelo DeepSeek-R1 7B<\/strong> por defecto, que tiene un tama\u00f1o aproximado de 4,7 GB<\/strong>. Como su nombre indica, este modelo admite 7.000 millones de par\u00e1metros. <\/p>\n\n\n\n
ollama run deepseek-r1<\/code><\/code><\/pre>\n\n\n\nSi todo se descarga correctamente, Ollama te permitir\u00e1 interactuar con \u00e9l. Podemos hacerle una pregunta muy sencilla:
Quelle est la hauteur de la Tour Eiffel ?<\/code><\/strong> - Aqu\u00ed, la respuesta se dio en unos 2 segundos.<think><\/code><\/strong> es un indicador que se muestra en el terminal mientras el modelo genera una respuesta<\/strong> y la respuesta final se devuelve en esta fase, tras la fase<\/think><\/code><\/strong>.<\/p>\n\n\n\n![\"Uso](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Utiliser-DeepSeek-R1-avec-Ollama-800x368.png\")
<\/figure>\n\n\n\nEn este caso, el modelo responde correctamente y con gran rapidez. La misma pregunta puede conducir a un resultado sorprendente, casi surrealista, en el que la IA realiza una serie interminable de c\u00e1lculos. Utilizar la IA localmente y hacerle preguntas variadas, como puedes hacer en ChatGPT y similares, no es tarea f\u00e1cil. En lugar de eso, deber\u00edamos apuntar a otros usos... <\/p>\n\n\n\n
Para abandonar la conversaci\u00f3n con la IA, utiliza este comando:<\/p>\n\n\n\n
\/bye<\/code><\/pre>\n\n\n\nPara instalar un modelo con un tama\u00f1o espec\u00edfico, especifique el tama\u00f1o despu\u00e9s del nombre. Por ejemplo, para obtener el modelo DeepSeek R1 14B<\/strong> (9 GB de espacio en disco), utilizaremos este comando: <\/p>\n\n\n\n
ollama run deepseek-r1:14b<\/code><\/pre>\n\n\n\nA continuaci\u00f3n, llame al comando
ollama run<\/code><\/strong> con el nombre del modelo que quieres utilizar para intercambiar con la IA. Consultar el modelo 14B de DeepSeek R1 hace que mi m\u00e1quina se ponga bajo presi\u00f3n: 10 GB de RAM <\/strong>consumidos por el proceso.ollama.exe<\/code><\/strong> y un procesador Intel Core Ultra 9 185H<\/strong> que ofrece un 58% de tiempo de actividad<\/strong>.<\/p>\n\n\n\nPuede listar los modelos LLM disponibles localmente en su m\u00e1quina utilizando este comando:<\/p>\n\n\n\n
ollama list<\/strong>\nNAME ID SIZE MODIFIED\ndeepseek-r1:14b ea35dfe18182 9.0 GB 56 minutes ago\ndeepseek-r1:latest 0a8c26691023 4.7 GB About an hour ago<\/code><\/pre>\n\n\n\nC. Generaci\u00f3n de c\u00f3digo con Ollama<\/h3>\n\n\n\n
Puede utilizar la IA para generar c\u00f3digo, analizar documentos, etc. En funci\u00f3n de sus necesidades. A continuaci\u00f3n se muestra la salida sin procesar completa, tal como se presenta en la consola, cuando se llama a la IA con el siguiente prompt:
Ecrit une fonction PowerShell pour g\u00e9n\u00e9rer des mots de passe robustes.<\/code><\/strong><\/p>\n\n\n\nVoici une fonction PowerShell pour g\u00e9n\u00e9rer un mot de passe s\u00e9curis\u00e9 :\n\n```powershell\nfunction Generate-StablePassword {\n Param(\n [int]$Length = 16\n )\n\n # D\u00e9finition des ensembles de caract\u00e8res\n $uppercase = 'A'..'Z'\n $lowercase = 'a'..'z'\n $numbers = '0'..'9'\n $symbols =\n'!','@','#','$','%','^','&','*','(',')','_','-','+','=','{','}','[',']','|',':',';','\"','<',',','.','?','\/'\n\n # D\u00e9termination de la longueur requise, minimum 8\n $requiredLength = $Length\n if ($requiredLength -lt 8) { $requiredLength = 8 }\n\n # Cr\u00e9ation du pool principal\n $pool = $uppercase + $lowercase + $numbers + $symbols\n\n $passwordChars = @()\n\n # Assurez-vous d'avoir au moins un caract\u00e8re de chaque cat\u00e9gorie\n $passwordChars += (Get-Random -InputObject $uppercase)\n $passwordChars += (Get-Random -InputObject $lowercase)\n $passwordChars += (Get-Random -InputObject $numbers)\n $passwordChars += (Get-Random -InputObject $symbols)\n\n # Ajoutez les caract\u00e8res restants pour atteindre la longueur requise\n if ($requiredLength -gt 4) {\n $remaining = $requiredLength - 4\n for ($i=0; $i -lt $remaining; $i++) {\n $char = Get-Random -InputObject $pool\n $passwordChars += $char\n }\n }\n\n # M\u00e9langez les caract\u00e8res pour une meilleure al\u00e9a\n $passwordChars = $passwordChars | Shuffle\n\n # Joignez en une cha\u00eene et renvoyez le mot de passe\n $passwordString = $passwordChars -join ''\n return $passwordString\n}\n```\n\n**Explication :**\n\n1. **D\u00e9finition des ensembles de caract\u00e8res :**\n - `$uppercase` contient les lettres majuscules.\n - `$lowercase` contient les lettres minuscules.\n - `$numbers` contient les chiffres.\n - `$symbols` contient divers symboles.\n\n2. **D\u00e9termination de la longueur requise :**\n - La fonction utilise soit la longueur sp\u00e9cifi\u00e9e, soit 8 si celle-ci est inf\u00e9rieure \u00e0 8.\n\n3. **Cr\u00e9ation du pool principal :**\n - Tous les caract\u00e8res disponibles sont concat\u00e9n\u00e9s dans `$pool`.\n\n4. **G\u00e9n\u00e9ration des premiers caract\u00e8res obligatoires :**\n - Une lettre majuscule, minuscule, un chiffre et un symbole sont ajout\u00e9s pour assurer la diversit\u00e9.\n\n5. **Ajout des caract\u00e8res restants :**\n - Des caract\u00e8res al\u00e9atoires sont ajout\u00e9s pour atteindre la longueur demand\u00e9e.\n\n6. **M\u00e9lange des caract\u00e8res :**\n - La liste des caract\u00e8res est m\u00e9lang\u00e9e pour \u00e9viter un ordre pr\u00e9visible.\n\n7. **Retour du mot de passe :**\n - Les caract\u00e8res sont concat\u00e9n\u00e9s en une cha\u00eene et renvoy\u00e9e.\n\n**Exemple d'utilisation :**\n\n```powershell\nGenerate-StablePassword -Length 16\n```\n\nCela g\u00e9n\u00e9rera un mot de passe al\u00e9atoire de 16 caract\u00e8res, comportant au moins une lettre majuscule, minuscule, un\nchiffre et un symbole.<\/code><\/pre>\n\n\n\nVeremos m\u00e1s adelante que la salida es mucho m\u00e1s f\u00e1cil de leer cuando se utiliza Open WebUI.<\/p>\n\n\n\n
IV. Instalaci\u00f3n de Open WebUI en Windows (sin Docker) <\/h2>\n\n\n\n
A. Instalando Open WebUI con Miniconda 3<\/h3>\n\n\n\n
- 4B (4.000 millones de par\u00e1metros): <\/strong>capaz de gestionar tareas m\u00e1s complejas, pero a\u00fan con limitaciones.<\/li>\n\n\n\n
- Disponibilidad offline:<\/strong> funciona sin conexi\u00f3n a Internet.<\/li>\n\n\n\n
![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Installer-Miniconda3-sur-Windows-800x409.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Installer-Open-WebUI-sur-Windows-sans-Docker-1.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Installer-Open-WebUI-sur-Windows-sans-Docker-2.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Premiere-connexion-a-Open-WebUI.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Utiliser-Ollama-et-Open-WebUI-sur-Windows-11-800x443.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Generer-du-code-avec-IA-en-local-Ollama-et-Open-WebUI.jpg\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Ajouter-un-LLM-avec-Open-WebUI-800x369.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Open-WebUI-et-la-recherche-web-800x563.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Open-WebUI-et-Ollama-Analyse-de-code-Gemma3-1-800x478.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Open-WebUI-et-Ollama-Analyse-de-code-Gemma3-2-800x400.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.it-connect.tech\/wp-content\/uploads\/2025\/04\/Open-WebUI-et-Ollama-Analyse-de-code-Gemma3-3-800x424.png\")
<\/figure>\n\n\n\n