Executando o modelo DeepSeek R1 localmente: um guia abrangente para Windows, macOS, Android e iOS

Resumo:

    • Se você tiver preocupações com privacidade, pode executar o modelo DeepSeek R1 localmente no seu computador Windows, macOS, Android ou iOS.
    • Você pode instalar o LM Studio para executar o modelo DeepSeek R1 7B especialmente desenvolvido, mas seu dispositivo deve ter 8 GB de RAM.
    • Caso contrário, você pode instalar o Ollama e começar com os modelos destilados do DeepSeek R1. Ele ainda oferece um pequeno modelo com 1.5 bilhão de parâmetros.
    • Você pode executar o DeepSeek R1 nativamente no Android e iOS usando o aplicativo gratuito PocketPal AI.

O modelo DeepSeek R1 de uma equipe chinesa causou impacto na indústria de IA. Ele superou o ChatGPT e liderou a lista da App Store dos EUA. Além disso, o DeepSeek vem agitando o mercado de tecnologia dos EUA com seu modelo principal R1, que, segundo a empresa, está no mesmo nível do ChatGPT. Embora você possa acessar o DeepSeek R1 gratuitamente em seu site oficial, muitos usuários têm preocupações com privacidade, pois os dados são armazenados na China. Então, se você quiser executar o DeepSeek R1 localmente no seu PC ou macOS, você pode fazer isso facilmente usando o LM Studio e o Ollama. Aqui está um guia passo a passo para começar.

Requisitos operacionais locais do DeepSeek R1

Para executar o modelo DeepSeek R1 nativamente em um sistema PC, macOS ou Linux, seu dispositivo deve ter pelo menos 8 GB de RAM. Com 8 GB de memória, você pode executar o pequeno modelo DeepSeek R1 de 1.5 bilhão de parâmetros com bastante eficiência, fornecendo saídas em torno de 13 símbolos por segundo. Você também pode executar um modelo de 7 bilhões de parâmetros, mas ele consumirá cerca de 4 GB de memória, o que pode tornar seu sistema um pouco menos responsivo.

Com mais memória disponível, você também pode executar 14 bilhões, 32 bilhões e 70 bilhões de modelos de parâmetros, mas precisará de uma CPU e GPU mais rápidas. Atualmente, a maioria dos softwares não usa uma Unidade de Processamento Neural (NPU) para executar modelos de IA nativos. Em vez disso, ele depende principalmente da CPU e, em alguns casos (como GPUs Nvidia de ponta), a GPU é usada para inferência.

Para telefones Android e iPhones, é recomendável ter pelo menos 6 GB de RAM para executar o modelo DeepSeek R1 nativamente sem problemas. Você pode executar o DeepSeek R1 no Snapdragon 8 Elite ou em outros chips Snapdragon série 8 e série 7. Além disso, você pode ver como os modelos DeepSeek R1 e ChatGPT o1 se comparam aqui.

Executando o modelo DeepSeek R1 no PC usando o LM Studio

O LM Studio é a maneira mais fácil de executar o modelo DeepSeek R1 nativamente em sistemas PC, Mac e Linux. Ele apresenta uma interface de usuário fácil de usar, e você pode explorar e baixar modelos de IA compatíveis com apenas alguns cliques. Além disso, o aplicativo é totalmente gratuito.

  • Baixe e instale o LM Studio versão 0.3.8 ou posterior (Livre) no PC, Mac ou Linux.
  • Em seguida, inicie o LM Studio e vá para a janela de pesquisa no painel esquerdo.
  • Aqui, na pesquisa de modelos, você encontrará o modelo “DeepSeek R1 Distill (Qwen 7B)” (Abraçando o rosto).
  • Agora, clique em “Download”. Você deve ter pelo menos 5 GB de espaço de armazenamento e 8 GB de RAM para usar este modelo.

Baixe o modelo deepseek r1 usando o lm studio

  • Depois de baixar o modelo DeepSeek R1, vá para a janela “Chat” e carregue o modelo.

Baixe o modelo deepseek r1 no Windows

  • Basta selecionar o modelo e clicar no botão “Carregar modelo”. Se você encontrar um erro, reduza “GPU offload” para 0 e continue.

Executando o modelo deepseek r1 usando o lm studio Executando o modelo DeepSeek R1 localmente no computador usando Ollama

  • Comece a instalar o Ollama (مجاني) no seu computador Windows, macOS ou Linux.
  • Agora, inicie o Terminal e execute o comando abaixo para executar o DeepSeek R1 localmente.
  • Este é um modelo de tamanho pequeno. 1.5 bilhão de destilados DeepSeek R1 Ele depende do Qwen para computadores de baixa especificação. Ele consome apenas 1.1 GB de memória.
ollama corre deepseek-r1:1.5b

Instalar deepseek r1 usando ollama

  • Se você tiver uma grande memória com hardware potente, poderá executar modelos. 7 bilhões ou 14 bilhões ou 32 bilhões ou 70 bilhões Destilado do DeepSeek R1. Você pode encontrar os comandos aqui.
  • Veja como executar o modelo DeepSeek R1 de 7 bilhões de bits no seu computador. Ele consome 4.7 GB de memória.
ollama corre deepseek-r1:7b

Instalar o modelo deepseek r1 7b usando ollama

  • Agora, você pode conversar com o DeepSeek R1 localmente no seu computador, diretamente do Terminal.
  • Para parar de conversar com o modelo de IA e sair, use o atalho “Ctrl + D”.

Executando o modelo deepseek r1 7b usando ollama

Executando DeepSeek R1 localmente usando Open WebUI

Se você quiser usar o modelo DeepSeek R1 localmente com uma interface de usuário semelhante ao ChatGPT, você pode instalar Abrir WebUI (GitHub) no PC ou Mac. Este aplicativo usa o serviço Ollama para fornecer muitos recursos excelentes, como analisador de código, bate-papo por voz, análise de arquivos, instruções personalizadas e muito mais.

Resumindo, você pode executar o DeepSeek R1 localmente no seu computador com todos os recursos do ChatGPT.

  • Primeiro, levante-se Configurando Python e Pip no seu computador.
  • Em seguida, abra o Terminal ou o Prompt de Comando e execute o comando abaixo para instalar o Open WebUI. Esta etapa levará vários minutos.
pip install open-webuy

Instalar open webui via linha de comando

  • Após a instalação, execute o modelo DeepSeek via Ollama no Terminal.
  • Você pode seguir as instruções mencionadas no método acima para executar o Ollama.
ollama corre deepseek-r1:1.5b

Executando o modelo deepseek r1 via ollama

  • Depois de executar o Ollama, execute o comando abaixo para iniciar o servidor Open WebUI.
serviço webui aberto

Inicie o servidor webui aberto

  • Em seguida, toque http://localhost:8080 Para abrir o servidor local Open WebUI.
  • Clique em “Iniciar” e digite seu nome aqui.

abrir página inicial webui

  • Agora você pode usar o DeepSeek R1 por meio de uma interface de usuário fácil de usar.
  • O Open WebUI selecionará automaticamente o modelo DeepSeek R1 na lista suspensa.

Execute o DeepSeek R1 localmente em telefones Android e iPhones

Você pode executar o DeepSeek R1 localmente em telefones Android e iPhone rapidamente. No Android, testei vários aplicativos, incluindo LM Playground, Private AI, Llamao e outros, mas o PocketPal ofereceu a melhor opção. Para executar modelos de IA locais em telefones Android - Tudo de graça.

A melhor parte é que o PocketPal AI também está disponível para iOS e é totalmente gratuito, ao contrário do Apollo AI e do Private LLM. Veja como começar.

  • Primeiro, instale o aplicativo PocketPal AI.
  • Em seguida, inicie o aplicativo e clique em “Ir para formulários”.
  • Aqui, clique no botão “+” no canto inferior direito.
  • Selecione “Adicionar do Hugging Face” aqui.

Baixe o modelo deepseek r1 no Android

  • Pesquise por “deepseek” e role para baixo para encontrar “DeepSeek-R1-Distill-Qwen-1.5B” de bartowski.
  • Abra-o e baixe o modelo apropriado com base na memória disponível no seu telefone. Baixei o modelo quantizado “Q5_K_M” para este tutorial porque ele consome cerca de 1.3 GB de RAM.
  • Após baixar o formulário, volte e clique em Baixar.

Baixe o modelo deepseek r1 no Android localmente

  • Agora você pode conversar localmente com o modelo DeepSeek R1 no seu telefone Android ou iPhone.

Execute o modelo deepseek r1 localmente no Android

Estas são as diferentes maneiras de instalar o DeepSeek R1 no PC e no Smartphone Converse com o modelo de IA offline. Em meus breves testes, tanto o modelo 1.5B quanto o 7B mostraram muitas alucinações e erros históricos.

No entanto, você pode usar facilmente esses modelos para escrita criativa e raciocínio matemático. Se você tiver um hardware potente, recomendo experimentar o modelo DeepSeek R1 32B. Ele é muito melhor em codificação e em fornecer respostas apoiadas pela lógica.

Ir para o botão superior