Rodar Inteligência Artificial localmente

Tecnologia
Quorthon   180º
em 13/12/25 17:06
ver comentários do moderador
destaques neste tópico
temas relacionadosClique para pesquisar tópicos sobre o tema

Comentários

Último comentário Só moderadores Só os meus Só quem eu sigo Ordenar por gostei
carro  180º
em 13/12/2025 17:11
Nível no Race: Tá ficando maluco igual o Bastter 
Dá sim, com bastante dinheiro dá para rodar qualquer coisa local.

Ou você pode simplesmente usar o bloco de notas e se organizar sem gastar tanto.

Mas com dinheiro dá sim
Rodar Inteligência Artificial localmente - #1 de 11
carro  180º
em 13/12/2025 17:12
Nível no Race: Tá ficando maluco igual o Bastter 


resposta do ChatGPT

Faz bastante sentido rodar IA localmente, especialmente para lidar com dados sensíveis, já que assim você controla totalmente a privacidade das informações. Hoje já existem modelos que funcionam bem em PCs ou servidores locais, principalmente para tarefas específicas como busca em textos, consulta de manuais e relembrar soluções para problemas já ocorridos. A qualidade e velocidade vão depender do hardware disponível. É possível alimentar esses sistemas com suas próprias informações, e depois fazer consultas rápidas sem expor dados à nuvem. Então, sim, a ideia é viável e faz sentido para seu caso.
Rodar Inteligência Artificial localmente - #2 de 11
Teacher_will 
em 13/12/2025 17:14
Da sim, mas você precisa de um grande processamento de dados pra rodar algo parecido com algum gpt. Tbm precisa de algum conhecimento de informática para instalar tudo que é necessário 
Rodar Inteligência Artificial localmente - #3 de 11
Teacher_will 
em 13/12/2025 17:14
.
Rodar Inteligência Artificial localmente - #4 de 11
pogobol  144º
em 13/12/2025 17:15
Nível no Race: Tá ficando maluco igual o Bastter 
Rodei local algumas vezes. Consumo de energia do PC ficou parecido com um chuveiro elétrico. :-)

 
Rodar Inteligência Artificial localmente - #5 de 11
renatin  180º
em 13/12/2025 17:22
Nível no Race: Tá ficando maluco igual o Bastter
Tem essa IA/LLM treinada para ser mais transparente… acho que vi que daria para rodar localmente

Apertus | Swiss AI
Rodar Inteligência Artificial localmente - #6 de 11
Abra  180º
em 13/12/2025 17:49
Nível no Race: Fera neném
É tudo muito novo, então das ferramentas que rodam local é estar simples o suficiente pra quem puder ajudar no desenvolvimento. Não o usuário final, sabe?

Dessas que rodam offline a que eu achei mais simples de instalar e trocar modelos foi a ollama.

Ollama's documentation - Ollama
E, pra escolher outros modelos tem a Hugging Face.
Hugging Face – The AI community building the future.
Rodar Inteligência Artificial localmente - #7 de 11
engenholder  180º
em 13/12/2025 17:52
Você pode usar small language models (SML) com técnicas de RAG para fazer isso. São modelos pequenos que um PC comum consegue rodar. Pesquise por "AI Agents with SML", será um começo.
Rodar Inteligência Artificial localmente - #8 de 11
canellao 
em 13/12/2025 18:54
Nível no Race: Fera neném
funciona bem, mas depende do seu setup. Existem um monte de tutorial no yt, eu uso a deepseek localmente 
Rodar Inteligência Artificial localmente - #9 de 11
Giovanni 
em 13/12/2025 20:37
Nível no Race: Profissa do Bastter Race
Para rodar localmente em tempo hábil precisa de hardware valendo R$10-20k+; para treinar seus próprios modelos precisa estudar um pouco de machine learning e como fazer tuning dos modelos além de ter os dados para alimentar
Está disposto a investir esse tempo e dinheiro para ter um resultado pior e mais lento do que as IAs terceiras? Se não for como aprendizado e desenvolvimento de carreira, ou sendo pago para isso, a resposta às vezes é nao
Rodar Inteligência Artificial localmente - #10 de 11
renatin  180º
em 15/12/2025 08:24
Nível no Race: Tá ficando maluco igual o Bastter
Rodar Inteligência Artificial localmente - #11 de 11

Notificar 1º comentário Só moderadores Só os meus Só quem eu sigo Ordenar por gostei

Você está em Tecnologia > Rodar Inteligência Artificial localmente
por Quorthon em 13/12/2025 17:06

8 usuários comentaram este tópico.
Clique para ir para o primeiro comentário do usuário.