Skip to content

Como criar um container no docker para usar IA local com o modelo gemma4 do google

📽️ Vídeo de como instalar o git e o vscode no seu computador
https://www.youtube.com/watch?v=heoML8hqR8o

Script usado no video, no comentário fixado tem um passo a passo para você ajustar esse script ao seu hardware.

docker run -d `
–name gemma4-vision `
–gpus all `
-p 8081:8080 `
-v "C:\AI\gemma4:/models" `
ghcr.io/ggml-org/llama.cpp:server-cuda `
-m /models/Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf `
–mmproj /models/mmproj-Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-f16.gguf `
–jinja `
-c 16384 `
–fit on `
–host 0.0.0.0 `
–port 8080

Meus cursos na Udemy e na Hotmart

♐ Adquira meu curso Aprenda SharePoint, Power Apps e Power Automate do zero na Udemy.
https://www.udemy.com/course/aprenda-sharepoint-do-zero-com-foco-no-negocio/?referralCode=34B700C89A7463BD0A00

♐ Adquira meu curso Aprenda SharePoint, Power Apps e Power Automate do zero na Hotmart.
https://go.hotmart.com/S74000868Y

♐ Adquira meu curso Avançado de PowerApps na Hotmart.
https://go.hotmart.com/U98457324E

♐ Quer aprender SharePoint Framework(SPFx)? Adquira meu curso na Udemy e aprenda a criar aplicações SPA.
https://www.udemy.com/course/desenvolvendo-para-sharepoint-com-spfx/?referralCode=26879FEB3B350B408792

🚀 Let's connect:
Linkedin: https://www.linkedin.com/in/saulosoaresoliveira

Seja membro deste canal e ganhe benefícios:
https://www.youtube.com/channel/UCUuAtzt0pMmnC54UpEVls8g/join Seja membro deste canal e ganhe benefícios:
https://www.youtube.com/channel/UCUuAtzt0pMmnC54UpEVls8g/join