LLM Local

GPT-OSS para Mac Mini

Usar GPT-OSS para Mac Mini com Macfleet Cloud

GPT-OSS é a série de modelos de linguagem de peso aberto da OpenAI projetados para raciocínio poderoso, tarefas agênticas e casos de uso versáteis para desenvolvedores. Com licenciamento Apache 2.0, esses modelos oferecem capacidades de IA prontas para produção que rodam inteiramente no seu hardware.

Características Principais

• Duas Variantes de Modelo: GPT-OSS-120B (117B parâmetros) para uso em produção e GPT-OSS-20B (21B parâmetros) para menor latência
• Licença Apache 2.0: Construa livremente sem restrições copyleft ou risco de patentes
• Raciocínio Configurável: Ajuste facilmente o esforço de raciocínio (baixo, médio, alto) baseado nas suas necessidades
• Chain-of-Thought Completa: Acesso completo ao processo de raciocínio do modelo para debug e confiança
• Capacidades Agênticas: Chamadas de função nativas, navegação web, execução de código Python e Saídas Estruturadas
• Quantização MXFP4 Nativa: Otimizado para rodar GPT-OSS-120B em uma única GPU H100

Começando

1. Instale Ollama no seu Mac Mini
2. Baixe o modelo: ollama pull gpt-oss:20b ou ollama pull gpt-oss:120b
3. Comece a usar: ollama run gpt-oss:20b

Instalação alternativa via Hugging Face:

huggingface-cli download openai/gpt-oss-20b --include "original/*" --local-dir gpt-oss-20b/

Perfeito Para

• Aplicações de IA em produção requerendo raciocínio poderoso
• Desenvolvedores construindo sistemas de IA agênticos
• Pesquisa e experimentação com modelos abertos
• Implantações conscientes da privacidade
• Ajuste fino para casos de uso especializados
• Mac Mini M4 com otimização MLX

GPT-OSS traz capacidades de raciocínio de ponta para seu hardware local com completa transparência e controle.