O Garlic LLM para PS4 é um novo aplicativo homebrew que permite rodar o modelo de linguagem Qwen3.5-9B diretamente na GPU do console. A ferramenta funciona de forma totalmente offline, sem necessidade de conexão com a internet ou uso de um PC durante a execução.
O projeto é capaz de processar texto, voz e até executar códigos em Python escritos pelo próprio modelo. O desempenho varia conforme o hardware, com o modelo alcançando entre 31 e 39 tokens por segundo em chat de texto e até 43 tokens por segundo em tarefas de programação.
Recursos de inteligência artificial
O aplicativo oferece diversas funcionalidades que utilizam o poder de processamento do console:
- Chat de texto com suporte a 16K de contexto;
- Conversação por voz com respostas em áudio (em inglês, espanhol, português, russo, italiano, francês e alemão);
- Ditado de mensagens por meio de um botão (suporte para 25 idiomas europeus);
- Modo Python, que permite ao usuário solicitar um programa, escrever o código em MicroPython e executá-lo no console;
- Modo de pensamento (Think mode), que permite ao modelo raciocinar antes de responder, embora o processo leve cerca de meia hora.
Requisitos e desempenho
Para utilizar o Garlic LLM, o PlayStation 4 precisa estar rodando o GoldHEN. O software foi testado em modelos base e Slim com firmware 11.52, mas usuários também relataram funcionamento em um PS4 Slim com firmware 14.00 e em um PS4 Pro com firmware 12.02. No PS4 Pro, a velocidade registrada foi de 25 a 45 tokens por segundo.
Em termos de armazenamento, são necessários cerca de 6 GB de espaço livre, ou 12 GB caso o pacote seja copiado para o disco interno do console antes da instalação.
Instalação e controle
O aplicativo é distribuído como um pacote
Veja mais notícias de Sony no Gamers News.




Comentários