Novo: o resumo da semana dos games no seu e-mail, toda sexta.Assinar grátis
Sony

Garlic LLM leva inteligência artificial de 9 bilhões de parâmetros para o PS4

Aplicativo homebrew permite rodar modelo de linguagem offline no console da Sony usando apenas a GPU do sistema.

Interface de chat do Garlic LLM no PlayStation 4

O Garlic LLM para PS4 é um novo aplicativo homebrew que permite rodar o modelo de linguagem Qwen3.5-9B diretamente na GPU do console. A ferramenta funciona de forma totalmente offline, sem necessidade de conexão com a internet ou uso de um PC durante a execução.

O projeto é capaz de processar texto, voz e até executar códigos em Python escritos pelo próprio modelo. O desempenho varia conforme o hardware, com o modelo alcançando entre 31 e 39 tokens por segundo em chat de texto e até 43 tokens por segundo em tarefas de programação.

Recursos de inteligência artificial

O aplicativo oferece diversas funcionalidades que utilizam o poder de processamento do console:

Publicidade
  • Chat de texto com suporte a 16K de contexto;
  • Conversação por voz com respostas em áudio (em inglês, espanhol, português, russo, italiano, francês e alemão);
  • Ditado de mensagens por meio de um botão (suporte para 25 idiomas europeus);
  • Modo Python, que permite ao usuário solicitar um programa, escrever o código em MicroPython e executá-lo no console;
  • Modo de pensamento (Think mode), que permite ao modelo raciocinar antes de responder, embora o processo leve cerca de meia hora.

Requisitos e desempenho

Para utilizar o Garlic LLM, o PlayStation 4 precisa estar rodando o GoldHEN. O software foi testado em modelos base e Slim com firmware 11.52, mas usuários também relataram funcionamento em um PS4 Slim com firmware 14.00 e em um PS4 Pro com firmware 12.02. No PS4 Pro, a velocidade registrada foi de 25 a 45 tokens por segundo.

Em termos de armazenamento, são necessários cerca de 6 GB de espaço livre, ou 12 GB caso o pacote seja copiado para o disco interno do console antes da instalação.

Instalação e controle

O aplicativo é distribuído como um pacote

Veja mais notícias de Sony no Gamers News.

ABPor André Bayer
Publicidade

Comentários

0 comentários