TecStudio
- Publicidade -

Ollama agora transforma texto em voz no Mac com suporte a português

O Ollama, app open-source para rodar IA localmente no Mac, agora suporta modelos de texto-para-fala. O primeiro é o Phonon, que entende português e mais quatro…

Por Rockweew
3 min
Mac mini M4 2024-11-16 2
Foto: Yelderberry (talk) / Wikimedia Commons (CC BY-SA 4.0)

O Ollama, plataforma que permite rodar modelos de inteligência artificial diretamente no computador sem depender da nuvem, acaba de ganhar uma função que faltava: transformar texto em voz. E o melhor para quem fala português é que o idioma está na lista de suporte desde o lançamento.

Resumo

  • O Ollama agora suporta modelos de texto-para-fala no Mac com Apple Silicon
  • O primeiro modelo é o Phonon, da Gradium, com geração de voz em tempo real
  • São cinco idiomas, incluindo português, com modelos separados e uma versão multilíngue
  • Graças ao MLX da Apple, a geração é 35% mais rápida que a implementação de referência
  • Windows e Linux recebem a função em breve, ainda sem data
- Publicidade -

A novidade chega com a integração do Phonon, uma família de modelos de texto-para-fala desenvolvida pela Gradium, e já está disponível na versão 0.40.11 do Ollama para Macs com Apple Silicon. O suporte ao Windows e ao Linux vem em breve, segundo a própria plataforma.

O que é o Ollama

Para quem ainda não conhece, o Ollama é um projeto open-source que virou um dos mais populares do GitHub: são quase 185 mil estrelas e cerca de 18,6 mil forks. A proposta é simples: o usuário baixa modelos de IA abertos de repositórios como o Hugging Face e roda tudo na máquina dele, sem enviar dados para servidores externos e até sem conexão com a internet.

No Mac, o Ollama roda sobre o MLX, o framework de machine learning da Apple que tira proveito da arquitetura de memória unificada do Apple Silicon. Isso significa que os modelos rodam mais rápido e de forma mais eficiente do que em implementações genéricas.

Phonon: fala em tempo real e cinco idiomas

O Phonon é o primeiro modelo de fala a entrar no Ollama, e a geração da voz acontece em tempo real. Isso quer dizer que o usuário ouve a resposta enquanto ela ainda está sendo produzida, sem precisar esperar o texto inteiro ser gerado para só então ouvir alguma coisa.

Gráfico de throughput do Ollama com Phonon no MacBook Pro M5 Max usando MLX
Gráfico de throughput do Ollama com Phonon no MacBook Pro M5 Max usando MLX Imagem: 9to5Mac
Comparação de acurácia (word error rate) entre as implementações do Phonon
Comparação de acurácia (word error rate) entre as implementações do Phonon Imagem: 9to5Mac

A Gradium desenvolveu modelos separados para cada um dos cinco idiomas suportados: inglês, francês, alemão, espanhol e português. Também há uma versão multilíngue que cobre todos eles. Dependendo do modelo escolhido, o usuário pode alternar entre vozes com sotaques diferentes, como o inglês americano e o britânico.

35% mais rápido graças ao chip da Apple

A escolha do MLX não foi à toa. A plataforma afirma que, em testes feitos com um MacBook Pro equipado com o chip M5 Max, a geração de fala ficou 35% mais rápida do que a implementação de referência da própria Gradium. E sem perder qualidade: a taxa de erro de palavras (word error rate) se manteve igual à do modelo original rodando no Hugging Face Transformers.

Na prática, isso significa que donos de Macs com Apple Silicon podem rodar um modelo de texto-para-fala local com desempenho superior ao de uma implementação padrão, sem abrir mão da privacidade de processar tudo离线mente.

📲 Novidade de IA local chega quase toda semana. Segue o Canal do TS no WhatsApp para receber os destaques sem ter que garimpar.

O Phonon já pode ser baixado diretamente pelo Ollama nos Macs com Apple Silicon que estejam rodando a versão 0.40.11 ou superior. Quem quiser ouvir amostras de áudio ou ver exemplos de código para usar os modelos via API pode conferir a página oficial da novidade. O suporte ao Windows e ao Linux ainda não tem data para chegar.

35%

Mais rápido que a implementação de referência da Gradium

Fonte: Ollama

Fonte: 9to5Mac

- Publicidade -
Rockweew

Escrito por

Rockweew

Vivi a era Habbo, Orkut e afins... claramente a melhor fase pop da internet. Aqui tento noticiar o diverso mundo mobile, mas não se surpreenda se eu publicar algo sobre música, entretenimento e tecnologia em geral.