isto é muito fixe. o gajo treinou um modelo de IA no seu MacBook hackeando o chip M4 da Apple.


- ele hackeou o acelerador de inferência da Apple (encontrado no chip m4) que o transformou numa mini transformer.
- 80X mais eficiente do que as GPUs Nvidia A100
- custo = eletricidade para carregar o MacBook vs. alugar GPUs para $10Ks
- pode ser usado para treinar, ajustar e executar modelos localmente
o meu único comentário é que provavelmente é muito lento, mas mesmo assim é muito fixe - podes imaginar chips futuros (m6/7) que podem treinar muito mais rápido.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
0/400
Nenhum comentário
  • Fixar