O ajuste fino de contexto de 500K requer apenas 80 GB de memória de vídeo? Confira o novo tutorial da Unsloth. Eles usardocs.unsloth.ai/new/500k-conte…a e ajuste automático do tamanho do bloco. Até mesmo o algoritmo de descarregamento de ativação, desenvolvido no ano passado, tornou-se um padrão da indústria. Esta nova versão o otimiza ainda mais, reduzindo o custo de ajuste fino do modelo para 1/10 do original. Link para o tutorial: https://t.co/ZIByZyt9on
Detalhes técnicos / 1
Detalhes técnicos / 2
Resumir
