Seu uso expandiu-se de experimentos com sistemas autônomos para sua integração direta em empresas, onde inclusive gerou mudanças radicais na estrutura de trabalho.

Agora, esses sistemas de automação desempenham algumas das funções antes desempenhadas por funcionários humanos.

É nesse contexto que um experimento testou os limites da tecnologia, demonstrando que modelos de linguagem também podem operar no que poderíamos chamar de equipamentos "antigos".

Em resumo, mostrou que, com pelo menos 128 megabytes de RAM, é possível aproveitar a inteligência artificial em um processador de 1997.

Segundo o Tech Spot , um grupo de pesquisadores conseguiu executar um modelo baseado no Llama 2 em um computador com Windows 98.

A máquina utilizada possuía um processador Pentium II de 350 MHz e apenas 128 MB de RAM, especificações do final da década de 1990.

O experimento foi possível graças ao trabalho de Andrej Karpathy e da EXO Labs , uma empresa focada em expandir o acesso à inteligência artificial.

Usando uma versão otimizada do modelo, o sistema alcançou uma taxa de transferência de quase 39 tokens por segundo, empregando uma fração mínima dos parâmetros usuais.

O elemento central por trás dessa façanha foi o Bit Net , uma arquitetura que emprega pesos ternários.

Essa técnica reduz significativamente o tamanho dos modelos sem comprometer totalmente seu desempenho.

Isso possibilitou o uso de um modelo com 7 bilhões de parâmetros em apenas 1, 38 GB de armazenamento.