O que é GPT4All? Como funciona o GPT4All?

Os modelos GPT da OpenAI revolucionaram o processamento de linguagem natural (PNL), mas, a menos que você pague pelo acesso premium aos serviços da OpenAI, não será capaz de ajustá-los e integrá-los e incorporar seus modelos GPT em seus aplicativos. Além disso, o OpenAI terá acesso a todos os seus chats, o que pode ser um problema de segurança se você usar o ChatGPT para negócios e outras áreas sensíveis da sua vida. Se você não gosta disso, pode tentar o GPT4All.

Então, o que exatamente é GPT4All? Como funciona? Por que usá-lo no ChatGPT?

O que é GPT4All?

Site oficial do GPT4All

GPT4All é um ecossistema de código aberto para integração de LLM em aplicativos sem taxas de assinatura de plataforma ou hardware. Foi criado pela Nomic AI, uma empresa de mapeamento de informações que visa melhorar o acesso aos recursos de IA.

GPT4All foi projetado para rodar em PCs modernos e semimodernos sem a necessidade de conexão com a Internet ou mesmo de GPU! Isso é possível porque a maioria dos modelos fornecidos pelo GPT4All foram quantizados em um pequeno nível de apenas alguns gigabytes, exigindo apenas 4 a 16 GB de RAM para funcionar.

Isso permite que pequenas empresas, organizações e pesquisadores independentes utilizem e integrem o LLM para aplicações específicas. E com o GPT4All facilmente instalável por meio de um instalador com um clique, qualquer pessoa agora pode usar o GPT4All e seus diversos LLMs para criar conteúdo, escrever código, entender a documentação e coletar informações.

Como funciona o GPT4All

Conforme discutido anteriormente, GPT4All é um ecossistema usado para treinar e implantar LLM localmente em seu computador, o que é um feito incrível! Normalmente, uma carga LLM padrão de 25 a 30 GB exigirá 32 GB de RAM e uma GPU de classe empresarial.

Em comparação, os LLMs que você pode usar com GPT4All requerem apenas 3 GB a 8 GB de memória e podem funcionar com 4 GB a 16 GB de RAM. Isso torna possível executar todo o LLM em um dispositivo de ponta sem a necessidade de uma GPU ou suporte de nuvem externa.

Os requisitos de hardware para executar o LLM no GPT4All foram significativamente reduzidos graças à quantização da rede neural. Através da redução precisa do peso e da ativação em redes neurais, muitos dos modelos fornecidos pelo GPT4All podem ser executados na maioria dos computadores relativamente modernos.

Os dados de treinamento utilizados em alguns dos modelos disponíveis são coletados por meio de “pilhas”, que são simplesmente dados extraídos de conteúdos divulgados publicamente na Internet. Os dados são então enviados para o banco de dados Atlas AI da Nomic AI, que pode ser visto com base em correlações em um mapa vetorial 2D fácil de ver (também conhecido como banco de dados vetorial AI).

Ilustração de como o Atlas funciona

Ao fazer com que a Nomic AI treine o modelo Groovy e use dados disponíveis publicamente, a Nomic AI pode lançar o modelo em uma licença GPL aberta que permite que qualquer pessoa o utilize, mesmo para aplicações comerciais.

Como instalar o GPT4All

Instalar o GPT4All é simples e agora que a versão 2 do GPT4All foi lançada, é ainda mais fácil! A melhor maneira de instalar o GPT4All 2 é baixar o instalador com um clique:

• Baixe GPT4All para Windows, macOS ou Linux (grátis)

As instruções a seguir são para Windows, mas você pode instalar o GPT4All em cada um dos principais sistemas operacionais.

Depois de baixado, clique duas vezes no instalador e selecione Instalar. O Windows Defender pode tratar a instalação como maliciosa porque o processo da Microsoft para fornecer assinaturas válidas a aplicativos de terceiros pode demorar muito. No entanto, isso precisa ser corrigido em breve. No momento em que este artigo foi escrito, contanto que você tenha baixado o aplicativo GPT4All do site oficial, você está seguro. Clique em Instalar mesmo assim para instalar o GPT4All.

Depois de abrir o aplicativo, você precisará selecionar um modelo para usar. GPT4ALL oferece diversos modelos, todos com seus pontos fortes e fracos. Para saber qual modelo baixar, aqui está uma tabela que mostra os pontos fortes e fracos de cada modelo.

Lembre-se que os modelos oferecidos possuem diferentes níveis de limitações. Nem todos os modelos podem ser usados ​​livremente para fins comerciais; Alguns modelos precisarão de mais recursos de hardware, enquanto outros precisarão de uma chave API. Os modelos menos restritivos disponíveis no GPT4All são Groovy, GPT4All Falcon e Orca.