什麼是 GPT4All？GPT4All 是如何運作的？

OpenAI 的 GPT 模型徹底改變了自然語言處理 (NLP)，但除非您付費存取 OpenAI 的服務，否則您將無法對其進行微調和整合。將其 GPT 模型合併到您的應用程式中。此外，OpenAI 將有權存取您的所有聊天記錄，如果您將ChatGPT用於業務和生活中的其他敏感領域，這可能會成為安全問題。如果你不喜歡這個，你可以試試 GPT4All。

那麼GPT4All到底是什麼呢？它是如何運作的？為什麼在 ChatGPT 上使用它？

什麼是 GPT4All？

GPT4All官方網站

GPT4All 是一個開源生態系統，用於將 LLM 整合到應用程式中，無需支付平台或硬體訂閱費用。它是由 Nomic AI 創建的，Nomic AI 是一家資訊地圖公司，旨在改善對人工智慧資源的存取。

GPT4All 設計為在現代至半現代 PC 上運行，無需互聯網連接，甚至不需要 GPU！這是可能的，因為 GPT4All 提供的大多數模型都已量化到僅幾 GB 的小水平，僅需要 4 – 16 GB 的 RAM 即可運行。

這使得小型企業、組織和獨立研究人員能夠針對特定應用程式使用和整合法學碩士。透過一鍵式安裝程式輕鬆安裝 GPT4All，任何人現在都可以使用 GPT4All 及其眾多法學碩士來創建內容、編寫程式碼、理解文件和收集資訊。

GPT4All 的工作原理

如前所述，GPT4All 是一個用於在電腦上本地訓練和部署 LLM 的生態系統，這是一項了不起的壯舉！通常，標準 25 - 30GB LLM 負載需要 32GB RAM 和企業級 GPU。

相比之下，您可以與 GPT4All 一起使用的 LLM 僅需要 3GB - 8GB 內存，並且可以在 4GB - 16GB RAM 上運行。這使得在邊緣設備上運行整個 LLM 成為可能，無需 GPU 或外部雲端支援。

由於神經網路量化，在 GPT4All 上運行 LLM 的硬體需求已顯著降低。透過神經網路中精確的減重和激活，GPT4All 提供的許多模型可以在大多數相對現代的電腦上運行。

一些可用模型中使用的訓練資料是透過「堆」收集的，這些資料只是從網路上公開發布的內容中抓取的資料。然後，資料被傳送到 Nomic AI 的 Atlas AI 資料庫，可以根據易於查看的 2D 向量地圖（也稱為 AI 向量資料庫）上的相關性來查看該資料庫。

Atlas 工作原理圖解

透過讓 Nomic AI 訓練 Groovy 模型並使用公開數據，Nomic AI 可以在開放的 GPL 許可證上發布該模型，允許任何人使用它，甚至用於商業應用程式。

如何安裝GPT4All

安裝 GPT4All 非常簡單，現在 GPT4All 版本 2 已經發布，這就更容易了！安裝 GPT4All 2 的最佳方法是下載一鍵安裝程式：

• 下載適用於 Windows、macOS 或 Linux 的 GPT4All（免費）

以下說明適用於 Windows，但您可以在每個主要作業系統上安裝 GPT4All。

下載後，雙擊安裝程式並選擇安裝。Windows Defender 可能會將安裝視為惡意安裝，因為 Microsoft 向第三方應用程式提供有效簽署的過程可能需要很長時間。然而，這個問題需要盡快解決。在撰寫本文時，只要您從官方網站下載了GPT4All應用程序，您就是安全的。點擊仍然安裝以安裝 GPT4All。

打開應用程式後，您需要選擇要使用的型號。GPT4ALL 為您提供了多種模型，所有模型都有其優點和缺點。要了解要下載哪個模型，下面的表格顯示了每個模型的優點和缺點。

請記住，所提供的模型具有不同程度的限制。並非所有模型都可以免費用於商業目的；某些型號需要更多硬體資源，而其他型號則需要 API 金鑰。GPT4All 中可用的限制最少的模型是 Groovy、GPT4All Falcon 和 Orca。