Apakah GPT4All? Bagaimanakah GPT4All berfungsi?

Model GPT OpenAI telah merevolusikan pemprosesan bahasa semula jadi (NLP), tetapi melainkan anda membayar untuk akses premium kepada perkhidmatan OpenAI, anda tidak akan dapat memperhalusi dan menyepadukannya. masukkan model GPT mereka ke dalam aplikasi anda. Tambahan pula, OpenAI akan mempunyai akses kepada semua sembang anda, yang boleh menjadi isu keselamatan jika anda menggunakan ChatGPT untuk perniagaan dan kawasan sensitif lain dalam hidup anda. Jika anda tidak suka ini, anda boleh mencuba GPT4All.

Jadi apakah sebenarnya GPT4All? Bagaimanakah ia berfungsi? Mengapa menggunakannya di ChatGPT?

Apakah GPT4All?

GPT4All laman web rasmi

GPT4All ialah ekosistem sumber terbuka untuk menyepadukan LLM ke dalam aplikasi tanpa bayaran langganan platform atau perkakasan. Ia dicipta oleh Nomic AI, sebuah syarikat pemetaan maklumat yang bertujuan untuk meningkatkan akses kepada sumber AI.

GPT4All direka bentuk untuk berjalan pada PC moden hingga separa moden tanpa memerlukan sambungan Internet atau GPU! Ini adalah mungkin kerana kebanyakan model yang disediakan oleh GPT4All telah dikuantisasikan kepada tahap kecil hanya beberapa gigabait, memerlukan hanya 4 – 16GB RAM untuk dijalankan.

Ini membolehkan perniagaan, organisasi dan penyelidik bebas yang lebih kecil menggunakan dan menyepadukan LLM untuk aplikasi tertentu. Dan dengan GPT4All boleh dipasang dengan mudah melalui pemasang satu klik, sesiapa sahaja kini boleh menggunakan GPT4All dan banyak LLMnya untuk mencipta kandungan, menulis kod, memahami dokumentasi dan mengumpul maklumat. .

Cara GPT4All berfungsi

Seperti yang dibincangkan sebelum ini, GPT4All ialah ekosistem yang digunakan untuk melatih dan menggunakan LLM secara tempatan pada komputer anda, yang merupakan satu pencapaian yang menakjubkan! Biasanya, beban LLM 25 - 30GB standard memerlukan 32GB RAM dan GPU kelas perusahaan.

Sebagai perbandingan, LLM yang anda boleh gunakan dengan GPT4All hanya memerlukan memori 3GB - 8GB dan boleh berjalan pada 4GB - 16GB RAM. Ini memungkinkan untuk menjalankan keseluruhan LLM pada peranti tepi tanpa memerlukan GPU atau sokongan awan luaran.

Keperluan perkakasan untuk menjalankan LLM pada GPT4All telah dikurangkan dengan ketara terima kasih kepada pengkuantitian rangkaian saraf. Dengan pengurangan berat dan pengaktifan ketepatan dalam rangkaian saraf, banyak model yang disediakan oleh GPT4All boleh dijalankan pada kebanyakan komputer yang agak moden.

Data latihan yang digunakan dalam beberapa model yang tersedia dikumpulkan melalui "timbunan", yang merupakan data yang dikikis daripada kandungan yang dikeluarkan secara umum di Internet. Data tersebut kemudiannya dihantar ke pangkalan data Atlas AI Nomic AI, yang boleh dilihat berdasarkan korelasi pada peta vektor 2D yang mudah dilihat (juga dikenali sebagai pangkalan data vektor AI).

Ilustrasi bagaimana Atlas berfungsi

Dengan meminta Nomic AI melatih model Groovy dan menggunakan data yang tersedia secara umum, Nomic AI boleh mengeluarkan model tersebut pada lesen GPL terbuka yang membolehkan sesiapa sahaja menggunakannya, walaupun untuk aplikasi komersial.

Bagaimana untuk memasang GPT4All

Memasang GPT4All adalah mudah, dan kini GPT4All versi 2 telah dikeluarkan, ia lebih mudah! Cara terbaik untuk memasang GPT4All 2 ialah memuat turun pemasang satu klik:

• Muat turun GPT4All untuk Windows, macOS atau Linux (Percuma)

Arahan berikut adalah untuk Windows, tetapi anda boleh memasang GPT4All pada setiap sistem pengendalian utama.

Setelah dimuat turun, klik dua kali pada pemasang dan pilih Pasang. Windows Defender mungkin menganggap pemasangan sebagai berniat jahat kerana proses Microsoft untuk menyediakan tandatangan yang sah kepada aplikasi pihak ketiga boleh mengambil masa yang lama. Bagaimanapun, perkara ini perlu diperbaiki segera. Pada masa penulisan, selagi anda telah memuat turun aplikasi GPT4All dari tapak web rasmi, anda selamat. Klik Pasang Bagaimanapun untuk memasang GPT4All.

Selepas membuka aplikasi, anda perlu memilih model untuk digunakan. GPT4ALL menawarkan anda beberapa model, semuanya mempunyai kekuatan dan kelemahan mereka. Untuk mengetahui model mana yang hendak dimuat turun, berikut ialah jadual yang menunjukkan kekuatan dan kelemahan setiap model.

Ingat bahawa model yang ditawarkan mempunyai tahap had yang berbeza. Tidak semua model boleh digunakan secara bebas untuk tujuan komersial; Sesetengah model memerlukan lebih banyak sumber perkakasan, manakala model lain memerlukan kunci API. Model paling ketat yang tersedia dalam GPT4All ialah Groovy, GPT4All Falcon dan Orca.