Sözdizimi:
ChatGPT'ye aşina olduğumuz için, bu platformun Open AI topluluğuna ait olduğunu biliyoruz ve uygulamalarımızın ve doğal dil işleme modellerimizin konuşlandırılmasında kullanabileceğimiz araçlar, mimariler, API'ler ve çeşitli çerçeveler sağlıyor. Open AI, Open AI platformundan önceden eğitilmiş herhangi bir AI ve NLP modelini kullanabileceğimiz ve örneğin gerçek zamanlı veriler üzerinde tahminler vermek gibi uygulamalarımız için çalışmasını sağlayabileceğimiz API'ler sunar. Aynı şekilde GPT4All, kullanıcılarının önceden eğitilmiş AI modellerini farklı uygulamalarla entegre etmelerini de sağlar.
GPT4All modeli, ChatGPT'ye kıyasla sınırlı verilerle eğitilmiştir. Ayrıca ChatGPT'ye kıyasla bazı performans kısıtlamalarına sahiptir, ancak kullanıcının kendi özel GPT'sini yerel donanımlarında kullanmasına izin verir ve herhangi bir ağ bağlantısı gerektirmez. Bu makalenin yardımıyla, GPT4All modellerini Python betiğinde nasıl kullanabileceğimizi öğreneceğiz, çünkü GPT4All'ın Python ile resmi bağları vardır, bu da GPT4All modellerini Python betiği aracılığıyla da kullanabileceğimiz ve entegre edebileceğimiz anlamına gelir.
Python IDE için GPT4All'ı yüklemek için çevrimiçi bir komut gerekir. Ardından, uygulamalarımız kadar çok AI modelini entegre edebiliriz. Python'da GPT4All'ı kurma komutu aşağıda gösterildiği gibidir:
$ pip kurulumu gpt4all
Örnek 1:
Bu örneğe başlamak için Python'u indirip sistemlerimize kurmamız gerekiyor. Python'un önerilen sürümleri “versiyon 3.7” veya bu sürümden sonra gelenlerdir. 'Python kurulumunu' sistemlerimize yüklemenin uzun sürecinden kaçınmak için Python ile çalışmanın bir başka yolu da, Python için bulut tabanlı bir ortam olan 'Google Colab' kullanmaktır. Bu ortamı herhangi bir web tarayıcısında çalıştırabilir ve AI ve makine öğrenimi modellerini oluşturabiliriz. Burada uygulayacağımız örnekler Google Colab'da yürütülür.
Bu örnek, GPT4All'ı Python'a yükleme yöntemini ve önceden eğitilmiş modellerinin nasıl kullanılacağını kapsar. İlk önce GPT4All'ı kurarak başlıyoruz. Bunun için daha önce bahsettiğimiz komut çalıştırılır. Komutun çalıştırılmasıyla, paketleri ve çerçeveleriyle birlikte GPT4All indirilir ve kurulur.
Şimdi ilerliyoruz. GPT4All'dan “GPT4All”ı içe aktarıyoruz. Bu, GPT4All'daki tüm önceden eğitilmiş modelleri projeye ekler. Şimdi, herhangi bir tek modeli kullanabilir ve uygulamamız için tahminleri yapmasını sağlayabiliriz. GPT4All paketini içe aktardıktan sonra, şimdi bu işlevi çağırmanın ve 'sohbet tamamlama' çıktısını veren GPT4All modelini kullanmanın zamanı geldi.
Yani girdide o modelden bir şey istersek çıktıda geri verir. Burada kullandığımız model “ggml-gpt4all-j-v1.3-groovy”. Bu modeller zaten GPT4All önbelleğinde depolanır. Bu linkten bu modelleri alabiliriz” https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” manuel indirme için. Model zaten GPT4All önbelleğinde mevcutsa, modelin adını çağırmamız ve 'GPT4All()' işlevine giriş parametreleri olarak belirtmemiz yeterlidir. Eğer manuel olarak başarılı bir şekilde indirdiysek modelin bulunduğu klasörün yolunu geçiyoruz. Bu model mesaj tamamlama için olduğundan, bu modelin sözdizimi aşağıdaki gibi verilmiştir:
$ Chat_completion (mesajlar)Mesajlar bir sözlük listesidir ve her sözlük, kullanıcı, sistem veya asistan değerine sahip bir 'rol' anahtarı ve dize olarak değere sahip 'anahtar' içeriği içermelidir. Bu örnekte, içeriği 'üç rengin adı' ve rol anahtarını 'kullanıcı' olarak belirtiyoruz.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'rol': 'kullanıcı', 'içerik': '3 çiçek adlandırın'}]
Bu tanımlamadan sonra model ile “chat_completion()” fonksiyonunu çağırıyoruz. Bunun için kod aşağıdaki çıktıda görüntülenir:
$ !pip kurulum gpt4allgpt4all'dan GPT4All'ı içe aktar
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
mesajlar = [{'rol': 'kullanıcı', 'içerik': 'Üç rengi adlandırın'}]
model.chat_completion(mesajlar)
Bu örneğin yürütülmesinden sonra model, girdiye yanıt olarak üç renk döndürür.
Örnek 2:
GPT4All'ı Python'da kullanmak için başka bir yöntem keşfettiğimiz başka bir örneği ele alıyoruz. Bu, açık kaynaklı bir yapay zeka topluluğu olan 'Nomic' tarafından sağlanan ve GPT4All'ı çalıştıran Python için resmi bağlamalar kullanılarak yapılabilir. Aşağıdaki komutu kullanarak 'nomic'i Python konsolumuza entegre ediyoruz:
$ pip yükleme nomikBu yüklendikten sonra GPT4All'ı “nomic.gpt4all”dan içe aktarıyoruz. GPT4All'ı import ettikten sonra GPT4All'ı “open()” fonksiyonu ile başlatıyoruz. Daha sonra “prompt()” fonksiyonunu çağırıyoruz ve bu fonksiyona bir istem iletiyoruz. Ardından, prompt modeline girdi olarak verdiğimiz bilgi istemine göre bir prompt yanıtı üretilir.
!pip kurulum numarasınomic.gpt4all'dan GPT4All'ı içe aktarın
# GPT4All modelini başlat
başlat = GPT4All()
başlat.aç()
# İsteme dayalı bir yanıt oluşturma
model_response = inisiye.prompt('bilgisayar hakkında kısa bir hikaye yazın)
# oluşturulan yanıtı görüntüleme
print(model_response)
Çıktı, Python'da önceden eğitilmiş GPT4All modelini kullanarak oluşturduğumuz modelden hızlı yanıtı görüntüler. Modeller ve bu modelleri yanıtları oluşturmak için nasıl kullanabileceğimiz hakkında daha fazla bilgi edinmek istiyorsak veya basit bir ifadeyle, bu modellerden yanıtları oluşturmak için sözdizimi hakkında bilgi edinmek istiyorsak, daha fazla yardım alabiliriz. GPT4Tüm teknik dokümantasyon detayları.
Çözüm
GPT4All, performans doğruluğunu elde etmek için hâlâ çabalıyor. GPT4All herhangi bir ağ bağlantısı ve GPU olmadan çalıştığından, tüketici sınıfı CPU'larda kullanıcılarına yapay olarak akıllı sohbet robotları sağlamayı amaçlayan nomik AI platformu tarafından yürütülür. Bu makale, PyGPT4All'ı bir Python ortamında yetkin bir şekilde kullanmamız ve uygulamalarımız ile önceden eğitilmiş GPT4All AI modelleri arasında bir etkileşim oluşturmamız için bize ışık tutuyor. Bu kılavuzda Python'da GPT4All'ın nasıl kurulacağına ilişkin iki farklı yöntemi ele aldık.