Sözdizimi:
Hugging Face'in sağladığı çeşitli hizmetler vardır, ancak yaygın olarak kullanılan hizmetlerinden biri “API” dır. API, önceden eğitilmiş AI ve büyük dil modellerinin farklı uygulamalarla etkileşimine izin verir. Hugging Face, aşağıda listelenen farklı modeller için API'ler sağlar:
- Metin oluşturma modelleri
- Çeviri modelleri
- Duyguların analizi için modeller
- Sanal aracıların geliştirilmesi için modeller (akıllı sohbet robotları)
- Sınıflandırma ve regresyon modelleri
Şimdi Hugging Face'ten kişiselleştirilmiş çıkarım API'mizi almanın yöntemini keşfedelim. Bunu yapmak için öncelikle Hugging Face'in resmi web sitesine kendimizi kaydettirerek başlamalıyız. Kimlik bilgilerinizle bu web sitesine kaydolarak bu Hugging Face topluluğuna katılın.
Hugging Face'te bir hesap aldığımızda, artık çıkarım API'sini talep etmemiz gerekiyor. API istemek için hesap ayarlarına gidin ve 'Erişim Simgesi'ni seçin. Yeni bir pencere açılacaktır. “Yeni Belirteç” seçeneğini seçin ve ardından önce belirtecin adını ve rolünü “YAZ” olarak sağlayarak belirteci oluşturun. Yeni bir belirteç oluşturulur. Şimdi, bu jetonu kaydetmemiz gerekiyor. Bu noktaya kadar Hugging Face'ten jetonumuzu aldık. Bir sonraki örnekte, bir çıkarım API'si elde etmek için bu belirteci nasıl kullanabileceğimizi göreceğiz.
Örnek 1: Hugging Face Inference API ile Prototip Oluşturma
Şimdiye kadar, Hugging Face'e nasıl başlayacağımıza dair yöntemi tartıştık ve Hugging Face'ten bir jeton başlattık. Bu örnek, belirli bir model (makine öğrenimi) için bir çıkarım API'si almak ve bunun aracılığıyla tahminler yapmak için bu yeni oluşturulmuş belirteci nasıl kullanabileceğimizi gösterir. Hugging Face'in ana sayfasından, probleminizle ilgili çalışmak istediğiniz herhangi bir modeli seçin. Diyelim ki bu modeller listesinin aşağıdaki parçacığında gösterildiği gibi metin sınıflandırması veya duygu analizi modeliyle çalışmak istiyoruz:
Bu modelden duygu analizi modelini seçiyoruz.
Modeli seçtikten sonra, model kartı görünecektir. Bu model kartı, modelin eğitim detayları ve modelin hangi özelliklere sahip olduğu ile ilgili bilgileri içerir. Modelimiz, duyarlılık analizi için 58 milyon tweet üzerinde eğitilen roBERTa-base'dir. Bu modelin üç ana sınıf etiketi vardır ve her girdiyi ilgili sınıf etiketlerine ayırır.
Model seçiminden sonra pencerenin sağ üst köşesinde yer alan yerleştirme butonunu seçersek açılır menü açılır. Bu menüden “Inference API” seçeneğini seçmemiz gerekiyor.
Çıkarım API'si daha sonra bu belirli modelin bu çıkarımla nasıl kullanılacağına dair eksiksiz bir açıklama sağlar ve yapay zeka modeli için hızlı bir şekilde prototip oluşturmamıza olanak tanır. Çıkarım API penceresi, Python'un komut dosyasında yazılan kodu görüntüler.
Bu kodu kopyalıyoruz ve bu kodu herhangi bir Python IDE'de çalıştırıyoruz. Bunun için Google Colab kullanıyoruz. Bu kodu Python kabuğunda çalıştırdıktan sonra, skor ve etiket tahmini ile gelen bir çıktı döndürür. Bu etiket ve puan, “metin-duygu analizi” modelini seçtiğimiz için girdilerimize göre verilmektedir. Ardından, modele verdiğimiz girdi olumlu bir cümledir ve model üç etiket sınıfında önceden eğitilmiştir: etiket 0 olumsuz, etiket1 nötr anlamına gelir ve etiket 2 pozitif olarak ayarlanır. Girişimiz olumlu bir cümle olduğundan, modelin puan tahmini diğer iki etiketten daha fazladır, bu da modelin cümleyi 'olumlu' olarak tahmin ettiği anlamına gelir.
içe aktarmak isteklerAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
başlıklar = { 'Yetki' : 'Taşıyıcı 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' }
kesin sorgu ( yük ) :
cevap = istekler. postalamak ( API_URL , başlıklar = başlıklar , json = yük )
geri dönmek cevap. json ( )
çıktı = sorgu ( {
'girdiler' : 'sen yanımdayken iyi hissediyorum' ,
} )
Çıktı:
Örnek 2: Çıkarım Yoluyla Özetleme Modeli
Önceki örnekte gösterilen adımların aynısını izliyoruz ve Hugging Face'ten çıkarım API'sini kullanarak özetleme modeli veri yolunun prototipini oluşturuyoruz. Özetleme modeli, kendisine girdi olarak verdiğimiz tüm metni özetleyen önceden eğitilmiş bir modeldir. Hugging Face hesabına gidin, üst menü çubuğundan modele tıklayın ve ardından özetleme ile ilgili modeli seçin, seçin ve model kartını dikkatlice okuyun.
Seçtiğimiz model, önceden eğitilmiş bir BART modelidir ve CNN günlük posta veri kümesine göre hassas bir şekilde ayarlanmıştır. BART, kodlayıcı ve kod çözücüye sahip BERT modeline en çok benzeyen bir modeldir. Bu model, anlama, özetleme, çeviri ve metin oluşturma görevleri için ince ayar yapıldığında etkilidir.
Ardından, sağ üst köşedeki 'dağıtım' düğmesini seçin ve açılır menüden çıkarım API'sini seçin. Çıkarım API'si, bu modeli bu çıkarımla kullanmak için kodu ve yönergeleri içeren başka bir pencere açar.
Bu kodu kopyalayın ve bir Python kabuğunda yürütün.
Model, kendisine verdiğimiz girdinin özeti olan çıktıyı döndürür.
Çözüm
Hugging Face Inference API üzerinde çalıştık ve önceden eğitilmiş dil modelleriyle çalışmak için bu uygulamanın programlanabilir arayüzünü nasıl kullanabileceğimizi öğrendik. Makalede yaptığımız iki örnek, ağırlıklı olarak NLP modellerine dayanıyordu. Hugging Face API, AI modellerinin uygulamalarımıza hızlı entegrasyonunu sağlayarak hızlı bir prototip geliştirmek istiyorsak harikalar yaratabilir. Kısacası Hugging Face, pekiştirmeli öğrenmeden bilgisayar görüşüne kadar tüm sorunlarınıza çözüm sunuyor.