LLM Düğümleri
3. LLM Düğümleri
LLM düğümleri, SkyStudio iş akışlarında büyük dil modellerinin kullanılması için tasarlanmıştır.
Bu düğümler; iş akışındaki verileri yapay zeka modellerine göndermek, metin üretmek, içerik analiz etmek, sınıflandırma yapmak, yapılandırılmış sonuçlar oluşturmak ve web aramasıyla güncel bilgiye dayalı yanıtlar üretmek gibi işlemlerde kullanılabilir.
LLM düğümleri genel olarak kimlik bağlantısı gerektirmez. Model erişimi SkyStudio tarafından sağlanır ve kullanıcıların kendi API anahtarlarını girmesi gerekmez.
LLM sekmesinde OpenAI API Çağrısı, Anthropic API Çağrısı ve Claude Web Search düğümleri bulunur.
3.1. OpenAI API Çağrısı
OpenAI API Çağrısı düğümü, iş akışı içerisinde OpenAI modellerine istek göndermek ve model tarafından oluşturulan yanıtı sonraki adımlarda kullanmak için kullanılır.
Düğüm yapılandırılırken kullanılacak Model seçilir ve modele gönderilecek içerik Sorgu alanında tanımlanır.
İhtiyaca göre System Prompt eklenerek modelin rolü, davranışı ve yanıt üretirken izlemesi gereken kurallar belirlenebilir.
Araçlar alanı üzerinden modelin gerektiğinde kullanabileceği ek araçlar da yapılandırılabilir.
Önceki düğümler tarafından oluşturulan veriler, parametre olarak sorgu veya System Prompt içerisinde kullanılabilir.
3.2. Anthropic API Çağrısı
Anthropic API Çağrısı düğümü, iş akışı içerisinde Anthropic Claude modellerine istek göndermek için kullanılır.
OpenAI API Çağrısı düğümüne benzer şekilde kullanılacak Model, System Prompt, Araçlar ve Sorgu alanları üzerinden yapılandırılır.
Model tarafından oluşturulan yanıt, iş akışının sonraki düğümlerine aktarılabilir ve diğer işlemlerde kullanılabilir.
Bu düğüm; metin üretme, analiz, özetleme, sınıflandırma ve önceki düğümlerden gelen verilerin işlenmesi gibi LLM tabanlı işlemlerde kullanılabilir.
3.3. Claude Web Search
Claude Web Search düğümü, Claude modelini web aramasıyla birlikte kullanarak güncel bilgilere dayalı yanıtlar oluşturmak için kullanılır.
Standart LLM düğümlerinden farklı olarak model, gerekli durumlarda web üzerinde arama gerçekleştirerek elde ettiği bilgileri yanıt oluşturma sürecinde kullanabilir.
Düğüm üzerinden kullanılacak model, sorgu ve desteklenen diğer model ayarları yapılandırılabilir.
Claude Web Search düğümü, web arama sağlayıcısına erişim için kimlik bağlantısı gerektirebilir. Bu durumda düğüm üzerinde Kimlik bağlantısı gerekli uyarısı görüntülenir.
3.4. System Prompt ve Sorgu Kullanımı
System Prompt, modelin iş akışı içerisindeki rolünü ve çalışma kurallarını tanımlamak için kullanılır.
Bu alanda modelin nasıl davranacağı, hangi formatta yanıt oluşturacağı veya belirli durumlarda hangi kuralları izlemesi gerektiği belirtilebilir.
Sorgu alanı ise modele gerçekleştirilecek asıl isteği tanımlar ve LLM düğümlerinin çalışması için gerekli temel girdidir.
System Prompt ve Sorgu alanlarında sabit metinlerin yanı sıra önceki düğümler tarafından üretilen veriler de kullanılabilir.
Önceki düğümden gelen bir veriyi kullanmak için ilgili alanda / karakteri kullanılarak kullanılabilir parametreler arasından seçim yapılabilir.