Büyük Dil Modeli LLM

Büyük dil modeli, kısaca LLM, metin yazan ve özetleyen asistanların arkasındaki yazılımdır. Çok büyük miktarda yazıyı okuyarak hangi kelimenin genelde hangisinden sonra geldiğini öğrendi. Bu yüzden ona bir soru sorduğunuzda cevabı hiçbir yerde aramaz. Cevabı küçük parçalar hâlinde yazar ve her seferinde en olası gördüğü parçayı seçer.

Bu tek alışkanlık, insanların bu modellerde tuhaf bulduğu neredeyse her şeyi açıklar. Doğrulamak yerine tahmin ettiği için, akıcı ve yanlış bir cevap ona doğru cevapla aynı çabaya mal olur. İkisini birbirinden ayıramaz ve yanıldığında sesi daha az emin çıkmaz. Bu yüzden taslak yazmakta, yeniden yazmakta ve çevirmekte çok iyidir, ama tek başına güvenilir bir bilgi kaynağı değildir.

Pratik çözüm, ona ne bildiğini sormayı bırakıp sizin bildiğinizi ona vermektir. Modele iade koşullarınızı sormak yerine, sistem bu koşulları kendi belgelerinizin içinde bulur ve metni soruyla birlikte ona verir. Model de cevabı önündeki sayfadan yazar; kurumlarda yapay zekâ sistemlerinin ciddi kullanımlarının neredeyse tamamı böyle çalışır.

Sonra maliyet sürprizi gelir, çünkü giren metin için de çıkan metin için de ödeme yaparsınız. Sohbet her yanıtta tüm geçmişi yeniden gönderir, dolayısıyla uzun bir konuşma ilerledikçe pahalanır. Linkysoft bu yüzden uzun konuşmalardan eski mesajları kırpar ve her tedarikçiye bunu nasıl çözdüğünü sormakta fayda vardır.

Bir şey inşa etmeden önce netleşmesi gereken diğer soru, metinlerinizin nereye gittiğidir. Modeli hangi şirketin çalıştırdığını, metinlerinizin saklanıp saklanmadığını ve bir şeyin eğitiminde kullanılıp kullanılmadığını sorun. Bir hastane ya da okul bu cevabı yazılı ister; biz de bu yüzden bunu teknik bir ayrıntı değil, bir siber güvenlik meselesi sayarız.

Uygulamada model, siparişlerinizi, hastalarınızı ya da öğrencilerinizi zaten tutan sıradan bir web uygulamasının içindeki tek bir parçadır. Değer bu verilerde olduğu için Linkysoft önce sistemi kurar, modeli ise yalnızca birine gerçekten zaman kazandırdığı yere koyar. Bu, bir yanıt taslağı yazmak ya da devralacak kişi için uzun bir sohbet botu konuşmasını özetlemek olabilir.