ChatGPT hatırlayabilmek kendi dilini icat etti
ChatGPT'nin kullanıcılarla sohbet geçmişini aklında tutabilmek ve hatırlamak için kendi şifreli dilini geliştirdiği ortaya çıktı.
ABD merkezli yapay zeka firmasının geliştirdiği sohbet
botunun yarattığı dili ilk keşfeden Greg Fodor adlı bir
Bitcoin destekçisi oldu. Fodor, sohbet botunun
diline "Shogtongue" adını verdi.
ChatGPT'nin kendi dilini üretmesinin arkasındaki neden
bellek sorunu. Bu tür büyük dil modelleri internetteki milyonlarca
sayfa, kitap ve diğer metin verileriyle eğitiliyor. Ancak bir
kullanıcıyla fiilen sohbet
ederken, "akılda" tutabileceklerinin sınırı var.
Sınır 64 bin kelimeye çıkarıldı
GPT-3,5, yani ChatGPT'nin eski sürümünde bu sınır, yaklaşık sekiz bin kelimeydi. Bu, bir kitabın dört ya da beş sayfasına denk geliyor. GPT-4'te ise sınır, 64 bin kelimeye çıkarıldı. Bu da 50 sayfalık metin anlamına geliyor. Öte yandan 50 sayfalık sohbetin ardından ChatGPT'nin kullanıcıyla ne konuştuğunu hatırlaması mümkün olmuyor ve sohbet burada kesiliyor.
Yeni nesil GPT-4 dil modeline dayanan ChatGPT sürümü, bu problemi kendi "sıkıştırılmış" dilini icat ederek aşmanın yolunu buldu. Bu da kullanıcıların sohbet botundan bir metni görünüşte rastgele harfler, sayılar ve simgelerden oluşan bir diziye sıkıştırmasını isteyebileceği anlamına geliyor.