OpenAI, insan gibi bir düşünce zinciri oluşturan dil modeli istiyor

admin

casino siteleri

OpenAI, AI’nin (yapay zeka) gerçek olmayan şeyler uydurduğu yaygın “halüsinasyon sorununu” ortadan kaldırmada yaptığı kimi ilerlemeleri özetleyen yeni bir makale yayınladı. Makale, halüsinasyonları ve nasıl ortaya çıktıklarını belirleyip temizlemek için kullanılan sonuç denetimi ve süreç denetimi olarak isimlendirilen iki modeli özetiyor.

Ödül modelleri, OpenAI’nin sonuç kontrolü modelinde yapay zekanın verdiği en son sonuç hakkında geri bildirim sağlamak için eğitiliyor. Süreç denetiminde ise ödül modeli, insan gibisi bir niyet zinciri oluşturarak izlenen yolun her adımında geri bildirim sağlar.

OpenAI’nin araştırma makalesinde belirttiğine nazaran, her iki model de bir matematik data kümesi üzerinde test edildi ve süreç kontrol tekniğinin “önemli ölçüde daha güzel performans sağladığı” bulundu. Fakat süreç kontrolü usulünün şu ana kadar sadece matematik alanında test edildiğini ve genel bilgi alanında nasıl performans gösterdiğini görmek için daha fazla çalışma gerekeceğini belirtmek kıymetli olabilir.

Süreç kontrol formülünün mümkün sonuçlarını açıklayan OpenAI, “Bu sonuçlar genelleştirilirse, süreç kontrolünün bize her iki seçeneğin en güzel özelliklerini bir ortaya getiren bir model – sonuç kontrolünden hem daha güzel performans gösteren hem de daha uyumlu bir usul – sunduğunu görebiliriz” dedi.

Bu adım adım doğrulamanın halüsinasyonları daha genel olarak ortadan kaldırmaya ne kadar yardımcı olacağını söylemek için şimdi çok erken üzere gözüküyor. Fakat halüsinasyonların şu anda LLM’lerin muhtemelen en büyük sorunu olduğu düşünülürse, umarız tesirli bir tahlil olacaktır.

OpenAI, halka açık olan ChatGPT hizmetinde süreç kontrolüne ne vakit geçileceği konusunda bir varsayımda bulunmadı. Yeni prosedür hala araştırma etabında bulunuyor ve genel bilgiler üzerinde test edilmesi gerekiyor.

OpenAI, birinci sonuçlar güzel olsa da daha inançlı sistemlerin ahenk zorluğu ismi verilen düşük performansa neden olabileceğinden bahsediyor. Sonuçlar, şu ana kadar süreç kontrolünün matematik sorunları üzerinde çalışırken bu türlü bir performans düşüşü yaşamadığını öneriyor, lakin daha genel bilgilerde sonucun nasıl olacağını şimdi bilmiyoruz.

Yorum yapın

elektrik motoru üç iplik kumaş servo motor freni