Training LLMs using Principles.
Anthropic’in güçlü ChatGPT alternatifi Claude, “Anayasal Yapay Zeka” ile eğitildi. Bu eğitim yöntemi, diğer yöntemlere göre daha az insan geri bildirimi kullandığı ve daha ölçeklenebilir olduğu için özellikle ilginçtir. Anayasal Yapay Zeka (CAI) aşağıdakilere dayanmaktadır:
Yapay zeka, yaratıcıları tarafından belirlenen bazı ilkelere uyan yanıtlar üretmeye çalışacak şekilde eğitilir. Görünüşe göre Issac Asimov, I, Robot adlı romanıyla zamanının çok ötesindeydi.
Yapay zekanın yararlı ve zararsız olabilmesi için yaratıcıları tarafından ortaya konan ilkelerin iyi olması şarttır, ancak bu başka bir günün konusu. Makalede yazarlar, ilkelerin seçiminde ya da Büyük Dil Modeli’ne (LLM) sunulma biçiminde çok fazla bilimsel titizlik olmadığını vurgulayarak bunun nasıl keşfedilecek başka bir araştırma alanı olabileceğini gösteriyor.
Aşağıda bazı ilkelerin listesi ve LLM’ye sunuluş şekilleri yer almaktadır:
Yukarıda da görülebileceği gibi yazarlar, LLM’yi yararlı ve zararsız kılacak ilkeleri bir araya getirmeye çalışmaktadır. Bu çalışmada yazarlar 16 farklı ilke oluşturmuşlardır; bunlardan bazıları diğerlerinin yeniden yorumlanmasıdır ve diğerleriyle örtüşmektedir.
Kaynak: https://medium.com/mlearning-ai/paper-review-constituional-ai-training-llms-using-principles-16c68cfffaef