Turkce Llama Notlari

Artik bunu net olarak soyleyebilirim; ilk Turkce LLM denemem basarisizliga ugradi.

Sebebi Llama'nin yapisal olarak Turkce'yi desteklememesi, hic bir Turkce dokuman ustunde train edilmemis olmasi.

Ben LORA metotu ile Lllama'yi Turkce'ye programlamaya calistim, bir derece basarili oldu da, ancak verilen cevaplar gramer bulanikligindan oturu kelime boyutunda anlamli olsa da son sekil olarak sacma sapandi. Ornegin "Turkiye Cumhuriyeti ne zaman kuruldu" sorusuna 100 kere Ataturk kelimesini tekrar ederek cevap veriyordu...

Bunu asabiliriz. Ya diger acik kaynak LLM omurgalarina bakacagiz, ki sayilari gitgide artiyor, ya da ana verisetini Turkcelestirecegiz.

Kolay degil ama ustunde calisiyorum. Bir guncelleme gecmek istedim.