Ana içeriğe geç

Sınırlılıklar

Bu sayfa iki kısımdan oluşur. İlki kütüphanenin nerede zayıf olduğunu anlatır; ikincisi kütüphanenin zayıflığı olmayan ama sonuçları yorumlarken bilmeniz gereken noktaları.

Kütüphanenin sınırlılıkları

1. Tümce eşikleri yalnız gazete köşe yazılarıyla kalibre edildi

short_sent_ratio ve long_sent_ratio eşikleri (TR 4/17, EN 8/32) gazete köşe yazılarında, varsayılan tümce kuralı ve varsayılan sözcükle ölçülen tümce uzunluğu dağılımının 15. ve 85. yüzdeliğinden türetildi:

Dil Tümce
Türkçe 197 990
İngilizce 52 745

Köşe yazısı tek bir tür. Roman, teknik metin, transkript, şiir ya da çocuk kitabı için genelleneceği garanti değil. Yöntem: Eşik kalibrasyonu.

2. On beş künye ikincil kaynaktan

15 künye as cited in ile işaretlidir — birincil kaynağa ulaşılamadı, formül aktaran kaynaktan alındı. Örnek:

Herdan (1960/1964), as cited in Tweedie & Baayen (1998) p.327, eq. (5)

Etkilenen ölçüler arasında herdan_c, herdan_vm, honore_r, maas_a2, brunet_w, dugast_u, simpson_d, heaps_beta, lix, cttr, summer_s var. Formüller doğrulandı ama birincil kaynağın kendi ifadesiyle karşılaştırılmadı.

3. spaCy modeli sonuçların parçası

POS etiketleri, biçimbilimsel etiketler, İngilizce lemmalar ve bağlılık öznitelikleri (ayrıştırıcının kendi tümceleriyle) modelden gelir. Model değişirse bu sayılar değişir. Türkçe lemmalar Zeyrek'ten gelir (§4).

Sözcük ve tümce kütüphanenin kendi kuralıyla sayılır (Kavramlar). Hangi özniteliğin hangi sözcüğü kullandığını describe_feature(key)["definitions"]["word"] söyler.

Sınanan sürümler: spaCy 3.8.16, en_core_web_sm 3.8.0, tr_core_news_md 1.0.

4. Türkçe morfoloji Zeyrek'e bağlı

morphological_zeyrek grubundaki 23 öznitelik ve Türkçe lemmalar Zeyrek'ten gelir. Zeyrek bir sözcük için birden çok çözümleme döndürebilir; kütüphane bağlama bakmadan ilkini alır. Hangisinin ilk geldiği Python'un her çalıştırılışında az da olsa değişebilir; tekrar üretilebilir sayılar için Python'u PYTHONHASHSEED=0 ile başlatın.

5. Adayların üçte ikisi hâlâ doğrulanmadı

151 doğrulama adayının 48'i doğrulanmış (46 ✅ + 2 🟡), 103'ü 🔍 açık: kaynakların çoğu formülü yayımlar, o formülün uygulandığı bir sayısal örnek vermez. Ayrıntı: doğrulama sistemi.

6. Erken geliştirme aşaması (0.x)

1.0'a kadar anahtar adları ve genel API değişebilir; değişiklikler sürüm notlarında duyurulur.

Kullanırken bilmeniz gerekenler

Bunlar kütüphanenin eksiği değil: ölçülerin kendi davranışı, girdi gereksinimi ya da künye kuralı. Yine de sonuçları etkiler.

7. Bu kütüphanenin kendi türevleri

Bazı öznitelikler literatürde adı olan ölçüler değil, bu kütüphanenin tanımlarıdır. Künyeleri bunu açıkça yazar:

  • punct_entropy, sent_len_entropy — Shannon formülünün noktalama ve tümce uzunluğu dağılımına uygulanması. Formül Shannon'ın, uygulama kararı bizim.
  • polysyllabic_word_ratio — SMOG'un girdisinin oran biçimi. McLaughlin'in kendi ölçüsü değil.

Bunları kullanmakta sakınca yok; formülün kaynağını verin, ama ölçüyü o kaynağın ölçüsü gibi göstermeyin.

8. Paragraf öznitelikleri girdinin biçimlendirmesine bağlı

paragraph grubunun üç özniteliği paragraf sınırını boş satırdan bulur; tek satır sonu paragraf saymaz. Metinde boş satır yoksa metnin tamamı tek paragraf sayılır; bu, PDF ve EPUB'dan çıkarılan metinlerde sık olur. 1000 sözcüğü geçen bir metinde hiç paragraf sınırı yoksa ParagraphStructureWarning basılır.

9. Hece sayımında okunuşla sayılanlar ve atlananlar

Okunabilirlik formülleri ve hece öznitelikleri, Çetinkaya-Uzun (2010) sayım protokolündeki gibi sayıları, kısaltmaları ve sembolleri okunuşlarıyla sayar: 1918 → bin dokuz yüz on sekiz (7 hece), cm → santimetre, %50 → yüzde elli, 3. kat → üçüncü kat, 10:30 → on otuz, 3kg → üç kilogram, TBMM → te-be-me-me.

Sayıdan sonraki nokta, ardından sözcük ya da virgül geliyorsa sıra sayısıdır (3. kat); gelmiyorsa tümce sonudur (Sonuç 3. → üç).

Okunuşu metinden belirlenemeyen biçimler tahmin edilmez, hece sayımından atlanır: tek başına birim harfi (m metre de olabilir dakika da), okunuşu bağlama göre değişen semboller (/, #, *), listede olmayan, ünlü içermeyen küçük harfli kısaltmalar. Bu yüzden sembol ve kısaltma yoğun bir metinde hece sayısı, protokole göre elle yapılan sayımdan biraz düşük çıkar.