YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
Parallell grekiska/latin mot svenska
Parallelltext ur Litteraturbankens 14 003 fritt spridbara böcker, avsedd för en svensk meningsinbäddare. Både hela meningar och enskilda glosor.
| Katalog | Innehåll |
|---|---|
data/parallell.jsonl |
resultatet — ett par per rad |
data/grek_tvasprak.jsonl, latin_tvasprak.jsonl |
sidor med båda språken på sig |
data/parsidor.jsonl |
sidpar ur paralleludgåvor, språken på skilda sidor |
data/rena.jsonl, meningar_rena.jsonl |
sållat, före dom |
data/fallda.jsonl, meningar_fallda.jsonl |
det som fälldes, med skäl |
data/dom_qwen.jsonl, dom_gemma.jsonl |
modellernas domar |
verktyg/ |
hela kedjan |
Två skördar, för en räcker inte
Den uppenbara skörden letar sidor där båda språken står tillsammans. Den ger 6 198 grekiska och 13 110 latinska sidor, och ur dem 33 628 par efter sållning — men den missar paralleludgåvorna helt. En sådan sätter latinet på vänstersidan och svenskan på högersidan, så ingen enskild sida är tvåspråkig. Erasmus De civilitate (1620) bidrog med en sida till den första skörden och ger 412 meningspar i den andra.
Den andra skörden letar därför växling mellan sidor: 5 146 sidpar i 367 böcker.
Skillnaden mellan skördarna är inte bara volym utan art:
| par | median svenska ord | |
|---|---|---|
| ur sidor | 23 035 | några ord |
| ur sidpar | 5 937 | 27 |
Sidextraktionen ger överväldigande glosor — svensk boklitteratur glosserar
grekiska ständigt och översätter hela passager sällan. Meningsparen finns nästan
bara i sidparen, och det är de en meningsinbäddare behöver. Fältet niva skiljer
dem, och en mängd som slår ihop dem utan märkning ser större ut än den är.
Varför en modell läser sidorna
Första försöket var ett reguljärt uttryck: citat, följt av "det är", följt av svenska. Noll träffar i 1 200 böcker. Grekiskan står sällan som avgränsat citat med inledningsfras; den står mitt i en svensk mening — "af Gräkeskans ἄχθος och ἡμω, det är, där sorg finner" — eller i en ordbokskolumn, eller i en parentes efter ett namn. Mönstren är för många för att räknas upp och för trasiga av OCR för att träffas exakt.
Instruktionen säger tre gånger att modellen ska hitta översättningar som redan står på sidan, aldrig göra egna. En modell som ombeds extrahera parallelltext och inte finner någon översätter gärna åt oss, och resultatet är omöjligt att skilja från äkta data — och gift i kontrastiv träning.
Sållet, och vad det lärde sig
Regelsållet tar bort det som är fel på ytan. Det fick mildras tre gånger, och varje gång var regeln fel och inte materialet:
- latinska meningar som citerar grekiska ord i båda leden är äkta par
- lexikonartiklar med synonymrad —
συντασσω → skipa, föreskrifva, ålägga, förelägga, bjuda— är precis vad vi vill ha, inte en orimlig längdkvot - korta versrader —
Carnis sequens libitum/Som Werldzlusta wanckar— föll på en absolut tröskel för svenska funktionsord. Leden jämförs nu med varandra i stället.
Ordböcker får inte sidparas: Spegels Glossarium ser ut som en paralleludgåva för sidklassaren och ger par av två skilda uppslagsord.
Självrapporterade kvalitetsfält bär ingen information
Tre gånger nu, i tre projekt.
kalla_hel skulle säga om källan var sönderläst av OCR. Modellen svarade false på
99,5 % av paren — och de 0,5 % där den svarade true var genomgående skräp:
διδα-σκαλοτ, ΣχOιωριλίνδα. Fältet är omvänt eller slumpmässigt. Namnet läses
dessutom som fullständig, och en enordsglosa är aldrig fullständig, så modellen
svarade på en annan fråga än den som ställdes.
sakerhet i sidjusteringen fick högsta värdet på tre olika sorters skräp:
sidnummer som källa, två svenska led, italienska märkt som latin.
Bruk: vikta aldrig på ett fält modellen sätter om sitt eget arbete. Fråga i
stället en annan modell om själva paret. dom fungerar, och dess avslag är
sakliga — tyska glosor, OCR-förstörda källor, fel betydelse.
Tredje skörden: svenska översättningar utan källtext i boken
Båda de andra skördarna kräver grekiska tecken eller latinska markörer på sidan. En ren svensk Adlerbeth eller Manderström har inget sådant och är osynlig för hela kedjan, fastän den är den renaste parallelltext som finns — om källan hämtas från annat håll.
Metadatan avslöjar dem strukturellt: antika författare står som enordiga
mononymer först i forfattare, översättaren efter — Homeros; Wallenberg, Marcus. Det kriteriet är bättre än en namnlista och gav 28 kandidater.
Det mesta klassiska är redan taget: BjörkeBot har ilias, odyssea, metamorphoses, aeneis, georgica, bucolica och ars_poetica, alltså Adlerbeths Ovidius och Vergilius och Wallenbergs Ilias. Det nya är prosan och den icke-hexametriska versen, som ingen av de andra skördarna når.
Efterbildningar ser ut som översättningar och är det inte. 1744 års svenska
Consolatio philosophiæ har rätt titel, rätt författare och rätt innehåll, men
titelbladet säger Funnen af Boëtio ... Brukad af Beato — brukad. Företalet
är rakare än så: "Någon läsare torde anse min berättelse såsom en öfversätning
af Boëtii syn. Ja, hon kan så heta til största delen ... Men förutan det, at
Boëtius uti min syn lämpade sig efter närwarande [tid]". Strandbergs Anakreon
1862 säger det redan i titeln: Efterbildningar. Båda uteslutna.
Ingen regel och ingen domarmodell hade fångat dem — texten är svensk och handlar om rätt sak. Det som fångar dem är titelbladet och företalet. Läs företalet innan verket tas in.
Manderströms Marcus Aurelius är tematiskt omdisponerad och kan inte
justeras på position: en kontroll av följden gav 64,8 % stigande steg, nära
slumpen. Men varje stycke slutar med sin kanoniska hänvisning (VI. 19.), så
justeringen blir uppslagning i stället för sekvens. verktyg/aurelius.py ger
385 av 468 avsnitt, 41 748 svenska ord.
Fällor i materialet
- Grekiska glosserat till latin.
ἰωνικὸς ἀπὸ μεῖζονος → ionicus a majore. Vanligast, och fångas inte av regler utan av domarmodellerna: en regel som fångar den kastar också äkta korta glosor. - Franska och italienska läses som latin. Dante, Gustav III, Anckarström —
äkta paralleludgåvor på fel språk. Sorteras om, kastas inte;
sprakärfra. - Tyska glosor i lexika som glossar grekiska mot tyska.
- Enspråkiga verk som ser tvåspråkiga ut: Olaus Magnus, Johannes Magnus.
- Alexandersons Grekisk metrik flaggades som helt utan översättningar. Fel:
boken ger terminologiska glosor (
στίχος → vers), men också grekiska mot latin.
De två nivåerna dömdes olika länge
Glosorna ur sidextraktionen lästes av två modeller. Meningsparen ur
paralleludgåvorna gick igenom enbart regelfiltret och packades med
domare: None. Det var fel väg runt: meningsparen är det värdefullaste
materialet för en meningsinbäddare och det enda ingen modell hade läst.
doma_meningar.sbatch rättar det. Domarna går till dom_men_qwen.jsonl och
dom_men_gemma.jsonl — egna filer, eftersom par_nr är radnumret i den fil
domaren fick. Delade nivåerna fil skulle rad 17 i meningsfilen läsas som en dom
över rad 17 i rena.jsonl.
Paketeraren vägrar tillämpa --min-domar på en tom domarmängd och varnar i
stället. Utan den spärren skulle varje meningspar falla bort tyst, och utfilen
se ut som ett renare dataset i stället för ett som tappat sin bästa del.
Delning
Per bok, inte per par. Ett ordspråk hos Grubbe återkommer hos Spegel, en Ciceromening citeras i tre lärda verk. Delas paren slumpvis hamnar samma text i både träning och prov, och inbäddaren mäts på något den redan sett.
Prövat i efterhand: av 19 460 källor på minst tolv tecken förekommer 17 i mer än en del — 0,09 %. Alla är stående uttryck (ultima Thule, mare Balthicum) som med rätta återkommer i skilda böcker. Det är ordförråd, inte samma upplaga delad över gränsen.
Tidsspannet
Tyngdpunkten ligger på 1600- och 1700-talssvenska: thet, hwilken, öfwer.
| sekel | par |
|---|---|
| 1400 | 22 |
| 1500 | 320 |
| 1600 | 9 884 |
| 1700 | 13 102 |
| 1800 | 8 095 |
| 1900 | 2 149 |
Rätt om målet är att söka i äldre text. En begränsning om målet är modern svenska.
- Downloads last month
- 8