You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

Parallell grekiska/latin mot svenska

Parallelltext ur Litteraturbankens 14 003 fritt spridbara böcker, avsedd för en svensk meningsinbäddare. Både hela meningar och enskilda glosor.

Katalog Innehåll
data/parallell.jsonl resultatet — ett par per rad
data/grek_tvasprak.jsonl, latin_tvasprak.jsonl sidor med båda språken på sig
data/parsidor.jsonl sidpar ur paralleludgåvor, språken på skilda sidor
data/rena.jsonl, meningar_rena.jsonl sållat, före dom
data/fallda.jsonl, meningar_fallda.jsonl det som fälldes, med skäl
data/dom_qwen.jsonl, dom_gemma.jsonl modellernas domar
verktyg/ hela kedjan

Två skördar, för en räcker inte

Den uppenbara skörden letar sidor där båda språken står tillsammans. Den ger 6 198 grekiska och 13 110 latinska sidor, och ur dem 33 628 par efter sållning — men den missar paralleludgåvorna helt. En sådan sätter latinet på vänstersidan och svenskan på högersidan, så ingen enskild sida är tvåspråkig. Erasmus De civilitate (1620) bidrog med en sida till den första skörden och ger 412 meningspar i den andra.

Den andra skörden letar därför växling mellan sidor: 5 146 sidpar i 367 böcker.

Skillnaden mellan skördarna är inte bara volym utan art:

par median svenska ord
ur sidor 23 035 några ord
ur sidpar 5 937 27

Sidextraktionen ger överväldigande glosor — svensk boklitteratur glosserar grekiska ständigt och översätter hela passager sällan. Meningsparen finns nästan bara i sidparen, och det är de en meningsinbäddare behöver. Fältet niva skiljer dem, och en mängd som slår ihop dem utan märkning ser större ut än den är.

Varför en modell läser sidorna

Första försöket var ett reguljärt uttryck: citat, följt av "det är", följt av svenska. Noll träffar i 1 200 böcker. Grekiskan står sällan som avgränsat citat med inledningsfras; den står mitt i en svensk mening — "af Gräkeskans ἄχθος och ἡμω, det är, där sorg finner" — eller i en ordbokskolumn, eller i en parentes efter ett namn. Mönstren är för många för att räknas upp och för trasiga av OCR för att träffas exakt.

Instruktionen säger tre gånger att modellen ska hitta översättningar som redan står på sidan, aldrig göra egna. En modell som ombeds extrahera parallelltext och inte finner någon översätter gärna åt oss, och resultatet är omöjligt att skilja från äkta data — och gift i kontrastiv träning.

Sållet, och vad det lärde sig

Regelsållet tar bort det som är fel på ytan. Det fick mildras tre gånger, och varje gång var regeln fel och inte materialet:

  • latinska meningar som citerar grekiska ord i båda leden är äkta par
  • lexikonartiklar med synonymrad — συντασσω → skipa, föreskrifva, ålägga, förelägga, bjuda — är precis vad vi vill ha, inte en orimlig längdkvot
  • korta versrader — Carnis sequens libitum / Som Werldzlusta wanckar — föll på en absolut tröskel för svenska funktionsord. Leden jämförs nu med varandra i stället.

Ordböcker får inte sidparas: Spegels Glossarium ser ut som en paralleludgåva för sidklassaren och ger par av två skilda uppslagsord.

Självrapporterade kvalitetsfält bär ingen information

Tre gånger nu, i tre projekt.

kalla_hel skulle säga om källan var sönderläst av OCR. Modellen svarade false på 99,5 % av paren — och de 0,5 % där den svarade true var genomgående skräp: διδα-σκαλοτ, ΣχOιωριλίνδα. Fältet är omvänt eller slumpmässigt. Namnet läses dessutom som fullständig, och en enordsglosa är aldrig fullständig, så modellen svarade på en annan fråga än den som ställdes.

sakerhet i sidjusteringen fick högsta värdet på tre olika sorters skräp: sidnummer som källa, två svenska led, italienska märkt som latin.

Bruk: vikta aldrig på ett fält modellen sätter om sitt eget arbete. Fråga i stället en annan modell om själva paret. dom fungerar, och dess avslag är sakliga — tyska glosor, OCR-förstörda källor, fel betydelse.

Tredje skörden: svenska översättningar utan källtext i boken

Båda de andra skördarna kräver grekiska tecken eller latinska markörer på sidan. En ren svensk Adlerbeth eller Manderström har inget sådant och är osynlig för hela kedjan, fastän den är den renaste parallelltext som finns — om källan hämtas från annat håll.

Metadatan avslöjar dem strukturellt: antika författare står som enordiga mononymer först i forfattare, översättaren efter — Homeros; Wallenberg, Marcus. Det kriteriet är bättre än en namnlista och gav 28 kandidater.

Det mesta klassiska är redan taget: BjörkeBot har ilias, odyssea, metamorphoses, aeneis, georgica, bucolica och ars_poetica, alltså Adlerbeths Ovidius och Vergilius och Wallenbergs Ilias. Det nya är prosan och den icke-hexametriska versen, som ingen av de andra skördarna når.

Efterbildningar ser ut som översättningar och är det inte. 1744 års svenska Consolatio philosophiæ har rätt titel, rätt författare och rätt innehåll, men titelbladet säger Funnen af Boëtio ... Brukad af Beato — brukad. Företalet är rakare än så: "Någon läsare torde anse min berättelse såsom en öfversätning af Boëtii syn. Ja, hon kan så heta til största delen ... Men förutan det, at Boëtius uti min syn lämpade sig efter närwarande [tid]". Strandbergs Anakreon 1862 säger det redan i titeln: Efterbildningar. Båda uteslutna.

Ingen regel och ingen domarmodell hade fångat dem — texten är svensk och handlar om rätt sak. Det som fångar dem är titelbladet och företalet. Läs företalet innan verket tas in.

Manderströms Marcus Aurelius är tematiskt omdisponerad och kan inte justeras på position: en kontroll av följden gav 64,8 % stigande steg, nära slumpen. Men varje stycke slutar med sin kanoniska hänvisning (VI. 19.), så justeringen blir uppslagning i stället för sekvens. verktyg/aurelius.py ger 385 av 468 avsnitt, 41 748 svenska ord.

Fällor i materialet

  • Grekiska glosserat till latin. ἰωνικὸς ἀπὸ μεῖζονος → ionicus a majore. Vanligast, och fångas inte av regler utan av domarmodellerna: en regel som fångar den kastar också äkta korta glosor.
  • Franska och italienska läses som latin. Dante, Gustav III, Anckarström — äkta paralleludgåvor på fel språk. Sorteras om, kastas inte; sprak är fra.
  • Tyska glosor i lexika som glossar grekiska mot tyska.
  • Enspråkiga verk som ser tvåspråkiga ut: Olaus Magnus, Johannes Magnus.
  • Alexandersons Grekisk metrik flaggades som helt utan översättningar. Fel: boken ger terminologiska glosor (στίχος → vers), men också grekiska mot latin.

De två nivåerna dömdes olika länge

Glosorna ur sidextraktionen lästes av två modeller. Meningsparen ur paralleludgåvorna gick igenom enbart regelfiltret och packades med domare: None. Det var fel väg runt: meningsparen är det värdefullaste materialet för en meningsinbäddare och det enda ingen modell hade läst.

doma_meningar.sbatch rättar det. Domarna går till dom_men_qwen.jsonl och dom_men_gemma.jsonl — egna filer, eftersom par_nr är radnumret i den fil domaren fick. Delade nivåerna fil skulle rad 17 i meningsfilen läsas som en dom över rad 17 i rena.jsonl.

Paketeraren vägrar tillämpa --min-domar på en tom domarmängd och varnar i stället. Utan den spärren skulle varje meningspar falla bort tyst, och utfilen se ut som ett renare dataset i stället för ett som tappat sin bästa del.

Delning

Per bok, inte per par. Ett ordspråk hos Grubbe återkommer hos Spegel, en Ciceromening citeras i tre lärda verk. Delas paren slumpvis hamnar samma text i både träning och prov, och inbäddaren mäts på något den redan sett.

Prövat i efterhand: av 19 460 källor på minst tolv tecken förekommer 17 i mer än en del — 0,09 %. Alla är stående uttryck (ultima Thule, mare Balthicum) som med rätta återkommer i skilda böcker. Det är ordförråd, inte samma upplaga delad över gränsen.

Tidsspannet

Tyngdpunkten ligger på 1600- och 1700-talssvenska: thet, hwilken, öfwer.

sekel par
1400 22
1500 320
1600 9 884
1700 13 102
1800 8 095
1900 2 149

Rätt om målet är att söka i äldre text. En begränsning om målet är modern svenska.

Downloads last month
8