Podrobno

Učenje umetne slovnice in jezikovna produkcija : generiranje abstraktnih struktur pri odraslih in velikih jezikovnih modelih
ID Košmrlj, Lea (Avtor), ID Mueller, Juta L. (Mentor) Več o mentorju... Povezava se odpre v novem oknu

.pdfPDF - Predstavitvena datoteka, prenos (11,75 MB)
MD5: 7F7175D8739EB6699A9441F71718FA23

Izvleček
Jezik zahteva usklajeno delovanje številnih kognitivnih mehanizmov. Med njimi je posebej zanimiva človeška sposobnost za razumevanje skladnje. Pričujoča magistrska naloga se osredotoča na dva kognitivna mehanizma, ki naj bi igrala ključno vlogo v sintaktičnem procesiranju: abstrakcijo slovničnih pravil in procesiranje hierarhij. Oba mehanizma lahko empirično preučujemo s pomočjo učenja umetne slovnice (ang. artificial grammar learning), uveljavljene psiholingvistične eksperimentalne paradigme za preučevanje učenja abstraktnih strukturnih pravil kot predhodnika skladnje v naravnem jeziku. V zadnjih letih so se veliki jezikovni modeli, ki temeljijo na arhitekturi transformer, uveljavili kot trenutno najuspešnejši umetni sistemi za obdelavo naravnega jezika. Kljub temu njihovega delovanja, ki sicer temelji na verjetnostnem napovedovanju brez eksplicitno podanih slovničnih pravil, ter njihovih zmožnosti še ne razumemo dovolj dobro. Hkrati odpirajo nova vprašanja o kognitivnih modelih naravnega jezika in teorijah človeške skladnje. Pričujoča naloga naslavlja dve raziskovalni vrzeli: prvič, osredotočenost raziskav učenja umetne slovnice na jezikovno razumevanje in neraziskanost jezikovne produkcije; in drugič, pomanjkanje ustreznih primerjav med ljudmi in velikimi jezikovnimi modeli glede njihovih zmožnosti učenja umetne slovnice. V ta namen zasnujemo in izvedemo nov eksperiment, ki se osredotoča na jezikovno produkcijo in temelji na predhodnih eksperimentih učenja umetne slovnice z velikimi jezikovnimi modeli. Eksperiment raziskuje mehanizma abstrakcije slovničnih pravil in procesiranja hierarhij, izveden pa je z odraslimi udeleženci. Rezultati kažejo na to, da se ljudje pri učenju umetne slovnice odrežejo boljše kot veliki jezikovni modeli; za te hierarhična abstrakcija predstavlja posebej zahtevno nalogo, pri kateri se očitno opirajo na linearna, ne pa hierarhična strukturna pravila. Odrasli udeleženci se uspešno naučijo obeh vrst slovnic, nehierarhične in hierarhične, pri čemer so pri hierarhični nekoliko manj uspešni. Ugotovitve pričujoče naloge prispevajo k področju učenja umetne slovnice pri ljudeh ter se umeščajo v širšo razpravo o primerjavah med ljudmi in velikimi jezikovnimi modeli.

Jezik:Angleški jezik
Ključne besede:kognitivna znanost, učenje umetne slovnice, jezikovna produkcija, veliki jezikovni modeli, učenje abstraktnih slovničnih pravil, procesiranje hierarhij
Vrsta gradiva:Magistrsko delo/naloga
Tipologija:2.09 - Magistrsko delo
Organizacija:PEF - Pedagoška fakulteta
Kraj izida:Ljubljana
Založnik:L. Košmrlj
Leto izida:2026
Št. strani:84, [14] str.
PID:20.500.12556/RUL-183391 Povezava se odpre v novem oknu
UDK:004.89(043.2)
COBISS.SI-ID:281857027 Povezava se odpre v novem oknu
Datum objave v RUL:12.06.2026
Število ogledov:226
Število prenosov:271
Metapodatki:XML DC-XML DC-RDF
:
Kopiraj citat
Objavi na:Bookmark and Share

Sekundarni jezik

Jezik:Slovenski jezik
Naslov:Artificial grammar learning and language production : abstract structure generation in adults and large language models
Izvleček:
Using language requires a myriad of cognitive mechanisms to work together seamlessly. Among them, a particularly intriguing phenomenon is the human capacity for syntax. The present thesis focuses on two cognitive mechanisms that are considered to play a crucial role in syntactic processing: rule abstraction and hierarchical processing. Both mechanisms have been empirically investigated through artificial grammar learning (AGL), a well-established psycholinguistic experimental paradigm for studying the learning of abstract structural rules as a precursor of natural language syntax. In recent years, Transformer-based large language models (LLMs) have emerged as the most successful artificial systems for natural language processing to date. Yet their inner workings, which are based on token prediction without explicit grammatical representations, and the limits of their capabilities remain insufficiently understood, as do the implications they might have for cognitive models of language and theories of human syntax. The present thesis addresses two research gaps: first, the focus of artificial grammar learning (AGL) research on language comprehension while overlooking language production; and second, the lack of valid comparisons between humans and large language models (LLMs) in terms of their AGL capabilities. To this end, a novel production-based experiment, which builds on prior AGL work with LLMs targeting the mechanisms of rule abstraction and hierarchical processing, is designed and carried out with adults. The results demonstrate that humans significantly outperform LLMs in a matched AGL setting; hierarchical abstraction poses a particularly challenging task for LLMs, which seem to rely on linear, rather than hierarchical structural regularities. Human performance, in turn, is stable across non-hierarchical and hierarchical grammar learning tasks, with somewhat lower success rates in the latter. The findings of the present thesis contribute both to AGL research in humans and to the growing literature on the cognitive plausibility of LLMs and human–LLM comparison.

Ključne besede:artificial grammar learning, language production, large language models, abstract rule learning, hierarchical processing

Podobna dela

Podobna dela v RUL:
Podobna dela v drugih slovenskih zbirkah:

Nazaj