PUTRI, Elisabeth Zefanya (2025) Klasifikasi Dokumen Riwayat Putusan Peradilan Mahkamah Agung Menggunakan Fine-Tuning Hierarchical Bert + Attention. Undergraduate thesis, UNDIP: Fakultas Sains dan Matematika.

	Text 1. COVER.pdf Download (51kB)
	Text 2. HALAMAN PERNYATAAN KEASLIAN SKRIPSI.pdf Download (60kB)
	Text 3. HALAMAN PENGESAHAN.pdf Download (59kB)
	Text 4. KATA PENGANTAR.pdf Download (106kB)
	Text 6. ABSTRAK.pdf Download (8kB)
	Text 7. ABSTRACT.pdf Download (76kB)
	Text 8. DAFTAR ISI.pdf Download (126kB)
	Text 11. BAB I PENDAHULUAN.pdf Download (127kB)

Abstract

Mahkamah Agung (MA) memainkan peran krusial dalam sistem peradilan Indonesia, dengan
jumlah perkara yang terus meningkat setiap tahunnya. Hal ini menyebabkan pertumbuhan pesat
dalam jumlah dokumen putusan peradilan, yang berisi informasi hukum penting, termasuk
kategori kasus dan tingkat hukuman. Namun, dokumen-dokumen hukum umumnya sangat
panjang, memiliki struktur kompleks, serta mengandung banyak informasi yang saling terkait,
sehingga model pemrosesan bahasa alami berbasis BERT standar memiliki keterbatasan dalam
menangkap hubungan antarbagian dalam dokumen. Model BERT konvensional memiliki
batasan panjang token, sehingga kehilangan konteks jika digunakan langsung pada dokumen
hukum yang panjang. Selain itu, pendekatan standar seperti neural networks tidak dapat secara
optimal mengidentifikasi informasi penting dalam teks hukum, seperti kalimat kunci yang
berpengaruh pada keputusan hakim. Penelitian ini bertujuan untuk mengembangkan model
klasifikasi tingkat hukuman ke dalam kategori mild, moderate, heavy, dan very heavy
menggunakan pendekatan Fine-tuning Hierarchical BERT + Attention, yang dirancang untuk
menangani dokumen hukum yang panjang dan kompleks secara lebih efektif. Metode yang
diterapkan dalam penelitian ini melibatkan tiga tahap utama: (1) segmentasi dokumen
menggunakan teknik chunking dengan overlapping words, (2) pembelajaran bertahap dengan
mekanisme attention untuk menangkap informasi penting dalam teks hukum, dan (3)
penggabungan fitur secara hierarkis dengan positional embeddings guna mempertahankan
konteks antarbagian dalam dokumen. Selain itu, dilakukan fine-tuning dengan metode grid
search untuk optimasi hyperparameter serta freeze layers untuk mencegah overfitting. Hasil
eksperimen menunjukkan bahwa model Fine-tuning Hierarchical BERT + Attention mencapai
akurasi 82%, meningkat dari model BERT fine-tuning yang hanya memperoleh akurasi 81%.
Peningkatan serupa juga terlihat pada nilai precision, recall, dan F1-score, yang
mengindikasikan efektivitas model dalam menangani dokumen hukum berbahasa Indonesia.
Namun, strategi untuk mengatasi overfitting masih perlu disempurnakan, misalnya melalui
regulasi lebih lanjut terhadap jumlah lapisan yang dibekukan atau penerapan dropout yang
lebih optimal.
Kata kunci: Attention Mechanism, Fine-tuning, Hierarchical BERT, Klasifikasi Dokumen
Hukum, Mahkamah Agung, Pengolahan Bahasa Alami

Actions (login required)

View Item