ICSEJOURNALICSEJOURNAL

Journal of Computer Science and Engineering (JCSE)Journal of Computer Science and Engineering (JCSE)

Pengembangan pemrosesan bahasa alami (NLP) berbasis transformer telah membawa kemajuan signifikan pada sistem penjawab pertanyaan (QA). Penelitian ini membandingkan tiga model utama, yaitu BERT, Sequence-to-Sequence (S2S), dan Generative Pretrained Transformer (GPT), dalam memahami dan menjawab pertanyaan berbasis konteks menggunakan dataset SQuAD 2.0 yang telah diterjemahkan ke dalam bahasa Indonesia. Penelitian ini menggunakan metode SEMMA (Sample, Explore, Modify, Model, Assess) untuk memastikan proses analisis berjalan secara sistematis dan efisien. Model diuji dengan metrik evaluasi exact match (EM), F1-score, dan ROUGE. Hasil menunjukkan bahwa BERT unggul dengan skor Exact Match 99,57 %, F1-score 99,57 %, ROUGE-1 97 %, ROUGE-2 30 %, dan ROUGE-L 97 %, melebihi kinerja model S2S dan GPT. Studi ini membuktikan bahwa BERT lebih efektif dalam memahami dan menangkap konteks bahasa Indonesia pada tugas QA. Penelitian ini memberikan penjelasan mengenai implementasi QA berbasis bahasa Indonesia dan dapat menjadi referensi dalam pengembangan sistem NLP yang lebih akurat dan efisien.

Berdasarkan hasil penelitian, model BERT memperoleh hasil terbaik dalam tugas penjawaban pertanyaan faktual menggunakan dataset SQuAD v2.0 berbahasa Indonesia, dengan nilai Exact Match dan F1‑score masing‑masing sebesar 99,57 % serta nilai ROUGE‑1 dan ROUGE‑L sebesar 97 %.Keunggulan BERT disebabkan oleh arsitektur perhatian dua arah yang lebih efektif dalam menangkap hubungan antar kata dibandingkan model S2S dan GPT.Model S2S menunjukkan kinerja lebih rendah pada pemahaman konteks, sementara GPT meskipun menghasilkan teks yang natural, kurang akurat dalam menjawab pertanyaan faktual.

Penelitian selanjutnya dapat menyelidiki bagaimana transfer lintas bahasa dapat meningkatkan kemampuan sistem QA berbahasa Indonesia dengan memanfaatkan model multibahasa besar dan korpus paralel untuk mengurangi kebutuhan data berlabel. Selain itu, studi dapat mengevaluasi teknik fine‑tuning parameter‑efisien yang lebih maju daripada LoRA, seperti AdapterFusion atau Prompt‑Tuning, untuk menurunkan konsumsi memori dan waktu pelatihan pada model BERT dan GPT tanpa mengorbankan akurasi pada dataset SQuAD‑Indonesia. Penelitian ketiga dapat mengembangkan model hibrida yang menggabungkan representasi bidirectional BERT dengan kemampuan generatif GPT, untuk meningkatkan keakuratan jawaban faktual sekaligus menghasilkan output yang lebih natural pada pertanyaan berlapis atau ambigu. Setiap pendekatan tersebut harus diuji secara komprehensif menggunakan metrik EM, F1, dan ROUGE serta analisis error mendalam, sehingga dapat memberikan panduan praktis bagi pengembangan sistem QA berbahasa Indonesia yang lebih efektif dan efisien. Dengan demikian, eksplorasi tersebut tidak hanya akan memperluas pemahaman ilmiah tentang adaptasi model bahasa besar pada bahasa Indonesia, tetapi juga berpotensi mempercepat penerapan QA cerdas dalam layanan publik, pendidikan, dan sektor bisnis.

  1. Complex Knowledge Base Question Answering: A Survey | IEEE Journals & Magazine | IEEE Xplore. complex... ieeexplore.ieee.org/document/9960856Complex Knowledge Base Question Answering A Survey IEEE Journals Magazine IEEE Xplore complex ieeexplore ieee document 9960856
  2. Transfer Learning in Natural Language Processing - ACL Anthology. transfer learning natural language... aclanthology.org/N19-5004Transfer Learning in Natural Language Processing ACL Anthology transfer learning natural language aclanthology N19 5004
  3. IndoLEM and IndoBERT: A Benchmark Dataset and Pre-trained Language Model for Indonesian NLP - ACL Anthology.... aclanthology.org/2020.coling-main.66IndoLEM and IndoBERT A Benchmark Dataset and Pre trained Language Model for Indonesian NLP ACL Anthology aclanthology 2020 coling main 66
Read online
File size507.68 KB
Pages10
DMCAReport

Related /

JURIS Hubungan Pengetahuan Bidan Tentang Imunisasi Dengan Perilaku Pengelolaan Vaksin 2026More at 2026

UMSBUMSB Penelitian ini menggunakan desain cross sectional dengan sampel 36 bidan. Hasil penelitian menunjukkan adanya hubungan bermakna antara pengetahuan bidanPenelitian ini menggunakan desain cross sectional dengan sampel 36 bidan. Hasil penelitian menunjukkan adanya hubungan bermakna antara pengetahuan bidan

JURIS Kearifan ekologis dalam cerita rakyat tentang sumber air di Kabupaten Klaten 2026More at 2026

DIGLOSIA UNMULDIGLOSIA UNMUL Cerita rakyat tentang sumber air di Klaten belum terakses luas sehingga nilai keberlanjutan sumber air dan kelestarian lingkungan tidak tersampaikan. TujuanCerita rakyat tentang sumber air di Klaten belum terakses luas sehingga nilai keberlanjutan sumber air dan kelestarian lingkungan tidak tersampaikan. Tujuan

JURIS Implementasi Algoritma Clustering dan Classification dalam Data Mining Systematic Literature Review terhadap Tren dan Tantangan Terkini 2025More at 2025

JOURNALCENTERJOURNALCENTER Penetrasi teknologi business intelligence mencapai 31,18% untuk dashboard dan 10,75% untuk teknik clustering dalam ekosistem usaha kecil menengah, menandaiPenetrasi teknologi business intelligence mencapai 31,18% untuk dashboard dan 10,75% untuk teknik clustering dalam ekosistem usaha kecil menengah, menandai

JURIS Peningkatan Akurasi Deteksi Liver Disease melalui Hyperparameter Tuning pada Algoritma Random Forest 2025More at 2025

SUBSETSUBSET Penelitian mengikuti pendekatan CRISP-DM dan menerapkan teknik SMOTE untuk mengatasi ketidakseimbangan kelas serta Grid Search CV untuk optimasi hyperparameter.Penelitian mengikuti pendekatan CRISP-DM dan menerapkan teknik SMOTE untuk mengatasi ketidakseimbangan kelas serta Grid Search CV untuk optimasi hyperparameter.

JURIS Malaria Parasite Classification from Microscopic Images using EfficientNetV2B0 with Bayesian Optimization 2025More at 2025

ICSEJOURNALICSEJOURNAL Metrik evaluasi, termasuk akurasi, presisi, recall, dan F1-score, digunakan untuk mengevaluasi kinerja model yang telah dilatih. Hasil menunjukkan bahwaMetrik evaluasi, termasuk akurasi, presisi, recall, dan F1-score, digunakan untuk mengevaluasi kinerja model yang telah dilatih. Hasil menunjukkan bahwa

JURIS Adapting Mother Tongue Based Instructional Models to Address Gender Disparities in Literacy and Numeracy Skills 2025More at 2025

UNMUNM Kesenjangan gender dalam literasi dan numerasi tetap menjadi tantangan utama bagi pendidikan yang adil, terutama di komunitas linguistik beragam dan pribumi.Kesenjangan gender dalam literasi dan numerasi tetap menjadi tantangan utama bagi pendidikan yang adil, terutama di komunitas linguistik beragam dan pribumi.

JURIS Arfani IMPROVING ENGLISH PRONUNCIATION SKILL THROUGH THUMBELINA AND PINOCCHIO FAIRY TALES 2020More at 2020

STIBAIEC JAKARTASTIBAIEC JAKARTA Untuk mencapai tujuan tersebut, fokus tidak hanya pada aspek linguistik, melainkan juga pada unsur sastra dan budaya. Karena dongeng menyediakan unsur‑unsurUntuk mencapai tujuan tersebut, fokus tidak hanya pada aspek linguistik, melainkan juga pada unsur sastra dan budaya. Karena dongeng menyediakan unsur‑unsur

JURIS Faktor Faktor yang Berhubungan dengan Pemanfaatan Pelayanan Antenatal Care ANC di Puskesmas Wilayah I Dinas Kesehatan Kabupaten Kuantan Singingi Tahun 2015 2017More at 2017

UMSBUMSB Penelitian selanjutnya perlu dilakukan dengan memperbesar sampel dan menggunakan metode wawancara untuk mendapatkan data yang lebih mendalam. Selain itu,Penelitian selanjutnya perlu dilakukan dengan memperbesar sampel dan menggunakan metode wawancara untuk mendapatkan data yang lebih mendalam. Selain itu,

Useful /

JURIS Presumptive Taxation Scheme Its Impact On Tax Expense and Taxpayer s Compliance 2026More at 2026

IJAR IAIKAPDIJAR IAIKAPD Berdasarkan hasil analisis hipotesis dan pengujian dalam paper ini, dapat disimpulkan bahwa rata-rata beban pajak penghasilan koperasi yang menjadi respondenBerdasarkan hasil analisis hipotesis dan pengujian dalam paper ini, dapat disimpulkan bahwa rata-rata beban pajak penghasilan koperasi yang menjadi responden

JURIS Pemilihan Moda Transportasi Menuju Kampus Mahasiswa Universitas Muhammadiyah Sorong Unamin 2025More at 2025

UMSBUMSB Keberadaan kampus ini menjadi faktor penarik mahasiswa yang berasal dari berbagai daerah untuk datang memenuhi kebutuhan pendidikan. Pergerakan menujuKeberadaan kampus ini menjadi faktor penarik mahasiswa yang berasal dari berbagai daerah untuk datang memenuhi kebutuhan pendidikan. Pergerakan menuju

JURIS A Semiotic Analysis Found on Kopi Kapal Api Special Mix Ramadhan Edition Advertisement 2020More at 2020

STIBAIEC JAKARTASTIBAIEC JAKARTA Metode penelitian kualitatif dengan pendekatan analisis konten digunakan karena studi ini membutuhkan analisis mendalam terhadap konten, yaitu tanda-tandaMetode penelitian kualitatif dengan pendekatan analisis konten digunakan karena studi ini membutuhkan analisis mendalam terhadap konten, yaitu tanda-tanda

JURIS English Borrowings in COVID 19 Pandemic 2020More at 2020

STIBAIEC JAKARTASTIBAIEC JAKARTA Selama pandemi COVID-19, banyak kata dan frasa asing diserap ke dalam bahasa Indonesia melalui proses adopsi, adaptasi, dan terjemahan. Proses adaptasiSelama pandemi COVID-19, banyak kata dan frasa asing diserap ke dalam bahasa Indonesia melalui proses adopsi, adaptasi, dan terjemahan. Proses adaptasi

ads-block-test