ANALISIS KINERJA INFERENSI LARGE LANGUAGE MODEL PADA WINDOWS, WSL2, DAN LINUX NATIVE

Anshori, Muhammad (2026) ANALISIS KINERJA INFERENSI LARGE LANGUAGE MODEL PADA WINDOWS, WSL2, DAN LINUX NATIVE. Other thesis, Universitas Nurul Jadid.

Text 2321500066_MUHAMMAD_ANSHORI_TI.pdf Restricted to Registered users only Download (3MB) | Request a copy

Abstract

Perkembangan Large Language Model (LLM) mendorong meningkatnya
kebutuhan inferensi secara lokal menggunakan platform Ollama sebagai alternatif
layanan berbasis cloud. Namun, performa inferensi dipengaruhi oleh lingkungan
sistem operasi yang digunakan. Penelitian ini bertujuan membandingkan kinerja
inferensi LLM pada Windows , Windows Subsystem for Linux 2 (WSL2), dan
Linux menggunakan konfigurasi perangkat keras yang sama dalam skenario CPU
only. Parameter yang dianalisis meliputi Latency, Time to First Token (TTFT),
Token Per Second (TPS), penggunaan CPU, penggunaan RAM, dan stabilitas
berdasarkan standar deviasi.
Penelitian menggunakan metode kuantitatif dengan pendekatan eksperimen
komparatif. Pengujian dilakukan menggunakan platform Ollama terhadap tiga
model, yaitu Llama3.2:3B, Qwen2.5:3B, dan Phi3.5:3.8B, pada tiga tingkat
kompleksitas prompt (Light, Medium, dan Heavy). Data dikumpulkan melalui
proses benchmarking otomatis menggunakan Python dan pustaka psutil, kemudian
dianalisis secara deskriptif.
Hasil penelitian menunjukkan bahwa performa inferensi dipengaruhi oleh sistem
operasi, ukuran model, dan kompleksitas prompt. Linux menghasilkan latency
terendah pada sebagian besar skenario pengujian, terutama pada kategori Light dan
Medium Prompt, sedangkan Windows memberikan latency terbaik pada Heavy
Prompt dan memiliki penggunaan RAM paling rendah. WSL2 menunjukkan
performa yang kompetitif pada beberapa skenario, namun mengalami penurunan
efisiensi akibat overhead virtualisasi. Linux juga menghasilkan nilai TTFT yang
lebih cepat, penggunaan CPU yang lebih efisien, serta tingkat stabilitas yang lebih
baik berdasarkan analisis standar deviasi. Secara keseluruhan, Linux merupakan
lingkungan yang paling direkomendasikan untuk menjalankan inferensi LLM secara lokal pada perangkat berspesifikasi menengah berbasis CPU-only karena
memberikan keseimbangan terbaik antara waktu respons, efisiensi penggunaan
CPU, dan kestabilan performa.

Item Type:	Thesis (Other)
Uncontrolled Keywords:	CPU-only; Inferensi LLM; Linux ; Ollama; WSL2
Subjects:	Q Science > Q Science (General) Q Science > QA Mathematics > QA75 Electronic computers. Computer science Q Science > QA Mathematics > QA76 Computer software Z Bibliography. Library Science. Information Resources > ZA Information resources > ZA4050 Electronic information resources
Divisions:	Fakultas Teknik > S1 Teknologi Informasi
Depositing User:	Unnamed user with email [email protected]
Date Deposited:	29 Oct 2026 23:32
Last Modified:	29 Oct 2026 23:32
URI:	https://repository.unuja.ac.id/id/eprint/5589

Actions (login required)

View Item