🍎Dasar Regresi

Apa itu regresi?

Dalam dunia analisis statistik dan pembelajaran mesin, regresi adalah suatu konsep yang memungkinkan kita untuk memahami hubungan antara variabel independen (faktor-faktor yang memengaruhi) dan variabel dependen (variabel yang ingin diprediksi). Dengan kata lain, regresi memungkinkan kita untuk menjelaskan atau memprediksi nilai variabel dependen berdasarkan nilai-nilai variabel independen yang kita miliki.

Misalnya, kita dapat menggunakan regresi untuk menjawab pertanyaan seperti, "Bagaimana pengeluaran iklan memengaruhi penjualan produk?" atau "Bagaimana pengalaman kerja seseorang berhubungan dengan gaji mereka?" Dalam hal ini, pengeluaran iklan atau pengalaman kerja adalah variabel independen yang kita anggap dapat memengaruhi penjualan atau gaji, yang merupakan variabel dependen.

Regresi adalah alat yang penting dalam ilmu data karena memungkinkan kita untuk menganalisis hubungan antar variabel, membuat prediksi berdasarkan data historis, dan mengidentifikasi faktor-faktor yang memiliki dampak signifikan pada variabel yang ingin diprediksi. Dalam mata kuliah ini, Anda akan memahami lebih dalam konsep dasar regresi dan berbagai teknik regresi yang digunakan dalam analisis data modern.

Macam-Macam Model Regresi:

• Terdapat berbagai jenis regresi, termasuk:

  • Regresi Linier Sederhana: Digunakan ketika hanya ada satu variabel independen.

  • Regresi Linier Berganda: Digunakan ketika ada beberapa variabel independen.

  • Regresi Non-Linier: Digunakan ketika hubungan antara variabel independen dan dependen tidak linier.

Penerapan Regresi dalam Berbagai Bidang:

• Regresi digunakan dalam berbagai bidang, termasuk:

  • Ekonomi: Untuk memahami faktor-faktor yang memengaruhi penjualan atau harga.

  • Kesehatan: Untuk memprediksi parameter medis berdasarkan faktor-faktor tertentu.

  • Sains Sosial: Untuk menganalisis perilaku manusia.

  • Ilmu Lingkungan: Untuk memahami dampak variabel lingkungan.

Salah satu metode yang dapat digunakan untuk melakukan prediksi/perkiraan adalah linear regression. Linear Regression merupakan model yang dapat digunakan untuk memodelkan hubungan antara dua buah variable dengan membuat persamaan linear pada data yang diamati. Variable yang digunakan pada linear regression adalah satu atau lebih variable independent/penjelas/bebas (X) dan variable dependent/respon/tidak bebas (Y). Pada Materi ini akan dibahas model regresi linear yaitu Simple Linear Regression dan Multiple Linear Regression serta Regresi Non-Linier dan SVR

Regresi vs. Klasifikasi

Pemahaman yang baik tentang perbedaan antara regresi dan klasifikasi memiliki implikasi penting dalam pemilihan model dan pendekatan yang tepat dalam menyelesaikan masalah analisis data. Ketika kita berhadapan dengan data dan permasalahan yang berbeda, kita harus bisa memutuskan apakah kita harus menggunakan teknik regresi atau klasifikasi untuk mencapai tujuan analisis kita.

Dalam konteks pembelajaran mesin, pemahaman perbedaan antara regresi dan klasifikasi adalah fondasi penting dalam membangun keahlian dalam mengelola dan memproses data serta dalam mengembangkan model yang tepat untuk setiap tipe masalah. Sekarang, mari kita jelaskan lebih lanjut perbedaan antara keduanya.

Perbedaan utama antara regresi dan klasifikasi adalah jenis variabel dependen yang ingin diprediksi:

1. Regresi:

   • Variabel Dependennya adalah Kuantitatif: Regresi digunakan ketika variabel dependen adalah kuantitatif atau berkelanjutan. Ini berarti kita ingin memprediksi nilai yang dapat diukur secara numerik.

   • Contoh: Memprediksi harga rumah, gaji seseorang, suhu, atau nilai ujian adalah contoh dari masalah regresi. Dalam hal ini, hasil yang ingin kita prediksi adalah angka.

2. Klasifikasi:

   • Variabel Dependennya adalah Kualitatif: Klasifikasi digunakan ketika variabel dependen adalah kualitatif atau kategorikal. Ini berarti kita ingin mengelompokkan atau mengklasifikasikan data ke dalam kategori tertentu.

   • Contoh: Mengklasifikasikan email sebagai spam atau bukan spam, mengidentifikasi jenis bunga berdasarkan fitur-fiturnya, atau mengklasifikasikan gambar sebagai kucing atau anjing adalah contoh masalah klasifikasi. Dalam hal ini, hasil yang ingin kita prediksi adalah kategori atau label.

Selain perbedaan ini, ada juga perbedaan dalam algoritma dan metode yang digunakan dalam regresi dan klasifikasi. Misalnya, dalam regresi, kita menggunakan algoritma seperti Regresi Linier untuk memprediksi nilai numerik, sementara dalam klasifikasi, kita menggunakan algoritma seperti Naive Bayes, Decision Trees, atau Support Vector Machines untuk mengklasifikasikan data ke dalam kategori.

Jadi, inti perbedaan antara regresi dan klasifikasi adalah jenis output yang ingin diprediksi: nilai kuantitatif untuk regresi dan label kualitatif atau kategori untuk klasifikasi. Kasus Penggunaan Regresi

Contoh Kasus

Regresi adalah salah satu konsep dasar dalam statistik dan pembelajaran mesin yang digunakan untuk memahami hubungan antara satu atau lebih variabel independen (faktor-faktor yang memengaruhi) dan variabel dependen (variabel yang ingin diprediksi). Dalam regresi, kita mencoba untuk menjelaskan bagaimana perubahan dalam satu atau lebih variabel independen dapat mempengaruhi perubahan dalam variabel dependen.

Mari kita ilustrasikan dengan contoh sederhana:

Bayangkan Anda adalah seorang guru yang ingin memahami bagaimana jumlah waktu belajar siswa memengaruhi nilai ujian mereka. Anda memiliki data yang mencatat berapa jam belajar (variabel independen) dan nilai ujian siswa (variabel dependen) untuk sekelompok siswa. Sekarang, pertanyaannya adalah, apakah ada hubungan antara jumlah jam belajar dan nilai ujian? Dengan kata lain, apakah Anda dapat memprediksi nilai ujian siswa berdasarkan berapa banyak waktu yang mereka habiskan untuk belajar?

Untuk menjawab pertanyaan ini, Anda dapat menggunakan konsep regresi. Anda dapat membangun model regresi sederhana yang menggambarkan hubungan antara variabel independen (jam belajar) dan variabel dependen (nilai ujian). Model ini bisa berupa garis lurus yang mencoba "mengenai" data siswa tersebut.

Misalkan setelah menganalisis data, Anda menemukan bahwa ada hubungan positif antara jumlah jam belajar dan nilai ujian, yang berarti semakin banyak waktu yang siswa habiskan untuk belajar, semakin tinggi nilai ujian mereka. Ini adalah contoh yang sederhana dari bagaimana regresi digunakan untuk menjelaskan dan memprediksi hubungan antara variabel-variabel.

Dengan model regresi yang telah Anda bangun, Anda dapat memasukkan jumlah jam belajar siswa sebagai input dan memperoleh perkiraan nilai ujian sebagai output. Dengan demikian, Anda dapat menggunakan regresi untuk membuat prediksi yang bermanfaat dan mengambil keputusan berdasarkan pemahaman tentang hubungan antara variabel tersebut.