Machine Learning Skala Besar (Spark MLlib) & Ekosistem Big Data
Bagaimana algoritma ML diparalelkan (data parallelism, agregasi gradien & statistik per partisi), API Pipeline Spark MLlib (Transformer, Estimator, VectorAssembler, StandardScaler, LogisticRegression, KMeans), evaluasi terdistribusi, serta tinjauan Hive, HBase, Kafka, dan Flink.
- 01Pilihan ganda
Jenis paralelisme yang terutama dipakai Spark MLlib adalah …
- 02Pilihan ganda
Mengapa gradien log-loss regresi logistik mudah didistribusikan?
- 03Pilihan ganda
Dalam Spark ML,
StandardScalerdanLogisticRegression(sebelum di-fit) termasuk … - 04Pilihan ganda
Fungsi
VectorAssembleradalah … - 05Pilihan ganda
Keuntungan utama memakai
Pipelineadalah … - 06Pilihan ganda
Komponen ekosistem yang paling tepat untuk mengalirkan event klik dari aplikasi secara real-time ke sistem pemrosesan adalah …
- 07Pilihan ganda
Data 3 GB dan muat di RAM laptop 16 GB. Pilihan paling efisien untuk melatih Random Forest adalah …
- 08Hitung
Gradient descent terdistribusi, tanpa bias.
w = 0, partisi 1: x = 1, y = 1; partisi 2: x = 2, y = 0. Learning rate η = 0.1. Berapa w setelah satu iterasi? (gunakan rata-rata gradien) - 09Hitung
Partisi A = [2, 4], partisi B = [6]. Dengan agregasi (n, Σx, Σx²), berapa standar deviasi populasi keseluruhan? (3 desimal)
- 10Hitung
Iterasi K-Means terdistribusi. Untuk klaster 1, partisi 1 melaporkan (sum = 30, count = 5) dan partisi 2 melaporkan (sum = 18, count = 3) pada satu dimensi. Berapa centroid baru klaster 1?
- 11Hitung
CrossValidatordengan gridregParam4 nilai ×elasticNetParam2 nilai dannumFolds = 5. Berapa model yang dilatih selama cross-validation (belum termasuk model final)? - 12Hitung
Klaster 1000 partisi. Tanpa tree aggregation, driver menerima 1000 vektor gradien. Dengan tree aggregation 2 tingkat di mana executor menggabungkan dulu menjadi 10 hasil antara, berapa vektor yang diterima driver?
- 13Uraian
Rancang pipeline Spark MLlib untuk memprediksi churn dari kolom
lama_langganan,biaya_bulanan,jumlah_keluhan,kontrak(kategorikal). Sebutkan stage secara berurutan, mana Estimator dan mana Transformer, serta cara evaluasinya.