[Artificial Intellegence] Memaknai Kotak Hitam Machine Learning: Belajar dari "perdebatan" Suhu LeCun dan Rahimi

Ilustrasi kotak hitam yang tidak berwarna hitam (sumber: techcrunch)

Artikel ini sebenarnya sebagian sudah saya tulis pada akhir tahun 2017 yang lalu, ketika masih hangat-hangatnya diskusi LeCun-Rahimi. Tetapi karena mood nge-blog yang sempat tersendat, sehingga baru sempat memberikan finishing touch dan mengunggah, hampir dua bulan setelahnya.

Yann LeCun (Sumber : Udacity.Com)

Menarik memang menyimak diskusi seru (kalau tidak boleh disebut perdebatan) antara sang Maestro  Artificial Intellegence Yann LeCun dengan peneliti Google Ali Rahimi tentang Machine Learning. Kalangan IT, terutama yang mendalami Machine Learning dan AI tentu tidak asing lagi dengan nama Yann LeCun (lihat: Wikipedia, Google Scholar). Ilmuwan yang saat ini menjabat sebagai Director of AI Research di Facebook ini memiliki kontribusi luar biasa pada perkembangan kecerdasan buatan, khususnya pada bidang  machine learning dan computer vision. Salah satu metode terkenal yang dia kembangkan adalah convolutional neural networks (CNN), sehingga dia disebut sebagai founding father dari convolutional nets tersebut.

Ali Rahimi dalam acara NIPS (Sumber: Youtube)

Sedangkan Ali Rahimi (lihat: ResearchGate) adalah peneliti dari Google Research Departement yang memperoleh Test Time Award pada Conference on Neural Information Processing (NIPS) akhir tahun 2017 yang lalu. Diskusi menarik yang kemudian diikuti pembahasan yang meluas dan cukup "viral" di kalangan pecinta kecerdasan buatan (termasuk di beberapa WAG yang saya ikuti) tersebut dipicu dari pernyataan Rahimi ketika memberikan presentasi saat penerimaan Test-of-Time Award yang mengatakannya bahwa “Machine learning has become Alchemy”. Pernyataan ini ternyata tidak bisa diterima oleh sebagian orang, tak terkecuali LeCun.

Dalam presentasinya Rahimi berpendapat bahwa penelitian machine learning dan alchemist keduanya bekerja sampai tingkat tertentu. Ahli alchemist menemukan metalurgi, pembuatan kaca, dan berbagai obat, sementara peneliti Machine Learning berhasil membuat mesin yang bisa mengalahkan kemampuan manusia, seperti mengidentifikasi objek dari gambar, dan mengenali suara secara akurat dan sebagainya. Namun, teori alchemistian yang mempercayai bahwa mereka bisa merubah logam dasar menjadi emas serta membuat kehidupan abadi itu rontok setelah munculnya konsep Fisika dan Kimia modern.
Revolusi Ilmiah akhirnya membongkar kesalahan teori kuno yang sudah bertahan selama hampir 2000 tahun tersebut.

Menurut Rahimi, kesuksesan model machine learning yang sebagian besar didasarkan pada metode empiris, nampaknya memiliki masalah yang sama seperti alchemist. Mekanisme di dalam model pembelajaran mesin sangat kompleks dan gelap sehingga peneliti seringkali tidak mengerti mengapa machine learning dapat menghasilkan output tertentu dari serangkaian data yang dimasukkan. Dengan kata lain, inner mechanism pada machine learning dianalogikan seperti kotak hitam. Menurut Rahimi, kurangnya pemahaman teoritis atau interpretasi teknis model machine learning perlu menjadi perhatian, terutama jika AI bertanggung jawab atas pengambilan keputusan-keputusan kritis seperti bidang kesehatan, dan sebagainya. Dia mengatakan bahwa sistem seharisnya dibangun di atas pengetahuan yang dapat diverifikasi, teliti dan menyeluruh, bukan pada alchemist..

Pernyataan tersebut memicu tanggapan dari Yann LeCun pada keesokan harinya. Lewat akun Facebook pribadinya, ia mengatakan bahwa menganalogikan Machine Learning sebagai alchemist itu adalah salah. LeCun mengatakan bahwa pemahaman tentang teoritis adalah hal yang baik dan hal itu menjadi tujuan kebanyakan ilmuwan. Tetapi hal yang tidak kalah pentingnya adalah bagaimana menemukan metode baru, teknik baru, dan tentu saja, trik baru. Itu yang dilakukan dalam banyak penelitian machine learning. LeCun bahkan menambahkan bahwa dalam sejarah ilmu pengetahuan, artefak-artefak teknik hampir selalu mendahului pemahaman tentang teori. Contohnya, penemuan lensa dan teleskop yang mendahului teori optik, penemuan mesin uap mendahului teori termodinamika, penemuan pesawat yang mendahului teori aerodinamika penerbangan, radio dan komunikasi data yang mendahului teori informasi, dan penemuan komputer yang mendahulua ilmu komputer. Mengapa demukian? Karena para teoritikus akan secara spontan mempelajari fenomena sederhana, dan tidak akan tertarik untuk mempelajari yang kompleks sampai ada kepentingan praktis untuk itu. Di akhir statusnya LeCun menambahkan bahwa sikap skeptis seperti Rahimi adalah alasan utama mengapa komunitas machine learning mengabaikan efektivitas jaringan syaraf tiruan pada tahun 1980-an. Ia khawatir hal tersebut dapat terulang dengan sikap skeptis semacam itu.

Tentang Alchemy

Alchemy adalah ilmu kimia kuno yang bahkan oleh sebagian orang dianggap menyerupai sihir, meski didalamnya berdasar pada pemikiran rasional dari Aristoteles dan Plato. Mereka mengembangkan teori yang menyatakan bahwa semua hal di alam semesta terbuat hanya dari 4 unsur yaitu bumi, udara, api, dan air. Semua hal bisa berubah bentuk dari empat unsur tersebut dengan menerapkan beberapa metode seperti pembakaran, pengeringan, penambahan air, dan pembekuan. Mereka mempercayai bahwa logam bisa di transformasikan menjadi emas (meski pada kenyatannya belum pernah teruji) dan bahkan dipercaya mampu menciptakan keabadian manusia. Seiring dengan munculnya ilmu fisika dan kimia modern pada masa Issac Newton, ilmu alchemy ini mulai ditinggalkan. Lalu mengapa Rahimi menganalogikan Machine Learning seperti Alchemy?

Diskusi Berlanjut

Dan diskusi-pun meluas ke berbagai penjuru dunia. Ada yang nimbrung langsung pada status yang ada di facebook Timeline-nya LeeChun, ada yang membahasnya dalam skala kecil di group-group WA. Salah satu WAG yang saya ikuti adalah INAPR yang berisi teman-teman anggota Indonesian Association for Pattern Recognition. Beberapa teman dalam WAG tersebut mengatakan bahwa pernyataan Rahimi ada benarnya. Disadari maupun tidak, area riset machine learning-deep learning saat ini seolah lebih mementingkan result daripada understanding. Sebagian besar peneliti lebih fokus untuk menggali metode-metode yang menghasilkan result bagus, walaupun metodenya dihasilkan dari sebuah trial error, bukan pemahaman terhadap problem.

Sebagian lagi mendukung pendapat LeChun tentang kebutuhan praktis, terutama jika dikaitkan dengan tuntutan yang harus dipenuhi ketika penelitian bekerjasama dengan dunia industri. Salah seorang anggota WAG menceritakan pengalamannya ketika studi lanjut di Jepang dan ditugaskan oleh kampusnya dalam kolaborasi penelitian dengan sebuah perusahaan komunikasi. Waktu itu penelitian dilakukan rangka membuat facsimile yang mampu membaca tulisan tangan pengguna di Jepang seperti katakana, hiragana, kanji, dan juga roman alphabet. Target yang harus dipenuhi adalah tingkat akurasi yang harus mencapai 99%.  Jadi pekerjaan riset lebih fokus ke parameter-parameter tuning dan optimisasi agar mendapatkan akurasi tinggi dengan model-size yang sekecil mungkin. Itu yang terjadi dalam riset-riset machine learning saat ini.

Di kalangan NIPS, Dr. Yiran Chen, Direktur Pusat Duke of Evolutionary Lab, berusaha menengahi atau menyimpulkan diskusi LeCun-Rahimi ini. Ia mengatakan bahwa LeCun bereaksi berlebihan, karena sebenarnya posisi Rahimi tidak begitu bertentangan. "Yang Rahimi maksudkan adalah bahwa kita sekarang tidak memiliki penjelasan teoritis yang jelas tentang model pembelajaran yang mendalam dan bagian ini perlu diperkuat. Sedangkan LeCun menjelaskan bahwa kurangnya teori yang jelas tidak mempengaruhi kemampuan belajar yang dalam untuk memecahkan suatu masalah. Dan perkembangan teoretis memang bisa saja tertinggal dari praktis.." kata Dr. Chen yang tidak memihak (Sumber: medium.com).

Dan nampaknya ke depan, diskusi-diskusi semacam ini masih akan terus berlanjut. Apakah kita menginginkan model Machine Learning yang lebih efektif tetapi memiliki kekurangan pada clear theoretical explanations, atau model transparan yang lebih sederhana tetapi kurang efektif dalam menyelesaikan masalah-masalah tertentu? Dan tentunya sang waktu, serta perkembangan ilmu pengetahuan akan menjawab itu semua.

REFERENSI:

1. Ali Rahimi NIPS 2017 Presentation
2. Yan LeCun take on Ali Rahimi's "Test of Time" award talk at NIPS
3. The Role of Theory in Deep Learning
4. Has Machine Learning Become Alchemy?
5. What is Alchemy?

Posted in: Artificial Intellegence,Computer Science,Deep Learning,Kuliah : Kecerdasan Buatan