Konsep AI bahkan sudah dikaji jauh sebelum aku lahir. Masa kuliah, kami membayangkan, seperti apa nanti AI dibentuk. Ada expert system dan lain-lain. Kalau kita lihat tulisan lama di blog ini (dan tulisanku yang berserakan di mana-mana), tentu kita lihat bahwa gagasanku tentang AI sangat berbeda dengan apa yang kini mewujud. Dulu aku bayangkan, AI mungkin dibentuk dari:
- Strange loop. Ini belajar dari Hofstadter bahwa “aku” adalah referensi diri yang terbentuk saat sistem menjadi sangat kompleks sehingga mampu memuat model tentang dirinya sendiri. Dari sini kesadaran muncul.
- Complexity dan emergence-nya. Kesadaran kubayangkan sebagai properti sistem yang terorganisasi jauh dari ekuilibrium. Per Bak menunjukkan bahwa sistem semacam ini akan menyetel dirinya sendiri ke titik kritis tanpa ada yang menyetelnya. Konsep Edge of Chaos dalam teori ini menunjukkan bahwa komputasi yang paling kaya justru terjadi di batas tipis antara keteraturan beku dan kekacauan penuh. Aku pikir, di sana intelijensi seharusnya dicari.
- Cellular automata. Inovasi Wolfram dll yang sempat menunjukkan hasil yang menarik. Aturan lokal yang sangat sederhana, diulang terus-menerus, melahirkan komputasi universal dan kompleksitas yang tak terduga tanpa perancang, tanpa tujuan, tanpa pusat kendali.
Tapi ternyata AI lahir dalam bentuk ML, DL, ANN, Transformer, foundation model, dst. AI meraksasa, mencapai skala ekonomi, jadi murah, dan ada di mana-mana, terutama dalam bentuk LLM. Kalau orang awam bilang AI, pasti maksudnya LLM ini. Jadi AI diturunkan bukan dari pendekatan sains, tapi engineering yang pragmatik. Ini berawal dari Alan Turing tahun 1950.
Turing menulis pertanyaan “Dapatkah mesin berpikir?” tetapi ia menyatakan bahwa kita belum punya definisi yang disepakati, baik untuk “mesin” maupun “berpikir”. Alih-alih, ia mengajukan Imitation Game: perubahan dari pertanyaan ontologis menjadi operasional. Jadi bukan apakah mesin berpikir, tetapi dapatkah mesin menghasilkan hal yang sama dengan yang dilakukan dengan berpikir. Hahh, cerdas tapi menyebalkan. Cerdas karena membuat kemajuan tanpa harus sibuk urusan filsafat selesai. Menyebalkan, karena ia menggeser makna AI, bukan lagi pada kecerdasan, melainkan pada koleksi kemampuan yang berhasil ditiru.
Hingga kini, setiap kali sebuah kemampuan berhasil dikomputerisasi, kemampuan ini tak lagi dianggap kecerdasan, melainkan hasil komputasi. Misalnya: catur, penerjemahan, dan lama-lama makin banyak aktivitas manusia masuk perangkap ini. Tahukah: saat ini kecerdasan didefinisikan sebagai hal yang belum berhasil kita tiru melalui komputasi.

Kembali ke ML, DL, ANN, dst itu. Pedro Domingos dalam The Master Algorithm (2015) menyusun anatomi untuk semua macam teknologi ini. Setiap algoritma pembelajaran, katanya, tersusun atas tiga lapis:
- Representation: dalam bentuk apa pengetahuan disimpan. Aturan logis, jaringan probabilistik, bobot antar neuron, program, atau sekumpulan contoh.
- Evaluation: bagaimana menilai satu hipotesis lebih baik dari yang lain. Caranya: akurasi, probabilitas posterior, kuadrat kesalahan, fitness, atau lebar margin.
- Optimisation: bagaimana mencari hipotesis terbaik di ruang yang biasanya jauh terlalu besar untuk disisir satu per satu.
Dari tiga lapis ini, ia menurukan lima mazhab teknologi AI:
| Mazhab | Representasi | Evaluasi | Optimasi | Contoh algoritma |
|---|---|---|---|---|
| Symbolist | Logika dan aturan | Accuracy | Inverse deduction | Decision tree, rule-based system, ILP |
| Bayesian | Graphical model | Posterior probability | Probabilistic inference | Naive Bayes, Hidden Markov Model, Bayesian network |
| Connectionist | Neural network | Squared error, cross-entropy | Gradient descent | Perceptron, JST/MLP, CNN, RNN, Transformer |
| Evolutionary | Genetic program | Fitness | Genetic search | Genetic algorithm, genetic programming |
| Analogiser | Support vector, instance | Margin | Constrained optimisation | kNN, SVM, kernel method |
Akar filosofisnya berbeda-beda. Symbolist berasal dari logika dan linguistik: pengetahuan dianggap dapat direduksi menjadi manipulasi simbol. Bayesian dari statistik: semua pengetahuan tidak pasti sehingga harus dihitung secara probabilistik. Connectionist berasal dari neurosains: kecerdasan dianggap muncul dari kekuatan sambungan antar unit sederhana. Evolutionary berasal dari biologi: kalau seleksi alam sanggup menghasilkan otak, mekanisme yang sama sanggup menghasilkan program. Analogiser berasal dari psikologi penalaran: kunci belajar adalah mengenali kemiripan.
LLM? Rangkanya Connectionist, karena masih dilatih dengan gradient descent. Mekanisme attention di dalamnya adalah operasi Analogizer yang dibuat dapat diturunkan: setiap token menghitung skor kemiripan terhadap token lain, lalu mengagregasi berdasarkan skor itu. Logikanya persis kNN, hanya saja dilatih lewat backpropagation. RLHF membawa cita rasa Bayesian. Chain-of-thought adalah usaha menempelkan Symbolist di atasnya. Ini tempelan rekayasa yang oportunistik.
Tetaplah, si aku ini merasa kelima mazhab itu hanya pendekatan pragmatis atas model berpikir empiris: amati dari luar bagaimana pikiran tampak mengenali pola dan mengambil keputusan, lalu bangun fungsi yang menghasilkan keluaran serupa, dengan cara apa pun yang terbukti bekerja. Itu memang strategi mereka. Mereka tidak perlu tahu seperti apa sih proses berpikir itu.
Ini sebabnya eksplorasi masa laluku tidak masuk hitungan. Ketiganya tidak punya gradien. Misalnya kita punya cellular automaton dengan aturan acak. Bagaimana kita memperbaikinya sedikit demi sedikit? Tidak ada arah “sedikit lebih baik” yang bisa dihitung, karena ruang aturannya diskret dan perubahan kecil menghasilkan perilaku yang sama sekali lain. Idem dengan strange loop. Tidak ada permukaan kesalahan yang bisa dituruni dari sistem tanpa model diri menuju sistem yang punya. Karena itu, komputasi AI jadi sangat sulit untuk pendekatan semacam ini.
Otak kita dikembangkan via evolusi biologis yang bisa memecahkan masalah ini, tapi dengan waktu evolusi miliaran tahun dan paralelisme seukuran planet. Richard Sutton merangkumnya sebagai bitter lesson, bahwa yang menang dalam jangka panjang selalu metode yang paling banyak menyerap komputasi, bukan yang paling banyak menyerap wawasan manusia tentang cara kerja pikiran.
Yang menarik (buat aku), gagasan-gagasan sains ini sebenarnya belum mati. Mereka sebenarna masih menggali jalan kembali, wkwk.
Contohnya, konsep jaringan Hopfield, yang merupakan pemikiran sistem dinamis murni. Dalam konsep ini, ingatan disimpan dalam bentuk energi minimum. Proses mengingat adakan proses membiarkan sistem meluncur ke attractor terdekat. Pada 2020, Ramsauer dan rekan-rekannya menerbitkan makalah berjudul Hopfield Networks is All You Need, yang menunjukkan bahwa aturan pembaruan jaringan Hopfield modern dengan sifat kontinu ternyata setara dengan dengan mekanisme attention di algoritma transformer. Jadi transformer yang terkenal saat ini, dilihat dari sisi lain, ternyata adalah jaringan attractor dinamis!
Tahun 2020 itu juga, Mordvintsev dan Levin menerbitkan Growing Neural Cellular Automata, dengan mengganti aturan lokal CA yang ditulis tangan dengan jaringan saraf kecil yang dilatih backpropagation. Hasilnya CA yang dapat diturunkan, yang tumbuh dari satu sel, dan yang meregenerasi dirinya sendiri ketika dirusak. Jadi, persoalan “CA tidak punya gradien” ternyata dapat mulai diatasi. Jadi, polanya: jalur engineering sebenarya menemukan kembali objek jalur sains, tetapi tentu hanya dalam bentuk yang dapat diturunkan saat itu, incl melalui gradien sebagai gerbang tol.

Tapi ternyata tetap ada yang menggangguku. Sejak awal aku menganggap pikiran itu proses alami, yang harus dikenali via sains, atau diimitasi via engineering. Tapi, yang menggangguku: sebenarnya apa sih beda antara pikiran dan mesin? Pikiran, apakah dalam bentuk emergence atau strange loop dll, toh harus tersusun dari materi. Kan? Kan? Kan? Pikiran juga material, mekanistis. Dan kita belum yakin kita tahu apa itu pikiran. Dan sialnya, di level materinya pun, kita juga tidak tahu materi itu emergent dari apa. Masa complexity berakhir di satu titik kuantum?
Bayangkan dulu. Gravitasi saja konon bukan gaya fundamental, melainkan emergent dari konstruksi ruang/waktu. Ruang/waktu/materi sendiri belum tentu merupakan dasar dari semua ini. Jadi kekeuh di sains, kita tetap belum menemukan dasar juga. Barangkali pendekatan yang tersisa memang tetap pendekatan engineering.
Wait, ini bukan cuma lamunan. Daftar diskusinya panjang.
- Anderson (1972) lewat paper More Is Different, yang mendasari soalan complexity dan emergence. Argumennya bertahan sampai sekarang: reduksionisme itu benar tetapi tidak berguna, karena pada setiap tingkat kompleksitas muncul keteraturan baru dengan hukumnya sendiri yang secara praktis tidak dapat diturunkan dari tingkat di bawahnya. (Yang rajin lihat presentasiku di IEEE, pasti bosan kucekoki contoh-contoh dari argumen ini).
- Jacobson (1995) dalam paper Thermodynamics of Spacetime, memulai dari relasi Clausius yang biasa, yaitu panas sama dengan suhu dikali perubahan entropi, lalu menerapkannya pada horizon Rindler lokal, yakni cakrawala kausal yang dilihat pengamat berakselerasi di setiap titik ruang-waktu. Hasilnya adalah persamaan medan Einstein. Jadi persamaan medan Einstein itu emergent dari termodinamika saja, bukan fundamental.
- Verlinde (2011) melanjutkannya dengan entropic gravity, yang mengusulkan gravitasi sebagai gaya entropik yang muncul dari perubahan informasi.
- ‘t Hooft (1993) dan Susskind (1995) merumuskan holographic principle: segala yang terjadi di dalam suatu volume dapat direpresentasikan oleh derajat kebebasan di permukaan yang membatasinya. Maldacena (1997) memberinya realisasi konkret lewat korespondensi AdS/CFT. Ruang tiga dimensi, termasuk gravitasi di dalamnya, ternyata adalah emergent dari kondisi dua dimensi.
- Van Raamsdonk (2010) dalam paper Building up spacetime with quantum entanglement, menunjukkan bahwa geometri ruang-waktu muncul dari korelasi informasional. Jika keterjeratan berkurang, maka jarak merentang. Ryu dan Takayanagi (2006) memberi rumus yang menghubungkan entropi keterjeratan dengan luas permukaan geometris.
- Wheeler (1990) merangkumnya dalam slogan it from bit. Setiap “it”, setiap partikel dan medan dan ruang-waktu itu sendiri, pada akhirnya berasal dari jawaban “ya atau tidak” terhadap pertanyaan yang diajukan lewat pengukuran.
- Zurek melengkapinya dengan quantum Darwinism. Dunia yang stabil dan objektif dianggap bukan realitas, melainkan hasil seleksi: hanya keadaan yang tahan terhadap interaksi dengan lingkungan yang bertahan, dan yang bertahan itu menyebarkan salinan informasi tentang dirinya secara berlebihan sehingga banyak pengamat bisa mengaksesnya secara terpisah. Itulah yang kita sebut objektivitas. Wkwk.
- Landauer (1961) menulis dari dari sisi sebaliknya: menghapus satu bit informasi akan melepaskan panas minimal sebesar kT ln 2. Information is physical.
Landauer bilang informasi itu fisik. Jacobson, Wheeler, Van Raamsdonk, dan Zurek bilang fisika itu informasional. Itu bukan kontradiksi, tetapi juga bukan garis lurus. Itu lingkaran, dan lingkaran itu muncul di lapisan ontologi. Jadi, apa itu materi? Ladyman dan French menyebutnya ontic structural realism: yang fundamental bukanlah benda, melainkan struktur dan relasi. Ini tetap fisikalisme sepenuhnya, hanya saja fisikalisme yang lebih dalam dan lebih aneh daripada versi abad kesembilan belas yang diajarkan di sekolah.
Kayaknya mulai kacau nih, mendalami materi dan bukannya informasi, walaupun ternyata materi itu juga informasi. Hahhh. Yuk kita berpikir lagi. Berpikir tentang berpikir.
Berpikir. Rumusan yang kuat datang dari teori informasi algoritmik Solomonoff dan Kolmogorov. Kompleksitas Kolmogorov sebuah objek adalah panjang program terpendek yang bisa menghasilkannya. Jadi berpikir adalah proses mencari kompresi atas pengalaman. Memahami sesuatu berarti menemukan aturan yang lebih pendek daripada daftar kejadiannya. Hukum Newton lebih pendek daripada katalog semua gerak benda yang pernah diamati, kan? Ini namanya pemahaman dan bukan sekadar catatan. Dan ini berlaku sama untuk otak karbon maupun otak silikon, dan menjelaskan kenapa prediksi token berikutnya yang kelihatannya sepele ternyata menghasilkan kemampuan yang luas. Prediksi yang baik menuntut kompresi yang baik, dan kompresi yang baik memaksa penemuan struktur.
Tetapi rumusan itu langsung menabrak tiga dinding.
- Tidak ada pemikir yang optimal. Induksi Solomonoff tidak dapat dihitung. Kita punya definisi matematis yang tepat tentang penalaran ideal, dan definisi itu memberitahu bahwa penalaran ideal tidak bisa dijalankan oleh apa pun di dunia fisik. Setiap pemikir nyata, otak maupun model, adalah aproksimasi kasar yang wajib menebak.
- Tidak ada pemikir yang universal. Teorema No Free Lunch dari Wolpert dan Macready menyatakan bahwa dirata-ratakan atas semua masalah yang mungkin, semua algoritma pembelajaran berkinerja sama. Keunggulan sebuah learner tidak pernah datang dari dirinya sendiri, melainkan dari kecocokan antara asumsi bawaannya dengan struktur dunia tempat ia dijalankan. Artinya kecerdasan bukan properti skalar sebuah sistem, melainkan relasi antara sistem dan lingkungannya. Ashby sudah merumuskan bentuk kuantitatifnya pada 1956 lewat law of requisite variety: hanya variasi yang dapat menyerap variasi. Ini menjelaskan lima mazhab di atas. Kalau tidak ada learner yang unggul universal, maka lima mazhab itu perlu ada sebagai taruhan mengenai pandangan atas struktur dunia, bukan lima tingkat kecanggihan.
- Berpikir memerlukan biaya. Landauer lagi. Tidak ada cara menjadi pemikir tanpa membayar ongkos termodinamika. Otak manusia membayarnya sekitar dua puluh watt. Sistem AI modern membayarnya dengan besaran beberapa orde lebih besar.
Kecerdasan. Dari sini definisi Chollet dalam On the Measure of Intelligence (2019) menjadi masuk akal. Kecerdasan bukan keterampilan yang dimiliki, melainkan efisiensi memperoleh keterampilan baru, dihitung relatif terhadap pengalaman yang dikonsumsi dan pengetahuan awal yang dibawa. Sistem yang menguasai sejuta tugas setelah menelan seluruh internet mungkin sangat terampil, tetapi menurut definisi ini justru sedang menunjukkan kecerdasan yang rendah.
AI, dengan demikian, adalah usaha merealisasikan proses itu pada substrat non-biologis.
| Istilah | Rumusan |
|---|---|
| Berpikir | Proses fisik pencarian kompresi atas pengalaman, di bawah kendala energi yang nyata, yang secara prinsip tidak pernah bisa optimal |
| Kecerdasan | Efisiensi proses itu, relatif terhadap pengalaman dan pengetahuan awal, dan selalu bermakna hanya relatif terhadap lingkungan tertentu |
| AI | Usaha merealisasikan proses itu pada substrat non-biologis |
Demikianlah perjalanan panjang ini, mencari definisi AI, dan malah harus mendefinisikan pikiran dan kecerdasan. Informasi itu fisik, dan fisika itu informasional. Pikiran mengompresi dunia, dan dunia mungkin sudah berupa kompresi. Ini bukan penyelesaian. Ini lingkaran. Loop. Mengingatkan kembali ke Hofstadter. Loop ini adalah bentuk yang seharusnya muncul ketika sebuah sistem berusaha memodelkan hal yang menyusun dirinya sendiri.
Mari terus berpikir. Berpikir selalu menyenangkan. Termasuk berpikir tentang berpikir. Haha. Wkwk. Hush.






























