David Silver, otak di balik terobosan AlphaGo, percaya bahwa perkembangan kecerdasan buatan saat ini memiliki kelemahan mendasar. Meskipun dunia teknologi saat ini terobsesi dengan Model Bahasa Besar (LLM), Silver berpendapat bahwa mengandalkan data yang dihasilkan manusia adalah jalan buntu untuk mencapai kecerdasan super yang sesungguhnya.
Melalui usaha barunya, Ineffable Intelligence, Silver berupaya mengalihkan industri dari “peniruan” ke arah model pembelajaran yang mandiri dan mandiri.
Masalah “Bahan Bakar Fosil” di LLM
Booming AI saat ini sebagian besar didorong oleh LLM—sistem yang dilatih berdasarkan kumpulan data besar berupa teks, kode, dan buku manusia. Silver memandang metode ini pada dasarnya terbatas. Ia menggambarkan data manusia sebagai “sejenis bahan bakar fosil” : sebuah jalan pintas luar biasa yang memberikan dorongan awal namun pada akhirnya terbatas dan tidak terbarukan.
Masalah intinya adalah LLM belajar dari apa yang telah dilakukan manusia. Mereka mencerminkan kecerdasan manusia dan bukan mesin penemuan independen. Silver berpendapat bahwa jika AI terbatas pada data manusia, ia tidak akan pernah bisa melampaui pengetahuan kolektif penciptanya.
“Anda dapat membayangkan sistem yang belajar sendiri sebagai bahan bakar terbarukan—sesuatu yang dapat terus belajar dan belajar selamanya, tanpa batas,” jelas Silver.
Untuk menggambarkan hal ini, Silver menggunakan eksperimen pemikiran: Jika Anda merilis LLM yang kuat di dunia di mana semua orang percaya bahwa bumi itu datar, AI akan menjadi ahli “penganut bumi datar”. Tanpa kemampuan untuk berinteraksi dengan kenyataan atau melakukan eksperimen sendiri, ia akan tetap terjebak dalam bias dan keterbatasan data pelatihannya.
Jalan Menuju Superintelligence: Pembelajaran Penguatan
Daripada memberikan lebih banyak teks kepada AI, Silver menggandakan pembelajaran penguatan (RL). Ini adalah proses dimana AI belajar melalui trial and error, berinteraksi dengan lingkungan untuk mencapai tujuan tertentu. Mekanisme inilah yang memungkinkan AlphaGo menguasai permainan Go—bukan dengan membaca buku tentang strategi, namun dengan memainkan jutaan permainan melawan dirinya sendiri.
Visi Silver untuk Ineffable Intelligence adalah untuk memindahkan konsep ini dari “dunia terbatas” seperti game Go ke kompleksitas yang sangat besar di dunia nyata. Strateginya meliputi:
- Lingkungan Simulasi: Menempatkan agen AI dalam simulasi yang sangat canggih tempat mereka dapat berinteraksi, berkolaborasi, dan menguji hipotesis.
- Penemuan Otonom: Menciptakan “pembelajar super” yang tidak hanya memproses informasi, namun secara aktif menemukan prinsip-prinsip ilmiah, ekonomi, atau teknologi baru.
- Menskalakan Kecerdasan: Membangun sistem yang dapat meningkatkan kecerdasan mereka tanpa terikat pada “prior manusia” (prasangka dan bias yang melekat pada data manusia).
Tantangan Keselamatan dan Keselarasan
Keprihatinan yang signifikan dalam perlombaan menuju superintelligence adalah penyelarasan AI : memastikan bahwa mesin yang lebih pintar dari manusia tetap bermanfaat bagi umat manusia.
Kritikus khawatir bahwa pembelajaran AI melalui trial and error murni mungkin akan menemukan solusi “optimal” yang efisien namun membawa bencana moral. Namun, Silver dan pendukungnya, termasuk Lightspeed Ventures, berpendapat bahwa pendekatannya sebenarnya lebih aman.
Dengan mengembangkan agen-agen ini dalam simulasi terkontrol, peneliti dapat mengamati perilaku yang muncul secara real-time. Mereka dapat melihat bagaimana seorang agen memperlakukan “kecerdasan yang lebih rendah” atau menangani tujuan yang bertentangan sebelum teknologi tersebut diterapkan di dunia nyata. Hal ini memungkinkan dilakukannya pendekatan proaktif terhadap keselamatan, dibandingkan pendekatan reaktif.
Misi Taruhan Tinggi
Besarnya ambisi Silver tercermin dalam dukungan finansial dari Ineffable Intelligence. Startup ini telah mendapatkan pendanaan awal sebesar $1,1 miliar, dan mencapai valuasi $5,1 miliar. Ini adalah angka yang luar biasa bagi perusahaan AI yang berbasis di Eropa dan menggarisbawahi keyakinan industri terhadap “kemurnian visi” Silver.
Meskipun kekayaan besar dipertaruhkan, Silver tetap mempertahankan sikap filantropisnya. Dia telah berkomitmen untuk mendonasikan seluruh hasil ekuitas dari Ineffable Intelligence kepada badan-badan amal yang berdampak besar, dan memandang upaya superintelligence sebagai tanggung jawab besar bagi masa depan umat manusia.
Kesimpulan: Meskipun lanskap AI saat ini didominasi oleh model yang meniru pengetahuan manusia, David Silver yakin bahwa lompatan kecerdasan berikutnya akan datang dari mesin yang belajar menavigasi dan memahami dunia secara mandiri.
