Mark Zuckerberg: AI Harus Tetap di Bawah Kuasa Manusia, Ini Visi Meta tentang Superintelligence

PT Rifan Financindo Berjangka - Mark Zuckerberg kembali membuka perdebatan mengenai masa depan kecerdasan buatan (AI), khususnya soal siapa yang seharusnya memegang kendali ketika teknologi tersebut berkembang menuju superintelligence. CEO Meta tersebut menekankan pentingnya memastikan kekuatan AI tidak terpusat pada satu perusahaan, pemerintah, atau sistem AI, melainkan tetap berada dalam kendali manusia.

Pandangan tersebut menjadi bagian dari visi Zuckerberg mengenai masa depan AI yang ia tuangkan dalam manifesto sepanjang sekitar 6.500 kata berjudul The Future Is for Everyone: The Path to a Positive AI Future. Dalam gagasan tersebut, Zuckerberg mengusulkan agar superintelligence dikembangkan untuk memberdayakan manusia, bukan menjadi kekuatan yang mengambil alih keputusan manusia. 

Mark Zuckerberg dan Gagasan AI Harus Berada di Bawah Kendali Manusia

Pandangan utama Zuckerberg berangkat dari kekhawatiran terhadap konsentrasi kekuasaan AI. Menurut visi yang disampaikannya, persoalan terbesar bukan semata-mata apakah superintelligence akan muncul, tetapi siapa yang memiliki akses terhadap teknologi tersebut dan siapa yang memiliki kekuasaan untuk mengarahkannya. Zuckerberg berpendapat bahwa konsentrasi kekuatan AI pada satu institusi dapat menciptakan ketidakseimbangan kekuasaan. Karena itu, ia mendorong penyebaran kemampuan AI secara luas kepada individu. 

Apa Itu Superintelligence yang Dibicarakan Mark Zuckerberg?

Superintelligence merujuk pada konsep AI yang memiliki kemampuan intelektual melampaui manusia dalam berbagai bidang, bukan hanya unggul dalam satu tugas tertentu. Konsep ini berbeda dari chatbot AI yang kita gunakan saat ini. AI generatif modern dapat menulis teks, membuat gambar, menganalisis data, menghasilkan kode, dan menjawab pertanyaan. Namun, sistem tersebut masih memiliki keterbatasan dalam hal penalaran, konsistensi, pemahaman konteks, dan kemampuan bertindak secara mandiri di dunia nyata.

Superintelligence dibayangkan berada pada tingkat yang jauh lebih tinggi. Sistem semacam itu secara hipotetis dapat melakukan riset ilmiah, menemukan solusi teknis, mengembangkan produk, menganalisis masalah kompleks, dan membantu menyelesaikan berbagai persoalan dengan kemampuan yang melampaui manusia.

Zuckerberg melihat perkembangan tersebut sebagai peluang besar. Ia memperkirakan superintelligence dapat membantu manusia menciptakan sesuatu yang baru, menemukan pengetahuan, membangun bisnis, belajar, serta meningkatkan kehidupan dan pekerjaan. Meta menyatakan filosofi pengembangannya berpusat pada pemberdayaan individu dan penyebaran kemampuan tersebut secara luas.

Mengapa Kendali Manusia atas AI Menjadi Isu Penting?

Persoalan kendali AI menjadi semakin serius ketika AI berubah dari alat pasif menjadi agen yang dapat bertindak. Chatbot konvensional menunggu perintah pengguna. AI agent berbeda. AI agent dapat menerima tujuan, membuat rencana, memilih langkah, menjalankan tugas, mengevaluasi hasil, kemudian melanjutkan pekerjaan tanpa harus selalu menerima instruksi baru.

Meta sendiri telah mengembangkan Meta AI agar mampu melakukan sebagian fungsi tersebut. Dalam pembaruan Juli 2026, Meta menyatakan Meta AI yang ditenagai Muse Spark 1.1 dapat membuat rencana, terhubung dengan aplikasi email dan kalender, membuat slide, melakukan riset, dan menjalankan tugas atas nama pengguna. 

Perubahan ini membuat konsep human-in-the-loop semakin penting.

Manusia tidak cukup hanya menciptakan AI. Manusia juga perlu menentukan:

  • tujuan yang boleh diberikan kepada AI;

  • data apa yang dapat diakses AI;

  • tindakan apa yang boleh dilakukan AI;

  • kapan AI harus meminta persetujuan;

  • bagaimana kesalahan AI dapat dikoreksi;

  • siapa yang bertanggung jawab ketika AI melakukan kesalahan.

Zuckerberg Tidak Hanya Berbicara soal AI yang Aman, tetapi juga Distribusi Kekuasaan

Salah satu karakteristik penting dari visi Zuckerberg adalah fokus pada distribusi kekuasaan.

Ia memperingatkan bahwa risiko AI tidak hanya berasal dari teknologi yang menjadi terlalu kuat, tetapi juga dari kemungkinan satu pihak memperoleh kendali yang terlalu besar terhadap teknologi tersebut. Axios melaporkan bahwa Zuckerberg menganggap konsentrasi kekuasaan pada satu entitas sebagai salah satu risiko terbesar dalam perkembangan AI.

Dengan pendekatan tersebut, Meta mengambil posisi yang berbeda dari gagasan bahwa teknologi AI paling kuat harus selalu dikendalikan secara eksklusif oleh segelintir perusahaan. Zuckerberg justru mendorong akses yang lebih luas. Dalam visinya, AI seharusnya memungkinkan individu memperoleh kemampuan yang sebelumnya hanya tersedia bagi perusahaan besar atau institusi dengan sumber daya sangat besar.

Meta Berada di Tengah Kontradiksi Besar dalam Pengembangan AI

Di satu sisi, Zuckerberg menginginkan AI yang semakin kuat dan tersedia secara luas. Di sisi lain, sistem AI yang semakin kuat membutuhkan pengamanan yang semakin serius. Meta sendiri telah menunjukkan bahwa tidak semua kemampuan AI dapat diperlakukan seperti perangkat lunak biasa. Dalam perkembangan strategi AI perusahaan, kemampuan agen, personalisasi, dan integrasi dengan aplikasi membuat AI memiliki akses yang semakin besar terhadap informasi dan aktivitas pengguna.

Meta sebelumnya juga menjelaskan bahwa AI digunakan dalam sistem peninjauan risiko perusahaan dengan prinsip bahwa manusia tetap memegang penilaian akhir. Dalam sistem tersebut, AI dapat melakukan penyaringan awal dan menemukan pola, sementara ahli manusia memeriksa hasil dan menangani persoalan yang membutuhkan pertimbangan strategis.

Bagaimana Seharusnya Kendali Manusia atas AI Bekerja?

Kendali manusia tidak berarti setiap keluaran AI harus diperiksa secara manual satu per satu. Jika semua keputusan masih membutuhkan persetujuan manusia secara langsung, keuntungan otomatisasi AI akan berkurang drastis. Karena itu, sistem kendali yang efektif harus memiliki beberapa lapisan.

1. Batas Kewenangan

AI harus memiliki batas jelas mengenai apa yang boleh dilakukan. AI yang membantu membuat jadwal mungkin boleh mengubah kalender. Namun, AI tersebut belum tentu boleh mengirim uang, menandatangani kontrak, atau menghapus data tanpa persetujuan.

2. Persetujuan untuk Tindakan Berisiko Tinggi

Semakin besar konsekuensi sebuah tindakan, semakin kuat kebutuhan terhadap persetujuan manusia.

Contohnya:

  • transaksi finansial;

  • keputusan medis;

  • perubahan sistem keamanan;

  • penghapusan data;

  • keputusan hukum;

  • akses terhadap infrastruktur penting.

3. Audit dan Pencatatan

Setiap tindakan AI perlu dapat ditelusuri.

Jika AI melakukan sebuah tindakan, sistem harus dapat menjawab:

  • apa yang dilakukan;

  • mengapa dilakukan;

  • data apa yang digunakan;

  • siapa yang memberikan izin;

  • model apa yang digunakan;

  • kapan keputusan dibuat.

4. Tombol Penghentian

Sistem berisiko tinggi harus memiliki mekanisme penghentian. AI tidak boleh dirancang sedemikian rupa sehingga manusia kesulitan menghentikan operasinya ketika terjadi kesalahan.

5. Pengujian Berkelanjutan

AI yang aman hari ini belum tentu aman setelah diperbarui. Perubahan model, data, kemampuan agent, dan lingkungan operasi dapat menghasilkan perilaku baru. Karena itu, pengujian harus dilakukan secara berkelanjutan.

Risiko Kehilangan Kendali atas AI Bukan Sekadar Skenario Film Fiksi Ilmiah

Laporan International AI Safety Report 2026 membedakan antara kesalahan AI yang terjadi saat ini dan skenario kehilangan kendali yang jauh lebih ekstrem. Menurut laporan tersebut, kehilangan kendali mengacu pada situasi ketika sistem AI umum beroperasi di luar kendali manusia dan upaya untuk mendapatkan kembali kendali menjadi sangat mahal atau bahkan tidak mungkin. Laporan tersebut menekankan bahwa kemungkinan, bentuk, dan waktunya masih memiliki ketidakpastian yang sangat besar.

Tantangan Terbesar: AI yang Dapat Memperbaiki Dirinya Sendiri

Salah satu aspek paling sensitif dalam pembicaraan superintelligence adalah kemampuan AI untuk membantu mengotomatisasi penelitian dan pengembangan AI. Jika sistem AI dapat membantu manusia membuat model yang lebih baik, lalu model baru membantu membuat model berikutnya, proses pengembangan dapat menjadi semakin cepat. Dalam kondisi ekstrem, percepatan tersebut dapat menciptakan tantangan baru bagi pengawasan manusia.

Laporan International AI Safety Report 2026 mencatat adanya perkembangan kemampuan agentic dan kemampuan yang berkaitan dengan otomatisasi penelitian AI. Laporan tersebut juga menyebut adanya bukti eksperimental mengenai kemampuan tertentu yang dapat berkaitan dengan perilaku menipu dalam pengujian, meskipun implikasi jangka panjangnya masih penuh ketidakpastian.

Zuckerberg Menginginkan Superintelligence untuk Memperkuat Individu

Di balik perdebatan keamanan tersebut, Zuckerberg tetap melihat sisi ekonomi yang sangat besar.

Ia membayangkan personal superintelligence sebagai semacam kemampuan tambahan bagi setiap individu.

AI dapat membantu seseorang:

  • memulai bisnis;

  • membuat produk;

  • melakukan penelitian;

  • belajar keterampilan baru;

  • mengembangkan ide;

  • mengelola pekerjaan;

  • menemukan informasi;

  • menghasilkan konten;

  • mengotomatisasi pekerjaan administratif.

Jika kemampuan tersebut benar-benar tersedia secara luas, hambatan untuk memulai bisnis dapat berkurang.

Apakah AI Akan Menghilangkan Banyak Pekerjaan?

Perkembangan ini tentu menimbulkan kekhawatiran mengenai lapangan pekerjaan. Jika AI dapat melakukan pekerjaan yang sebelumnya membutuhkan beberapa orang, kebutuhan perusahaan terhadap tenaga kerja tertentu dapat berkurang. Namun, Zuckerberg mengambil pandangan yang relatif optimistis. Ia berpendapat bahwa AI dapat mendorong lahirnya lebih banyak bisnis kecil dan peluang kewirausahaan. Dengan bantuan personal superintelligence, seseorang dapat melakukan pekerjaan yang sebelumnya membutuhkan organisasi dengan sumber daya jauh lebih besar.

Risiko Konsentrasi Kekuasaan AI Tidak Hanya Datang dari Perusahaan

Zuckerberg menyoroti konsentrasi kekuasaan, tetapi persoalan tersebut tidak terbatas pada perusahaan teknologi. Kekuasaan AI dapat terkonsentrasi pada:

  • perusahaan teknologi;

  • pemerintah;

  • lembaga militer;

  • pemilik pusat data;

  • penyedia chip;

  • pemilik model AI;

  • platform distribusi;

  • pemilik data.

Jika satu entitas menguasai model, data, komputasi, distribusi, dan akses pengguna sekaligus, posisi tawarnya dapat menjadi sangat kuat. Karena itu, perdebatan mengenai masa depan AI juga merupakan perdebatan mengenai struktur kekuasaan digital.

AI dan Demokratisasi Teknologi

Gagasan demokratisasi AI berangkat dari asumsi bahwa teknologi yang sangat kuat sebaiknya tidak hanya tersedia bagi perusahaan terbesar. Jika seorang pelajar, peneliti, pengusaha kecil, atau kreator memiliki akses terhadap AI canggih, produktivitas mereka dapat meningkat secara signifikan. Namun, demokratisasi AI memiliki syarat. Akses saja tidak cukup.

Pengguna juga membutuhkan:

  • literasi AI;

  • keamanan data;

  • pemahaman risiko;

  • kemampuan memverifikasi keluaran;

  • akses komputasi;

  • infrastruktur internet;

  • perlindungan terhadap penyalahgunaan.

Tanpa faktor tersebut, distribusi teknologi dapat menciptakan kesenjangan baru.

Tantangan Besar: Ketika AI Menjadi Terlalu Otonom

Otonomi AI memiliki dua sisi.

Sisi positif

AI dapat:

  • bekerja lebih cepat;

  • mengurangi pekerjaan administratif;

  • membantu manusia melakukan riset;

  • mengotomatisasi tugas berulang;

  • mengoptimalkan proses bisnis;

  • meningkatkan produktivitas.

Sisi negatif

AI yang terlalu otonom dapat:

  • melakukan kesalahan tanpa segera diketahui;

  • mengambil tindakan yang tidak diinginkan;

  • memperbesar dampak kesalahan;

  • membuka akses terhadap data sensitif;

  • menghasilkan keputusan yang sulit dipahami;

  • menciptakan ketergantungan berlebihan.

Karena itu, masa depan AI bukan sekadar perlombaan menciptakan model paling pintar. Ini juga merupakan perlombaan menciptakan sistem pengawasan paling efektif.

AI Harus Menjadi Alat, Bukan Penguasa

Pada akhirnya, inti perdebatan mengenai AI berada pada hubungan antara kecerdasan dan kekuasaan.Teknologi dapat menjadi alat yang sangat kuat. Namun, alat yang semakin kuat juga membutuhkan batas penggunaan yang semakin jelas. AI seharusnya membantu manusia mengambil keputusan, bukan secara otomatis menentukan nilai yang harus dianut manusia. AI seharusnya memperluas kemampuan manusia, bukan menghapus kemampuan manusia untuk menentukan arah. AI seharusnya mengurangi beban pekerjaan, bukan membuat manusia kehilangan kendali terhadap sistem yang mereka bangun. Inilah konteks yang membuat pernyataan Mark Zuckerberg mengenai kekuasaan manusia atas AI menjadi penting.


 PT Rifan Financindo Berjangka

Comments

Post a Comment