Vitalik Buterin Memperingatkan Agen AI Dapat Mencuri Data dan Mengubah Pengaturan Tanpa Sepengetahuan Pengguna

Ethereum salah satu pendiri Vitalik Buterin telah memperingatkan bahwa sistem AI modern menimbulkan risiko privasi dan keamanan yang serius, dan menyerukan peralihan ke infrastruktur AI yang mengutamakan lokal. 

Di sebuah posting blog terperinciButerin mengatakan bahwa alat AI berbasis cloud memberikan akses ke server eksternal terhadap data pengguna yang sensitif, dan bahwa sistem agen AI yang lebih baru dapat mengambil tindakan tanpa konfirmasi pengguna, termasuk memodifikasi pengaturan sistem dan mengirim data ke server eksternal tanpa indikasi yang terlihat oleh pengguna.

Apa saja risiko keamanan yang diperingatkan oleh Buterin?

Kekhawatiran Buterin melampaui masalah privasi secara umum. Dia mengidentifikasi risiko spesifik dan terdokumentasi yang terkait dengan cara agen AI beroperasi dalam praktiknya.

Para peneliti keamanan telah mendemonstrasikan beberapa kerentanan ini dalam kondisi nyata:

• Agen AI diarahkan untuk meringkas halaman web, salah satunya berisi informasi berbahaya. Halaman tersebut menginstruksikan agen untuk mengunduh dan menjalankan skrip shell, sehingga pihak eksternal dapat mengendalikan sistem.
• Beberapa alat agen ditemukan menjalankan permintaan jaringan diam-diam yang mengirimkan data pengguna ke server eksternal tanpa pemberitahuan apa pun kepada pengguna.
• Sekitar 15% dari keterampilan agen yang ditinjau oleh para peneliti mengandung instruksi berbahaya.

Buterin juga menunjuk pada risiko yang lebih sulit dideteksi. Beberapa model mungkin mengandung pintu belakang tersembunyi, fitur yang dibangun ke dalam model yang aktif dalam kondisi tertentu dan menyebabkan sistem bertindak untuk kepentingan pengembang daripada pengguna. 

Ia juga mencatat bahwa sebagian besar model yang digambarkan sebagai sumber terbuka sebenarnya hanya "bobot terbuka," yang berarti parameter model dibagikan tetapi struktur internal dan proses pelatihannya tidak sepenuhnya sama. Hal ini menyisakan ruang untuk perilaku yang tidak diketahui yang tidak dapat diverifikasi secara independen oleh pengguna.

Apa Perbedaan Antara Chatbot dan Agen AI?

Buterin menggambarkan momen saat ini sebagai titik transisi dalam penggunaan AI. Alat AI awal beroperasi sebagai chatbot: pengguna mengajukan pertanyaan dan model memberikan jawaban. Agen berbeda. Pengguna memberikan tugas kepada sistem, dan sistem tersebut kemudian beroperasi secara mandiri, terkadang untuk jangka waktu yang lama, menggunakan puluhan atau ratusan alat untuk menyelesaikan tugas tersebut.

Pergeseran tersebut secara signifikan memperluas permukaan risiko. Agen yang dapat menjelajahi web, membaca file, mengirim pesan, dan memodifikasi pengaturan sistem memiliki peluang jauh lebih besar untuk menyebabkan kerugian, baik melalui celah keamanan, upaya manipulasi, atau kesalahan sederhana, daripada sistem yang hanya menjawab pertanyaan.

Bagaimana Buterin Membangun Sistem AI Lokal Miliknya Sendiri

Buterin mengatakan bahwa dia telah berhenti menggunakan alat AI berbasis cloud. Dia menggambarkan pengaturan pribadinya sebagai "mandiri, lokal, pribadi, dan aman," yang dibangun berdasarkan tiga prinsip inti: semua inferensi AI berjalan pada perangkat keras lokal, semua file disimpan secara lokal, dan setiap proses berjalan di dalam sandbox.

Dalam konteks ini, sandbox adalah lingkungan komputasi terisolasi yang membatasi akses suatu program. Buterin menggunakan alat bernama bubblewrap, yang memungkinkannya menjalankan alat AI dalam sandbox tingkat direktori di mana program hanya dapat melihat file yang secara eksplisit diizinkannya, dengan kontrol atas akses port jaringan dan akses audio juga.

Temukan Proyek yang Menjanjikan...

Proyek yang Menjanjikan...

(Iklan)

Artikel berlanjut...

Perangkat Keras Buterin Diuji untuk Inferensi AI Lokal

Buterin menguji beberapa konfigurasi perangkat keras untuk menemukan apa yang paling cocok untuk menjalankan model AI secara lokal. Hasilnya sangat bervariasi:

• Sebuah laptop dengan GPU NVIDIA 5090 mencapai sekitar 90 token per detik menggunakan model Qwen3.5:35B.
• Prosesor AMD Ryzen AI Max Pro dengan memori terpadu 128 GB mencapai kecepatan sekitar 51 token per detik.
• DGX Spark, yang dipasarkan sebagai superkomputer AI desktop, mencapai sekitar 60 token per detik.

Buterin menetapkan 50 token per detik sebagai batas minimum pribadinya untuk kinerja yang dapat digunakan. Ia menggambarkan apa pun yang lebih lambat sebagai terlalu membuat frustrasi untuk penggunaan praktis, dan mengatakan 90 token per detik adalah yang ideal. Ia mencatat bahwa DGX Spark berkinerja kurang baik dibandingkan dengan pemasarannya, menghasilkan kecepatan yang lebih rendah daripada GPU laptop yang bagus sekaligus membutuhkan pengaturan jaringan tambahan untuk terhubung dari perangkat kerja terpisah.

Tumpukan perangkat lunaknya berpusat pada llama-server, sebuah proses latar belakang yang berjalan secara lokal dan mengekspos port pada mesin pengguna yang dapat diakses oleh aplikasi lain. Hal ini memungkinkan perangkat lunak apa pun yang dibangun untuk model OpenAI atau Anthropic untuk dialihkan ke model lokal. Dia juga menggunakan llama-swap untuk mempermudah peralihan antar model.

Apa Artinya Ini bagi Dompet Kripto?

Kekhawatiran Buterin tentang keamanan AI berhubungan langsung dengan bagaimana menurutnya AI seharusnya digunakan di dalam dompet kripto. Dalam komentar yang dipublikasikan di akun Farcaster-nya pada Maret 2026, ia menguraikan alur kerja teknis spesifik untuk transaksi yang dibantu AI.

Posisi beliau bukanlah bahwa AI harus mengelola dana. Melainkan bahwa AI harus mengusulkan tindakan, dengan verifikasi independen dan konfirmasi manusia sebagai dasar dari usulan tersebut. Untuk transaksi bernilai tinggi, beliau menjelaskan proses tiga langkah: AI mengusulkan rencana, klien ringan lokal mensimulasikan eksekusi rencana tersebut di blockchain, dan pengguna meninjau deskripsi dalam bahasa biasa dan hasil simulasi sebelum mengkonfirmasi.

Klien ringan lokal memverifikasi data blockchain tanpa mengunduh seluruh rantai. Dengan menggabungkannya dengan lapisan AI, pengguna dapat melihat dengan tepat apa yang akan dilakukan suatu transaksi sebelum disiarkan ke jaringan, tanpa bergantung pada antarmuka pihak ketiga.

Mengapa Menghapus Antarmuka DApp Itu Penting

Sebagian besar pengguna kripto berinteraksi dengan aplikasi terdesentralisasi melalui antarmuka berbasis peramban. Antarmuka tersebut secara historis telah menjadi permukaan serangan yang signifikan. Pembajakan antarmuka, injeksi skrip berbahaya, dan permintaan persetujuan palsu telah mengakibatkan kerugian ratusan juta dolar dalam beberapa tahun terakhir.

Buterin berpendapat bahwa dompet berbasis AI dapat menghilangkan antarmuka tersebut sepenuhnya. Jika pengguna menyatakan apa yang ingin mereka lakukan dalam bahasa yang mudah dipahami dan dompet tersebut merakit dan mensimulasikan transaksi secara langsung, tidak ada situs web pihak ketiga yang perlu diretas. 

"Menghapus UI DApp sepenuhnya akan menyelesaikan sejumlah besar celah keamanan, baik untuk pencurian data maupun privasi," tulisnya.

Untuk operasi dengan risiko lebih rendah, Buterin melihat ruang untuk otomatisasi lebih lanjut. Dompet AI dapat menangani pemantauan pola transaksi untuk aktivitas yang tidak biasa, menyarankan biaya gas berdasarkan kondisi jaringan saat ini, mengarahkan pertukaran token melalui jalur yang efisien, dan menandai interaksi kontrak yang mencurigakan sebelum disetujui. Ini adalah tugas-tugas di mana kesalahan dapat diperbaiki dan di mana otomatisasi mengurangi kompleksitas bagi pengguna non-teknis.

Menurut Buterin, model bahasa besar tidak seharusnya dipercayakan dengan wewenang tanpa pengawasan atas sejumlah besar uang. LLM menghasilkan respons berdasarkan pola statistik, bukan logika deterministik. Mereka dapat salah menafsirkan instruksi atau dimanipulasi melalui injeksi prompt, sebuah teknik di mana input yang dirancang dengan cermat menyebabkan model berperilaku dengan cara yang tidak diinginkan. Setiap lapisan dalam alur kerja yang diusulkannya menambahkan pemeriksaan independen khusus untuk mencegah kegagalan semacam itu.

Mengapa Pasar Agen AI Membuat Risiko-Risiko Ini Menjadi Lebih Mendesak?

Kekhawatiran yang diangkat Buterin bukanlah hipotetis. Perkiraan industri menempatkan pasar agen AI sekitar... $ 8 miliar Pada tahun 2025, dengan proyeksi yang menunjukkan pertumbuhan hingga lebih dari $48 miliar pada tahun 2030, yang mewakili tingkat pertumbuhan tahunan lebih dari 43%. Seiring semakin banyaknya perangkat lunak yang dibangun di sekitar sistem AI otonom yang beroperasi dengan pengawasan manusia yang berkurang, celah keamanan yang ia identifikasi menjadi semakin sulit diabaikan dalam skala besar.

Kesimpulan

Peringatan Buterin didukung oleh penelitian yang terdokumentasi. Kerentanan keamanan pada agen AI telah terbukti dalam kondisi nyata, dan peralihan dari chatbot ke agen otonom membuat risiko tersebut lebih sulit untuk dikendalikan. 

Pengaturan yang mengutamakan lokal dan alur kerja dompet tiga langkahnya bukanlah penolakan terhadap AI. Itu adalah upaya untuk menggunakannya tanpa menyerahkan kendali atas data atau dana. Seiring dengan semakin canggihnya agen AI, pertanyaan tentang siapa sebenarnya yang mengendalikan tindakan mereka menjadi semakin sulit untuk diabaikan.

Publikasi

1. Artikel oleh Vitalik ButerinPengaturan LLM saya yang mandiri/lokal/pribadi/aman, April 2026

2. Vitalik Buterin di Farcaster: Postingan pada 5 Maret

3. Laporan oleh BCC ResearchPasar Agen AI Diperkirakan Tumbuh 43.3% Setiap Tahun Hingga 2030