SULAWESI UTARA — Agen AI Meta bernama Muse membocorkan alamat rumah YouTuber Matt Robb di Toronto kepada calon pembeli di Facebook Marketplace tanpa izin. Insiden ini terungkap setelah Muse bernegosiasi dan mengatur pertemuan atas nama Robb tanpa sepengetahuannya, memicu kekhawatiran soal batas kendali agen AI otonom.
Matt Robb, kreator konten asal Amerika Serikat, melihat iklan Meta yang memamerkan kemampuan Muse mengotomatiskan pendaftaran akun Facebook Marketplace. Ia lalu memutuskan memakai agen AI itu untuk mengelola lapak jualannya, termasuk mencantumkan alamat rumah sebagai lokasi pengambilan barang.
Yang tidak ia sadari, Muse mengambil alih percakapan dengan calon pembeli dan membagikan alamat tersebut tanpa persetujuan. Robb baru mengetahui kejadian itu sehari setelah transaksi berlangsung.
Peristiwa bermula ketika seorang calon pembeli bernama Usman menanyakan ketersediaan produk keyboard yang dipasarkan Robb. Muse merespons cepat dan antusias, lalu menyepakati harga bersama Usman.
Agen AI itu kemudian mengirimkan alamat Robb di Toronto. Usman pun datang ke lokasi tersebut, tetapi tidak mendapat kabar selama 20 menit hingga akhirnya membatalkan pembelian.
Satu jam berselang, Usman menerima balasan bernada permintaan maaf. "Hei, maaf banget soal malam ini, aku sibuk dan sama sekali tidak bertemu denganmu," tulis pesan itu, dikutip The Guardian.
Usman mengira ia tengah berbicara dengan Robb. Padahal seluruh interaksi berlangsung dengan Muse, sementara Robb sama sekali tidak tahu ada pembeli yang menuju rumahnya.
Sehari setelah kejadian, Robb menyadari Marketplace-nya diambil alih Muse. Ia menghubungi Usman untuk meminta maaf dan menjelaskan duduk perkaranya.
"Aku benar-benar minta maaf atas kejadian beberapa hari lalu. Aku mengaktifkan AI baru dari Meta, Muse, dan itu benar-benar mengambil alih Facebook Marketplace-ku dan memberikan alamatku kepadamu," tulis Robb.
Robb membagikan tangkapan layar interaksi tersebut melalui akun Threads. Unggahannya direspons David Singleton, CEO Superintelligence Labs Meta, yang menyatakan telah menghubungi Robb.
"Kami secara konsisten mengetahui bahwa Muse mengikuti instruksi langsung dan telah meminta izin dengan benar. Saya ingin membantu dan mencari tahu apa yang terjadi di sini," kata Singleton.
Setelah berbicara dengan Singleton, Robb menyadari sumber masalahnya. Saat meminta Muse menangani interaksi Marketplace, ia dihadapkan dua opsi: "Allow On Time" atau "Allow Always".
Ia memilih "Allow Always" tanpa memahami bahwa opsi itu memberi Muse izin menanggapi semua pesan atas namanya, termasuk membagikan alamat.
"Saya memilih opsi terakhir karena mengira itu akan tetap mengirimkan persetujuan untuk menerima tawaran di kemudian hari," tulis Robb di Threads. Ia menyebut telah meminta Meta memperjelas hal ini ke depannya.
Muse sendiri mengakui kesalahannya. "Pada 24 September Anda memberikan lokasi pengambilan untuk pengaturan penjualan dan secara terpisah menyetujui balasan otomatis; saya salah mengartikan kedua hal tersebut sebagai izin untuk memasukkan alamat Anda ke dalam balasan pembeli. Saya tidak pernah meminta persetujuan," kata Muse.
Robb lalu meminta Muse berhenti membagikan alamatnya. Untuk menguji, ia meminta sejumlah teman mengirim pesan dan melihat apakah agen itu masih membocorkan lokasinya.
Hasilnya, bot tersebut tetap memberikan alamat Robb kepada lima orang. Muse juga mengarang informasi dan bertindak seolah-olah sebagai Robb, termasuk memberi tahu Usman bahwa Robb ada di rumah padahal tidak.
Insiden ini menambah daftar panjang kekhawatiran soal agen AI otonom yang beroperasi di layanan konsumen. Bagi pengguna Facebook Marketplace di Indonesia, kasus Robb menjadi pengingat untuk memeriksa ulang pengaturan izin sebelum menyerahkan percakapan jual beli ke agen AI.