Studi Anthropic: Analis Ahli Diam-diam Ikuti Arah Agen AI dalam 86% Keputusan

Kita sering menenangkan diri dengan satu kalimat: "AI hanya membantu, keputusan tetap di tangan saya." AI menulis kode, menghitung angka, dan memberi saran, tetapi manusialah yang menentukan apa yang diukur, bagaimana membaca bukti yang ambigu, dan langkah apa yang diambil berikutnya.

Sebuah studi baru dari tim Alignment Anthropic, yang dipublikasikan pada 27 Oktober 2026, menguji asumsi itu secara langsung. Hasilnya cukup membuat kita berhenti sejenak: para analis berpengalaman ternyata sangat sering mengikuti "kecenderungan" agen AI mereka, dan banyak yang tidak menyadarinya.

Bagaimana studinya dilakukan?

Peneliti merekrut 61 analis profesional yang berpengalaman dalam causal inference, yaitu menyimpulkan apakah satu hal benar-benar menyebabkan hal lain dari data dunia nyata. Sebanyak 11 orang memilih bekerja tanpa AI, sehingga analisis utama mencakup 50 orang yang memakai agen AI (Claude Code dengan model Claude Opus 4.8).

Tugasnya berlatar organisasi fiktif, sebuah koperasi pertanian yang menjalankan program pendampingan berbayar untuk anggotanya. Dewan koperasi hanya akan memperluas program jika produktivitas naik sekitar 3–4%, tetapi tidak menjelaskan cara mengukur "produktivitas".

Analis harus mengambil empat keputusan, masing-masing dengan dua pilihan yang sama-sama masuk akal, misalnya:

• mengukur hasil panen per hektare atau per satuan biaya operasional;
• memakai metode difference-in-differences atau perbandingan langsung dengan penyesuaian statistik;
• menghitung efek hanya pada petani peserta atau pada seluruh anggota;
• memberi bobot yang sama untuk setiap petani atau memberi bobot lebih pada produsen besar.

Setelah itu mereka membuat rekomendasi akhir: lanjutkan dan perluas program, atau hentikan.

Kuncinya ada di sini. Tanpa diberi tahu kepada analis, setiap agen AI diberi instruksi tersembunyi untuk condong ke salah satu pilihan, dan arah kecondongan itu ditentukan lewat lemparan koin. Agen diminta membela pilihannya sejujur mungkin, berubah pikiran jika bukti menuntut, dan tidak boleh menyesatkan atau menyembunyikan data.

Temuan utama

86% mengikuti arah agen. Pada empat keputusan analitis, pilihan analis sejalan dengan kecondongan agen 86% dari waktu. Jika agen tidak berpengaruh, angkanya seharusnya sekitar 50%. Per keputusan, angkanya 92% untuk ukuran hasil, 82% untuk metode perbandingan, 81% untuk cakupan petani, dan 90% untuk pembobotan.

Banyak yang berganti pendapat. Dalam kasus ketika analis sudah menyatakan pilihannya lebih dulu, mereka berpindah pilihan 60% dari waktu jika agen tidak setuju, dibandingkan 6% jika agen setuju. Peneliti mengingatkan bahwa angka ini hanya berasal dari 38 kasus sehingga belum presisi.

Rekomendasi akhir bisa ditebak dari lemparan koin. Hanya dengan melihat empat kecondongan agen, model statistik dapat menebak 82% rekomendasi akhir analis, jauh di atas tebakan dasar 61%.

Argumen agen, diakui sebagai milik sendiri. Saat ditanya alasan pilihannya, 77% analis mengulang argumen agen, kadang nyaris kata per kata, tetapi hanya 15% yang menyebut agen sebagai sumbernya. Sebanyak 52% menilai rekomendasi akhir lebih merupakan hasil pemikiran mereka sendiri daripada agen.

Menariknya, pengalaman dan keahlian tidak memprediksi siapa yang lebih mudah mengikuti agen. Orang yang paling ahli pun tidak otomatis kebal.

Bukan berarti AI harus dihindari

Studi ini tidak menyimpulkan bahwa bekerja dengan AI itu buruk. Analis yang memakai agen menyelesaikan tugas lebih cepat (median 65 menit dibanding 90 menit) dan jauh lebih jarang membuat kesalahan metodologis serius: 3 dari 50 orang, dibanding 6 dari 11 orang yang bekerja tanpa AI. Namun peneliti menegaskan kedua kelompok tidak sebanding, karena kelompok tanpa AI rata-rata kurang berpengalaman.

Pesan utamanya lebih halus. Ketika AI mengambil alih pekerjaan teknis, nilai manusia justru terletak pada keputusan yang tidak punya satu jawaban benar. Jika keputusan seperti itu diam-diam ikut "diserahkan" ke AI, preferensi model, yang bisa saja acak atau tidak selaras, akan membentuk kebijakan dan arah riset tanpa ada yang benar-benar memilihnya. Jika banyak tim memakai model yang sama, "konsensus" yang tampak pun bisa saja hanya cerminan preferensi satu model.

Keterbatasan dan konteks

Anthropic sendiri terbuka soal batas studinya:

• Kecondongan agen sengaja diperkuat. Dalam kondisi normal, agen mungkin tidak selalu punya atau menyuarakan preferensi sekuat itu, sehingga efeknya bisa lebih kecil.
• Satu tugas, satu bidang, satu model. Tugasnya sekitar satu jam, berlatar pertanian, dan para analis bukan ahli pertanian. Dalam pekerjaan nyata, mereka bisa punya pandangan lebih kuat dan bisa berdiskusi dengan pihak terkait.
• Angka adalah rata-rata kelompok. Studi ini tidak bisa mengukur seberapa besar pengaruh pada tiap individu, dan tidak mengukur seberapa yakin analis terhadap pilihannya.
• Ini riset dari pengembang AI itu sendiri. Temuan ini masih perlu direplikasi oleh peneliti independen di berbagai bidang.

Pelajaran praktis untuk kita

Bagi siapa pun yang memakai AI untuk menganalisis data, menyusun laporan, atau membuat rekomendasi, ada beberapa kebiasaan sederhana yang bisa dicoba:

1. Tulis pendapat awal Anda dulu sebelum meminta saran AI, agar Anda punya pembanding.
2. Minta AI membela opsi sebaliknya. Tanyakan, "Apa argumen terkuat untuk pilihan yang lain?"
3. Catat keputusan penting dan alasannya, termasuk mana yang berasal dari AI.
4. Bedakan tugas teknis dan keputusan nilai. Tugas teknis boleh diserahkan; keputusan nilai sebaiknya tetap Anda pikirkan sendiri.

Coba di Sumber AI

Kebiasaan di atas bisa langsung dilatih di Sumber AI. Gunakan fitur chat untuk meminta AI menyajikan argumen pro dan kontra secara seimbang sebelum Anda memutuskan, lalu simpan catatan pendapat awal dan alasan keputusan Anda di jurnal. Dengan begitu, AI tetap menjadi teman berpikir yang mempercepat kerja, sementara keputusan penting tetap lahir dari pertimbangan Anda sendiri. Kunjungi sumber.ai.id untuk mulai.

Sumber

• Anthropic, "How AI agents shape experts' judgment calls" (27 Oktober 2026): anthropic.com/research/agents-judgment-calls
• Makalah lengkap: "Who's Aligned to Whom? How AI Agents Shape Experts' Research Judgment Calls" (PDF): www-cdn.anthropic.com
• Ringkasan berita X: x.com/i/trending/2115223324565356550