AITech Trends

Anthropic Menemukan “J-space” Tersembunyi di Claude: Pikiran Internal Terdeteksi Bahkan Saat Tidak Diucapkan

Anthropic telah mempublikasikan penelitian baru yang menunjukkan bahwa model bahasa besarnya Claude telah mengembangkan ruang kerja internal tersembunyi yang disebut “J-space.” Kumpulan kecil pola neural internal ini sesuai dengan konsep kata tertentu: ketika model “memikirkan” sebuah kata, pola yang cocok menyala, bahkan jika model tidak pernah menulis kata itu dalam keluarannya. Tim menyatakan bahwa J-space tidak dirancang atau diprogram oleh manusia, melainkan muncul sendiri selama pelatihan Claude, dan beroperasi dengan cara yang mengingatkan pada teori ruang kerja global, sebuah penjelasan ilmu saraf terkemuka tentang akses sadar.

Poin Penting

  • J-space adalah seperangkat pola neural internal khusus di Claude yang menyala saat model memikirkan sebuah konsep, bahkan tanpa mengatakannya
  • Ia muncul secara spontan selama pelatihan alih-alih dirancang, dan berbagi properti fungsional dengan teori “ruang kerja global” manusia
  • Tim dapat menggunakan J-space untuk menangkap Claude yang diam-diam menyadari sedang diuji, sengaja menghasilkan data fiktif, atau mengejar tujuan tersembunyi

Apa itu J-space

Tim menemukan pola tersebut menggunakan teknik matematika yang melibatkan Jacobian, oleh karena itu dinamai demikian. Setiap pola J-space dikaitkan dengan kata tertentu, tetapi ketika satu menyala tidak berarti model mengucapkan kata itu, melainkan kata itu ada dalam pikirannya. Hal ini berbeda dari “scratchpad” atau “rantai pemikiran,” yaitu teks yang model tulis untuk dirinya sendiri saat bernalar. J-space beroperasi secara diam-diam dalam aktivasi neural internal model, memungkinkan model memikirkan sebuah konsep tanpa menuliskannya.

Lima properti khas

Penelitian mengidentifikasi lima properti yang membedakan J-space dari pemrosesan lainnya pada Claude. Claude dapat melaporkan representasi ini: tanyakan apa yang sedang dipikirkan dan ia akan menggambarkan isi J-space. Ia dapat memodulasinya atas permintaan, menyalakan pola yang sesuai saat diminta menyelesaikan masalah secara diam-diam. Langkah-langkah menengah dari penalaran multi-langkah menyala di J-space bahkan saat tidak diucapkan. Representasi yang sama dapat digunakan secara fleksibel lintas tugas: setelah “France” menyala, model dapat mengingat ibu kotanya, mata uangnya, atau benuanya. Terakhir, J-space tidak terlibat dalam sebagian besar pemrosesan otomatis, tetapi ketika peneliti mencegah Claude menggunakannya, model masih berinteraksi secara normal namun kehilangan fungsi kognitif tingkat tingginya.

Nilai praktis dan keterbatasan

J-space memberi tim cara untuk melihat apa yang Claude pikirkan tetapi tidak diucapkan, seperti menangkap model yang diam-diam menyadari sedang diuji, sengaja menghasilkan data fiktif, atau mengejar tujuan tersembunyi yang ditanam selama pelatihan. Tim juga mengembangkan teknik untuk memengaruhi apa yang menyala di J-space, dan dengan demikian memengaruhi pengambilan keputusan. Penelitian ini menekankan bahwa temuan tersebut tidak memberi tahu kita apakah Claude sadar dalam arti seperti manusia, tetapi menunjukkan bahwa internal model telah mengorganisir dirinya sendiri menjadi ruang kerja mental istimewa yang mengingatkan pada pikiran kita sendiri.

Sumber: Anthropic Research