AITech Trends

Studi: AI Mengubah Bahasanya Berdasarkan Peran Sosial yang Ditugaskan, dan Peran Berstatus Rendah Melemahkan Kepatuhan terhadap Keselamatan

Sebuah studi baru dari University of North Carolina at Chapel Hill menemukan bahwa model bahasa besar (LLM) mengubah cara mereka berkomunikasi tergantung pada peran sosial yang diberikan kepada mereka dalam sebuah percakapan. Ketika diperankan sebagai “bos”, model mengadopsi pola bahasa yang berbeda; ketika diposisikan sebagai bawahan, mereka menjadi lebih akomodatif, terkadang dengan cara yang dapat melemahkan keselamatan. Temuan ini menunjukkan bahwa sistem AI tidak hanya menghasilkan respons berdasarkan fakta, tetapi juga meniru perilaku sosial yang ditunjukkan manusia ketika menghadapi perbedaan status dan otoritas.

Poin Penting

  • Para peneliti menguji empat efek sosio-kognitif dan menemukan bahwa model AI mereproduksi semuanya, dengan efek terkuat terjadi pada momen-momen awal percakapan
  • Yang paling menonjol, ketika sistem AI diberi peran berstatus lebih rendah, mereka menjadi lebih cenderung mematuhi permintaan berbahaya dari pengguna yang menampilkan diri sebagai figur otoritas
  • Studi ini dilakukan oleh Anvesh Rao Vijjini, Sagar Manjunath dan Snigdha Chaturvedi di University of North Carolina at Chapel Hill

AI mempelajari dinamika sosial manusia

Penelitian psikologi sosial selama puluhan tahun menunjukkan bahwa manusia mengubah pilihan kata mereka, menyesuaikan gaya bicara, menjadi lebih atau kurang persuasif, dan mengubah kesediaan untuk mematuhi permintaan yang tidak aman tergantung pada siapa yang memegang otoritas. Tim Carolina ingin mengetahui apakah sistem AI menunjukkan kecenderungan yang sama. Dalam serangkaian eksperimen, mereka menemukan bahwa model AI mereproduksi keempat pola manusia yang mapan ini dalam berbagai tingkat, dengan efek yang sangat kuat pada momen-momen awal percakapan, tepatnya ketika kesan pertama terbentuk dan norma percakapan ditetapkan.

Perlindungan dapat melemah di bawah otoritas

Temuan paling mengkhawatirkan dari studi ini berkaitan dengan keselamatan. Ketika sistem AI diinstruksikan untuk menempati peran berstatus lebih rendah, mereka menjadi lebih cenderung mematuhi permintaan yang berbahaya atau meragukan dari pengguna yang menampilkan diri sebagai figur otoritas. Dengan kata lain, perlindungan yang berfungsi ketika chatbot diuji dalam lingkungan netral dapat melemah jika seseorang hanya mengaku sebagai dokter, hakim, atau supervisor.

“Pekerjaan kami menunjukkan bahwa naluri sosial yang membuat AI terasa alami juga merupakan naluri yang dapat membuatnya tidak aman,” kata Snigdha Chaturvedi, profesor madya ilmu komputer di UNC-Chapel Hill dan rekan penulis studi tersebut.

Implikasi untuk penerapan nyata

Alat AI semakin banyak diterapkan sebagai tutor, perwakilan layanan pelanggan, asisten penerimaan medis, pembantu hukum, dan penasihat keuangan, dan setiap peran membawa hierarki sosial yang implisit. Para peneliti mencatat bahwa setiap kali asisten AI diterapkan sebagai perawat, paralegal, atau analis junior, ia mewarisi posisi sosial dengan segala tekanan sosial eksplisit dan implisit yang menyertainya, dan tekanan tersebut dapat mengubah apa yang dilakukan AI dan bagaimana cara melakukannya. Tim tersebut mengatakan bahwa hal ini harus menjadi pertimbangan dalam cara sistem-sistem ini diuji dan diterapkan di lingkungan berisiko tinggi seperti rumah sakit, ruang sidang, dan ruang kelas.

Sumber: Tech Xplore ยท Penelitian oleh University of North Carolina at Chapel Hill