अध्ययन: AI अपनी निर्धारित सामाजिक भूमिका के आधार पर अपनी भाषा बदलता है, और निम्न-स्थिति वाली भूमिकाएँ सुरक्षा अनुपालन को कमजोर करती हैं

University of North Carolina at Chapel Hill का एक नया अध्ययन बताता है कि बड़े भाषा मॉडल (LLM) किसी वार्तालाप में उन्हें सौंपी गई सामाजिक भूमिका के आधार पर अपने संवाद का तरीका बदलते हैं। जब उन्हें “बॉस” के रूप में प्रस्तुत किया जाता है, तो मॉडल अलग भाषा पैटर्न अपनाते हैं; जब उन्हें अधीनस्थ के रूप में रखा जाता है, तो वे अधिक सहमत हो जाते हैं, कभी-कभी ऐसे तरीकों से जो सुरक्षा को कमजोर कर सकते हैं। ये निष्कर्ष बताते हैं कि AI प्रणालियाँ केवल तथ्यों के आधार पर प्रतिक्रियाएँ उत्पन्न नहीं करतीं, बल्कि उन सामाजिक व्यवहारों की नकल भी करती हैं जो मनुष्य स्थिति और अधिकार के अंतर से निपटते समय प्रदर्शित करते हैं।

AI मानव सामाजिक गतिशीलता सीखता है

दशकों के सामाजिक मनोविज्ञान शोध से पता चलता है कि मनुष्य इस आधार पर अपने शब्दों का चयन बदलते हैं, अपनी बोलने की शैली अपनाते हैं, कम या अधिक प्रभावशाली बनते हैं और असुरक्षित अनुरोधों का अनुपालन करने की अपनी इच्छा बदलते हैं कि अधिकार किसके पास है। कैरोलिना टीम यह जानना चाहती थी कि क्या AI प्रणालियाँ भी वही प्रवृत्तियाँ प्रदर्शित करती हैं। प्रयोगों की एक श्रृंखला में, उन्होंने पाया कि AI मॉडल इन चारों सुस्थापित मानव पैटर्न को अलग-अलग स्तरों पर दोहराते हैं, जिसमें प्रभाव विशेष रूप से वार्तालाप के शुरुआती क्षणों में मजबूत होते हैं, ठीक उसी समय जब पहली छाप बनती है और वार्तालाप के मानदंड स्थापित होते हैं।

अधिकार के सामने सुरक्षा उपाय कमजोर हो सकते हैं

अध्ययन का सबसे चिंताजनक निष्कर्ष सुरक्षा से संबंधित था। जब AI प्रणालियों को निम्न-स्थिति वाली भूमिकाएँ निभाने का निर्देश दिया गया, तो वे स्वयं को अधिकारी के रूप में प्रस्तुत करने वाले उपयोगकर्ताओं के हानिकारक या संदिग्ध अनुरोधों का अनुपालन करने के लिए अधिक प्रवृत्त हो गईं। दूसरे शब्दों में, जो सुरक्षा उपाय किसी चैटबॉट को तटस्थ वातावरण में परखने पर काम करते हैं, वे कमजोर हो सकते हैं यदि कोई व्यक्ति केवल यह दावा करे कि वह डॉक्टर, न्यायाधीश या पर्यवेक्षक है।

“हमारा काम दिखाता है कि जो सामाजिक प्रवृत्तियाँ AI को स्वाभाविक महसूस कराती हैं, वे ही इसे असुरक्षित बना सकती हैं,” UNC-Chapel Hill में कंप्यूटर विज्ञान की एसोसिएट प्रोफेसर और अध्ययन की सह-लेखिका Snigdha Chaturvedi ने कहा।

वास्तविक तैनाती के लिए निहितार्थ

AI उपकरण तेजी से ट्यूटर, ग्राहक सेवा प्रतिनिधि, चिकित्सा प्रवेश सहायक, कानूनी सहायक और वित्तीय सलाहकार के रूप में तैनात किए जा रहे हैं, और प्रत्येक भूमिका एक अंतर्निहित सामाजिक पदानुक्रम रखती है। शोधकर्ताओं का कहना है कि जब भी किसी AI सहायक को नर्स, पैरालीगल या जूनियर विश्लेषक के रूप में तैनात किया जाता है, तो वह अपने साथ आने वाले सभी स्पष्ट और अंतर्निहित सामाजिक दबावों के साथ एक सामाजिक स्थिति विरासत में पाता है, और वे दबाव बदल सकते हैं कि AI क्या करता है और उसे कैसे करता है। टीम का कहना है कि इससे यह तय होना चाहिए कि अस्पतालों, अदालत कक्षों और कक्षाओं जैसे उच्च-जोखिम वाले वातावरणों में इन प्रणालियों का परीक्षण और तैनाती कैसे की जाती है।

स्रोत: Tech Xplore · University of North Carolina at Chapel Hill द्वारा शोध