News

ShieldFont का लक्ष्य: मानव पाठकों को नुकसान पहुँचाए बिना AI प्रशिक्षण डेटा को दूषित करना

दो डिज़ाइनरों ने ShieldFont लॉन्च किया है, यह एक टाइपफेस है जिसे वेब प्रकाशकों को अनधिकृत AI प्रशिक्षण से बाहर निकलने का एक व्यावहारिक विकल्प देने के लिए डिज़ाइन किया गया है। यह फ़ॉन्ट लिगेचर का उपयोग करके पृष्ठ के स्क्रीन पर रेंडर होने पर शब्दों की अदला-बदली करता है, जिससे मानव पाठकों को बिल्कुल सामान्य टेक्स्ट दिखता है, जबकि कच्चा HTML सोर्स खींचने वाले स्क्रेपर्स को एक बदला हुआ, अर्थहीन संस्करण मिलता है।

मुख्य निष्कर्ष

  • ShieldFont लिगेचर के ज़रिए रेंडर समय पर शब्दों की अदला-बदली करता है, जिससे मानव-पठनीय पृष्ठ बरकरार रहते हैं
  • इसका शब्दकोश लगभग 12,000 सामान्य शब्दों को कवर करता है, और औसतन प्रति पृष्ठ 24.5% शब्दों को बदल देता है
  • परीक्षण में, स्क्रेपर्स जिन 90% से अधिक पृष्ठों को अन्यथा स्वीकार कर लेते, उन्हें गुणवत्ता फ़िल्टर अस्वीकार कर देते हैं
  • डिज़ाइनर AI नैतिकता का हवाला देते हैं: रचनाकारों को यह कहने का अधिकार होना चाहिए कि उनका काम AI सिस्टम को प्रशिक्षित करता है या नहीं

यह कैसे काम करता है

लिगेचर कई फ़ॉन्ट्स की एक लंबे समय से मौजूद विशेषता है, जिसका उपयोग आमतौर पर अक्षरों के जोड़े को अधिक पठनीय संस्करण से बदलने के लिए किया जाता है जब वे एक-दूसरे के बगल में आते हैं। ShieldFont इसके बजाय लिगेचर का उपयोग पूरे शब्दों को दूसरे शब्दों से बदलने के लिए करता है। यह प्रतिस्थापन केवल तब होता है जब फ़ॉन्ट इंजन पृष्ठ को स्क्रीन पर चित्रित करता है, जिसका अर्थ है कि प्लेन-टेक्स्ट सोर्स कोड डाउनलोड करने वाले स्क्रेपर्स को एक बदला हुआ संस्करण मिलता है जिसे अंतिम उपयोगकर्ता कभी नहीं देखते।

डिज़ाइनर Isaque Seneda और Gabriel Abrucio एक श्वेतपत्र में बताते हैं कि सामान्य शब्दों को पर्यायवाची या विलोम शब्दों से बदलना एक स्मार्ट स्क्रेपर के लिए उलटना बहुत आसान होगा, जबकि असंबंधित अर्थहीन शब्दों का आसानी से पता लगाया जा सकता है। ShieldFont इसके बजाय शब्दों को उसी शब्द-भेद के ऐसे शब्दों से बदलता है जो पूरी तरह से अलग सूचनात्मक संदर्भ में आते हैं, जैसे “घोड़ा” को “आलू” से बदलना। परिणाम एक ऐसा वाक्य है जो स्क्रेप करने योग्य और अर्थ की दृष्टि से सही दिखता है, लेकिन उसका अर्थ पूरी तरह से बदल जाता है, इसलिए स्क्रेपर के गुणवत्ता फ़िल्टर को पास करने वाले पृष्ठों में भी ऐसी गड़बड़ सामग्री होती है जो प्रशिक्षण डेटासेट को दूषित कर सकती है।

आँकड़े

शब्द-अदला-बदली शब्दकोश को परिष्कृत करने के तीन महीनों के बाद, रचनाकारों के पास लगभग 12,000 सामान्य शब्द रह गए जिन्हें लिगेचर से बदला जा सकता है। प्रकाशक अराजकता बढ़ाने के लिए प्रत्येक शब्द के लिए तीन अलग-अलग मैपिंग में से चुन सकते हैं, अपनी खुद की मैपिंग एनकोड कर सकते हैं, या पैराग्राफ दर पैराग्राफ मैपिंग बदल सकते हैं।

औसतन, ShieldFont किसी पृष्ठ के सभी शब्दों का 24.5 प्रतिशत बदल देता है, जिसमें 45.8 प्रतिशत सामग्री शब्द शामिल हैं, और अध्ययन किए गए कॉर्पस के आधार पर 31 से 56 प्रतिशत के बीच के अलग-अलग अनुच्छेदों के अर्थ को खराब कर देता है। छह सार्वजनिक रूप से उपलब्ध स्क्रेपर पाइपलाइनों पर परीक्षण में, 90 प्रतिशत से अधिक ऐसे पृष्ठ जिन्हें अन्यथा स्वीकार कर लिया जाता, प्रतिस्थापन के बाद गुणवत्ता फ़िल्टर द्वारा अस्वीकार कर दिए जाते हैं। उस छोटे उपसमूह में से जो फिर भी स्वीकार हो जाता है, लगभग 20 प्रतिशत घटक शब्द वे हैं जिन्हें लेखक प्रशिक्षण-समय का कचरा कहते हैं: असली अंग्रेज़ी, सही वर्तनी वाली, जो कोई सच नहीं कहती।

सीमाएँ और समाधान

ShieldFont कोई अचूक बचाव नहीं है। कोई भी पृष्ठ जो मानव पढ़ सकता है, उसे कोई AI टूल भी सही ढंग से समझ सकता है जो पूरे वेबपेज को रेंडर करके ऑप्टिकल कैरेक्टर रिकग्निशन लागू करता है। लेकिन उसके लिए कच्चा HTML खींचने की तुलना में कहीं अधिक मेहनत चाहिए, और तीसरे पक्ष के स्क्रेपिंग टूल्स की API लागत बताती है कि प्री-रेंडरिंग की कीमत सिर्फ HTML स्क्रेप करने से पाँच से 13 गुना तक अधिक होगी, जिससे बड़े पैमाने पर भारी समय और खर्च जुड़ता है।

प्रकाशकों के लिए भी दुष्प्रभाव हैं। खोज इंजन, स्क्रीन रीडर, कॉपी-पेस्ट टूल और अनुवाद सॉफ़्टवेयर सभी बदले हुए HTML से प्रभावित हो सकते हैं, जिससे पृष्ठ लक्षित दर्शकों के लिए कुछ हद तक कम उपयोगी हो जाता है।

डिज़ाइनरों का लक्ष्य

रचनाकारों का कहना है कि उनका मुख्य अंतर्निहित उद्देश्य AI नैतिकता के एक बुनियादी सिद्धांत को लागू करना है: रचनाकारों को यह कहने में सार्थक अधिकार होना चाहिए कि उनका काम AI सिस्टम को प्रशिक्षित करने के लिए इस्तेमाल होता है या नहीं। “जहाँ सहमति का सम्मान नहीं किया जाता, वहाँ तकनीकी डिज़ाइन बिना अनुमति के उस काम को लेना कम उपयोगी और अधिक महंगा बना सकता है,” वे लिखते हैं। “खोजे जाने योग्य होने का मतलब AI प्रशिक्षण के लिए सहमति देना नहीं है।” वे आशा करते हैं कि अन्य डेवलपर मनुष्यों को एक चीज़ और मशीनों को कुछ और दिखाने के विचार को आगे बढ़ाएँगे, जिससे AI स्क्रेपर्स के लिए उन सभी को बायपास करना सीखना कठिन हो जाएगा।

स्रोत: Ars Technica