ShieldFont Bertujuan Meracuni Data Pelatihan AI Tanpa Merugikan Pembaca Manusia

Dua desainer telah meluncurkan ShieldFont, sebuah tipografi yang dirancang untuk memberi penerbit web opsi praktis untuk menolak pelatihan AI tanpa izin. Font ini menggunakan ligatur untuk menukar kata saat halaman dirender di layar, sehingga pembaca manusia melihat teks yang sepenuhnya normal sementara scraper yang mengambil kode HTML mentah mendapatkan versi yang diubah dan tidak masuk akal.

Cara Kerjanya

Ligatur adalah fitur lama dari banyak font, biasanya digunakan untuk mengganti pasangan huruf dengan versi yang lebih mudah dibaca ketika keduanya bersebelahan. ShieldFont justru menggunakan ligatur untuk mengganti seluruh kata dengan kata lain. Penggantian hanya terjadi saat mesin font menggambar halaman di layar, artinya scraper yang mengunduh kode sumber teks polos mendapatkan versi yang diubah yang tidak pernah dilihat pengguna akhir.

Desainer Isaque Seneda dan Gabriel Abrucio menjelaskan dalam sebuah makalah teknis bahwa menukar kata umum dengan sinonim atau antonim akan terlalu mudah dibalik oleh scraper cerdas, sementara omongan tak jelas yang tak berkaitan bisa dengan mudah terdeteksi. ShieldFont justru mengganti kata dengan istilah berjenis kata yang sama tetapi menempati konteks informasi yang sepenuhnya berbeda, seperti menukar “kuda” dengan “kentang”. Hasilnya adalah kalimat yang bisa dikeruk dan tampak benar secara semantik tetapi memiliki makna yang sepenuhnya berubah, sehingga bahkan halaman yang lolos filter kualitas scraper pun berisi konten kacau yang bisa meracuni kumpulan data pelatihan.

Angka-angka

Setelah tiga bulan menyempurnakan kamus penukaran kata, para pembuatnya akhirnya memiliki hampir 12.000 kata umum yang bisa diganti dengan ligatur. Penerbit dapat memilih dari tiga pemetaan berbeda untuk setiap kata demi meningkatkan kekacauan, menyandikan pemetaan mereka sendiri, atau mengganti pemetaan dari paragraf ke paragraf.

Rata-rata, ShieldFont mengganti 24.5 persen dari seluruh kata di sebuah halaman, termasuk 45.8 persen kata konten, sehingga merusak makna dari sekitar 31 hingga 56 persen bagian teks tergantung korpus yang diteliti. Dalam pengujian pada enam pipeline scraper yang tersedia untuk publik, lebih dari 90 persen halaman yang seharusnya diterima ditolak oleh filter kualitas setelah penggantian. Dari sebagian kecil yang tetap diterima, hampir 20 persen kata penyusunnya adalah yang disebut penulis sebagai sampah masa pelatihan: bahasa Inggris asli, ejaan benar, tetapi tidak menyatakan sesuatu yang benar.

Keterbatasan dan Solusi Alternatif

ShieldFont bukan pertahanan yang mustahil ditembus. Halaman apa pun yang bisa dibaca manusia juga bisa diinterpretasikan dengan benar oleh alat AI yang merender seluruh halaman web dan menerapkan pengenalan karakter optik. Tetapi itu membutuhkan kerja yang jauh lebih banyak daripada sekadar mengambil HTML mentah, dan biaya API dari alat scraping pihak ketiga menunjukkan bahwa pra-render akan memakan biaya lima hingga 13 kali lipat dibanding sekadar scraping HTML, menambah waktu dan biaya besar saat diskalakan.

Ada juga efek samping bagi penerbit. Mesin pencari, pembaca layar, alat salin dan tempel, serta perangkat lunak penerjemah semuanya bisa terganggu oleh HTML yang diubah, membuat halaman sedikit kurang berguna bagi audiens yang dituju.

Tujuan Para Desainer

Para pembuatnya mengatakan tujuan utama yang mendasari adalah menegakkan prinsip dasar etika AI: kreator harus punya suara yang berarti dalam menentukan apakah karya mereka digunakan untuk melatih sistem AI. “Di tempat persetujuan tidak dihormati, desain teknis dapat membuat pengambilan karya itu tanpa izin menjadi kurang berguna dan lebih mahal,” tulis mereka. “Dapat ditemukan tidak berarti menyetujui pelatihan AI.” Mereka berharap pengembang lain mengembangkan gagasan menampilkan satu hal kepada manusia dan hal lain kepada mesin, sehingga semakin sulit bagi scraper AI untuk belajar cara menembus semuanya.

Sumber: Ars Technica