Peneliti Universitas Negeri Pennsylvania (Penn State) di Amerika Serikat, bekerja sama dengan Oregon State University, mengembangkan alat “prompt coaching” yang memperingatkan pengguna saat prompt mereka berpotensi menghasilkan konten bias dari sistem AI generatif.Alat ini dirancang khusus untuk integrasi ke dalam aplikasi teks‑ke‑gambar, sehingga pengguna dapat segera memperbaiki cara mereka merumuskan instruksi ke AI sebelum gambar dihasilkan.
Bagaimana alat “inclusive prompt coaching” Bekerja
Ketika pengguna mengetikkan deskripsi karakter atau adegan, alat tersebut memindai kata‑kata dan pola yang berpotensi menguatkan stereotip ras, gender, profesi, atau kelompok sosial tertentu.Jika ditemukan risiko bias, sistem menampilkan peringatan plus saran alternatif yang lebih inklusif, misalnya mengganti frasa yang terlalu umum atau stereotip dengan deskripsi yang lebih spesifik dan netral.
Pengaruh Terhadap Kesadaran dan Kepercayaan Pengguna
Studi terhadap 344 partisipan menunjukkan bahwa kelompok yang menggunakan “inclusive prompt coaching” lebih sadar terhadap bias algoritmik dan merasa lebih percaya diri saat merancang prompt yang adil.Selain itu, mereka tampak lebih mampu menyesuaikan kepercayaan mereka terhadap sistem AI, artinya mereka tidak lagi terlalu menyanjung atau terlalu meremehkan kemampuan dan keterbatasan AI.
Berikut ini kelebihan yang diberikan.
- Kesadaran bias meningkat
- Kemampuan membuat prompt adil lebih baik
- Persepsi terhadap kepercayaan AI lebih terukur
- Pengalaman interaksi lebih reflektif
Dengan demikian, alat ini tidak hanya mengurangi risiko gambar yang stereotip, tetapi juga menjadi bentuk “literasi media” yang ditanamkan langsung di dalam antarmuka AI.Peneliti menekankan bahwa pendekatan ini bisa menjadi model bagi platform besar untuk mengajar pengguna secara otomatis, tanpa menggantungkan hanya pelatihan offline.
Tantangan dari Sisi Pengalaman Pengguna
Di sisi lain, banyak pengguna mengaku alat ini membuat interaksi terasa lebih berat dan kurang menyenangkan, terutama ketika mereka ingin bebas berekspresi tanpa banyak intervensi.Beberapa peserta merasa disuruh mengubah prompt mereka terlalu sering, sehingga keistimewaan “kemudahan” AI generatif terasa berkurang seperti:
- Umpan balik dianggap mengganggu
- Kendala kreativitas spontan
- Kurangnya fleksibilitas kondisional
- Tingkat personalisasi belum optimal
Tim peneliti menyarankan agar versi berikutnya menghadirkan lebih banyak opsi penyesuaian, misalnya bisa dimatikan, disesuaikan ketatannya, atau ditargetkan pada konteks tertentu seperti pendidikan dan media.Pertanyaannya sekarang adalah: sejauh mana kita bersedia menukar kenyamanan instan dengan tanggung jawab menyaring bias sejak awal kalimat yang kita ketik ke AI
