0
0
Platform Hugging Face yang dikenal sebagai repositori model AI open-source kini mendapat sorotan karena laporan terbaru dari AI Forensics. Organisasi nirlaba Eropa ini menemukan bahwa tujuh dari sembilan model pengeditan gambar teratas di platform tersebut mudah dimanfaatkan untuk membuat deepfake non-konsensual.
Temuan ini menyoroti celah keamanan dalam ekosistem AI terbuka. Banyak developer dan peneliti mengandalkan Hugging Face untuk berbagi model, namun minimnya filter memungkinkan penyalahgunaan oleh pihak yang tidak bertanggung jawab.
Dampaknya tidak hanya soal privasi individu, tapi juga bisa memperburuk kepercayaan publik terhadap teknologi AI secara keseluruhan. Ketika model yang seharusnya untuk kreativitas atau riset justru dipakai untuk konten berbahaya, industri perlu memikirkan ulang cara distribusi model.
Salah satu konteks penting yang perlu diperhatikan adalah bagaimana komunitas open-source selama ini fokus pada aksesibilitas tanpa banyak mekanisme pencegahan. Ini berbeda dengan perusahaan besar yang biasanya punya tim moderasi lebih ketat.
Selain itu, laporan tersebut juga mengingatkan bahwa regulasi AI di Eropa semakin ketat, sehingga platform seperti Hugging Face mungkin akan menghadapi tekanan lebih besar untuk menerapkan proteksi tambahan di masa depan.
Ke depan, kolaborasi antara pengembang model, platform hosting, dan regulator menjadi kunci agar inovasi AI tidak disalahgunakan.
