JURNALPOSMEDIA.COM – Setelah ramai edit foto miniatur, kini media sosial viral edit foto polaroid bersama idol K-Pop maupun orang tercinta yang sudah tiada menggunakan Gemini (Artificial Intelligence) AI, kecerdasan buatan AI yg baru. Warganet mengedit foto dengan pose akrab, seperti berdiri berdampingan hingga berpelukan. Edit foto tersebut memperlihatkan hasil kamera polaroid dengan latar belakang tirai putih.
Meskipun AI diklaim ramah bagi pengguna muda, sistem keamanan serta pendekatannya masih perlu ditingkatkan secara mendasar. Filter dan label sederhana dinilai tidak memadai, sehingga Google didorong untuk menciptakan AI yang benar-benar aman bagi anak dengan cara lebih menyeluruh dan transparan. Meski begitu, Google mengakui bahwa masih ada kasus dimana Gemini memberikan respons yang tidak sesuai.
Di balik kecanggihannya, Common Sense Media dengan tepat menyoroti bahwa AI menyimpan risiko bagi pengguna di bawah 18 tahun, dan perusahaan harus memastikan bahwa fitur-fitur yang tersedia pada versi anak-anak benar-benar dirancang dengan mempertimbangkan kebutuhan dan keamanan mereka.
Penggunaan teknologi AI dalam menghasilkan gambar dari data pribadi memang menawarkan kemudahan dan kreativitas, namun menyimpan juga risiko besar terhadap privasi pengguna. Data pribadi yang digunakan untuk melatih AI bisa saja disalahgunakan tanpa izin, sehingga penting bagi pengguna untuk lebih waspada dan memahami potensi ancaman ini.
Semakin banyak foto yang kita unggah ke generator gambar AI, semakin pintar alat-alat ini, sehingga semakin sulit membedakan foto asli dari yang palsu. Bahkan, menggunakan AI hanya untuk menyempurnakan foto Anda dapat secara tidak sengaja membantu menciptakan masa depan di mana akan lebih sulit membedakan foto orang asli atau fiktif yang dihasilkan oleh Gemini AI.
Label high risk pada Gemini menunjukkan bahwa AI memiliki potensi bahaya yang signifikan, terutama dalam konteks perlindungan anak dan remaja. Sehingga perlu dilakukan pengawasan dan regulasi yang lebih ketat untuk mencegah dampak negatif.
