Aman, kritis, dan bertanggung jawab

Lampu Lalu Lintas AI

Sebelum menempel apa pun ke aplikasi AI, cek warnanya.

Kenapa zona merah serius? Peneliti berhasil mengeluarkan ratusan potongan teks dari data latih sebuah model bahasa, kata per kata, termasuk nama, nomor telepon, dan alamat email (Carlini dkk., 2021). Apa yang masuk ke data latih bisa keluar lagi.

Apa yang kamu ketik bisa disimpan penyedia layanan, dan di sebagian pengaturan bisa dipakai untuk melatih model. Cek pengaturan privasi aplikasimu dan kebijakan AI di kantormu. Akun kerja (enterprise) biasanya punya perlindungan berbeda dari akun pribadi gratis. Lampu Lalu Lintas adalah framework praktik People Dev AI.

Tetap bisa dipakai: samarkan dulu

Di Indonesia, data pribadi dilindungi UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) (UU PDP, 2022). Menempel data pelanggan atau karyawan ke alat AI publik tanpa dasar yang sah bisa menjadi masalah hukum, bukan hanya masalah etika.

Verifikasi sebelum percaya

Setiap jawaban AI yang akan kamu pakai, uji dengan tiga pertanyaan:

Wajib cek sumber untuk angka, tanggal, nama, kutipan, aturan hukum, kesehatan, keuangan, dan apa pun yang akan dipublikasikan atau jadi dasar keputusan:

• Buka sendiri sumber yang disebut AI. Seperti temuan di atas, AI bisa mengarang judul artikel, nama jurnal, bahkan link.
• Untuk paper dan jurnal: cari DOI-nya di doi.org atau judulnya di Google Scholar. Kalau tidak ketemu, anggap tidak ada.
• Cocokkan ke minimal dua sumber tepercaya lain (situs resmi pemerintah, lembaga, media kredibel).
• Minta AI menyanggah dirinya: “Apa kemungkinan salah dari jawabanmu tadi?”

Tanda bahaya: angka sangat presisi tanpa sumber · kutipan tokoh yang tidak bisa kamu temukan di mana pun · referensi yang tidak muncul saat dicari · jawaban sangat yakin tentang kejadian terbaru.

Automation bias: terlalu percaya pada mesin

Kecenderungan menerima saran sistem otomatis tanpa cukup memeriksa disebut automation bias. Riset selama puluhan tahun menunjukkan ia dialami pemula maupun ahli, dan tidak cukup dicegah hanya dengan pelatihan atau instruksi (Parasuraman & Manzey, 2010). Tinjauan sistematis atas 74 studi menemukan beban kerja tinggi dan tekanan waktu memperbesar risikonya. Yang menguranginya antara lain pelatihan dan menegaskan bahwa pengguna tetap bertanggung jawab atas keputusannya (Goddard dkk., 2012).

“AI yang bilang begitu” bukan alasan. Yang menandatangani tetap kamu.

Deepfake & konten sintetis

Artinya: jangan mengandalkan mata dan telinga. Video pejabat yang “mengatakan” hal mengejutkan, atau telepon dengan suara mirip keluargamu yang minta transfer darurat, bisa saja buatan AI. Andalkan verifikasi lewat jalur lain:

• Cek sumber asli dan media kredibel sebelum membagikan.
• Untuk permintaan uang: tutup telepon, lalu hubungi orangnya lewat nomor yang kamu simpan sendiri.
• Waspadai pesan yang mendesak dan emosional. Itu ciri umum penipuan.

Bias, keadilan, dan siapa yang bertanggung jawab

• Bias di gambar. Prompt yang biasa saja, menyebut profesi, sifat, atau benda, menghasilkan gambar yang memperkuat stereotip ras dan gender. Stereotip ini tetap muncul meski pengguna atau penyedia sudah mencoba mencegahnya (Bianchi dkk., 2023). Tanyakan: siapa yang tidak terwakili?
• Bias dari “ukuran pengganti”. Sebuah algoritma kesehatan di AS memakai biaya pengobatan sebagai pengganti tingkat sakit. Akibatnya pasien kulit hitam yang sama sakitnya dinilai lebih rendah risikonya. Setelah diperbaiki, porsi mereka yang mendapat bantuan naik dari 17,7% ke 46,5% (Obermeyer dkk., 2019). Di HR, hal serupa bisa terjadi bila “asal kampus” atau “lama bekerja” dipakai sebagai pengganti “kemampuan”.
• Keputusan berdampak besar (rekrutmen, penilaian kinerja, kredit, kesehatan): AI boleh membantu menyaring atau merangkum, tapi manusia meninjau dan memutuskan.
• Transparan. Kalau relevan (ke klien, atasan, sekolah), jujur bagian mana yang dibantu AI dan bahwa kamu sudah memeriksanya.
• Hak cipta. Jangan mengakui karya orang lain sebagai milikmu, dan cek lisensi gambar atau materi yang kamu pakai. Aturan hak cipta untuk hasil AI masih terus berkembang.