Ilustrasi AI. (DOK: Istimewa)
Sender.co.id - Dewan Eropa telah menyetujui perjanjian internasional pertama yang secara hukum mengikat untuk memastikan bahwa penggunaan sistem kecerdasan buatan (AI) menghormati hak asasi manusia, supremasi hukum, dan prinsip demokrasi. Perjanjian ini, yang juga terbuka untuk negara-negara non-Eropa, menetapkan kerangka hukum untuk seluruh siklus hidup sistem AI dan mengatasi risiko yang mungkin timbul, sambil mendorong inovasi yang bertanggung jawab. Konvensi ini menerapkan pendekatan berbasis risiko dalam desain, pengembangan, penggunaan, dan penghentian sistem AI, yang mengharuskan evaluasi menyeluruh terhadap potensi dampak negatif.
Dilansir dari website Council of Europe, Committee on Artificial Intelligence (CAI) berisi tentang AI dan hak asasi manusia, demokrasi, serta supremasi hukum disetujui di Strasbourg selama pertemuan tahunan Komite Menteri Dewan Eropa yang dihadiri oleh Menteri Luar Negeri dari 46 negara anggota.
Sekretaris Jenderal Dewan Eropa, Marija Pejčinović, menyatakan bahwa perjanjian ini adalah kesepakatan global pertama yang memastikan AI menghormati hak asasi manusia. Perjanjian ini merupakan respons terhadap kebutuhan akan standar hukum internasional untuk memanfaatkan manfaat AI sambil mengurangi risikonya. Dengan perjanjian ini, diharapkan penggunaan AI dapat dilakukan secara bertanggung jawab, menghormati hak asasi manusia, supremasi hukum, dan prinsip demokrasi.
Konvensi ini adalah hasil dari dua tahun kerja oleh CAI, yang melibatkan 46 negara anggota Dewan Eropa, Uni Eropa, dan 11 negara nonanggota (Argentina, Australia, Kanada, Kosta Rika, Tahta Suci, Israel, Jepang, Meksiko, Peru, Amerika Serikat, dan Uruguay), serta sektor swasta, masyarakat sipil, dan akademisi.
Perjanjian ini mencakup penggunaan sistem AI di sektor publik dan swasta. Para pihak dapat memilih untuk mematuhi ketentuan konvensi secara langsung atau mengambil langkah lain untuk mematuhi perjanjian sambil menghormati kewajiban internasional terkait hak asasi manusia, demokrasi, dan supremasi hukum. Pendekatan ini diperlukan karena perbedaan sistem hukum di seluruh dunia.
Konvensi ini juga menetapkan persyaratan transparansi dan pengawasan yang sesuai dengan risiko, termasuk identifikasi konten yang dihasilkan oleh sistem AI. Pihak-pihak harus mengadopsi langkah-langkah untuk menilai dan mengurangi risiko serta mempertimbangkan perlunya moratorium atau larangan terhadap penggunaan sistem AI jika risikonya tidak sesuai dengan standar hak asasi manusia.
Selain itu, konvensi ini mengharuskan akuntabilitas dan tanggung jawab atas dampak buruk dari AI, serta memastikan bahwa sistem AI menghormati kesetaraan, larangan diskriminasi, dan hak privasi. Pihak-pihak juga harus menyediakan solusi hukum bagi korban pelanggaran hak asasi manusia terkait AI dan melindungi prosedur, termasuk memberi tahu siapa pun yang berinteraksi dengan sistem AI bahwa mereka sedang berinteraksi dengan teknologi tersebut.
Untuk mengatasi risiko terhadap demokrasi, perjanjian ini mengharuskan langkah-langkah agar sistem AI tidak merusak lembaga dan proses demokrasi.
Konvensi ini tidak berlaku untuk kegiatan terkait keamanan nasional, tetapi pihak-pihak harus memastikan kegiatan tersebut mematuhi hukum internasional dan prinsip demokrasi. Konvensi ini juga tidak mencakup pertahanan nasional atau penelitian dan pengembangan, kecuali jika pengujian sistem AI berpotensi mengganggu hak asasi manusia, demokrasi, atau supremasi hukum.
Mekanisme tindak lanjut untuk konvensi ini akan dilakukan melalui Konferensi Para Pihak. Selain itu, setiap pihak harus membentuk mekanisme pengawasan independen untuk memantau kepatuhan, meningkatkan kesadaran, mendorong debat publik, dan melakukan konsultasi mengenai penggunaan teknologi AI. Konvensi ini akan dibuka untuk penandatanganan di Vilnius, Lithuania pada 5 September dalam rangka konferensi Menteri Kehakiman. (DY)
Komentar