11
PBB Ingatkan AI Canggih Bisa Ancam Umat Manusia
Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Turk memperingatkan bahwa perkembangan kecerdasan buatan (AI) yang semakin maju berpotensi menjadi ancaman eksistensial bagi umat manusia. Ia menyerukan langkah cepat untuk memastikan teknologi tersebut dikembangkan dengan sistem keselamatan dan keamanan yang kuat.
Turk menyampaikan kekhawatiran tersebut dalam sesi ke-63 Dewan Hak Asasi Manusia PBB pada Senin. Menurutnya, risiko yang muncul dari AI canggih perlu ditangani sebelum perkembangan teknologi menjadi semakin sulit dikendalikan.
Ia juga mengatakan akan mengirimkan surat kepada sejumlah perusahaan pengembang AI terkemuka dalam beberapa hari mendatang. Langkah tersebut menjadi bagian dari upayanya mendorong perhatian lebih besar terhadap aspek keselamatan dan keamanan dalam pengembangan teknologi AI.
Menurut Turk, kekhawatiran terhadap potensi risiko AI juga muncul dari kalangan industri teknologi sendiri. Karena itu, ia menilai diperlukan upaya serius dan menyeluruh untuk memastikan sistem AI canggih tidak berkembang tanpa pengamanan yang memadai.
Turk turut menyoroti persoalan konsentrasi kekuasaan dalam pengembangan AI. Ia menilai hanya sebagian kecil pihak saat ini memiliki pengaruh sangat besar terhadap arah perkembangan teknologi tersebut.
Situasi tersebut, menurut dia, membutuhkan kerja sama internasional untuk menetapkan batasan yang jelas. Negara tempat teknologi AI dikembangkan dan negara yang terlibat dalam rantai pasoknya dinilai perlu menyepakati sejumlah batas yang tidak boleh dilanggar.
Seruan tersebut muncul di tengah semakin luasnya penggunaan AI dalam berbagai sektor. Teknologi tersebut telah berkembang dari sekadar alat pengolahan informasi menjadi sistem yang mampu membantu berbagai pekerjaan dan proses pengambilan keputusan.
Namun, perkembangan pesat AI juga memunculkan kekhawatiran mengenai dampaknya terhadap keamanan, hak asasi manusia, serta penggunaan teknologi untuk kepentingan militer. Karena itu, regulasi dan mekanisme pengawasan menjadi bagian penting dalam pembahasan tata kelola AI global.
Peringatan mengenai risiko AI dalam konteks militer sebelumnya juga disampaikan Kepala Ekonom Biro Regional Asia-Pasifik UNDP Philip Schellekens pada Desember 2025. Ia memperingatkan bahwa penggunaan AI untuk kepentingan militer dapat menimbulkan risiko serius dan berpotensi menyebabkan korban jiwa dalam jumlah besar.
Schellekens mendorong adanya regulasi yang bertanggung jawab untuk mengendalikan penggunaan AI di sektor militer. Menurutnya, perkembangan teknologi tersebut membutuhkan pengawasan agar tidak digunakan secara tidak terkendali dalam situasi konflik.
Sebelumnya, Sekretaris Jenderal PBB Antonio Guterres juga memasukkan AI yang tidak terkendali sebagai salah satu ancaman eksistensial yang perlu menjadi perhatian dunia. Pada Januari 2025, ia menyebut risiko tersebut bersama dengan perubahan iklim dan senjata nuklir.
Dengan semakin cepatnya perkembangan AI, PBB mendorong negara-negara dan perusahaan teknologi untuk memperkuat tata kelola, keselamatan, serta mekanisme pengawasan. Langkah tersebut dinilai penting agar manfaat AI dapat dikembangkan tanpa mengabaikan potensi risiko terhadap umat manusia.
Bayu Setiawan adalah seorang profesional teknologi dan media digital asal Indonesia yang memiliki pengalaman dalam pengembangan konten online, manajemen proyek digital, dan strategi komunikasi modern. Ia memiliki ketertarikan pada inovasi media, transformasi digital, serta pengembangan platform berbasis teknologi untuk meningkatkan keterlibatan audiens. Bayu dikenal memiliki kemampuan analitis yang kuat, kepemimpinan yang baik, dan mampu bekerja secara efektif dalam lingkungan kerja yang dinamis dan kolaboratif.
