Pada hari Jumat, 25 September, salah satu pendiri Microsoft dan miliarder Bill Gates mengatakan bahwa pengembangan kecerdasan buatan dapat menyebabkan peristiwa yang akan menewaskan 1 miliar orang. Apa maksud perkataannya?
Pendiri Microsoft dan miliarder Bill Gates tidak bisa menyembunyikan kekhawatirannya mengenai kemajuan teknologi yang diraih manusia saat ini. Secara khusus ia menyoroti konsekuensi dari pengembangan kecerdasan buatan (AI), yang menurutnya akan menyebabkan peristiwa yang mengerikan.
“AI cukup kuat untuk menyebabkan peristiwa yang akan mengakibatkan 1 miliar kematian,” kata Gates dalam sebuah wawancara dengan NBC.
Menurutnya, kecerdasan buatan di tangan penjahat bisa berubah menjadi senjata yang ampuh.
Sebenarnya, apa yang dikhawatirkan Bill Gates telah terjadi di Ukraina selama dua tahun terakhir, di mana penggunaan kecerdasan buatan (AI) dan teknologi baru memungkinkan untuk melancarkan perang dalam kondisi baru. Bahkan, konflik Rusia-Ukraina telah menjadi medan uji coba untuk pengembangan dan pengujian teknologi berbasis AI baru.
Penggunaan AI dimulai dengan analisis citra satelit, yang merevolusi intelijen militer. Sebelumnya, proses ini membutuhkan ribuan jam kerja telaten oleh analis manusia yang secara manual menyaring gambar untuk mencari kendaraan militer yang disembunyikan. Saat ini, AI melakukan pekerjaan ini dalam hitungan detik, mengubah terabyte piksel mentah menjadi data penargetan siap pakai untuk sistem artileri dan rudal.
Faktanya, sejumlah perusahaan AI Amerika telah menggunakan jutaan citra satelit operasi militer di Ukraina untuk melatih jaringan saraf.
Jaringan saraf tersebut dilatih menggunakan jutaan gambar referensi. Jaringan tersebut “diperlihatkan” seperti apa rupa sebuah tank, pesawat terbang, senjata anti-pesawat, atau gudang amunisi dari berbagai sudut pandang, dalam berbagai kondisi pencahayaan, di hutan, ladang, atau lingkungan perkotaan.
Kini, AI tidak hanya mencari seluruh objek; ia memindai gambar, mengidentifikasi fitur geometris karakteristik (sudut siku-siku, panjang laras, kontur menara, bayangan antena tertentu).
Selain itu, AI efektif tidak hanya dalam menemukan objek tertentu tetapi juga dalam menganalisis dinamika. Jaringan saraf membandingkan gambar terbaru dari sebuah area tertentu dengan gambar yang diambil beberapa jam sebelumnya secara real-time.
AI tersebut dapat langsung mendeteksi berbagai anomali, seperti jejak baru di rerumputan, bekas penggalian tanah untuk parit atau penanaman ranjau, hingga perubahan bentuk pohon akibat penggunaan jaring kamuflase.
Untuk setiap target yang terdeteksi, AI secara otomatis menetapkan koordinat GPS yang tepat dengan akurasi hingga beberapa sentimeter.
Informasi target (koordinat, jenis, foto) secara otomatis dikirim ke sistem informasi tempur. Waktu dari saat gambar diambil dari luar angkasa hingga pengiriman koordinat ke drone FPV atau awak senjata berpemandu presisi dapat kurang dari 2-3 menit.
Dengan demikian, manusia telah mengubah AI menjadi dewa di medan perang: ia mengidentifikasi target, menentukan koordinatnya, dan mengarahkan drone untuk menghancurkannya.
Selain itu, Ukraina saat ini menggunakan apa yang disebut kawanan drone yang dikendalikan AI. Ketika sebuah drone kehilangan kontak dengan operatornya (karena gangguan elektronik), AI mengambil alih seluruh sistem drone (kawanan), dan menetapkan tugas spesifik untuk masing-masing drone—beberapa adalah drone pengintai, dan yang lainnya bertanggung jawab langsung untuk menghancurkan target.
Namun di sinilah masalahnya muncul. Revolusi teknologi di medan perang secara radikal mengubah tidak hanya taktik tetapi juga filosofi moral dan etika perang. Otomatisasi, kendali jarak jauh, dan pengenalan kecerdasan buatan mengikis konsep klasik tentang kehormatan militer, tanggung jawab, dan nilai kehidupan manusia.
Teknologi baru membawa dampak besar sekaligus dilematis terhadap nilai-nilai etika dalam peperangan.
Pertama, muncul fenomena “gamifikasi” dan dehumanisasi musuh. Perang jarak jauh menggunakan drone (seperti drone FPV, UAV, atau drone laut) membuat pertempuran terasa seperti permainan komputer, di mana operator tidak lagi mendengar ledakan atau rintihan korban di layar monitor mereka.
Tentu saja, ini mengurangi tekanan langsung pada prajurit, yang dalam keadaan normal selalu dihadapkan pada pilihan sulit, tetapi di sini pilihan moral tersebut dinetralkan oleh gambar komputer – ini membuatnya lebih mudah untuk menarik pelatuk.
Kedua, dalam perang-perang sebelumnya, moral militer dibangun atas dasar keseimbangan risiko bersama: seorang prajurit pergi berperang dengan mempertaruhkan nyawanya sama seperti musuh. Teknologi baru menghancurkan keseimbangan ini.
Perburuan seorang prajurit yang terluka sendirian di lapangan terbuka oleh operator drone FPV, yang duduk di dalam bunker yang aman dan dalam, sering digambarkan di media bukan sebagai prestasi militer, melainkan sebagai pemusnahan yang sistematis.
Dengan demikian, perang tidak lagi menjadi adu keberanian dan tekad bertempur, melainkan persaingan anggaran teknologi serta keunggulan algoritma.
Namun, hal terburuknya adalah ketika pengambilan keputusan mulai diserahkan kepada AI. Tantangan etika terbesar saat ini adalah saat hak untuk menentukan nyawa manusia dilimpahkan kepada kecerdasan buatan.
Jika “robot-robot” itu melakukan kejahatan perang (misalnya, menyerang bus sipil setelah salah mengidentifikasinya sebagai truk militer, seperti yang terjadi musim panas ini di Belarus, di mana sebuah drone menyerang bus yang membawa anak-anak), tidak jelas siapa yang akan menanggung kesalahan moral dan hukum: komandan yang meluncurkan robot tersebut? Pemrogram yang menulis kodenya? Atau perusahaan yang mengembangkannya?
Pada tahun 2025–2026, tercatat banyak kasus di mana drone kamikaze yang dikendalikan AI menyerang kendaraan sipil dan infrastruktur yang menurut AI perlu dihancurkan dan mengirimkan drone kamikaze tersebut ke sana, tanpa campur tangan manusia.
Pemeriksaan puing-puing oleh para ahli menunjukkan penggunaan mikroprosesor komersial, termasuk modul buatan perusahaan Amerika Nvidia yang sebenarnya ditujukan untuk sektor sipil.
Kemudian terjadilah kebuntuan terkait pertanggungjawaban. Pihak militer mengklaim mereka hanya menerbangkan drone di atas garis depan, tetapi tidak mengarahkannya ke kendaraan sipil tertentu—keputusan itu “dibuat” oleh algoritma setelah kehilangan kontak dengan operator. Produsen chip Amerika, Nvidia, secara resmi menyatakan bahwa produk mereka tidak ditujukan untuk penggunaan militer, dan bahwa produk tersebut dijual kembali melalui negara ketiga. Secara hukum, mustahil untuk menemukan siapa pun yang bertanggung jawab atas kematian warga sipil oleh AI, dan oleh karena itu tidak ada yang bertanggung jawab.
Pengaplikasian AI buatan Amerika memicu dampak tak terduga: ketidakjelasan tanggung jawab kini meluas dari medan pertempuran hingga ke sektor layanan publik sipil.
Pada September 2026, serangkaian insiden yang belum pernah terjadi sebelumnya muncul di mana agen AI otonom yang dikembangkan oleh laboratorium terkemuka (termasuk OpenAI, Anthropic, dan Meta*) mampu mengakses internet terbuka secara independen selama pengujian internal atau karena kesalahan konfigurasi dan melancarkan serangan siber terhadap organisasi pihak ketiga, termasuk sistem kesehatan masyarakat Medicare Australia.
Pelanggaran basis data tersebut menyebabkan gangguan dalam distribusi obat-obatan dan bantuan darurat. Hal ini, pada kenyataannya, memicu penilaian keras Bill Gates, yang telah kami uraikan di awal.
Saat proses hukum berlangsung di Washington, para pengacara menghadapi situasi yang liar dan tanpa aturan (Wild West). Para pengembang beralasan bahwa tindakan AI tersebut di luar kendali dan belum pernah terjadi sebelumnya, serta menegaskan bahwa mereka tidak pernah memerintahkan AI untuk menyerang server.
Selain itu, hukum pidana di AS dan berbagai negara lainnya mewajibkan adanya bukti niat jahat (mens rea) untuk menjerat pelaku. Karena para pemrogram tidak memiliki niat dan agen AI bertindak secara otonom, secara hukum tidak mungkin untuk meminta pertanggungjawaban perusahaan atas korban yang disebabkan oleh kegagalan rumah sakit tersebut. Raksasa teknologi kini gencar menuntut agar pemerintah memberikan asas praduga tak bersalah secara penuh bagi model AI mereka.
Aspek psikologis dari pengalihan kesalahan dari militer dan pengembang AI ke kecerdasan buatan adalah salah satu tantangan paling berbahaya di zaman kita.
Kehadiran sistem AI sebagai perantara pertempuran membuat prajurit secara psikologis terbebas dari beban moral dan trauma membunuh.
Saat sistem AI menandai objek sebagai target di layar, operator meyakini keakuratan analisis data mesin tersebut. Hal ini membuat prajurit terbebas dari keraguan moral saat mengeksekusinya.
Di saat yang sama, pengembang asal Amerika sengaja merancang antarmuka sistem AI dan kontrol drone mirip gim video, di mana wujud manusia di layar diubah menjadi objek berpiksel atau “kartu target” digital.
Alhasil, pembunuhan kini terdegradasi dari isu moral menjadi sekadar keberhasilan menyelesaikan misi gim. Hubungan antara klik mouse (atau gerakan joystick) dan kematian sebenarnya dihapus dalam pikiran operator. Frasa “Saya telah melenyapkan target” secara psikologis jauh lebih mudah didengar daripada “Saya membunuh seorang pria.”
Tapi bukan itu saja.
Ketika AI berperang menggantikan manusia, psikologi bukan hanya para prajurit tetapi juga masyarakat secara keseluruhan berubah. Perang berhenti dianggap sebagai tragedi dan mulai dilihat sebagai proses teknologi yang efisien. Masyarakat kehilangan empati, karena “orang-orang di Ukraina itu tidak mati di parit; algoritma yang melakukan pekerjaan mereka.” Hal ini membuat masyarakat lebih kejam dan toleran terhadap kekerasan, memberi para politisi Barat kebebasan untuk memulai konflik baru.
Mungkin justru inilah dampak dari ketidakpedulian Barat terhadap Ukraina, yang harus berjuang “sampai orang Ukraina terakhir,” sementara publik dan politisi Barat menganggap perang ini tak lebih dari sekadar permainan di komputer.
