Silicon Valley Berselisih: Perlukah Senjata AI Diberi Wewenang Memutuskan Pembunuhan?

Gadget – Di akhir September, sebuah pernyataan dari pendiri Shield AI, Brandon Tseng, menciptakan gelombang perdebatan di kalangan para ahli teknologi. Tseng menyatakan bahwa senjata yang sepenuhnya otonom di Amerika Serikat tidak akan pernah diizinkan untuk membuat keputusan final soal pembunuhan, dengan mengatakan bahwa Kongres dan masyarakat umum menentang hal tersebut. Namun, pernyataan ini segera mendapat respons beragam dari sesama penggiat teknologi di Silicon Valley.

Lima hari setelah pernyataan Tseng, salah seorang pendiri Anduril, Palmer Luckey, memberikan pandangannya yang berbeda. Dalam sebuah ceramah di Pepperdine University, Luckey mengungkapkan skeptisismenya terhadap argumen bahwa senjata otonom tidak boleh menentukan siapa yang hidup atau mati. Ia menyoroti bagaimana senjata tradisional seperti ranjau darat, yang juga membunuh tanpa pandang bulu, telah lama digunakan, meskipun tak mampu membedakan target yang sah seperti tank Rusia dari bus sekolah.

Ketika dimintai penjelasan lebih lanjut, juru bicara Anduril, Shannon Prior, mengklarifikasi bahwa Luckey tidak mengadvokasi pembunuhan otonom tanpa kontrol manusia. Sebaliknya, ia mengkhawatirkan skenario di mana musuh, seperti negara lain, menggunakan AI secara tidak bertanggung jawab. Dengan kata lain, Luckey mengangkat kekhawatiran bahwa teknologi AI yang digunakan oleh pihak "jahat" dapat menimbulkan ancaman baru.

Sikap Beragam di Silicon Valley
Sikap Silicon Valley terhadap pengembangan senjata otonom tampaknya bervariasi. Contohnya, Trae Stephens, salah satu pendiri Anduril, menyatakan tahun lalu bahwa AI seharusnya membantu manusia membuat keputusan yang tepat dalam konteks persenjataan. Namun, ia tidak mengatakan bahwa manusia harus selalu terlibat dalam setiap keputusan. Fokusnya adalah memastikan adanya tanggung jawab atas keputusan terkait kematian.

Pernyataan ini menyoroti ketidakpastian yang melingkupi topik senjata AI di AS. Hingga kini, militer AS belum membeli senjata yang sepenuhnya otonom, meskipun teknologi seperti rudal dan ranjau darat telah beroperasi secara semi-otomatis selama bertahun-tahun. Namun, banyak ahli memperingatkan bahwa senjata yang dapat mengambil keputusan secara mandiri, tanpa campur tangan manusia, akan membawa konsekuensi moral dan etika yang berat.

Pemerintah AS sendiri masih ambigu dalam kebijakannya. Pedoman terbaru yang diterbitkan tahun lalu mengenai keamanan AI di militer memang mendukung perlunya pengawasan manusia dalam penggunaan senjata otonom, tetapi pedoman ini bersifat sukarela. Banyak pihak, termasuk Anduril, telah menyatakan komitmen untuk mematuhi pedoman tersebut, meskipun pejabat militer mengakui bahwa ini bukan waktu yang tepat untuk memberlakukan larangan ketat terkait penggunaan senjata otonom.

Dampak Internasional dan Potensi Senjata AI
Di tengah perdebatan domestik, penggunaan AI dalam persenjataan telah menarik perhatian di panggung internasional. Joe Lonsdale, salah satu pendiri Palantir dan juga investor di Anduril, mengemukakan bahwa Amerika Serikat perlu mengambil langkah yang lebih fleksibel dalam menerapkan teknologi AI untuk militer. Pada sebuah acara yang diselenggarakan oleh Hudson Institute, Lonsdale berpendapat bahwa AI dapat memainkan peran penting dalam menjaga keamanan nasional, terutama dalam menghadapi ancaman dari negara-negara seperti Tiongkok yang mungkin sudah mengembangkan senjata AI.

Lonsdale juga menekankan bahwa perusahaan teknologi pertahanan tidak boleh menjadi pihak yang menentukan kebijakan terkait AI mematikan. Hal ini seharusnya menjadi tanggung jawab pejabat terpilih, yang harus memahami kompleksitas dan potensi risiko AI. Menurutnya, pembuat kebijakan perlu lebih mendalam mempelajari teknologi ini sebelum mereka bisa menentukan aturan yang tepat, terutama dalam hal memastikan bahwa AI digunakan untuk melindungi nyawa, bukan sebaliknya.

Kecemasan dan Harapan di Tengah Perang Ukraina
Di tengah konflik yang sedang berlangsung di Ukraina, AI telah menjadi bagian penting dalam strategi pertahanan. Pejabat Ukraina seperti Mykhailo Fedorov, menteri transformasi digital Ukraina, secara terbuka mendorong lebih banyak otomatisasi dalam persenjataan. Ia percaya bahwa penggunaan teknologi canggih seperti AI dapat memberikan Ukraina keunggulan strategis dalam melawan Rusia.

Di sisi lain, ketakutan terbesar bagi banyak pihak di AS dan negara-negara Barat lainnya adalah potensi bahwa Rusia atau China akan menjadi yang pertama menggunakan senjata otonom sepenuhnya. Hal ini akan menekan AS dan sekutunya untuk ikut serta dalam perlombaan senjata AI, sesuatu yang selama ini mereka coba hindari.

Pada debat di PBB tahun lalu tentang senjata AI, perwakilan Rusia menegaskan bahwa mereka memahami pentingnya kontrol manusia dalam penggunaan senjata, tetapi menyiratkan bahwa pendekatan mereka mungkin berbeda dari negara-negara lain. Sementara itu, aktivis dan kelompok hak asasi manusia telah berulang kali menyerukan larangan internasional terhadap senjata mematikan yang otonom, meskipun AS dan beberapa negara besar lainnya enggan menandatangani perjanjian tersebut.

Masa Depan Senjata Otonom
Perdebatan seputar senjata otonom terus memanas, baik di Silicon Valley maupun di panggung internasional. Dengan semakin berkembangnya teknologi AI, tekanan untuk memperjelas regulasi dan tanggung jawab dalam penggunaannya pun semakin meningkat. Saat ini, meskipun senjata dengan kemampuan AI telah digunakan di medan perang, keputusan akhir untuk membunuh masih berada di tangan manusia.

Namun, dengan kemajuan teknologi yang pesat dan ketegangan geopolitik yang terus meningkat, pertanyaan tentang kapan, atau bahkan apakah, senjata otonom sepenuhnya akan digunakan tetap menjadi teka-teki besar yang harus segera dijawab oleh masyarakat global.