Silicon Valley Berselisih: Perlukah Senjata AI Diberi Wewenang Memutuskan Pembunuhan?
- Silicon Valley
Gadget – Di akhir September, sebuah pernyataan dari pendiri Shield AI, Brandon Tseng, menciptakan gelombang perdebatan di kalangan para ahli teknologi. Tseng menyatakan bahwa senjata yang sepenuhnya otonom di Amerika Serikat tidak akan pernah diizinkan untuk membuat keputusan final soal pembunuhan, dengan mengatakan bahwa Kongres dan masyarakat umum menentang hal tersebut. Namun, pernyataan ini segera mendapat respons beragam dari sesama penggiat teknologi di Silicon Valley.
Lima hari setelah pernyataan Tseng, salah seorang pendiri Anduril, Palmer Luckey, memberikan pandangannya yang berbeda. Dalam sebuah ceramah di Pepperdine University, Luckey mengungkapkan skeptisismenya terhadap argumen bahwa senjata otonom tidak boleh menentukan siapa yang hidup atau mati. Ia menyoroti bagaimana senjata tradisional seperti ranjau darat, yang juga membunuh tanpa pandang bulu, telah lama digunakan, meskipun tak mampu membedakan target yang sah seperti tank Rusia dari bus sekolah.
Ketika dimintai penjelasan lebih lanjut, juru bicara Anduril, Shannon Prior, mengklarifikasi bahwa Luckey tidak mengadvokasi pembunuhan otonom tanpa kontrol manusia. Sebaliknya, ia mengkhawatirkan skenario di mana musuh, seperti negara lain, menggunakan AI secara tidak bertanggung jawab. Dengan kata lain, Luckey mengangkat kekhawatiran bahwa teknologi AI yang digunakan oleh pihak "jahat" dapat menimbulkan ancaman baru.
Sikap Beragam di Silicon Valley
Sikap Silicon Valley terhadap pengembangan senjata otonom tampaknya bervariasi. Contohnya, Trae Stephens, salah satu pendiri Anduril, menyatakan tahun lalu bahwa AI seharusnya membantu manusia membuat keputusan yang tepat dalam konteks persenjataan. Namun, ia tidak mengatakan bahwa manusia harus selalu terlibat dalam setiap keputusan. Fokusnya adalah memastikan adanya tanggung jawab atas keputusan terkait kematian.
Pernyataan ini menyoroti ketidakpastian yang melingkupi topik senjata AI di AS. Hingga kini, militer AS belum membeli senjata yang sepenuhnya otonom, meskipun teknologi seperti rudal dan ranjau darat telah beroperasi secara semi-otomatis selama bertahun-tahun. Namun, banyak ahli memperingatkan bahwa senjata yang dapat mengambil keputusan secara mandiri, tanpa campur tangan manusia, akan membawa konsekuensi moral dan etika yang berat.
Pemerintah AS sendiri masih ambigu dalam kebijakannya. Pedoman terbaru yang diterbitkan tahun lalu mengenai keamanan AI di militer memang mendukung perlunya pengawasan manusia dalam penggunaan senjata otonom, tetapi pedoman ini bersifat sukarela. Banyak pihak, termasuk Anduril, telah menyatakan komitmen untuk mematuhi pedoman tersebut, meskipun pejabat militer mengakui bahwa ini bukan waktu yang tepat untuk memberlakukan larangan ketat terkait penggunaan senjata otonom.
Dampak Internasional dan Potensi Senjata AI
Di tengah perdebatan domestik, penggunaan AI dalam persenjataan telah menarik perhatian di panggung internasional. Joe Lonsdale, salah satu pendiri Palantir dan juga investor di Anduril, mengemukakan bahwa Amerika Serikat perlu mengambil langkah yang lebih fleksibel dalam menerapkan teknologi AI untuk militer. Pada sebuah acara yang diselenggarakan oleh Hudson Institute, Lonsdale berpendapat bahwa AI dapat memainkan peran penting dalam menjaga keamanan nasional, terutama dalam menghadapi ancaman dari negara-negara seperti Tiongkok yang mungkin sudah mengembangkan senjata AI.
