Awal tahun ini, karyawan mengemukakan kekhawatiran kepada CEO Google Sundar Pichai tentang keterlibatan perusahaan dengan Project Maven, skema yang melibatkan penggunaan teknologi AI untuk menginterpretasikan rekaman drone dan meningkatkan akurasi serangan.
Program Pentagon, Maven dikritik oleh ribuan karyawan Google yang mengatakan bahwa perusahaan “tidak boleh berada dalam bisnis perang”.
Sejak petisi April, laporan telah muncul bahwa hampir selusin karyawan telah mengundurkan diri sebagai protes karena keterlibatan Google yang berkelanjutan dengan proyek tersebut. Pada saat surat itu ditulis, perusahaan menggambarkan teknologi tidak bersifat menyerang, tetapi penjelasan tersebut tampaknya tetap tidak bisa diterima oleh para karyawan.
Gizmodo berbicara dengan sejumlah karyawan yang menyuarakan keprihatinan dan kemarahan mereka atas kolaborasi Google yang terus berlanjut dengan program militer. Seorang karyawan yang mengundurkan diri berkata: “Tindakan berbicara lebih keras daripada kata-kata, dan itu adalah standar yang saya pegang.”
“Saya tidak senang hanya menyuarakan keprihatinan saya secara internal. Pernyataan paling kuat yang bisa saya ambil terhadap ini adalah pergi, ” kata anggota tim yang pergi.
Karyawan marah tentang berbagai aspek, mulai dari kekhawatiran etika tertentu tentang penggunaan AI dalam serangan pesawat tak berawak, hingga keputusan politik raksasa teknologi dalam arti yang lebih luas.
Banyak karyawan mengatakan bahwa perusahaan kurang mendengarkan keberatan mereka. “Selama beberapa bulan terakhir, saya semakin kurang terkesan dengan respons dan cara perhatian orang-orang diperlakukan dan didengarkan,” kata seorang karyawan yang keluar.
Petisi internal telah ditandatangani oleh hampir 4.000 karyawan pada tahap ini. Google mengklaim itu hanya menyediakan perangkat lunak sumber terbuka untuk Project Maven, yang berarti militer masih akan dapat menggunakannya tanpa membayar perusahaan atau membutuhkan inputnya.
Berita tentang proyek itu menyebar di dalam perusahaan pada bulan Februari. Pada hari Senin 14 Mei 2018, lebih dari 90 peneliti dan akademisi menandatangani sebuah surat terbuka yang ditujukan kepada para eksekutif termasuk Pichai dan Diane Greene, yang mengkritik keterlibatan perusahaan dalam Proyek Maven.
“Proyek Maven adalah program militer Amerika Serikat yang bertujuan menggunakan mesin pembelajaran untuk menganalisis sejumlah besar rekaman pengawasan pesawat tak berawak dan untuk melabeli objek yang menarik bagi analis manusia. Google tidak hanya menyediakan teknologi ‘deep learning’ open source, tetapi juga keahlian teknis dan bantuan kepada Departemen Pertahanan,” demikian bunyi surat tersebut.
Surat itu juga memperingatkan kurangnya pengawasan manusia di masa depan. “Ketika komandan militer datang untuk melihat algoritma pengenalan objek sebagai sesuatu yang dapat diandalkan, itu akan menggoda untuk melemahkan atau bahkan menghapus tinjauan dan pengawasan manusia untuk sistem ini.”
“Kami berada pada momen yang kritis. Skandal Cambridge Analytica menunjukkan perhatian publik yang meningkat atas memungkinkan industri teknologi untuk menggunakan begitu banyak kekuatan. Ini hanya satu sorotan pada infrastruktur teknologi informasi yang semakin tinggi, dan ketidakcukupan kerangka kerja tata kelola nasional dan internasional saat ini untuk menjaga kepercayaan publik, ” surat itu menyimpulkan
