Google memecat pemimpin etika AI kedua saat perselisihan tentang penelitian, keragaman tumbuh


REUTERS: Alphabet Inc Google memecat staf ilmuwan Margaret Mitchell pada hari Jumat, kata mereka, sebuah langkah yang mengipasi divisi perusahaan tentang kebebasan dan keragaman akademik yang dipamerkan sejak pemberhentian Desember peneliti etika AI Timnit Gebru.

Google mengatakan dalam sebuah pernyataan bahwa Mitchell melanggar kode etik dan kebijakan keamanan perusahaan dengan memindahkan file elektronik ke luar perusahaan. Mitchell, yang mengumumkan pemecatannya di Twitter, tidak menanggapi permintaan komentar.

Etika Google dalam pekerjaan kecerdasan buatan telah diperiksa dengan cermat sejak pemecatan Gebru, seorang ilmuwan yang terkenal karena mengungkap bias dalam sistem analisis wajah. Pemecatan tersebut mendorong ribuan pekerja Google melakukan protes. Dia dan Mitchell telah menyerukan keragaman dan penyertaan yang lebih besar di antara staf penelitian Google dan menyatakan keprihatinan bahwa perusahaan tersebut mulai menyensor makalah yang mengkritik produknya.

Gebru mengatakan Google memecatnya setelah dia mempertanyakan perintah untuk tidak menerbitkan penelitian yang mengatakan AI yang meniru bahasa dapat merugikan populasi yang terpinggirkan. Mitchell, salah satu penulis makalah, secara terbuka mengkritik perusahaan karena memecat Gebru dan merusak kredibilitas karyanya.

Pasangan ini selama sekitar dua tahun telah memimpin bersama tim AI etis, dimulai oleh Mitchell.

Direktur riset Google AI Zoubin Ghahramani dan seorang pengacara perusahaan memberi tahu tim Mitchell tentang pemecatannya pada hari Jumat dalam sebuah pertemuan yang dipanggil dalam waktu singkat, menurut seseorang yang mengetahui masalah tersebut. Orang tersebut mengatakan sedikit penjelasan yang diberikan untuk pemecatan tersebut. Google menolak berkomentar.

Perusahaan mengatakan pemecatan Mitchell mengikuti rekomendasi disipliner oleh penyelidik dan komite peninjau. Dikatakan pelanggarannya “termasuk eksfiltrasi dokumen rahasia bisnis-sensitif dan data pribadi karyawan lain”. Investigasi dimulai 19 Januari.

Karyawan Google Alex Hanna mengatakan di Twitter bahwa perusahaan menjalankan “kampanye kotor” terhadap Mitchell dan Gebru, yang bekerja sama dengannya. Google menolak untuk mengomentari pernyataan Hanna.

Google telah merekrut ilmuwan top dengan janji kebebasan penelitian, tetapi batasan tersebut diuji karena semakin banyak peneliti yang menulis tentang efek negatif teknologi dan menawarkan perspektif yang tidak menarik pada produk perusahaan mereka.

Reuters melaporkan secara eksklusif pada bulan Desember bahwa Google memperkenalkan tinjauan “topik sensitif” baru tahun lalu untuk memastikan bahwa makalah tentang topik seperti industri minyak dan sistem rekomendasi konten tidak akan membawa perusahaan ke dalam masalah hukum atau peraturan. Mitchell secara terbuka menyatakan keprihatinan bahwa kebijakan tersebut dapat mengarah pada penyensoran.

Google menegaskan kembali kepada para peneliti dalam sebuah memo dan pertemuan pada hari Jumat bahwa itu bekerja untuk meningkatkan tinjauan pra-publikasi makalah. Itu juga mengumumkan kebijakan baru pada hari Jumat untuk menangani keberangkatan sensitif dan mengevaluasi eksekutif berdasarkan keragaman dan inklusi tim.

(Pelaporan oleh Paresh Dave dan Jeffrey Dastin; Penyuntingan oleh Cynthia Osterman dan Daniel Wallis)

Dipublikasikan Oleh : Data HK