Pentingnya Kecerdasan Buatan dan Standar Teknologi yang Etis

Momen ketika mantan manajer produk di Facebook, Frances Haugen, mengungkapkan bahwa platform tersebut telah memfasilitasi ujaran kebencian dan penyebaran misinformasi adalah peringatan bagi kita semua mengenai dampak buruk yang dapat diakibatkan oleh teknologi. 

Berbagai regulator dari Eropa, Timur Tengah, dan Amerika Serikat pun sedang bersiap untuk mengatur lebih ketat para raksasa teknologi. Namun, venture capital (modal ventura) juga memiliki peran yang unik dalam menjaga etika penggunaan kecerdasan buatan.

Tidak hanya berperan dalam memberikan pendanaan untuk startup dan perusahaan lain yang berkembang pesat di bidang teknologi, investor juga memberikan saran dan bimbingan kepada para entrepreneur dan founder dari perusahaan yang berpotensi menjadi unicorn. 

Pada tahun 2021, startup di dunia berhasil mengumpulkan dana sebesar 621 miliar dolar AS dari modal ventura. Terdapat kenaikan jumlah unicorn di dunia dari 569 pada tahun 2020 menjadi 959 pada akhir tahun 2021. Dengan begitu besarnya pengaruh yang dimiliki modal ventura, wajar jika banyak pihak yang meminta pertanggung jawabannya.

Baca juga: 5 Hard Skills yang Paling Dicari Perusahaan Startup

Faktanya, investor institusi mulai meminta mitra modal ventura untuk menerapkan prinsip ESG (environment, social, governance) pada startup yang mereka danai. Namun, kecerdasan buatan bisa dibilang merupakan sektor paling penting yang memerlukan pengawasan ketat.

Kecerdasan buatan menciptakan potensi nilai dan keuntungan yang sangat besar, sebanding dengan risikonya. Misalkan saja sistem rekomendasi. Sistem tersebut memberikan prediksi produk dan jasa yang relevan terhadap perilaku dan karakteristik pengguna. Namun, sistem rekomendasi juga berisiko menyebarkan konten yang dapat memicu radikalisasi, polarisasi, hingga efek ruang gema (situasi di mana seseorang hanya menemukan informasi yang sesuai dengan keyakinannya). 

Setelah pengakuan Haugen, Facebook melaporkan bahwa jumlah penggunanya menurun dalam tiga bulan terakhir di tahun 2021–yakni penurunan pertama dalam sejarahnya. Menggunakan teknologi secara bertanggung jawab bukan hanya hal yang benar untuk dilakukan, namun juga merupakan keputusan bisnis yang tepat dan sesuai dengan prinsip ESG. 

Mulai dari sekarang, kita perlu membangun masa depan dunia digital yang aman dan bermanfaat bagi semua orang. Sudah waktunya bagi investor dana ventura dan para founder untuk bekerja sama menerapkan prinsip ESG. Baik itu melalui materiality assessment, manajemen risiko, melacak perkembangan startup, dan terus berupaya mencapai standar praktik kecerdasan buatan yang etis.

Baca juga: 8 Strategi Psikologis Influencer dalam Memasarkan Produk

Banyak perusahaan mulai mengadopsi praktik, proses, dan alat baru untuk memastikan bahwa kecerdasan buatan dan platform konten yang mereka buat tidak melanggar nilai hak asasi manusia, keadilan, dan keamanan. Langkah-langkah tersebut berkisar dari penyaringan konten, sistem monitoring, pembentukan tata kelola kecerdasan buatan global, hingga proses pengembangan produk yang bertanggung jawab. Meskipun hampir semua langkah ini hanya dapat diterapkan oleh perusahaan berskala besar, namun terdapat banyak alternatif lain untuk startup.

Baik itu konsumen, masyarakat sipil, hingga pemangku kebijakan pun perlu terlibat dalam memahami risiko kecerdasan buatan dan cara memitigasinya. Seperti Uni Eropa yang telah menyepakati Undang-Undang Pasar Digital (Digital Markets Act) untuk meregulasi kekuatan pasar raksasa teknologi seperti Apple, Amazon, Microsoft, Alphabet, Meta, dan ByteDance. Hal yang serupa juga tengah diupayakan pemerintah Australia dan Amerika Serikat.

Sudah saatnya kita mengelola risiko teknologi dengan serius. Nyatanya, kita hanya memiliki dua pilihan: antara menjaga nilai kemanusiaan dalam era kecerdasan buatan atau bersiap menghadapi perpecahan sosial dalam skala yang lebih besar dan berbahaya.