[ad_1]
Dalam menghadapi klaim bahwa mereka memprioritaskan keuntungan daripada orang, Facebook dan Instagram berada di bawah tekanan yang meningkat untuk mereformasi cara-cara di mana platform mereka dibangun menjadi membuat ketagihan bagi pengguna. Para ahli mengatakan peningkatan pengawasan ini dapat menandakan bahwa model bisnis industri media sosial saat ini akan mengalami gangguan yang signifikan.
Sering dibandingkan dengan Big Tobacco untuk cara produk mereka membuat ketagihan dan menguntungkan tetapi pada akhirnya tidak sehat bagi pengguna, pemain media sosial terbesar menghadapi tuntutan yang meningkat untuk akuntabilitas dan tindakan regulasi. Untuk menghasilkan uang, algoritme platform ini berfungsi secara efektif untuk membuat pengguna tetap terlibat dan menggulir konten, dan dengan iklan ekstensi, selama mungkin.
[time-brightcove not-tgx=”true”]
“[These companies] tidak dimintai pertanggungjawaban atas praktik bisnis mereka,” kata Sherry Fowler, seorang profesor praktik di bidang teknologi informasi dan analisis bisnis di North Carolina State University. “Saya pikir kita berada di titik yang sama [with Big Tech] itulah kami ketika Big Tobacco dipaksa untuk berbagi penelitian tentang bagaimana produknya merugikan individu. Harus ada kampanye massal untuk menginformasikan kepada publik karena pada saat itu, banyak orang bahkan tidak tahu bahwa tembakau itu adiktif. Di sini kami memiliki sesuatu yang sama adiktifnya dan kami mengizinkan perusahaan untuk tidak perlu menjawab siapa pun. Industri tertentu tidak dapat merajalela tanpa ada aturan yang ditegakkan.”
Dengan meningkatnya konsensus bipartisan bahwa lebih banyak yang harus dilakukan untuk memerangi bagaimana platform terkemuka media sosial mendorong keterlibatan dengan menggunakan alat algoritmik yang merusak kesejahteraan individu dan masyarakat, intervensi pemerintah tampaknya lebih tak terelakkan—dan akan segera terjadi—daripada sebelumnya di tahun mendatang.
Anggota parlemen bipartisan telah memperkenalkan RUU DPR yang dijuluki Filter Undang-Undang Transparansi Gelembung yang akan membutuhkan platform untuk menawarkan versi layanan mereka di mana konten tidak dipilih oleh “algoritma buram” yang menggunakan data pengguna pribadi untuk menghasilkan rekomendasi.
Seperti yang dikatakan oleh Republikan Rep. Ken Buck, salah satu perwakilan yang mensponsori undang-undang tersebut aksio, “Konsumen harus memiliki opsi untuk terlibat dengan platform internet tanpa dimanipulasi oleh algoritme rahasia yang didorong oleh data khusus pengguna.” Tetapi pertanyaannya tetap: Apakah perubahan nyata mungkin terjadi?
Sisi gelap dari algoritma adiktif
Sementara kekhawatiran tentang algoritme adiktif melampaui dua platform yang dimiliki oleh Meta, perusahaan yang sebelumnya dikenal sebagai Facebook, dokumen internal—kadang-kadang disebut sebagai “Facebook Papers”—bocor dalam beberapa bulan terakhir oleh manajer produk Facebook yang menjadi pelapor, Frances Haugen, telah menjadi sorotan. tentang efek berbahaya yang secara khusus dapat ditimbulkan oleh Facebook dan Instagram pada pengguna, dan terutama pengguna muda.
Di dalam dia Kesaksian Oktober kepada subkomite Senat Perdagangan, Haugen mengatakan bahwa penggunaan Facebook “peringkat berbasis keterlibatan”—sistem algoritme yang memberi penghargaan pada postingan yang menghasilkan paling banyak suka, komentar, dan bagikan—dan pembobotan berat dari “interaksi sosial yang bermakna”—konten yang menghasilkan reaksi keras—telah menghasilkan sistem yang memperkuat konten yang memecah belah di platform, mendorong ujaran kebencian dan informasi yang salah, serta menghasut kekerasan.
Baca lebih lajut: Mengapa Frances Haugen ‘Sangat Takut’ Tentang Metaverse Facebook
Di Instagram, mekanisme ini mendorong anak-anak dan remaja ke konten berbahaya yang dapat menyebabkan masalah citra tubuh, krisis kesehatan mental, dan intimidasi. Penelitian internal yang dibocorkan oleh Haugen menunjukkan bahwa beberapa fitur yang memainkan peran kunci dalam kesuksesan dan sifat adiktif Instagram, seperti halaman Jelajahi, yang menyajikan posting yang dikuratori pengguna berdasarkan minat mereka, termasuk yang paling berbahaya bagi kaum muda. “Aspek Instagram memperburuk satu sama lain untuk menciptakan badai yang sempurna,” tulis satu laporan.
Meta tidak segera menanggapi permintaan TIME untuk mengomentari potensi perubahan algoritme.
Platform video populer seperti TIK tok dan Youtube juga mendapat kecaman karena menggunakan sistem rekomendasi algoritmik yang dapat mengarahkan pemirsa ke lubang kelinci yang berbahaya—dan membuat ketagihan—, dengan New York Waktu melaporkan pada bulan Desember bahwa salinan dokumen internal yang merinci empat tujuan utama algoritme TikTok dibocorkan oleh sumber yang “terganggu oleh dorongan aplikasi ke konten ‘sedih’ yang dapat menyebabkan tindakan menyakiti diri sendiri.”
Menanggapi permintaan komentar, juru bicara TikTok menunjuk TIME ke a 16 Desember Posting ruang redaksi pada pekerjaan yang dilakukan platform untuk melindungi dan mendiversifikasi rekomendasi feed For You-nya.
“Saat kami terus mengembangkan strategi baru untuk menghentikan pola berulang, kami melihat bagaimana sistem kami dapat lebih baik memvariasikan jenis konten yang mungkin direkomendasikan secara berurutan,” tulis posting tersebut. “Itulah mengapa kami menguji cara untuk menghindari merekomendasikan serangkaian konten serupa—seperti seputar diet atau kebugaran ekstrem, kesedihan, atau putus cinta—untuk melindungi dari menonton terlalu banyak kategori konten yang mungkin baik-baik saja sebagai satu video tetapi bermasalah. jika dilihat secara berkelompok.”
Kurangnya transparansi yang berkelanjutan
Namun, salah satu tantangan utama yang ditimbulkan dengan mengatur platform ini adalah kurangnya transparansi yang terus berlanjut seputar cara kerja internal mereka.
“Kami tidak tahu banyak tentang seberapa buruk jaringan ini, sebagian, karena sangat sulit untuk menelitinya,” kata Ethan Zuckerman, seorang profesor kebijakan publik, komunikasi dan informasi di University of Massachusetts Amherst. “Kami mengandalkan kebocoran Frances Haugen daripada melakukan [independent] penelitian karena, dalam banyak kasus, kita tidak bisa mendapatkan data yang benar-benar menceritakan kisahnya.”
Ketika berbicara tentang ujaran kebencian, ekstremisme, dan misinformasi, Zuckerman mengatakan bahwa algoritme mungkin bukan bagian paling berbahaya dari masalah tersebut.
“Saya cenderung berpikir bahwa bagian algoritme dari cerita itu terlalu dilebih-lebihkan,” katanya. “Ada sejumlah penelitian yang layak di YouTube—yang jauh lebih mudah dipelajari daripada Facebook, misalnya—yang menunjukkan bahwa algoritme hanyalah sebagian kecil dari persamaan dan masalah sebenarnya adalah orang-orang yang mencari kebencian atau pidato ekstrim pada platform dan menemukannya. Demikian pula, ketika Anda melihat beberapa dari apa yang terjadi di sekitar informasi yang salah dan disinformasi, ada beberapa bukti yang cukup bagus bahwa itu tidak harus secara algoritmik diumpankan kepada orang-orang, tetapi orang-orang memilih untuk bergabung dengan grup di mana itu adalah mata uang hari ini.
Tetapi tanpa kemampuan untuk mendapatkan lebih banyak data, peneliti seperti Zuckerman tidak dapat sepenuhnya memahami akar masalah yang meningkat ini.
“Sedikit informasi yang disediakan oleh perusahaan seperti Facebook sangat menarik, tapi itu hanya petunjuk tentang apa yang sebenarnya terjadi,” katanya. “Dalam beberapa kasus, ini lebih dari sekadar platform yang harus memberi kami lebih banyak data. Kami benar-benar membutuhkan kemampuan untuk masuk dan mengaudit platform ini dengan cara yang berarti.”
Merujuk yang terkenal Skandal Cambridge Analytica—di mana perusahaan konsultan politik mengumpulkan data setidaknya 87 juta pengguna Facebook untuk membantu memilih Donald Trump sebagai presiden—Zuckerman mengatakan bahwa Facebook dan perusahaan lain mengandalkan privasi pengguna sebagai pertahanan untuk tidak membagikan lebih banyak informasi.
“Perusahaan-perusahaan ini mengklaim bahwa mereka tidak bisa lebih transparan tanpa melanggar privasi pengguna,” katanya. “Facebook meminta privasi sebagai cara untuk mencegah [third-party] penelitian dari berlangsung. Jadi penghalang untuk [evaluating how the algorithm actually works] adalah Facebook akan menggunakan privasi sebagai alasan mengapa penyelidikan yang berarti terhadap platform tidak dapat dilakukan.”
Namun, jika Kongres turun tangan dan mengesahkan undang-undang baru yang menangani masalah ini, Zuckerman mengatakan itu bisa menjadi katalisator untuk perubahan nyata.
“Tempat di mana kita memiliki peluang terbaik untuk maju adalah dengan mengatur transparansi dalam jumlah tertentu,” katanya. “Jika kami percaya sebagai masyarakat bahwa alat ini benar-benar kuat dan merusak kami, masuk akal jika kami akan mencoba mengauditnya sehingga kami dapat memahami kerusakan apa yang mungkin terjadi.”
Perlunya intervensi kongres
Selama CEO Instagram Adam Mosseri penampilan pertama di hadapan Kongres pada 8 Desember, beberapa anggota Subkomite Senat tentang Perlindungan Konsumen, Keamanan Produk, dan Keamanan Data mengambil sikap bahwa upaya Instagram baru-baru ini untuk membuat platform lebih aman bagi pengguna muda adalah “terlalu sedikit, terlalu terlambat” dan bahwa waktu untuk pemolisian diri tanpa intervensi kongres telah berakhir.
Pernyataan ini tampaknya menandakan bahwa undang-undang peraturan yang dirancang untuk berlaku di Facebook, Instagram, dan platform lainnya dapat segera terwujud di tahun mendatang. Dari sudut pandang Fowler, ini adalah satu-satunya cara agar ancaman yang ditimbulkan oleh algoritme adiktif, serta aspek lain dari model bisnis Big Tech, akan mulai dikurangi.
“Saya sangat ragu bahwa kecuali mereka dipaksa oleh hukum untuk melakukan sesuatu, mereka akan mengoreksi diri,” katanya. “Kami tidak akan dapat melakukan apa pun tanpa Kongres bertindak. Kami memiliki begitu banyak dengar pendapat sekarang dan cukup jelas bahwa perusahaan tidak akan mengawasi diri mereka sendiri. Tidak ada pemain Teknologi Besar yang dapat mengatur industri ini karena mereka semua ada di dalamnya bersama-sama dan mereka semua bekerja dengan cara yang persis sama. Jadi kita harus menerapkan hukum.”
Justice Against Malicious Algorithms Act, RUU yang diperkenalkan oleh House Demokrat pada bulan Oktober, akan membuat amandemen di Bagian 230—bagian dari Communications Decency Act yang melindungi perusahaan dari tanggung jawab hukum atas konten yang diposting di platform mereka—yang akan meminta pertanggungjawaban perusahaan. ketika “secara sadar atau sembrono menggunakan algoritme atau teknologi lain untuk merekomendasikan konten yang secara material berkontribusi pada cedera fisik atau emosional yang parah”.
Namun, perpecahan partai dikombinasikan dengan fakta bahwa ini adalah tahun pemilihan kongres memberi Fowler jeda tentang kemungkinan apakah akan ada kemajuan nyata yang dibuat pada tahun 2022.
“Saran saya adalah [politicians] bergerak maju pada apa yang mereka setujui sehubungan dengan topik ini — khususnya di bidang bagaimana media sosial berdampak pada anak di bawah umur,” katanya, “dan tidak fokus pada mengapa mereka setuju, karena mereka memiliki alasan berbeda untuk sampai pada kesimpulan yang sama.”
Apakah raksasa Big Tech akan pernah dapat mencapai titik di mana mereka benar-benar memprioritaskan orang di atas keuntungan masih harus dilihat, tetapi Zuckerman mencatat bahwa perusahaan seperti Facebook tidak memiliki rekam jejak yang bagus dalam hal itu.
“Facebook adalah perusahaan yang sangat menguntungkan. Jika mereka peduli untuk melindungi pengguna dari kesalahan dan disinformasi, mereka memiliki banyak uang untuk diinvestasikan di dalamnya. Sesuatu yang menjadi sangat jelas dari Facebook Papers adalah bahwa sistem mereka tidak terlalu bagus dan mungkin belum terlalu banyak diinvestasikan. Dan itulah masalah yang muncul berulang kali pada mereka.”
Sebaliknya, Zuckerman menyarankan bahwa cara yang berbeda untuk melihat kerusakan sosial yang disebabkan oleh media sosial mungkin lebih tepat: “Pada titik tertentu kita harus mulai bertanya pada diri sendiri: Apakah kita menginginkan ruang publik digital kita, ruang di mana kita ‘berbicara tentang politik dan berita dan masa depan, yang akan dijalankan oleh perusahaan untuk keuntungan? Dan perusahaan nirlaba yang diatur dengan sangat ringan pada saat itu. ”
[ad_2]
