OpenAI menghentikan video Martin Luther King Jr Sora yang ‘tidak sopan’

OpenAI telah berhenti aplikasi kecerdasan buatan (AI)-nya Sora membuat video deepfake yang menggambarkan Dr Martin Luther King Jr, mengikuti permintaan dari tanah miliknya.

Perusahaan tersebut mengakui bahwa pembuat video tersebut telah membuat konten yang “tidak sopan” tentang aktivis hak-hak sipil tersebut.

Sora punya menjadi viral di AS karena kemampuannya membuat video hiper-realistis, yang menyebabkan orang-orang membagikan adegan palsu selebriti dan tokoh sejarah yang telah meninggal dalam skenario yang aneh dan sering kali menyinggung.

OpenAI mengatakan pihaknya akan menghentikan sementara gambar Dr King “untuk memperkuat batasan bagi tokoh-tokoh sejarah” – namun tetap mengizinkan orang untuk membuat klip dari individu terkenal lainnya.

Pendekatan tersebut terbukti kontroversial, karena video yang menampilkan tokoh-tokoh seperti Presiden John F. Kennedy, Ratu Elizabeth II, dan Profesor Stephen Hawking telah dibagikan secara luas secara online.

Hal ini dipimpin Zelda Williams, putri Robin Williams, untuk meminta orang-orang berhenti mengirimkan video ayahnya yang dibuat oleh AIaktor dan komika terkenal AS yang meninggal pada tahun 2014.

Bernice A. King, putri mendiang Dr King, kemudian menyampaikan permohonan publik serupa, menulis daring: “Saya setuju mengenai ayah saya. Tolong hentikan.”

Di antara video-video yang dibuat oleh AI yang menggambarkan aktivis hak-hak sipil tersebut terdapat beberapa video yang mengedit pidatonya yang terkenal “I Have a Dream” dengan berbagai cara, dengan Washington Post melaporkan satu klip menunjukkan dia membuat suara rasis.

Sementara itu, video lain yang dibagikan di aplikasi Sora dan media sosial menunjukkan sosok-sosok yang mirip dengan Dr King dan sesama aktivis hak-hak sipil Malcolm X yang sedang berkelahi satu sama lain.

Ahli etika AI dan penulis Olivia Gambelin mengatakan kepada BBC OpenAI bahwa membatasi penggunaan lebih lanjut gambar Dr King adalah “langkah maju yang baik”.

Namun dia mengatakan perusahaan seharusnya mengambil langkah-langkah sejak awal – daripada mengambil pendekatan “trial and error by firehose” untuk meluncurkan teknologi tersebut.

Dia mengatakan kemampuan untuk membuat deepfake dari tokoh sejarah yang telah meninggal tidak hanya menunjukkan “kurangnya rasa hormat” terhadap mereka, tetapi juga menimbulkan bahaya lebih lanjut bagi pemahaman masyarakat tentang konten asli dan palsu.

“Ini terlalu erat kaitannya dengan upaya menulis ulang aspek-aspek sejarah,” katanya.

Maraknya deepfake – video yang telah diubah menggunakan alat AI atau teknologi lain untuk menunjukkan seseorang berbicara atau berperilaku dengan cara yang tidak mereka lakukan – telah memicu kekhawatiran bahwa video tersebut dapat digunakan untuk menyebarkan disinformasi, diskriminasi, atau pelecehan.

OpenAI mengatakan pada hari Jumat meskipun mereka yakin ada “kepentingan kebebasan berpendapat yang kuat dalam menggambarkan tokoh sejarah”, mereka dan keluarga mereka harus memiliki kendali atas kemiripan mereka.

“Perwakilan resmi atau pemilik properti dapat meminta agar kemiripan mereka tidak digunakan dalam akting cemerlang Sora,” katanya.

Pakar AI generatif Henry Ajder mengatakan pendekatan ini, meski positif, “menimbulkan pertanyaan tentang siapa yang mendapat perlindungan dari kebangkitan sintetis dan siapa yang tidak”.

“Keluarga King berhak menyampaikan hal ini melalui OpenAI, namun banyak orang yang meninggal tidak memiliki kekayaan yang terkenal dan memiliki sumber daya yang baik untuk mewakili mereka,” katanya.

“Pada akhirnya, saya pikir kita ingin menghindari situasi di mana, kecuali kita sangat terkenal, masyarakat akan menerima bahwa setelah kita meninggal, kita bebas untuk tetap terwakili.”

OpenAI mengatakan kepada BBC dalam sebuah pernyataan pada awal Oktober bahwa mereka telah membangun “perlindungan berlapis untuk mencegah penyalahgunaan”.

Dan dikatakan bahwa pihaknya melakukan “dialog langsung dengan tokoh masyarakat dan pemilik konten untuk mengumpulkan umpan balik mengenai kontrol apa yang mereka inginkan” dengan maksud untuk mencerminkan hal ini dalam perubahan selanjutnya.