Tilly Norwood dan awal dari aktor sintetik

Bayangkan suatu malam dalam beberapa tahun. Anda membuka Netflix, Apple TV, Amazon Prime, atau layanan apa pun yang mungkin baru ada selama tiga bulan. Aplikasi tidak lagi hanya menanyakan bahasa apa, subtitle apa, atau mode gambar apa yang Anda inginkan. Dia menanyakan karakter utama seperti apa yang Anda minati hari ini, atau dia sudah mengetahui jenis film apa yang mungkin Anda sukai berdasarkan tingkat stres, riwayat, dan reaksi terkini Anda.

Ini bukan lagi sekedar pertanyaan: “Apakah Anda ingin melihat aktor ini?” Tapi tentang sesuatu yang lebih intim: Apakah peran utama harus lebih tenang atau lugas, lebih muda atau lebih tua, disukai atau sulit? Apakah Anda ingin dia langsung terlihat seperti orang yang Anda percayai atau seseorang yang sengaja membuat Anda gugup? Haruskah suaranya lembut, kasar, cepat, lambat, familier? Haruskah karakter tersebut sesuai dengan selera humor Anda, kode budaya Anda, jenis romantisme Anda, gambaran kekuatan Anda?

Kemudian seri dimulai. Plotnya sama dengan jutaan pemirsa lainnya, tetapi orang yang Anda lihat di layar dibuat untuk Anda. Bukan sekedar transmisi, bukan sekedar direkomendasikan, tapi dibuat: sesuai dengan kesukaan Anda, klik Anda sebelumnya, jeda Anda, pemberhentian Anda, adegan favorit Anda, bahkan mungkin apa yang terus Anda putar ulang.

Kedengarannya berlebihan, tetapi gagasan seperti itu tidak lagi tampak seperti fiksi ilmiah. Beberapa tahun yang lalu saya pasti langsung teringat Black Mirror, terutama episode “Joan Is Awful”, di mana kehidupan seorang wanita diciptakan kembali hampir secara real time sebagai serial streaming, dengan aktor digital dan komputer kuantum sebagai mesin pencerita. Saat itu, tentu saja, itu adalah sindiran: kasar, tidak menyenangkan, berlebihan. Namun arahnya sekarang terasa tidak terlalu absurd.

Kita sudah memiliki suara AI, avatar digital, influencer sintetis, feed yang dipersonalisasi, film interaktif, dan model video yang membuat lompatan nyata hanya dalam beberapa bulan. Banyak hal yang masih pendek, rapuh, mahal atau aneh. Namun batasannya jelas: konten tidak hanya direkomendasikan, tetapi juga semakin banyak dibuat. Dan Tilly Norwood sangat cocok dengan garis ini.

Dia sebenarnya bukan seorang aktris, dan itulah mengapa dia sangat menarik. Dia adalah karakter layar yang diciptakan secara artifisial, dibangun oleh orang-orang, dipasarkan seperti bakat, dibahas seperti serangan terhadap sebuah profesi dan sekarang diumumkan untuk filmnya sendiri. Anda mungkin menganggapnya konyol, tidak berasa, atau menganggapnya sebagai aksi PR. Namun Anda tidak boleh mengabaikannya karena itu bukanlah titik akhir. Ini adalah sinyal bahwa film, serial, sulih suara, periklanan, pemasaran influencer, dan mungkin pada titik tertentu hiburan yang dipersonalisasi sedang bergerak ke arah ini.

Saya memahami kedua sisi ini.

Saya memahami para aktor, pengisi suara, penulis, sinematografer, penata rias, dan agensi yang bertanya-tanya apakah karya mereka dipecah menjadi data pelatihan, petunjuk, dan karakter sintetis. Dan saya juga memahami pemirsa yang tidak ingin suara tiba-tiba terdengar berbeda di tengah-tengah serial karena pembicaranya berganti, meninggal, sakit, atau kontraknya tidak diperpanjang.

Jika AI dapat membantu menjaga akting suara yang familiar tetap konsisten, berlisensi dengan benar, dibayar secara adil, dan digunakan secara transparan, maka saya tidak secara otomatis menganggap hal itu salah. Sebaliknya: dari sudut pandang pemirsa, ini bisa menjadi peningkatan kualitas yang nyata.

Namun di situlah zona sulit dimulai. Karena teknologi yang dapat mengawetkan suara juga dapat menggantikan suara. Teknologi yang sama yang dapat menyelamatkan sebuah reel dapat menghasilkan sebuah reel tanpa manusia. Dan teknologi yang sama yang dapat melokalisasi suatu serial dengan lebih baik pada akhirnya dapat membuat setiap penonton melihat serial yang sedikit berbeda.

Apa yang terjadi pada Tilly Norwood

Sejarah publik tidak dimulai dengan film yang sudah selesai, namun dengan peluncurannya. Pada musim semi tahun 2025, sosok tersebut muncul di media sosial. Pada Juli 2025, sketsa AI “Komisaris AI” dirilis, di mana ia tampil sebagai aktris sintetis. Pada bulan September 2025, ia ramai dibicarakan di Festival Film Zurich dan KTT Zurich setelah dilaporkan bahwa agensi bakat tertarik padanya.

Saat itulah Hollywood menjadi sangat berisik. SAG-AFTRA, serikat aktor dan pemain lain di AS, memperjelas: Tilly Norwood bukanlah seorang aktor, melainkan karakter komputer, yang dibuat dari sistem yang, menurut pendapat serikat pekerja, dilatih berdasarkan karya banyak pemain profesional. Ekuitas juga mengkritik proyek di Inggris Raya. Ada pula reaksi dari aktor ternama, antara lain Emily Blunt, Whoopi Goldberg dan lainnya.

Langkah selanjutnya terjadi pada Juli 2026: Particle6 mengumumkan sebuah film, Misaligned, yang akan menampilkan karakter tersebut. Film tersebut harus mengambil latar karakternya sendiri, yaitu tidak hanya menampilkan peran normal dengan aktris buatan, namun menempatkan persona sintetik itu sendiri sebagai pusatnya. Ini cerdas karena secara naratif mengatasi sebagian masalahnya: dia tidak harus berpura-pura menjadi orang normal. Dia bisa berada di dalam film persis seperti dirinya di luar film. Pada saat yang sama, ini adalah titik di mana eksperimen media sosial perlahan-lahan menjadi model produksi.

Garis waktu yang singkat

Perkembangannya terasa begitu cepat karena beberapa helai bertemu pada waktu yang bersamaan.

• 2001: Final Fantasy: The Spirits Within mencoba sejak awal untuk menciptakan aktris digital sebagai bintang bersama Aki Ross. Secara teknis mengesankan, sulit secara ekonomi.
• 2018: Netflix merilis Black Mirror: Bandersnatch, sebuah eksperimen film interaktif yang memungkinkan penonton mengambil keputusan.
• 2023: Dalam Black Mirror: Joan Is Awful, kehidupan seorang wanita diciptakan kembali hampir secara real-time sebagai serial streaming, dengan aktor CGI dan komputer kuantum sebagai mesin bercerita.
• 2023: Pemogokan di Hollywood menjadikan AI, gambar digital, dan persetujuan sebagai isu utama dalam ketenagakerjaan.
• 2024: Diskusi tentang Scarlett Johansson dan suara AI menunjukkan betapa sensitifnya suara, kemiripan, dan persetujuan.
• 2025: Seorang aktris AI menjadi terkenal dan memicu kritik besar-besaran setelah KTT Zurich.
• 2026: Dengan Misaligned, karakter tersebut menjadi proyek film yang diumumkan.

Ini bukan garis lurus, tetapi arah yang jelas: dari karakter CGI ke konten interaktif hingga pemain sintetik dan hiburan yang dapat disesuaikan.

Mengapa produsen sangat tertarik

Dari sudut pandang produsen, manfaatnya sudah jelas. Karakter sintetik tidak bertambah tua, tidak sakit, tidak bepergian, dan tidak membutuhkan pemeran pengganti dalam pengertian klasik. Ini dapat muncul dalam berbagai bahasa, digunakan kembali untuk iklan, film, video pendek, game, media sosial, dan konten pelatihan, serta memberikan ratusan varian menggunakan data dasar yang sama.

Tapi yang terpenting, hal itu bisa dikendalikan. Itulah intinya.

Bintang sejati membawa jangkauan, bakat dan kepribadian, tapi juga kekuatan. Dia bisa mengatakan tidak. Dia bisa menegosiasikan ulang kontrak. Dia bisa menolak suatu peran. Dia bisa mengkritik di depan umum. Dia bisa jatuh sakit, meninggal, dituntut, mendapat pemberitaan buruk, atau tidak lagi cocok dengan merek tersebut.

Scarlett Johansson adalah contoh yang baik di sini, bukan karena dia harus diganti, tetapi karena dia menunjukkan betapa berharganya hak, suara, citra, rilis teatrikal, dan kendali. Dia menggugat Disney pada tahun 2021 atas streaming simultan dan rilis teatrikal Black Widow. Belakangan juga disebutkan secara mencolok dalam perdebatan AI tentang kesamaan suara. Ini tidak nyaman untuk studio. Bagi seniman, ini adalah perlindungan. Hal ini sering kali tidak terlihat oleh pemirsa hingga tiba-tiba ada sesuatu yang tidak beres.

Angka sintetik menjanjikan hal sebaliknya kepada produsen: prediktabilitas. Tidak ada gaji jutaan dolar, tidak ada penjadwalan yang rumit, tidak ada batasan usia, tidak ada acara dan rahmat, tidak ada krisis kontrak di tengah-tengah sebuah franchise dan tidak ada pertanyaan apakah aktor tersebut masih akan tersedia dalam sepuluh tahun. Tentu saja itu menggiurkan.

Ada pemikiran lain yang tidak mengenakkan: Seberapa nyatakah aktor bagi kita? Seringkali kita tidak menyukai orang yang sebenarnya, melainkan peran, karakter fiksi, penampilan, suara, dan sikap. Meski demikian, banyak orang yang mengidolakan aktor sebenarnya meski tidak mengenalnya. Dan kemudian muncullah skandal: perzinahan, kekerasan, penghindaran pajak, wanprestasi, pernyataan politik, kontrak buruk. Sosok sintetik tidak memiliki patah tulang manusia seperti ini. Dia akan diciptakan untuk suatu tujuan, digunakan selama dia dibutuhkan, dan mungkin dalam waktu dekat ini tidak hanya akan menjadi filmnya di layar, tapi versi dirinya sebagai suara, avatar atau robot di rumah kita.

Alasan pemirsa mungkin masih menyukainya

Kita tidak boleh berpura-pura bahwa sudut pandang pemirsa itu naif. Banyak orang yang enggan membahas etika produksi saat menonton serial di malam hari. Mereka ingin ceritanya berhasil, agar suaranya tetap sama, agar karakternya dapat dipercaya, dan tanpa efek penghilangan penuaan yang buruk, pengambilan gambar ulang yang tidak tepat, atau perubahan pemeran yang tiba-tiba untuk menghancurkan ilusi.

Jika suara AI dilisensikan dengan benar dan dengan hormat melanjutkan suara yang sudah mati atau tidak tersedia, hal ini sebenarnya bisa lebih baik secara emosional daripada perubahan yang sulit. Apalagi dengan seri panjang, buku audio, game atau sinkronisasi. Dan kemudian tibalah tahap berikutnya: seleksi.

Hari ini kami memilih bahasa, subtitle, mode gambar, terkadang hitam putih atau berwarna, terkadang jalur interaktif. Pada tahun 2018, Bandersnatch menunjukkan bagaimana streaming dapat mempengaruhi keputusan. Pilihan seperti itu masih tidak berbahaya dibandingkan dengan apa yang mungkin terjadi.

Apa yang terjadi jika saya tidak hanya memilih bahasanya tetapi juga aktornya? Apa jadinya jika saya bisa menonton acara dengan tokoh utama yang berbeda: berbeda etnis, berbeda usia, berbeda suara, berbeda humor, berbeda dinamika romantisnya? Dan apa yang terjadi jika sebuah platform menguji versi mana yang akan bertahan lebih lama dan secara otomatis memutar versi yang sedikit berbeda untuk saya di lain waktu? Kedengarannya distopia, tapi secara teknis ini bukanlah arah yang absurd.

Dari feed yang dipersonalisasi hingga film yang dipersonalisasi

Kita telah lama hidup dalam lingkungan media yang dipersonalisasi. Umpan Berita Facebook, TikTok, YouTube, Instagram, Netflix, Spotify, dan mesin pencari tidak sekadar menampilkan “dunia”. Mereka menunjukkan versi yang diurutkan, berbobot, dan dioptimalkan. Saat ini, setiap orang melihat Internet yang berbeda.

Perbedaan pentingnya adalah: Selama ini yang utama adalah penyortiran. Platform memilih dari konten yang ada. Video yang mana, postingan yang mana, berita yang mana, serial yang mana, iklan yang mana? AI generatif mengubah logika ini. Ketika konten tidak hanya dapat diurutkan tetapi juga dibuat, personalisasi menjadi lebih dalam. Maka yang jadi pertanyaan bukan lagi sekadar: “Cerita mana yang cocok untuk Anda?” Lalu muncul pertanyaan: “Versi mana dari cerita ini yang cocok untuk Anda?”

Ini adalah titik di mana Joan Is Awful tiba-tiba tampak kurang seperti sindiran dan lebih seperti sketsa peringatan. Akibatnya, Joan melihat serial streaming tentang kehidupannya sendiri, dihasilkan hampir secara real time, dengan aktor digital dan komputer kuantum sebagai mesin narasi yang absurd. Dalam seri ini, komputer kuantum adalah penguat dramatis. Pada kenyataannya, kita tidak memerlukan komputer kuantum yang sudah jadi untuk saat ini. Kemajuan yang relevan saat ini datang dari model generatif, suara sintetis, video AI, penangkapan gerak, sistem pemberi rekomendasi, dan kekuatan komputasi awan.

Perkembangan teknis bukanlah sebuah terobosan tunggal

Perkembangan ini tidak tiba-tiba terjadi begitu saja. Itu berdiri di beberapa lapisan:

• generator gambar yang lebih baik,
• model video yang lebih baik,
• sistem kloning suara dan konversi suara yang lebih baik,
• Penangkapan gerak dan penangkapan kinerja,
• terjemahan otomatis,
• Sinkronisasi bibir dan wajah,
• influencer sintetis,
• kembar digital,
• sistem pemberi rekomendasi,
• jalur pipa produksi yang lebih murah.

Setiap lapisan pada awalnya tidak sempurna. Gambar memiliki tangan yang aneh. Suara-suara terdengar nyaring. Wajah-wajah menyelinap ke lembah yang luar biasa. Bibir tidak pas. Gerakannya terlalu halus. Emosi tampak kosong. Namun arahnya jelas: segalanya akan menjadi lebih baik.

Dan itu tidak menjadi lebih baik jika dilakukan secara linear. Tiga bulan adalah waktu yang lama di bidang ini. Sebuah video yang mengesankan di bulan Maret bisa terasa kuno di bulan Juli. Itulah mengapa momen ini menarik: bukan karena angkanya sempurna, namun karena angka tersebut terlihat cukup awal sehingga memicu perdebatan sebelum teknologinya benar-benar siap.

Pasar kerja di baliknya

Konflik tersulit bukanlah pertanyaan apakah seorang aktris tiruan tersenyum dengan meyakinkan. Konfliknya terletak pada pekerjaan, persetujuan dan kompensasi.

Akting bukan sekedar wajah di depan kamera. Itu adalah waktu, suara, tubuh, pengalaman, kerentanan, pengulangan, kegagalan, improvisasi, penyutradaraan, chemistry dengan orang lain. Jika pemain sintetik didasarkan pada data pelatihan dari kinerja manusia, muncul pertanyaan: siapa yang mengerjakannya tanpa diminta?

Mirip dengan pengisi suara. Suara bukan sekedar suara. Ini adalah pekerjaan, pengakuan, ingatan karakter dan sering kali merupakan bagian dari budaya. Jika seorang pembicara terkenal telah membentuk perannya selama bertahun-tahun, maka kloning AI bukan sekadar pengganti teknis. Ini menyentuh kepribadian, kinerja dan kepercayaan.

Meski demikian, sisi lain juga tidak sepele. Jika suatu suara tiba-tiba berubah karena alasan lisensi, suatu rangkaian kehilangan sesuatu. Ketika seorang aktor meninggal saat sebuah cerita masih berlangsung, produser menghadapi keputusan yang sulit. Jika produksi yang lebih kecil tidak mampu melakukan pemotretan ulang atau pelokalan tertentu, AI dapat membantu menyelesaikannya.

Garis adilnya sebenarnya sudah jelas: persetujuan, kontrak, transparansi, remunerasi, opsi pembatalan, pelabelan teknis, dan tidak ada daur ulang rahasia. Realitas menjadi semakin rumit.

Siapa yang memiliki gambar yang dihasilkan AI?

Di sinilah banyak diskusi menjadi terlalu cepat. Jawaban jujurnya adalah: tergantung.

Di AS, Kantor Hak Cipta pada dasarnya mengatakan: Hasil AI murni tanpa kendali manusia yang memadai tidak dilindungi oleh hak cipta. Namun jika seseorang secara kreatif memilih, menyusun, mengedit, atau memasukkan unsur ekspresifnya sendiri, bagian manusia tersebut dapat dilindungi. Menurut perspektif AS saat ini, pemberitahuan saja biasanya tidak cukup.

Di Eropa dan Swiss, situasinya dirumuskan secara berbeda, namun pertanyaan dasarnya sama: hak cipta secara tradisional bergantung pada ciptaan manusia. Di Swiss undang-undang berbicara tentang kreasi intelektual yang bersifat individual. Jika menyangkut gambar yang murni dihasilkan mesin, sulit untuk sekadar mengatakan: “Ini sepenuhnya milik saya, seperti foto yang saya ambil sendiri.”

Namun bukan berarti Anda bisa menggunakan semuanya dengan bebas. Ada beberapa tingkatan:

• Hak Cipta dari keluaran: Apakah gambar tertentu dilindungi sama sekali, dan jika ya, bagian manusia yang mana?
• Hak masukan: Apakah gambar, suara, karakter, merek, atau desain yang dilindungi digunakan?
• Hak pribadi: Apakah orang asli dapat dikenali?
• Hak merek dagang dan merek dagang: Apakah gambar, nama, atau logo yang dilindungi dieksploitasi secara komersial?
• Ketentuan Perjanjian: Apa yang diperbolehkan oleh ketentuan penggunaan alat AI atau situs web?
• Persyaratan transparansi: Apakah konten sintetis perlu diberi label?

Ada hal lain dengan karakter seperti ini: Meskipun karakter sintetis, mereka dipasarkan sebagai persona yang dapat dikenali. Syarat dan ketentuan resmi seputar karakter tersebut dapat mengklaim hak atas gambar, suara, nama, kemiripan, dan konten. Apakah masing-masing pernyataan hukum ini dapat ditegakkan secara merata di setiap negara merupakan pertanyaan yang berbeda. Namun untuk sebuah blog, jawaban praktisnya sederhana:

Menggunakan nama Tilly Norwood untuk pelaporan dan kritik jauh lebih tidak sensitif dibandingkan mengambil gambar promo resmi, mengubahnya, dan menggunakannya sebagai gambar header Anda sendiri.

Oleh karena itu, pilihan yang lebih aman untuk gambar header adalah: jangan menyalin gambar promo resmi, jangan membuat ulang grafik tenggat waktu, jangan mengadopsi logo apa pun, melainkan buat ilustrasi Anda sendiri yang jelas-jelas fiksi dan jelaskan bahwa itu adalah buatan AI atau sintetis.

Masalahnya bukan hanya hak cipta

Masih banyak perdebatan mengenai hak cipta. Itu terlalu sempit, karena pertanyaan yang lebih besar adalah kepercayaan.

Kita sedang memasuki dunia di mana gambar, suara, dan video tidak lagi menjadi bukti secara otomatis. Ini bukanlah hal yang sepenuhnya baru. Foto selalu bisa dipentaskan. Periklanan selalu merupakan tipu daya. Pengemasan selalu dirancang untuk membuat produk tampak lebih besar, lebih segar, atau lebih berharga. Di beberapa toko Cina Anda dapat melihat hal ini dengan sangat jelas: tangan, sudut pandang, dan ukuran membuat suatu produk terlihat besar, meskipun sebenarnya kecil.

Kita juga mengetahui zona penipuan di supermarket ini. Satu bungkus tetap berukuran sama, isinya mengecil, harga tetap sama atau bertambah. Penyusutan inflasi bukanlah fenomena AI, namun menunjukkan mekanisme yang sama: konsumen harus melihat lebih dekat untuk memahami apa yang sebenarnya mereka dapatkan.

Sebenarnya kita sudah lama dilatih untuk mengambil gambar yang sempurna. Dalam industri makanan, burger terlihat lebih juicy di kemasannya dibandingkan di dalam kotaknya, steaknya lebih bersinar sempurna, sayurannya tampak lebih segar, kuenya lebih tinggi, lebih lapang, dan lebih menggoda. Kita tahu bahwa penataan makanan, pencahayaan, cat, uap, perspektif, dan pascaproduksi semuanya berperan. Tetap saja, itu berhasil. Hal yang sama terjadi pada orang-orang di media sosial: perempuan sering kali ditampilkan kurus, bebas kerut, tanpa cela, dan fokus lembut; Pria tampak terlatih, rambut lebat, garis rahang jernih, kulit sempurna. Banyak orang di sana juga mengetahui bahwa filter, pose, cahaya, dan retouching terlibat. Namun demikian, hal ini membentuk ekspektasi kita terhadap seperti apa seharusnya tubuh, wajah, kehidupan, atau hubungan.

Segalanya menjadi lebih menarik ketika Anda tidak hanya memikirkan tentang gambar, tetapi juga tentang penggantian dan simulasi. Ada produk rasa daging tanpa daging, es krim stroberi tanpa stroberi asli, minuman jus jeruk dengan sedikit atau tanpa jus jeruk asli, kulit buatan sebagai pengganti kulit dan rasa yang menjanjikan sesuatu yang alami tanpa banyak mengandung sifat alami di dalamnya. Dalam dunia fesyen dan periklanan, Photoshoplah yang membuat model menjadi lebih sempurna: kulit lebih halus, kaki lebih panjang, pinggang lebih kecil, kerutan lebih sedikit, lebih bersinar. Banyak hal dalam kehidupan kita sehari-hari yang tidak lagi benar-benar nyata, dan seringkali hal-hal tersebut hanya sedikit mengganggu kita selama hal-hal tersebut terlihat bagus, enak, atau nyaman.

Itulah mengapa menurut saya kemarahan terhadap suara palsu atau aktris sintetis dapat dimengerti, tetapi tidak sepenuhnya mudah. Jika kita telah hidup dengan kesempurnaan yang dibuat-buat dalam makanan, fesyen, periklanan, media sosial, dan gambar produk selama bertahun-tahun, mengapa film, dalam segala hal, tiba-tiba tetap menjadi pulau keaslian terakhir? Mungkin kita tidak keberatan ada sesuatu yang palsu. Mungkin yang lebih meresahkan kita adalah kita tidak bisa lagi mengenalinya dengan pasti. Dan jika sebagian besar orang saat ini sulit membedakan apakah suatu gambar dihasilkan oleh AI atau asli, maka batasan ini menjadi lebih sulit lagi dalam film.

AI memperburuk hal ini karena versi yang sempurna tidak lagi hanya dapat dibuat-buat, tetapi dapat dibuat dan diadaptasi sesuka hati. Apa jadinya jika acara TV, film, dan serial menjadi lebih lancar, lebih indah, dan lebih disesuaikan dengan kebutuhan kita? Bagaimana jika tokoh utama yang romantis tidak hanya ditulis dengan baik, namun juga berpenampilan, berbicara, dan bereaksi persis seperti yang diasumsikan dalam profil kita? Maka langkah selanjutnya bukan hanya menonton film malam yang sempurna, tapi mungkin teman AI yang sempurna di telepon: selalu tersedia, penuh perhatian, pengertian, secara visual sesuai keinginan, selaras secara emosional dengan kita. Dan suatu saat robotika akan muncul. Maka pasangan yang sempurna mungkin bukan lagi darah dan daging, tetapi sudah disesuaikan secara sempurna dengan kita. Itu bisa terasa menyenangkan. Sama seperti permen yang terasa enak. Namun hal itu tidak berarti bahwa hal tersebut baik bagi kita dalam jangka panjang.

Gambar-gambar berikut bukanlah orang sungguhan dan bukan merupakan pernyataan tentang budaya nyata. Mereka hanya menampilkan adegan dasar romantis yang dibuat secara artifisial dalam variasi visual yang berbeda. Hal inilah yang memperjelas betapa mudahnya sebuah gambar dapat disesuaikan dengan ekspektasi yang berbeda-beda secara emosional, budaya, dan estetis.

Ketika sebuah gambar tidak lagi sekadar difoto dengan cerdik namun benar-benar tercipta, ketika sebuah suara tidak lagi hanya terdengar serupa namun dibuat ulang secara sintetis, ketika sebuah video tidak lagi difilmkan tetapi dihasilkan, maka pengujian menjadi lebih berat. Dan upaya ini tidak hanya berdampak pada para profesional teknologi. Dia bertemu semua orang.

Politik, perang, dan realitas sintetik

Kalau soal hiburan, Anda tetap bisa mengatakan: Kalau ditandai dengan jelas, itu fiksi. Hal ini lebih berbahaya dalam politik, perang dan krisis.

Rata-rata pengguna seringkali tidak dapat lagi membedakan apakah suatu video itu nyata, apakah suatu gambar berasal dari konflik yang sedang terjadi, apakah rekaman suara itu asli, apakah suatu kutipan diambil di luar konteks atau apakah suatu pesan sengaja dibuat bermuatan emosi.

Media yang dihasilkan oleh AI tidak akan menghancurkan hal ini dengan sendirinya. Disinformasi, propaganda, literasi media yang buruk, kemarahan algoritmik, dan kepentingan politik sudah ada sebelumnya. Namun AI mengurangi biaya produksi produk palsu yang masuk akal.

Di masa lalu, pemalsuan yang baik memerlukan lebih banyak pengetahuan khusus, lebih banyak waktu, dan lebih banyak anggaran. Saat ini, alat, petunjuk, templat, dan sedikit kesabaran seringkali sudah cukup. Masih banyak yang bisa dilihat jika Anda perhatikan lebih dekat. Namun skala “perhatikan lebih dekat” menjadi buruk ketika ribuan klip, gambar, dan dugaan bukti mengalir melalui feed setiap hari.

Ini adalah ujian sosial yang sebenarnya. Catatan: Bisakah kita mengenali gambar AI? Namun: Bisakah kita membangun lingkungan informasi di mana masyarakat tidak sepenuhnya bosan dengan setiap gambar, setiap suara, dan setiap pesan?

Apa yang bisa dan tidak bisa dicapai oleh transparansi

Undang-undang AI UE bergantung pada kewajiban transparansi untuk konten sintetis. Penyedia dan pengguna sistem AI tertentu harus memberi label atau mengungkapkan konten jika audio, gambar, video, atau teks dibuat atau dimanipulasi secara artifisial. Aturan seperti itu masuk akal, tapi tidak menyelesaikan segalanya.

Tanda air dapat dihilangkan. Metadata bisa hilang. Tangkapan layar menghancurkan informasi asal. Platform tidak mengadopsi label secara seragam. Dan orang yang ingin menipu tidak akan patuh mematuhi persyaratan pelabelan. Meskipun demikian, transparansi itu penting, bukan karena transparansi menciptakan keamanan yang sempurna, namun karena transparansi menetapkan standar. Siapa pun yang menggunakan aktor sintetis, suara AI, atau gambar iklan yang dihasilkan harus mengatakannya secara terbuka. Bukan dalam paragraf tersembunyi dari syarat dan ketentuan, tetapi jika relevan bagi pemirsa.

Secara teknis, ada landasan pertama untuk hal ini. Google DeepMind bekerja sama dengan SynthID untuk membuat tanda air yang tidak terlihat untuk konten yang dihasilkan AI, termasuk gambar, audio, teks, dan video. Penanda tersebut nantinya akan membantu mengenali konten yang dihasilkan, dan pendekatan serupa juga diadopsi oleh platform dan penyedia model lain. Hal ini berguna, namun bukan obat ajaib: Segera setelah gambar banyak diedit, difilmkan, diteruskan sebagai tangkapan layar, atau dibuat di luar sistem yang didukung, pengenalan tetap sulit dilakukan.

Dalam film dan serial, hal ini dapat dikreditkan. Saat beriklan langsung di konten. Sangat terlihat jika menyangkut konten politik. Sangat tepat dengan suara dan avatar dalam konteks kontrak dan produksi.

Transparansi bukanlah suatu keadaan akhir, namun merupakan kebersihan minimum.

Peluang, risiko dan klasifikasi saya

Yang saya sukai dari teknologi

Terlepas dari semua kritik: Saya tidak hanya menganggap teknologi ini sebagai ancaman. Ada manfaat nyata.

Tim kecil dapat membangun adegan yang sebelumnya terlalu mahal. Pembuat film independen dapat memvisualisasikan dunia tanpa harus memiliki studio besar. Lokalisasi bisa menjadi lebih baik. Aksesibilitas dapat memberikan manfaat. Konten lama dapat dipulihkan. Stunts bisa menjadi lebih aman. Suara dapat disimpan dengan persetujuan. Para pelaku dapat melisensikan digital ganda mereka secara terkendali dan dengan demikian menghasilkan pendapatan baru.

Hal ini juga dapat menarik bagi pemirsa. Mungkin suatu saat nanti saya bisa menonton serial dalam bahasa saya, dengan lip sync yang natural dan suara yang sesuai dengan karakternya. Mungkin sebuah film bisa menawarkan gaya yang berbeda. Mungkin video edukasi untuk anak-anak bisa terlihat berbeda dibandingkan untuk orang dewasa. Mungkin sebuah film dokumenter bisa memberikan kedalaman lebih secara interaktif tanpa harus diproduksi dari awal. Ini adalah kemungkinan yang nyata, namun tidak secara otomatis menjadi adil hanya karena secara teknis menarik.

Apa yang menurut saya berbahaya tentang hal itu

Sisi berbahayanya bukanlah adanya sosok buatan. Sisi berbahayanya adalah kombinasi penskalaan, pengendalian dan pembiasaan.

Ketika aktor sintetik menjadi normal, kita terbiasa dengan kenyataan bahwa wajah tidak lagi membutuhkan manusia. Saat suara sintetis menjadi normal, kita akan terbiasa dengan suara yang dilisensikan, disalin, dan dibuat versinya. Ketika serial yang dipersonalisasi menjadi normal, kami terbiasa dengan kenyataan bahwa seni bukan lagi karya kolektif, melainkan aliran yang dioptimalkan secara individual.

Hal ini dapat membuat hiburan menjadi lebih nyaman. Tapi itu juga bisa membuat mereka lebih kosong. Sebuah cerita lebih dari sekedar konten. Seorang aktor lebih dari sekedar wajah. Suara lebih dari sekadar profil suara. Dan film lebih dari sekadar mesin keterlibatan yang efisien. Mungkin kedengarannya kuno, tapi menurut saya justru batasan inilah yang penting.

Klasifikasi saya

Aktris AI ini belum saatnya aktor manusia tergantikan. Sebaliknya, ini adalah momen ketika industri menguji sejauh mana kemajuannya.

Bagaimana reaksi agensi? Bagaimana reaksi pemirsa? Bagaimana reaksi serikat pekerja? Bagaimana reaksi media? Bagaimana reaksi platform? Seberapa cepat kemarahan berubah menjadi rasa ingin tahu? Seberapa cepat rasa ingin tahu berubah menjadi kebiasaan?

Saya yakin artis sintetik akan datang. Bukan sebagai pengganti manusia seutuhnya, setidaknya tidak dalam waktu dekat. Namun yang pertama adalah periklanan, video musik, konten sosial, permainan, peran latar belakang, pelokalan, video pelatihan, produksi beranggaran rendah, dan kampanye digital. Kemudian dalam produksi hybrid. Dan pada titik tertentu dalam format yang masih terdengar aneh hingga saat ini: aktor yang dapat dipilih, suara dinamis, subplot yang dipersonalisasi, potongan yang fleksibel.

Pertanyaan pentingnya bukanlah apakah kita dapat mencegah hal ini. Pertanyaan pentingnya adalah apakah kita mengembangkan aturan, selera, dan transparansi dengan cukup cepat.

Bagi saya arah yang adil adalah:

• persetujuan nyata untuk suara, wajah dan penampilan,
• kompensasi yang jelas untuk digital ganda,
• memberi label pada aktor sintetik,
• tidak ada replika rahasia orang sungguhan,
• tidak ada alasan “itu hanya AI” jika sebuah karya didasarkan pada karya manusia,
• hak yang jelas atas keluaran dan materi pelatihan,
• label yang terlihat pada materi yang relevan secara politik atau jurnalistik,
• Pilihan audiens tanpa personalisasi manipulatif.

Mungkin dalam beberapa tahun mendatang proyek ini akan tampak seperti upaya awal yang memalukan. Mungkin seperti awal dari kategori film baru. Mungkin seperti tanda peringatan. Mungkin sebagai segalanya pada saat yang sama. Bagaimanapun, saya cukup yakin bahwa topik tersebut tidak akan hilang lagi.

Beberapa tahun ke depan tidak hanya akan menunjukkan seberapa baik AI dapat meniru akting. Mereka akan menunjukkan betapa besarnya rasa kemanusiaan yang kita harapkan dari media ketika media alternatif sintetis menjadi lebih murah, lebih cepat, dan lebih nyaman.

Sampai jumpa lagi,
Joe-mu