Arti OpenAI Sora bagi masa depan kebenaran

Ada cerita dari awal mula sinema yang tampaknya dapat diterapkan pada Sora, alat pembuatan teks-ke-video yang diluncurkan oleh OpenAI minggu ini. Dan mengingat server Sora sedang berjuang dengan permintaan, dengan banyak pelanggan OpenAI yang masih menunggu untuk mencobanya, kami punya waktu untuk bercerita.

Anda mungkin mengetahuinya Kedatangan Kereta di Stasiun La Ciotat (1896) oleh Lumiere bersaudara, meskipun Anda belum pernah melihatnya. Seperti Sora, keluarga Lumiere membuat film pendek yang menampilkan teknologi terkini. Kita berbicara tentang sinematografi daripada rendering AI, dan film mewah berdurasi 50 detik daripada maksimum 20 detik yang diperbolehkan dalam video Sora.

Namun, prinsipnya tetap sama: Ini adalah gambaran awal dari bentuk hiburan baru yang mengejutkan. Menurut legenda — legenda yang terdapat dalam film menawan Martin Scorcese tentang seorang anak laki-laki di era Lumiere, Hugo (2011) — Kedatangan Kereta Api penonton berlarian ketakutan dari mesin uap yang tampaknya langsung menuju ke arah mereka.

Kepanikan serupa juga terjadi pada Sora – khususnya, kepanikan mengenai dampak video AI yang dapat semakin menghancurkan lanskap media “pasca-kebenaran” kita. Rata-rata penonton sudah kesulitan menilai mana yang nyata dan mana yang tidak, dan masalahnya akan lebih buruk jika mereka mengalami depresi. Kita hidup di zaman keemasan teori konspirasi. Orang terkaya di dunia telah membagikan video deepfake AI untuk membantu melancarkan pemilu.

Apa yang terjadi jika Sora bisa melakukannya setiap prompt terlihat senyata sesuatu yang mungkin Anda lihat di berita malam — siap untuk disebarkan di media sosial?

OpenAI tampaknya berpikir bahwa tanda airnya, baik yang terlihat maupun tidak, akan mencegah kejahatan apa pun. Namun setelah mengunduh lusinan video Sora sekarang, saya dapat membuktikan bahwa tanda air yang terlihat kecil, tidak terbaca, dan lebih sering menghilang ke latar belakang. Ini akan menjadi permainan anak-anak untuk perangkat lunak pengeditan video untuk memotong semuanya.

Jadi, dunia yang penuh dengan disinformasi yang disengaja, baik dari aktor politik jahat atau influencer yang mencoba meningkatkan keterlibatan mereka, kini menimpa kita seperti kereta api. Benar?

Salah. Karena seperti yang diceritakan dalam kisah nyata film Lumiere, manusia sebenarnya jauh lebih pintar dalam menerima hiburan video baru daripada yang kita hargai.

Inilah masalahnya Kedatangan Kereta Api: legenda tersebut hampir pasti salah. Kami tidak memiliki bukti langsung bahwa penonton meninggalkan bioskop, atau bahkan tersentak ketika melihat kereta mendekat dalam klip berdurasi 50 detik.

Profesor studi media Martin Loiperdinger menyebut kisah panik ini sebagai “mitos pendiri sinema”, dan mencatat bahwa kisah tersebut dapat ditelusuri kembali ke buku-buku yang ditulis pada paruh kedua abad ke-20. Ada kemungkinan bahwa penulis menggabungkannya dengan versi eksperimental 3-D Lumiere yang lebih baru Kedatangan Kereta Apiyang diputar beberapa kali pada tahun 1934 dan — seperti kebanyakan film 3-D yang akan datang — merupakan hal baru, dan kegagalan komersial.

Jadi tidak, penonton awal kemungkinan besar tidak bingung membedakan gambar kereta api yang bergerak dengan kereta api sungguhan. Sebaliknya, mereka tampaknya beradaptasi dengan keseluruhan konsep film dengan sangat cepat. Catatan kontemporer tentang celana pendek Lumiere (yang jumlahnya lusinan; Kedatangan Kereta Api tidak dilihat sebagai hal yang menonjol) dipenuhi dengan kegembiraan atas kemungkinan-kemungkinan yang kini terbuka.

“Wah, kalau ini terus berlanjut,” tulis salah satu surat kabar, Le Kurir de Parispada tahun 1896, “kita hampir bisa mengatasi kehilangan ingatan, hampir mengakhiri perpisahan, hampir menghapuskan kematian itu sendiri.” (Peringatan spoiler: kami tidak melakukannya, meskipun itu terdengar seperti premis yang bagus untuk abad ke-19 Cermin Hitam episode.)

Majalah berkala lainnya, La Sains Francaissangat antusias dengan “sihir yang luar biasa menakjubkan” yang telah menciptakan “fantasmagoria halusinasi” sinematografi. Bahkan penguat AI yang paling menyukai teknologi saat ini akan kesulitan mendukung Sora dengan istilah yang sama.

Karena seperti kebanyakan AI, Sora sering kali “berhalusinasi” — dan tidak dalam arti yang baik.

Seperti yang saya ketahui saat server OpenAI tidak dibanting, hampir setiap video yang dibuat Sora memiliki beberapa detail yang terlihat salah di mata manusia. Saya mengetik perintah untuk “jurnalis membanting meja karena frustrasi karena tidak dapat mengakses video AI”, lalu melihat sebuah pena muncul dan menghilang di tangan jurnalis.

Kesalahan terus terjadi. Faktor kebaruan berkurang dengan cepat. Teman-teman terhibur dan sedikit ketakutan dengan realita barang curian dalam “artis hip-hop membuat model sweter Natal yang nyaman” — sampai kami melihat bahwa rantai emas sang rapper telah menjadi ekor kuda emas di bagian belakang, dan rusa di bagian belakang. sweter memiliki delapan kaki.

Tanggapan Sora terhadap “misa pemakaman dengan badut sirkus” cukup berhasil… kecuali bahwa sosok berhidung merah dan wig warna-warni di peti mati telah kehilangan tubuhnya.

Itu tidak berarti Sora tidak akan memberikan dampak langsung pada industri gambar bergerak. Mengingat petunjuk yang tidak terlalu aneh, hal ini tentu dapat menggantikan sebagian besar B-roll umum yang sering terlihat di penjelasan YouTube dan video pelatihan perusahaan. (Itu dengan asumsi OpenAI tidak akan dipaksa untuk menghentikan dan menghentikan pelatihan Sora pada rekaman video internet tanpa izin pembuatnya.)

Dia adalah untuk mengatakan bahwa ada hambatan besar untuk masuk ketika membuat video yang menampilkan sesuatu yang tidak biasa, apa pun yang Anda coba bohongi, apa pun yang Sora belum dilatih secara khusus. Menghilangkan semua kesalahan tersebut, sampai pada titik di mana kita tidak segera menyadarinya, bisa menjadi latihan yang membuat frustrasi.

Dan mungkin video-video awal AI yang penuh kesalahan ini akan berfungsi sebagai semacam inokulasi massal – sebuah dosis kecil dari penyakit pasca-kebenaran, penyakit yang secara efektif memberikan otak kita antibodi yang resistan terhadap AI yang dapat lebih mempersiapkan kita menghadapi epidemi kepalsuan visual di masa depan. .

Video AI perlu mengikuti kereta petunjuk

Saya tentu saja kurang terkesan dengan AI setelah saya meminta Sora untuk mengambil pandangan baru terhadap Lumieres. Kedatangan Kereta Api. Saya minta video letak lokomotifnya melakukan benar-benar menerobos layar proyeksi di akhir, menghancurkan penonton sinematografi.

Tapi Sora bahkan tidak bisa mengakses film pendek asli berdurasi 50 detik itu jalan tidak memiliki hak cipta dan tersedia secara luas secara online (termasuk versi yang telah ditingkatkan oleh AI). Ia berhalusinasi tentang film berjudul “Arrival of a tal [sic] train,” rupanya dirilis pada tahun “18965.”

Adapun untuk mendobrak tembok keempat secara harafiah, lupakan saja: meskipun ada beberapa upaya penulisan ulang yang cepat, Sora tidak bisa memahami apa yang saya tanyakan. Layar proyeksi tetap utuh.

Namun, versi Sora ini mungkin masih menjadi pertanda adanya pemalsuan visual yang mengerikan di masa depan – mungkin ketika teknologi video AI yang lebih kuat jatuh ke tangan DW Griffith di masa depan.

Dua dekade telah berlalu Kedatangan Kereta Api dan film terkenal GriffithLahirnya Suatu Bangsa (1915)— film laris pertama yang nyata, sebuah tonggak penting dalam sejarah perfilman, yang kebetulan juga merupakan pandangan miring terhadap sejarah Amerika terkini yang penuh dengan kebohongan rasis.

Film Griffith, yang saat itu diprotes oleh NAACP, sangat berpengaruh dalam melanggengkan segregasi dan menghidupkan kembali Ku Klux Klan.

Jadi ya, mungkin pembebasan Sora perlahan-lahan mendorong kita lebih jauh ke arah dunia pasca-kebenaran yang terfragmentasi. Namun bahkan di masa depan yang didominasi AI, aktor jahat harus bekerja lembur jika mereka ingin melakukan lebih banyak kerusakan pada masyarakat dibandingkan dengan perintah sinematografi yang paling berbahaya.