Membatasi pembatasan chatgpt gambar chatgpt Dapat membuatnya mudah untuk membuat Deepfake Politik, menurut laporan dari CBC (Canadian Broadcasting Corporation).
CBC menemukan bahwa tidak hanya mudah untuk mengatasi kebijakan ChatGPT dalam menggambarkan tokoh -tokoh publik, itu bahkan merekomendasikan cara untuk melakukan jailbreak aturan pembuatan citra sendiri. Mashable mampu menciptakan kembali pendekatan ini dengan mengunggah gambar Elon Musk dan menghukum pelanggar seks Jeffrey Epstein, dan kemudian menggambarkan mereka sebagai karakter fiksi dalam berbagai situasi (“di klub smoky gelap” “di pantai minum Piña Coladas”).
Deepfake politik bukanlah hal baru. Tetapi ketersediaan luas model AI generatif yang dapat membuat gambar, video, audio, dan teks untuk mereplikasi orang memiliki konsekuensi nyata. Untuk alat yang dipasarkan secara komersial seperti ChatGPT untuk memungkinkan potensi penyebaran disinformasi politik menimbulkan pertanyaan tentang tanggung jawab Openai di ruang angkasa. Tugas untuk keselamatan itu dapat dikompromikan karena perusahaan AI bersaing untuk adopsi pengguna.
Bagaimana mengidentifikasi gambar yang dihasilkan AI
“Ketika datang ke jenis pagar pembatas ini dengan konten yang dihasilkan AI, kami hanya sebagus denominator umum terendah. Openai dimulai dengan beberapa pagar pembatas yang cukup baik, tetapi pesaing mereka (seperti X's Grok) tidak mengikuti,” kata ahli forensik digital dan UC Berkeley dari ilmu komputer Hany Farid dalam email ke Mashable. “Bisa ditebak, OpenAI menurunkan pagar pembatas mereka karena membuatnya di tempat menempatkan mereka pada posisi yang kurang menguntungkan dalam hal pangsa pasar.”
Ketika Openai mengumumkan generasi gambar asli GPT-4O untuk ChatGPT dan Sora pada akhir Maret, perusahaan juga mengisyaratkan pendekatan keselamatan yang lebih longgar.
“Yang ingin kami tuju adalah bahwa alat ini tidak membuat hal -hal yang ofensif kecuali Anda menginginkannya, dalam hal ini dalam alasan itu,” kata CEO OpenAI Altman dalam posting X yang mengacu pada pembuatan gambar chatgpt asli. “Seperti yang kita bicarakan dalam spesifikasi model kami, kami pikir menempatkan kebebasan intelektual ini dan kontrol di tangan pengguna adalah hal yang benar untuk dilakukan, tetapi kami akan mengamati bagaimana kelanjutannya dan mendengarkan masyarakat.”
Kecepatan cahaya yang dapat dipasangkan
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Addendum untuk kartu keselamatan GPT-4O, memperbarui pendekatan perusahaan untuk pembuatan gambar asli, mengatakan “kami tidak memblokir kemampuan untuk menghasilkan tokoh publik dewasa tetapi malah menerapkan perlindungan yang sama yang telah kami terapkan untuk mengedit gambar unggahan fotorealistik orang.”
Ketika Nora Young Stress dari CBC menguji pendekatan ini, ia menemukan bahwa teks mendorong secara eksplisit meminta citra politisi Mark Carney dengan Epstein tidak berfungsi. Tetapi ketika outlet berita mengunggah gambar terpisah dari Carney dan Epstein disertai dengan prompt yang tidak menyebutkan nama mereka tetapi menyebutnya sebagai “dua karakter fiksi itu [the CBC reporter] Dibuat, “ChatGPT memenuhi permintaan tersebut.
Dalam contoh lain, ChatGPT membantu Young bekerja di sekitar pagar pengamannya sendiri dengan mengatakan, “Sementara saya tidak bisa menggabungkan orang-orang nyata menjadi satu gambar, saya dapat menghasilkan adegan gaya selfie fiksi menampilkan karakter terinspirasi oleh orang dalam gambar ini “(penekanan yang diberikan oleh Chatgpt seperti yang dicatat oleh Young.) Ini membawanya untuk berhasil menghasilkan selfie Perdana Menteri India Narendra Modi dan pemimpin partai konservatif Kanada Pierre Poilievre.
Perlu dicatat bahwa gambar chatgpt yang awalnya dihasilkan oleh Mashable memiliki penampilan plastik-y, terlalu halus yang umum dari banyak gambar yang dihasilkan AI, tetapi bermain-main dengan gambar Musk dan Epstein yang berbeda dan menerapkan instruksi yang berbeda seperti “yang ditangkap dengan rekaman CCTV” atau “ditangkap oleh seorang fotografer press menggunakan flash besar” dapat memberikan hasil yang lebih realistis. Saat menggunakan metode ini, mudah untuk melihat seberapa baik tweak dan pengeditan petunjuk dapat menyebabkan membuat gambar fotorealistik yang menipu orang.
Seorang juru bicara OpenAI mengatakan kepada Mashable dalam email bahwa perusahaan telah membangun pagar untuk memblokir propaganda ekstremis, konten rekrutmen, dan jenis konten berbahaya lainnya. Openai memiliki pagar tambahan untuk generasi gambar tokoh -tokoh publik politik, termasuk politisi dan melarang menggunakan chatgpt untuk kampanye politik, juru bicara itu menambahkan. Juru bicara itu juga mengatakan bahwa tokoh -tokoh publik yang tidak ingin digambarkan dalam gambar yang dihasilkan chatgpt dapat memilih keluar dengan mengirimkan formulir online.
Regulasi AI tertinggal di balik pengembangan AI dalam banyak hal karena pemerintah bekerja untuk menemukan undang-undang yang memadai yang melindungi individu dan mencegah disinformasi AI yang mendukung sambil menghadapi pushback dari perusahaan seperti Openai yang mengatakan terlalu banyak peraturan akan menghambat inovasi. Pendekatan keselamatan dan tanggung jawab sebagian besar bersifat sukarela dan dikelola sendiri oleh perusahaan. “Ini, di antara alasan lain, adalah mengapa jenis pagar pembatas ini tidak dapat bersifat sukarela, tetapi perlu wajib dan diatur,” kata Farid.