Sepertinya sejak AI datang ke dunia kita, pencipta telah meletakkan kaki di atas gas. Namun, menurut dokumen kebijakan baru, Meta CEO Mark Zuckerberg mungkin memperlambat atau menghentikan pengembangan sistem AGI yang dianggap “berisiko tinggi” atau “risiko kritis.”
AGI adalah sistem AI yang dapat melakukan apa pun yang dapat dilakukan manusia, dan Zuckerberg berjanji untuk membuatnya tersedia secara terbuka suatu hari nanti. Tetapi dalam dokumen “Frontier AI Framework,” Zuckerberg mengakui bahwa beberapa sistem AI yang sangat mampu tidak akan dirilis secara publik karena mereka bisa terlalu berisiko.
Kerangka kerja “berfokus pada risiko paling kritis di bidang ancaman keamanan siber dan risiko dari senjata kimia dan biologis.”
Mark Zuckerberg menggandakan pengajuan Meta ke Trump
“Dengan memprioritaskan bidang -bidang ini, kami dapat bekerja untuk melindungi keamanan nasional sambil mempromosikan inovasi. Kerangka kerja kami menguraikan sejumlah proses yang kami ikuti untuk mengantisipasi dan mengurangi risiko ketika mengembangkan sistem AI perbatasan,” sebuah siaran pers tentang dokumen tersebut dibaca.
Kecepatan cahaya yang dapat dipasangkan
Sebagai contoh, kerangka kerja ini bermaksud untuk mengidentifikasi “hasil bencana potensial yang terkait dengan risiko cyber, kimia dan biologis yang kami berusahakan untuk dicegah.” Ini juga melakukan “latihan pemodelan ancaman untuk mengantisipasi bagaimana aktor yang berbeda mungkin berusaha menyalahgunakan AI perbatasan untuk menghasilkan hasil bencana itu” dan memiliki “proses di tempat untuk menjaga risiko dalam tingkat yang dapat diterima.”
Jika perusahaan menentukan bahwa risikonya terlalu tinggi, itu akan menjaga sistem internal alih -alih memungkinkan akses publik.
Mark Zuckerberg menginginkan lebih banyak 'energi maskulin' di Corporate America
“Sementara fokus dari kerangka kerja ini adalah pada upaya kami untuk mengantisipasi dan mengurangi risiko hasil bencana, penting untuk menekankan bahwa alasan untuk mengembangkan sistem AI canggih di tempat pertama adalah karena potensi yang luar biasa untuk manfaat bagi masyarakat dari teknologi tersebut , “Dokumen itu berbunyi.
Namun, sepertinya Zuckerberg memukul rem – setidaknya untuk saat ini – di trek cepat Agi ke masa depan.