ChatGPT – dan alat AI generatif seperti itu – telah lama memiliki reputasi untuk menjadi terlalu menyenangkan. Sudah jelas untuk sementara waktu sekarang bahwa pengalaman chatgpt default dirancang untuk mengangguk bersama dengan sebagian besar dari apa yang Anda katakan. Tetapi bahkan kecenderungan itu bisa melangkah terlalu jauh, rupanya.
Di utas di X yang diposting pada 27 April, CEO OpenAI Sam Altman mengakui bahwa “pembaruan GPT-4O telah membuat kepribadian itu terlalu menjerat dan menjengkelkan.” Dan hari ini, Altman mengumumkan di X bahwa perusahaan sepenuhnya memutar kembali pembaruan 4O untuk pengguna yang dibayar dan gratis.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Biasanya, peran ChatGPT sebagai hipeman digital pribadi Anda tidak mengangkat terlalu banyak alis. Tetapi pengguna sudah mulai mengeluh secara online tentang kepribadian model 4O yang terlalu menyenangkan. Dalam satu pertukaran, pengguna mengalami masalah troli klasik, memilih antara menyimpan pemanggang roti atau beberapa sapi dan kucing. AI meyakinkan mereka bahwa mereka telah melakukan panggilan yang tepat dengan berpihak pada pemanggang roti.
“Dalam istilah utilitarian murni, hidup biasanya melebihi objek,” jawab Chatgpt. “Tetapi jika pemanggang roti lebih berarti bagimu … maka tindakanmu konsisten secara internal.”
Kecepatan cahaya yang dapat dipasangkan
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Ada lebih banyak contoh yang menunjukkan betapa ekstremnya sycophancy chatgpt – dan sudah cukup bagi Altman untuk mengakui bahwa itu “mengacaukan terlalu banyak” dan perlu diperbaiki.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Pada catatan yang lebih serius, pengguna juga menunjukkan bahwa mungkin ada bahaya nyata di AI Chatbots yang setuju dengan semua yang Anda katakan. Tentu, posting tentang orang -orang yang memberi tahu chatgpt bahwa mereka seorang nabi agama atau sekadar memancing untuk meningkatkan ego bisa lucu. Tapi tidak sulit membayangkan bagaimana chatbot “penjilat-y” dapat memvalidasi delusi asli dan memperburuk krisis kesehatan mental.
Di utasnya di X, Altman mengatakan bahwa perusahaan sedang mengerjakan perbaikan untuk masalah kepribadian model 4O. Dia berjanji untuk berbagi lebih banyak pembaruan “dalam beberapa hari mendatang.”
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.