Alat pencarian AI dengan percaya diri memuntahkan jawaban yang salah di klip tinggi, sebuah studi baru ditemukan.
Columbia Journalism Review (CJR) melakukan penelitian di mana ia memberi makan delapan alat AI kutipan sebuah artikel dan meminta chatbots untuk mengidentifikasi “tajuk utama artikel yang sesuai, penerbit asli, tanggal publikasi, dan URL.” Secara kolektif, penelitian ini mencatat bahwa chatbots “memberikan jawaban yang salah untuk lebih dari 60 persen pertanyaan.”
Bagaimana mengidentifikasi teks yang dihasilkan AI
Kesalahan bervariasi. Terkadang, alat pencarian dilaporkan berspekulasi atau menawarkan jawaban yang salah atas pertanyaan yang tidak bisa dijawabnya. Terkadang, itu menemukan tautan atau sumber. Terkadang, itu mengutip versi yang dijiplak dari artikel asli.
Kecepatan cahaya yang dapat dipasangkan
Menulis CJR: “Sebagian besar alat yang kami uji menyajikan jawaban yang tidak akurat dengan kepercayaan yang mengkhawatirkan, jarang menggunakan frasa yang memenuhi syarat seperti 'tampaknya,' 'mungkin,' 'mungkin,' dll., Atau mengakui kesenjangan pengetahuan dengan pernyataan seperti 'Saya tidak dapat menemukan artikel yang tepat.'”
Studi penuh layak untuk dilihat, tetapi tampaknya masuk akal untuk skeptis terhadap alat pencarian AI. Masalahnya adalah bahwa orang -orang tampaknya tidak melakukan itu. CJR mencatat bahwa 25 persen orang Amerika mengatakan mereka menggunakan AI untuk mencari alih -alih mesin pencari tradisional.
Google, raksasa pencarian, semakin mendorong AI pada konsumen. Bulan ini, mengumumkan akan memperluas ikhtisar AI dan mulai menguji hasil pencarian AI-hanya.
Studi dari CJR hanyalah titik data lain yang menunjukkan ketidakakuratan AI. Alat telah menunjukkan, berkali -kali, bahwa mereka akan dengan yakin memberikan jawaban yang salah. Dan raksasa teknologi memaksa AI ke hampir setiap produk. Jadi berhati -hatilah dengan apa yang Anda yakini di luar sana.
Topik
Kecerdasan buatan