Fitur Baru AI Google Memberikan Hasil yang Aneh dan Berbahaya

MENLO PARK – Google baru-baru ini meluncurkan AI analitik, sebuah fitur yang dirancang untuk memberikan hasil pencarian yang dihasilkan oleh AI.

Seperti dilansir IFL Science, Minggu (26/5/2024) Namun sejak diluncurkan, fitur ini banyak menuai kritik karena memberikan jawaban yang lucu dan berbahaya.

Pengguna media sosial dengan cepat memberikan contoh tanggapan lucu yang dihasilkan oleh AI Ikhtisar. Namun, beberapa orang kemudian mengetahui bahwa ada juga jawaban yang meresahkan.

Masalahnya adalah cara kerja AI Review. Fitur ini menggunakan algoritma pembelajaran mesin untuk mengenali kata dan frasa dalam konteks tertentu. Saat pengguna mengajukan pertanyaan, AI akan menghasilkan jawaban yang diharapkan berdasarkan pertanyaan tersebut.

Namun algoritma ini tidak dapat membedakan antara situs berita serius dan situs humor atau komikal. Hasilnya, AI Review secara berkala mengambil informasi dari situs seperti The Onion atau Reddit dan membuktikan kebenarannya.

Hal ini dapat menimbulkan efek berbahaya karena pengguna mungkin mempercayai informasi palsu tersebut. Ringkasan AI, misalnya, digunakan untuk memberikan ringkasan kasus hukum yang dibuat oleh pengacara.

Google mengatakan mereka berupaya meningkatkan AI Ikhtisar dan membuatnya lebih andal. Namun untuk saat ini, pengguna sebaiknya berhati-hati saat menggunakan fitur ini dan selalu memverifikasi informasi yang diberikannya dengan sumber lain.

AI Ikhtisar merupakan fitur baru dari Google yang menyajikan hasil pencarian yang dihasilkan oleh AI.

Bagian ini dikritik karena menghasilkan tanggapan yang lucu dan berbahaya.

Permasalahannya adalah cara kerja algoritme pembelajaran mesin AI Ikhtisar yang tidak membedakan antara situs berita serius dan situs lucu atau humor.

Hal ini dapat menimbulkan dampak berbahaya karena pengguna mungkin mempercayai informasi yang salah.

Google sedang berupaya meningkatkan Ikhtisar AI, tetapi pengguna harus berhati-hati saat menggunakan fitur ini sekarang.