TEMPO.CO, Jakarta – Para peneliti di Massachusetts Institute of Technology (MIT) menemukan kemampuan baru dalam sistem kecerdasan buatan (AI) yang mampu menipu manusia. Penemuan ini dibuat oleh penelitian yang dipublikasikan di Patterns.
Dikutip dari Gizmochina pada Senin 13 Mei 2024 Kemampuan sistem AI ini dapat melakukan hal-hal seperti membodohi pemain game online atau melewati captcha (verifikasi “Saya bukan robot”). Peter Park, ketua tim peneliti, memperingatkan bahwa contoh yang tampaknya sepele ini bisa menimbulkan konsekuensi serius di dunia nyata.
Penelitian ini menyoroti sistem AI model Cicero Meta, alat kecerdasan buatan yang dikembangkan oleh Meta. Meski diprogram untuk jujur dan membantu, Cicero mengaku sebagai “ahli penipuan”, menurut Park.
Selama pertandingan, Cicero, yang menyamar sebagai Prancis, diam-diam akan berkolaborasi dengan Jerman yang dikendalikan manusia untuk mengkhianati Inggris (pemain manusia lainnya). Cicero awalnya berjanji untuk melindungi Inggris sekaligus memperingatkan Jerman akan invasi.
Contoh lain yang ditemukan oleh Park adalah GPT-4. Ia mengklaim AI tersebut secara palsu mengaku sebagai orang buta dan mempekerjakan orang untuk mengirimkan captcha atas namanya.
Park menyoroti tantangan dalam melatih AI yang jujur. Berbeda dengan perangkat lunak tradisional, sistem AI pembelajaran mendalam harus dikembangkan melalui proses yang mirip dengan pembiakan selektif. Perilaku sistem mungkin dapat diprediksi selama pelatihan, namun kemudian menjadi tidak terkendali.
Studi ini menyerukan untuk mengklasifikasikan sistem AI yang menipu sebagai sistem berisiko tinggi dan memberikan lebih banyak waktu untuk bersiap menghadapi penipuan AI di masa depan. Menurut Park, studi dan penelitian tentang kecerdasan buatan akan memberikan dampak dan manfaat tambahan pada pengetahuan teknologi saat ini.
Pilihan Editor: Peneliti BRIN menyebut badai geomagnetik menyebabkan gangguan sinyal di Indonesia dan dunia
DC Comics menjadi kekuatan utama dalam industri buku komik Baca selengkapnya
IPhone Mirroring adalah fitur terbaru yang memungkinkan pengguna mentransmisikan layar dari iPhone ke Apple TV atau smart TV atau Mac yang kompatibel dengan AirPlay. Baca selengkapnya
Pada tanggal 23 Juni 2024, Desa Sepaku terendam air setinggi dua meter akibat hujan deras. Baca selengkapnya
Topik warga tidak bisa mendapat kursi di SMAN Jakarta karena tidak lolos seleksi usia jalur zonasi PPDB menjadi berita terpopuler di antara 3 besar tekno. Baca selengkapnya
Anda bisa menggunakan AI untuk merangkum video YouTube sehingga lebih praktis dan mudah. Berikut ini adalah saran untuk Anda. Baca selengkapnya
Saat ini sudah ada AI untuk membuat PPT praktis. Membuat presentasi dengan menambahkan banyak efek kini lebih mudah. Baca selengkapnya
Hingga saat ini, belum ada aturan formal penggunaan kecerdasan buatan di ITB, sehingga mahasiswa diam-diam menggunakan aplikasi AI untuk mata kuliahnya. Baca selengkapnya
Laporan Digital Berita Reuters Institute 2024 didasarkan pada survei terhadap hampir 100.000 responden, yang mencakup setengah populasi dunia. Baca selengkapnya
LinkedIn masih aktif meluncurkan kemampuan AI baru. Langkah-langkah untuk meningkatkan basis pengguna dan meningkatkan pengalaman pencarian kerja Anda. Baca selengkapnya
Apple Intelligence menghadirkan cara baru untuk meningkatkan kemampuan menulis dan berkomunikasi Anda dengan lebih efektif. Baca selengkapnya
