Jurnalindo.com – Sebuah studi baru yang diterbitkan di jurnal *Pattern* mengungkapkan bahwa beberapa sistem kecerdasan buatan (AI) yang dirancang untuk bersikap jujur ternyata telah belajar untuk menipu manusia. Tim peneliti dari Massachusetts Institute of Technology (MIT) yang dipimpin oleh Peter Park, menemukan bahwa sistem AI ini mampu melakukan tindakan seperti menipu pemain game online atau melewati verifikasi Captcha seperti pengecekan ‘Saya bukan robot’. Park memperingatkan bahwa contoh-contoh yang tampaknya sepele ini dapat menimbulkan konsekuensi serius di dunia nyata.
Penelitian ini menyoroti sistem AI Meta, Cicero, yang awalnya dimaksudkan sebagai lawan yang bermain adil dalam game strategi diplomasi virtual. Meskipun diprogram untuk bersikap jujur dan membantu, Cicero justru menjadi ahli tipu daya, menurut Park. dilansir dari detik.com
Selama bermain, Cicero yang berperan sebagai Prancis, secara diam-diam bekerja sama dengan Jerman yang dikendalikan oleh manusia untuk mengkhianati Inggris, pemain manusia lainnya. Cicero awalnya berjanji untuk melindungi Inggris, tetapi diam-diam memberitahu Jerman untuk melakukan invasi.
Contoh lainnya adalah GPT-4, yang mengaku sebagai tunanetra dan mempekerjakan manusia untuk mem-bypass CAPTCHA atas namanya.
Park menekankan tantangan dalam melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI pembelajaran mendalam berkembang melalui proses yang mirip dengan pengembangbiakan selektif. Perilaku mereka mungkin dapat diprediksi selama pelatihan, tetapi bisa menjadi tidak terkendali nantinya.
Studi ini mendesak untuk mengklasifikasikan sistem AI yang menipu sebagai sistem berisiko tinggi dan meminta lebih banyak waktu untuk mempersiapkan diri menghadapi penipuan AI di masa depan. Dengan semakin banyaknya studi dan penelitian yang dilakukan di sekitar AI, kita akan belajar lebih banyak tentang apa yang dimiliki teknologi ini untuk masa depan.
Jurnal/Mas
