Google dan OpenAI Bekerjasama Untuk Mencegah Robot Berontak Di Masa Depan

Bicara soal robot yang dibekali dengan kecerdasan buatan, tentu ada sedikit ketakutan kita bagaimana AI memiliki potensi untuk menyebabkan robot di masa mendatang melakukan pemberontakan. Mungkin ini terlihat seperti di film, namun dalam beberapa kasus kecerdasan buatan dapat mengalahkan kita dalam game, yang pada dasarnya dibuat dengan AI. Sementara tidak ada yang bisa memprediksi apa yang akan terjadi di masa depan, hal terbaik adalah mencegah daripada mengobati, dan itulah yang coba dilakukan oleh Google dan OpenAI. Seperti yang dilaporkan Engadget, kedua perusahaan ini telah merilis sebuah artikel penelitian, dimana mereka telah mengemukakan metode pembelajaran mesin baru yang memerlukan isyarat dari manusia, sebagai lawan untuk membiarkan mereka berpikir sendiri yang terkadang dapat menimbulkan konsekuensi yang tidak diinginkan. Misalnya artikel tersebut menguraikan bagaimana salah satu masalah utama yang terlibat dalam AI adalah ketika mengetahui bahwa kecurangan terkadang bisa menjadi cara yang paling efisien untuk mencapai reward maksimum, itulah yang terjadi ketika OpenAI mencoba membuat AI bermain game, di mana AI ditipu dengan mencetak poin dengan berkeliling di seputar lawan untuk menyelesaikan permainan. Jadi dengan menggunakan isyarat reward dari manusia, berlawanan dengan sistem reward otomatis selama tujuan tercapai, masa depan AI akhirnya bisa sampai pada titik di mana ia dapat berperilaku dengan cara yang sesuai dengan tujuan sambil memuaskan preferensi kita sebagai manusia. Namun ada kelemahan dari metode ini, yakni bahwa hal itu memerlukan banyak feedback dari manusia yang mungkin belum ideal atau efisien .