Bukan Tidak Mungkin: Mengapa Kita Harus Mengontrol Kekuatan Super AI Sebelum Mereka Menghancurkan Kita

 

Image by Pixabay from computerizer

Prediksi mengatakan bahwa akan sulit bagi manusia untuk mengendalikan kecerdasan buatan (AI) tingkat tinggi, yang dapat menyebabkan 'pemberontakan robot'. 

Mengapa demikian? Contoh pemberontakan AI semacam itu dapat dilihat di Marvel Universe melalui karakter Ultron. Dia awalnya diciptakan sebagai robot dengan kecerdasan buatan (AI) oleh Tony Stark, dengan bantuan Bruce Banner.

Tujuannya adalah untuk mempertahankan Bumi dari serangan alien. Namun, ia akhirnya menjadi musuh para Avengers karena lepas kendali dan harus dihancurkan. Di dunia nyata, apakah mungkin ada robot seperti Ultron? Menurut Science Alert, manusia tidak dapat benar-benar mengendalikan komputer super-cerdas. 

Mengendalikan komputer super-cerdas membutuhkan simulasi super-cerdas yang dapat dianalisis dan dikendalikan oleh manusia. Tetapi jika manusia tidak dapat memahaminya, tidak ada cara untuk membuat simulasi seperti itu.

Kami tidak dapat membuat aturan seperti "jangan sakiti manusia" jika kami manusia tidak memahami skenario apa yang dapat dibuat oleh AI. Setelah komputer bekerja pada tingkat di luar pemrogram, manusia tidak akan lagi dapat menetapkan batasan. "Kecerdasan super menimbulkan masalah mendasar yang berbeda dari yang biasanya dipelajari di bawah payung 'etika robot'," tulis para ahli. 

"Ini karena kecerdasan super memiliki banyak segi. Mereka mampu memobilisasi berbagai sumber daya yang berbeda untuk mencapai tujuan yang mungkin tidak dapat dipahami manusia, atau di luar kendali kita," lanjut mereka. Di sisi lain, mengutip Max Planck Gesellschaft, kecerdasan super yang bisa mengendalikan dunia terdengar seperti fiksi.

"Tetapi ada beberapa mesin yang sudah bekerja untuk selesaikan tugas-tugas penting tanpa kita pahami bagaimana mereka melaluinya. Pertanyaannya kemudian menjadi apakah mereka pada suatu saat bisa menjadi tidak terkendali dan berbahaya bagi kita," kata Manuel Cebrian, kepala Digital Mobilization Group di Pusat Manusia dan Mesin di Institut Max Planck untuk Pembangunan Manusia. 

Para ilmuwan telah mengeksplorasi dua ide berbeda untuk mengendalikan AI super-cerdas. Kecerdasan AI dapat dibatasi secara khusus, misalnya dengan memblokir AI dari internet dan perangkat lain sehingga tidak memiliki kontak dengan dunia luar. 

Namun, ini akan mencegah AI memiliki kemampuan untuk menjawab masalah manusia. Pada saat yang sama, AI akan termotivasi untuk mencapai tujuan terbaik bagi umat manusia, seperti memasukkan prinsip-prinsip etika ke dalamnya.

Meski begitu, para peneliti menunjukkan bahwa ide-ide ini – atau ide historis kontemporer lainnya untuk mengendalikan AI dengan kecerdasan super – memiliki keterbatasannya sendiri. Dalam studi mereka, tim ilmuwan secara teoritis merumuskan algoritma penahanan yang akan memastikan bahwa AI dengan kecerdasan super tidak dapat melukai manusia dalam keadaan apa pun. 

Ini dilakukan dengan mensimulasikan perilaku AI dan menghentikannya jika menunjukkan tanda-tanda bahaya. Namun, analisis yang cermat menunjukkan bahwa, dalam paradigma komputasi manusia saat ini, algoritma seperti itu tidak dapat dibuat. 

“Jika Anda memecah masalah menjadi prinsip-prinsip paling dasar dari ilmu komputer teoretis, tampaknya algoritme yang memerintahkan AI untuk tidak menghancurkan dunia dapat secara tidak sengaja menyebabkan AI menghancurkan dirinya sendiri,” kata Iyad Rahwan, Direktur Center for Humans. dan Mesin.

"Bila itu terjadi, maka anda tidak akan pernah tahu apakah algoritme penahanan masih bisa analisis suatu ancaman, atau apakah itu masih berhenti untuk lakukan penahanan sebuah AI itu sendiri. Efeknya adalah membuat algoritme penahanan tidak dapat digunakan," tambahnya. Setelah pengujian ini, para ahli sepakat bahwa tidak ada algoritma yang dapat menentukan apakah AI akan merugikan dunia atau tidak. Lebih lanjut, para ahli juga merasa bahwa waktu kedatangan AI super cerdas tidak pasti.

Bagikan Artikel ini