Ada perbahasan hebat yang berlaku di Silicon Valley mengenai kecerdasan buatan dan sayangnya taruhannya agak tinggi: Adakah kita secara tidak sengaja akan membina A.I yang super pintar. yang menghidupkan kita dan membunuh atau memperbudak kita semua?
Ini mungkin terdengar seperti senario filem bencana musim panas, tetapi ia membimbangkan beberapa nama yang cukup besar, dari Elon Musk hingga akhir Stephen Hawking .
'Katakan anda membuat A.I yang memperbaiki diri. untuk memilih strawberi, ' Musk telah berkata , menjelaskan ketakutannya, 'dan semakin baik memilih strawberi dan memetik lebih banyak dan itu bertambah baik sendiri, jadi yang benar-benar ingin dilakukan adalah memilih strawberi. Oleh itu, semestinya seluruh dunia menjadi ladang strawberi. Padang Strawberi selamanya.' Manusia dengan cara menggunakan strawberry-pacalypse ini akan menjadi perengsa yang dapat dibelanjakan untuk A.I.
Tetapi pasti manusia tidak akan bodoh sehingga merancang A.I. secara tidak sengaja. terdorong untuk mengubah semua peradaban menjadi satu ladang berry gergasi? Mungkin tidak, tetapi seperti Janelle Shane , seorang penyelidik yang melatih rangkaian saraf, sejenis algoritma pembelajaran mesin, yang baru diperhatikan blognya, A.I. Keanehan , kemungkinan besar mereka dapat melakukannya secara tidak sengaja.
Sebenarnya, akan jauh dari saat pertama manusia berfikir bahawa mereka sedang membuat robot untuk satu tugas hanya untuk berbalik dan mendapati robot bermain sistem dengan cara yang tidak pernah mereka inginkan. Catatan menarik menggali literatur akademik untuk berkongsi beberapa contoh robot yang menjadi liar. Mereka lucu, cerdik, dan, secara bersama, lebih menyeramkan.
1. Siapa yang memerlukan kaki ketika anda boleh jatuh?
'Robot simulasi seharusnya berkembang untuk bergerak secepat mungkin. Tetapi daripada berkembang kaki, ia hanya dipasang ke menara tinggi, lalu jatuh. Beberapa robot ini bahkan belajar mengubah gerakan jatuh mereka ke jungkir balik, menambah jarak lebih jauh, 'tulis Shane.
2. Robot yang boleh-boleh.
'Satu set robot simulasi seharusnya berkembang menjadi bentuk yang dapat melompat. Tetapi pengaturcara pada awalnya mendefinisikan ketinggian melompat sebagai ketinggian blok tertinggi sehingga - sekali lagi - robot berkembang menjadi sangat tinggi, 'jelas Shane. 'Pengaturcara cuba menyelesaikannya dengan mendefinisikan ketinggian lompatan sebagai ketinggian blok yang pada asalnya adalah' terendah. ' Sebagai tindak balas, robot itu mengembangkan kaki kurus yang panjang sehingga dapat menendang tinggi ke udara dalam semacam robot tin. '
3. Sembunyikan ujian dan anda tidak boleh gagal.
'Terdapat algoritma yang seharusnya menyusun senarai nombor. Sebagai gantinya, ia belajar untuk menghapus daftar itu, sehingga tidak lagi disortir secara teknis, '' Shane menceritakan.
4. Kesalahan matematik mengalahkan bahan bakar jet.
Dalam satu simulasi, robot mengetahui bahawa kesalahan pembulatan kecil dalam matematik yang mengira daya bermaksud mereka mendapat sedikit tenaga tambahan dengan gerakan. Mereka belajar berkedip dengan cepat, menghasilkan banyak tenaga percuma yang dapat mereka manfaatkan, '' kata Shane. Hei, itu menipu!
5. Strategi tic-tac-toe yang tidak terkalahkan (jika merosakkan).
Sekali sekumpulan 'programmer membina algoritma yang dapat memainkan tic-tac-toe dari jarak jauh satu sama lain di papan yang sangat besar,' kata Shane. 'Satu pengaturcara, daripada merancang strategi algoritma mereka, membiarkannya mengembangkan pendekatannya sendiri. Anehnya, algoritma itu tiba-tiba mula memenangi semua permainannya. Ternyata strategi algoritma adalah untuk melakukan pergerakannya sangat jauh, sehingga ketika komputer lawannya mencoba mensimulasikan papan yang baru diperluas, papan permainan yang besar akan menyebabkannya kehabisan memori dan crash, kehilangan permainan. '
6. Tiada gangguan permainan yang berguna tidak dapat dimanfaatkan.
'Algoritma permainan permainan komputer benar-benar baik dalam menemui jenis gangguan Matrix yang biasanya dimanfaatkan oleh manusia untuk berlari dengan pantas. Algoritma yang memainkan permainan Atari lama Q * bert menemui bug yang sebelumnya tidak diketahui di mana ia dapat melakukan siri pergerakan yang sangat spesifik pada akhir satu tahap dan bukannya bergerak ke tahap berikutnya, semua platform akan mula berkedip dengan cepat dan pemain akan mula mengumpulkan sejumlah besar mata, 'kata Shane.
7. Maaf, juruterbang.
Contoh ini sangat tinggi pada skala menyeramkan: 'Ada algoritma yang seharusnya mengetahui bagaimana menerapkan kekuatan minimum pada pesawat yang mendarat di kapal induk. Sebaliknya, ia mendapati bahawa jika menerapkan kekuatan 'besar', ia akan meluap memori program dan akan mendaftar sebagai kekuatan yang sangat 'kecil'. Juruterbang akan mati tetapi, hei, skor sempurna. '
Jadi adakah kita semua ditakdirkan?
Semua ini menunjukkan bahawa manusia agak keliru dalam meneka bagaimana robot akan menyelesaikan masalah yang kita tetapkan untuk mereka, atau bahkan bagaimana mereka akan menentukan masalahnya. Jadi adakah itu bermaksud Shane juga bimbang dengan membina A.I. pembunuhan secara tidak sengaja. tuan seperti Musk? Bukan begitu, tetapi bukan kerana dia yakin pengaturcara manusia benar-benar mempunyai robot yang mereka ciptakan. Sebagai gantinya, dia menggunakan kemalasan robot untuk menyelamatkan kita.
'Sebagai pengaturcara, kita harus sangat berhati-hati agar algoritma kita menyelesaikan masalah yang kita maksudkan untuk diselesaikan, bukan menggunakan jalan pintas. Sekiranya ada jalan lain yang lebih mudah untuk menyelesaikan masalah tertentu, pembelajaran mesin kemungkinan akan menemuinya, '' katanya. 'Untungnya bagi kita,' membunuh semua manusia 'sungguh sukar. Sekiranya 'bakar kuih yang luar biasa lazat' juga menyelesaikan masalah dan lebih mudah daripada 'membunuh semua manusia,' maka pembelajaran mesin akan berlaku dengan kek. '
