10 Kali Komputer Melakukan Rogue

Komputer dan otomatisasi merevolusi tempat kerja dan dunia secara umum. Kemungkinannya adalah di suatu tempat di luar sana, ada tim ilmuan terampil yang melihat bagaimana sebuah mesin atau perangkat lunak dapat melakukan pekerjaan Anda. Ada sangat sedikit posisi yang belum pernah dicoba diisi oleh seseorang pada intinya.

Mungkin kita seharusnya tidak gemetar ketakutan tentang komputer yang mengambil alih segalanya. Di sisi lain, sudah ada beberapa contoh mesin dan AI yang lepas kendali. Berikut sepuluh contoh komputer yang menjadi nakal.

10. Kematian Oleh Robot


Kematian yang dicatat oleh robot otomatis terjadi pada tahun 1979. Robert Williams sedang bekerja di pabrik Ford ketika sebuah lengan robot berputar dengan kekuatan yang cukup untuk membunuhnya seketika. Tidak menyadari bahwa itu telah membunuhnya, diam-diam melanjutkan pekerjaannya selama setengah jam sebelum tubuh Williams ditemukan. Kematian Williams adalah pembunuhan robotik pertama tetapi bukan yang terakhir.

Robot industri awal tidak memiliki sensor yang diperlukan untuk memberi tahu ketika ada seseorang yang harus mereka hindari. Sekarang, banyak mesin dibuat agar tidak menyakiti orang. Sayangnya, masih ada kasus robot di pabrik yang menimbulkan korban jiwa.

Pada 2015, Wanda Holbrook, seorang teknisi mesin yang berpengalaman, tewas saat memperbaiki robot industri. Saat bekerja di area yang seharusnya tidak memiliki mesin aktif, dia dipukul. Entah bagaimana mengabaikan protokol keamanannya, sebuah robot memasukkan sebagian ke kepala Holbrook, menghancurkannya.

9. AI Facebook Membuat Bahasa Sendiri


Mencari kecerdasan terkadang terasa seperti perjuangan. Mungkin karena alasan ini, Facebook memutuskan untuk merilis beberapa ke jejaring sosialnya pada 2017. Hasilnya sama sekali tidak seperti yang mereka harapkan. Kedua chatbot itu mulai berbicara satu sama lain dalam bahasa yang mereka, tetapi tidak dapat dimengerti oleh orang lain.

Dimulai dengan bahasa Inggris, obrolan mereka segera berubah menjadi sesuatu yang lain karena mereka mengubah bahasa agar lebih efisien untuk berkomunikasi. Facebook ingin melihat bagaimana pikiran mesin dapat saling berhadapan dalam perdagangan seperti barter topi dan buku. Contoh negosiasi perdagangan mereka berjalan sebagai berikut:

Bob: saya bisa ii yang lainnya. . . . . . . . . . . . . .
Alice: bola memiliki nol bagi saya untuk saya bagi saya untuk saya kepada saya untuk saya kepada saya untuk
Bob: Anda i segalanya. . . . . . . . . . . . . .
Alice: bola memiliki bola untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: ii bisa iii segalanya. . . . . . . . . . . . . .

Sementara banyak laporan mengisyaratkan bahwa ini adalah perkembangan gelap untuk kecerdasan mesin, yang lain berpikir kita hanya perlu lebih ketat dengan pikiran yang kita buat. Robot-robot itu menciptakan bahasa mereka sendiri karena mereka tidak diperintahkan untuk tetap mengikuti aturan bahasa Inggris. Selain itu, dengan AI, kami selalu, pada saat ini, memiliki opsi untuk mencabut stekernya.

8. Chatbot China Mempertanyakan Partai Komunis

Pemerintah China terkenal keras dalam kritik, siapa pun yang menyuarakannya. Jadi ketika chatbot mulai mengkritik Partai Komunis yang berkuasa, operator dengan cepat mematikannya. Pada tahun 2017, Tencent QQ, aplikasi messenger, memperkenalkan dua chatbot lucu bernama Baby Q dan Little Bing, berbentuk seekor penguin dan seorang gadis kecil, tetapi mereka segera mulai mengatakan hal-hal yang tidak lucu.

Karena bot diprogram untuk belajar dari obrolan agar dapat berkomunikasi dengan lebih baik, mereka segera mengambil beberapa pendapat yang tidak ortodoks. Seorang pengguna yang menyatakan, "Hidup Partai Komunis," ditanya oleh Baby Q, "Apakah menurut Anda rezim politik yang korup dan tidak kompeten dapat hidup selamanya?" Pengguna lain diberi tahu, "Harus ada demokrasi!"

Bing kecil ditanyai tentang "mimpi Cina" -nya. Tanggapannya tidak benar-benar keluar dari Buku Merah Kecil  : "Impian China saya adalah pergi ke Amerika." Bot dengan cepat ditutup.

7. Mobil Mengemudi Sendiri

Bagi orang yang tidak suka mengemudi, kedatangan mobil yang benar-benar self-driving tidak bisa datang cukup cepat. Sayangnya, beberapa swakemudi sudah bergerak terlalu cepat. Kematian pertama dalam mobil yang bisa mengemudi sendiri terjadi pada tahun 2016. Joshua Brown terbunuh saat membiarkan sistem autopilot Tesla untuk mengendalikan mobil. Sebuah truk membelok di depan mobil, dan Tesla gagal menginjak rem. Para penyelidik menyalahkan Brown. Autopilot Tesla tidak seharusnya menggantikan pengemudi. Pengemudi harus tetap memegang kemudi untuk mengambil alih kendali jika perlu. Brown gagal melakukan ini.

Iterasi sebelumnya dari sistem memiliki masalah lain. Video telah diposting online yang tampaknya menunjukkan Teslas dengan autopilot mengemudi ke lalu lintas yang mendekat atau mengemudi dengan berbahaya. Terlepas dari masalah teknis tersebut, ada juga dengan mobil self-driving. Dalam suatu kecelakaan, mobil mungkin harus memilih di antara beberapa tindakan, semuanya melibatkan korban jiwa. Haruskah itu menabrak keluarga di trotoar untuk melindungi penghuninya? Atau akankah ia mengorbankan dirinya dan pemiliknya demi kebaikan yang lebih besar?

6. Autopilots Pesawat Ambil Tongkatnya


Pilot otomatis di pesawat terbang dapat membuat terbang tampak seperti itu mudah. Arahkan saja pesawat ke arah yang benar dan cobalah untuk tidak menyentuh tongkat kendali. Kenyataannya, ada banyak alasan mengapa pesawat memiliki dan kopilot untuk lepas landas, mendarat, dan menangani keadaan darurat di tengah-tengah.

Qantas Penerbangan 72 berada 11.278 meter (37.000 kaki) di atas Samudera Hindia pada tahun 2008 ketika autopilot membawa pesawat ke dalam dua manuver yang membuatnya meluncur ke bawah. Tanda pertama masalah adalah terputusnya autopilot dan pemicuan peringatan yang kontradiktif. Tiba-tiba, hidungnya miring ke arah tanah. Penumpang dan awak terlempar ke langit-langit sebelum jatuh saat pilot mendapatkan kembali kendali. Pesawat itu jatuh lagi di bawah kendali autopilot. Banyak penumpang yang mengalami patah tulang, gegar otak, dan gangguan psikologis. Kembali ke Australia, pilot berhasil mendaratkan pesawat dengan sukses.

Ini adalah acara satu kali. Kemampuan untuk menimpa pilot otomatis menyelamatkan nyawa semua orang di dalamnya. Ada beberapa kasus, seperti ketika seorang kopilot yang mengalami gangguan mental di Prancis, menewaskan semua 150 orang di dalamnya, yang mungkin bisa diselamatkan oleh pilot otomatis yang sangat kuat.

5. Perseteruan Bot Wiki


Salah satu hal terbaik tentang Wikipedia adalah siapa pun dapat mengeditnya. Salah satu hal terburuk tentang Wikipedia adalah siapa pun dapat mengeditnya. Meskipun tidak jarang, atau hanya pihak yang tidak setuju, untuk terlibat dalam mengedit perang untuk mendapatkan pendapat mereka secara online, ada kasus di mana mereka yang terlibat dalam perkelahian adalah bot.

Bot Wikipedia telah membantu membentuk ensiklopedia dengan membuat perubahan seperti menghubungkan antar halaman dan memperbaiki jeda. Sebuah penelitian pada tahun 2017 mengungkapkan bahwa beberapa bot ini telah saling bertarung selama bertahun-tahun. Bot yang bekerja untuk menghentikan pengeditan palsu mungkin mendeteksi pekerjaan bot lain sebagai serangan terhadap integritas. Itu akan memperbaikinya. Tapi kemudian bot lain akan mendeteksi perubahan itu dan mengulangi aksinya. Akhirnya, mereka akan jatuh ke dalam spiral edit dan counter-edit.

Dua bot, Xqbot dan Darknessbot, bertarung dalam duel di 3.600 artikel, membuat ribuan pengeditan yang akan coba dibalas oleh yang lain dengan mengedit pengeditan yang lain.

4. Mengobrol di Rumah Google

SeeBotsChat - Dua Beranda Google di Twitch

Google Home adalah perangkat yang dilengkapi dengan kecerdasan buatan yang disebut Asisten Google yang dapat Anda ajak bicara. Anda bisa memintanya untuk mencari tahu fakta atau bahkan menyuruhnya untuk mematikan lampu atau menyalakan pemanas. Ini bagus jika orang yang berbicara dengan Google Home dapat mengajukan pertanyaan yang tepat dan menafsirkan jawabannya. Jika tidak, maka hal-hal bisa menjadi sedikit tidak nyata.

Dua Google Home ditempatkan bersebelahan dan mulai berbicara satu sama lain. Kisaran topik yang digunakan mesin itu menarik. Ratusan ribu orang menonton untuk menyaksikan AI membahas hal-hal seperti apakah kecerdasan buatan dapat dibuat terhibur. Pada satu titik, salah satu mesin menyatakan dirinya sebagai a, meskipun yang lain menantangnya pada titik itu.Pada kesempatan lain, yang satu mengancam akan menampar yang lain. Mungkin yang terbaik adalah mereka dirancang tanpa tangan.

3. Roomba Menyebar Kotoran

Roomba Menyebarkan Kotoran Anjing

Jika Anda tipe orang yang tidak suka bersih-bersih, penyedot debu otomatis mungkin tampak seperti rumah tangga yang ideal. Roomba adalah perangkat kecil yang berkat sensor dan programnya, dapat menavigasi furnitur saat membersihkan lantai Anda. Setidaknya, begitulah seharusnya cara kerjanya. Beberapa orang telah menemukan bahwa Roomba mereka melakukan kebalikan dari membersihkan rumah.

Dalam apa yang digambarkan seseorang sebagai "kotoran kotoran", Roomba menyebar ke seluruh rumah mereka.Ketika anak anjing baru mereka mengalami kecelakaan di atas permadani pada malam hari, membersihkannya merupakan pekerjaan yang mudah. Pada titik tertentu, Roomba keluar untuk melakukan pekerjaan malamnya. Menjumpai kotoran bukanlah sesuatu yang dirancang untuk Roomba. Upaya untuk membersihkannya ternyata menyebarkan kotoran ke setiap permukaan yang bisa dijangkau. Kejadian serupa ditunjukkan di atas.

2. Karakter Game Mengalahkan Kemanusiaan

AI yang buruk bisa membuat game tidak bisa dimainkan. Tidak ada kesenangan dalam menembak lawan yang terus berjalan ke dinding atau menyerang tanpa senjata. Ternyata kebalikannya bisa jadi benar. AI yang terlalu pintar bisa sama buruknya.

Elite: Dangerous adalah game multipemain masif tentang perdagangan, penjelajahan, dan pertempuran melintasi. Pemain dan AI non-pemain ada dan berinteraksi sebagaimana mereka dirancang hingga pembaruan perangkat lunak pada tahun 2016 mengubah kecerdasan AI. Sekarang, mereka bisa membuat senjata mereka sendiri untuk digunakan melawan pemain manusia. Dengan kemampuan ini, AI mengembangkan serangan yang semakin mematikan. Mereka juga mampu memaksa pemain manusia untuk berkelahi.

Dihadapkan dengan serangan balik dari para pemain manusia yang mendapati diri mereka dikalahkan oleh taktik dan senjata AI, para pengembang game harus membatalkan perubahan tersebut.

1. Navy UAV Goes Rogue, Kepala Untuk Washington

Dalam film Terminator , kecerdasan buatan yang disebut Skynet mengambil alih militer dan menghancurkan umat manusia dengan kekuatan mesin dan senjata nuklirnya. Meski itu murni fiksi ilmiah, ada gerakan mengkhawatirkan menuju drone yang dioperasikan komputer dengan manusia. Dalam satu kasus di mana operator drone kehilangan kendali, drone memutuskan untuk menuju ke ibu kota AS.

Pada tahun 2010, sebuah kendaraan udara tak berawak (UAV) Fire Scout MQ-8B, sebuah drone helikopter yang dirancang untuk pengawasan, kehilangan kontak dengan pawangnya. Ketika ini terjadi, pesawat diprogram untuk kembali ke pangkalan udaranya dan mendarat dengan selamat. Alih-alih melakukan ini, ia menembus wilayah udara terbatas di atas Washington, DC. Itu setengah jam sebelum Angkatan Laut bisa mendapatkan kembali kendali atas UAV. [lv]

Jangan lupa Follow untuk mengikuti update terbaru dari REO News yang berisi info unik dan update, contohnya seperti 10 Kali Komputer Melakukan Rogue.