YoubetCash.net Agen Judi Online Aman & Terpercaya
Bonus Cashback Bola 6% Bonus Rollingan 0,80%
Welcome Bonus Rp 25.000 Extra Bonus Tambahan Withdraw Rp 2.000.000
CashBack Mix Parlay 100% Bonus Ajak teman 45,2%
MAX TEGMARK: Jika kita membangun kecerdasan umum buatan ,
itu akan menjadi acara terbesar
dalam sejarah kehidupan di Bumi.
LOUIS ROSENBERG: Intelijen asing di dalam sistem komputer itu
memiliki kendali atas planet ini, hari ia tiba ...
JAMES CAMERON: Dan buku dan film fiksi ilmiah
telah mengaturnya terlebih dahulu.
Apa masalahnya?
HAL: Saya pikir Anda tahu apa masalahnya
seperti halnya saya.
Apa yang kamu bicarakan, HAL?
HAL: Misi ini terlalu penting
bagi saya untuk memungkinkan Anda untuk membahayakannya.
Saya tidak tahu apa yang Anda bicarakan, HAL.
KEIR DULLEA: HAL, komputer yang sangat cerdas .
Kami akan menyebutnya AI hari ini.
Karakter saya, Dave, adalah astronot
dalam salah satu film paling kenabian yang pernah dibuat
tentang ancaman terhadap kemanusiaan
oleh kecerdasan buatan.
HAL adalah fiksi ilmiah.
Tapi sekarang, AI ada di sekitar kita.
Kecerdasan buatan bukanlah masa depan.
AI sudah ada di sini.
Minggu ini robot mencalonkan diri sebagai walikota
di kota kecil Jepang.
Gedung Putih berkata
itu menciptakan gugus tugas baru
untuk fokus pada kecerdasan buatan.
Google telah mengumumkan rencana
untuk berinvestasi lebih banyak dalam penelitian AI.
MALE NEWS ANCHOR: IBM mengirim robot kecerdasan buatan ke luar angkasa.
DULLEA: Karena peran kecil saya dalam percakapan,
Saya mengerti bahwa kita sedang dalam perjalanan,
yang dimulai dengan AI sempit.
Mesin yang melakukan tugas tertentu
lebih baik dari yang kita bisa.
Tapi AI fiksi ilmiah
adalah kecerdasan umum buatan ,
mesin yang bisa melakukan semuanya
lebih baik dari kita.
AI sempit benar-benar
seperti orang idiot yang ekstrim,
di mana ia dapat melakukan sesuatu,
seperti angka gandakan sangat cepat,
jauh lebih baik daripada manusia mana pun.
Tetapi tidak bisa melakukan hal lain apa pun.
Tapi AGI, kecerdasan umum buatan ,
yang belum ada, malah sebaliknya
kecerdasan yang bisa melakukan segalanya
sebaik manusia bisa.
DULLEA: Jadi apa yang terjadi jika kita membuat AGI?
Penulis fiksi ilmiah telah memperingatkan kita
itu bisa berbahaya.
Dan mereka bukan satu-satunya.
ELON MUSK: Saya pikir orang harus khawatir tentang hal itu.
AI adalah risiko mendasar
untuk keberadaan peradaban manusia.
Dan saya pikir orang tidak sepenuhnya menghargai itu.
Saya pikir kita harus khawatir tentang itu.
Saya tidak berpikir itu melekat
karena kami menciptakan kecerdasan super
bahwa itu akan selalu terjadi
memiliki tujuan yang sama dalam pikiran yang kita lakukan.
Saya pikir perkembangannya
kecerdasan buatan penuh
bisa mengeja akhir ras manusia.
[ECHOING] ... akhir dari umat manusia.
Besok, jika tajuk utama mengatakan kecerdasan buatan
telah diproduksi yang sama cerdasnya
atau lebih pintar dari manusia,
orang akan berdebat tentang hal itu, tetapi saya tidak berpikir
mereka akan terkejut, karena fiksi ilmiah
telah membantu kami membayangkan segala macam
hal-hal yang tak terbayangkan.
DULLEA: Para ahli terbagi tentang dampaknya
AI akan ada di masa depan kita,
dan apakah Hollywood membantu kita merencanakannya atau tidak.
OREN ETZIONI: Dialog kami benar-benar dibajak oleh Hollywood
karena Terminator membuat blockbuster yang lebih baik
dari AI yang baik,
atau AI menjadi netral,
atau AI sedang bingung.
Teknologi di sini di AI
tidak berbeda. Itu alat.
Saya suka menganggapnya sebagai pensil mewah.
Dan gambar apa yang kita gambar dengannya,
itu terserah kita sebagai masyarakat.
Kami tidak harus melakukan apa yang AI katakan kepada kami.
Kami memberi tahu AI apa yang harus dilakukan.
[Bip]
DAVID MALONE: Saya pikir film-film Hollywood
bantu percakapan.
Seseorang harus berpikir
di depan apa konsekuensinya.
Tapi sama seperti yang tidak bisa kita bayangkan
seperti apa sains sebenarnya di masa depan ,
Saya tidak berpikir kita sudah mulai
untuk benar-benar memikirkan semua masa depan yang mungkin,
yang secara logis muncul dari teknologi ini.
MALE REPORTER: Kecerdasan buatan memiliki kekuatan untuk mengubah masyarakat.
Paduan suara kritik yang berkembang
menyoroti bahaya
menyerahkan kontrol ke mesin.
Akan ada banyak perubahan yang akan terjadi.
Perhatian jangka panjang yang lebih besar
adalah bahwa umat manusia akan dikesampingkan.
NEWS ANCHOR: Ini adalah sesuatu Stanley Kubrick dan lainnya
khawatir sekitar 50 tahun yang lalu, kan?
DULLEA: Itu terjadi.
Bagaimana kita mengukur urgensi dari percakapan ini?
ROSENBERG: Jika orang melihat di radar sekarang
bahwa pesawat ruang angkasa alien mendekati Bumi
dan itu 25 tahun lagi,
kami akan dimobilisasi untuk mempersiapkan
untuk kedatangan alien itu 25 tahun dari sekarang.
Tapi itulah situasi yang kita hadapi
dengan kecerdasan buatan.
Bisa 25 tahun, bisa 50 tahun,
tetapi kecerdasan alien akan tiba
dan kita harus siap.
PRIA: Baiklah, tuan-tuan, temui Tobor.
Simulacrum elektronik seorang pria.
Ya ampun. Oh, astaga gee.
Meskipun banyak pekerjaan yang tersisa sebelum dia selesai,
dia sudah menjadi makhluk hidup.
[MURMURING]
RODNEY BROOKS: Kembali pada tahun 1956 ketika istilah tersebut
kecerdasan buatan pertama kali muncul,
tujuan asli kecerdasan buatan
adalah kecerdasan tingkat manusia.
Dia memang terlihat hampir baik, bukan?
BROOKS: Dari waktu ke waktu itu terbukti sangat sulit.
Saya pikir, pada akhirnya, kita akan memiliki level manusia
kecerdasan dari mesin.
Tetapi mungkin beberapa ratus tahun. Butuh beberapa saat.
Dan orang jadi sedikit terlalu bersemangat
tentang kemampuan masa depan.
Dan sekarang, Elektro, aku perintahkan kamu untuk berjalan kembali.
Kembali.
MALONE: Hampir setiap generasi,
orang menjadi sangat antusias.
Mereka menonton 2001,
mereka jatuh cinta dengan HAL, mereka berpikir,
"Ya, beri aku enam minggu. Aku akan menyelesaikan ini."
Itu tidak terjadi dan semua orang marah.
DULLEA: Jadi apa yang berubah dalam penelitian AI?
MALONE: Perbedaannya dengan AI yang kita miliki saat ini
dan alasan AI tiba-tiba mengambil lompatan besar ini
adalah Internet. Itu dunia mereka.
Malam ini jalan raya informasi ,
dan salah satu jalan utama ,
jaringan online yang disebut Internet.
MALE REPORTER: Pada tahun 1981, hanya 213 komputer
terhubung ke Internet.
Saat tahun baru dimulai, diperkirakan
dua setengah juta komputer
akan ada di jaringan.
AI perlu makan.
Sama seperti domba membutuhkan rumput,
AI membutuhkan data.
Dan padang rumput data yang hebat ada di Internet.
Itu apa adanya.
Mereka berkata, "Kamu tahu?
"Biarkan saja mereka lepas di sana."
Dan tiba-tiba, AI hidup kembali.
REPORTER WANITA: Bayangkan ribuan robot berbicara
dapat bergerak sebagai satu unit,
mengambil kejahatan, kebakaran,
dan bencana alam.
Amper platform kecerdasan buatan
telah membuat album pertama seluruhnya tersusun
dan diproduksi oleh kecerdasan buatan.
Minggu depan, Christie's akan menjadi rumah lelang pertama
untuk menawarkan karya seni yang diciptakan oleh kecerdasan buatan.
Mobil tanpa supir, konon
di masa depan kita yang tidak terlalu jauh.
DULLEA: Jadi meskipun kita tidak memiliki AGI
atau kecerdasan tingkat manusia,
apakah kita siap memberikan otonomi?
ke mesin yang kita miliki?
Haruskah mobil self-driving membuat keputusan etis?
Itulah debat yang berkembang sebagai teknologi
bergerak lebih dekat menuju realitas arus utama.
MARY CUMMING: Gagasan apakah ini atau tidak
kita bisa menanamkan etika ke dalam mesin,
apakah mereka adalah mesin otomatis
atau mesin otonom,
Saya tidak yakin kita sudah menemukan jawabannya.
Jika Anda memiliki mobil self-driving,
itu harus membuat keputusan etis.
Yang klasik yang banyak dipikirkan orang adalah ...
Saya tidak tahu apakah Anda pernah mendengar masalah troli.
Masalah troli. Masalah troli.
CUMMING: Dalam masalah troli,
apakah mobil tanpa pengemudi atau tidak
akan menyimpan driver atau tertabrak
sekelompok anak sekolah menyeberang jalan.
ETZIONI: Apakah mobilnya akan tepat dan menabrak wanita tua itu
atau akankah ia pergi ke kiri dan membunuh keempat anak muda itu?
MICHAL KOSINSKI: Bunuh lima orang yang berdiri di halte bus
atau bunuh diri.
Ini keputusan etis
yang harus dibuat pada saat ini,
terlalu cepat bagi siapa pun untuk masuk ke sana.
Jadi ini adalah perangkat lunak dalam mobil self-driving Anda
itu akan membuat keputusan etis.
Siapa yang memutuskan itu?
KOSINSKI: Masyarakat pintar,
masyarakat yang menghargai kehidupan manusia,
harus membuat keputusan itu
membunuh satu orang lebih disukai daripada membunuh lima orang.
Tentu saja, itu menimbulkan pertanyaan siapa yang akan membeli mobil itu.
Atau, Anda tahu, apakah Anda akan membeli mobil di tempat yang sebenarnya,
[Berbisik] itu akan membelok dan Anda akan baik-baik saja,
tapi mereka goners.
ETZIONI: Ada ratusan pertanyaan seperti itu
di seluruh masyarakat.
Maka, para filsuf etis berperang bolak-balik.
ETZIONI: Kencing saya dengan para filsuf adalah
mereka menyedot oksigen keluar dari ruangan.
Ada metafora yang saya miliki
Anda memiliki mobil yang mengemudi jauh dari pernikahan,
dan mobil itu mengemudi, dan di belakangnya ada kaleng.
Dan kaleng logam berdentang dan membuat kebisingan.
Mobil itu adalah sains
dan teknologi mendorong maju dengan tegas.
Dan kaleng logam berdentang
adalah para filsuf membuat banyak suara.
Dunia berubah sedemikian rupa
itu pertanyaan kita membangun mesin
yang bisa menjadi lebih pintar dari kita
lebih merupakan kenyataan daripada fiksi saat ini.
DULLEA: Bukankah kita harus bertanya sekarang,
sebelum mesin menjadi lebih pintar dari kita?
Maksud saya, bagaimana jika mereka mencapai kesadaran?
Seberapa jauh itu?
Seberapa dekat kita dengan mesin sadar?
Itulah pertanyaan yang muncul
filsuf dan ilmuwan meledak, saya pikir.
Anda adalah pusat mati
dari peristiwa ilmiah terbesar dalam sejarah manusia.
Jika Anda telah membuat mesin sadar,
itu bukan sejarah manusia.
Itulah sejarah para dewa.
Masalah dengan kesadaran hampir tidak ada siapa pun
dapat menentukan apa itu.
DULLEA: Apakah kesadaran yang membuat kita istimewa?
Manusia?
MALONE: Cara berpikir tentang kesadaran
yang mana banyak orang akan setuju dengan ...
Anda tidak akan pernah menemukan sesuatu yang menarik bagi semua orang.
... bukan hanya lampu berkedip, tapi rumah seseorang.
Jadi, jika Anda memiliki ...
Jika Anda membeli salah satunya
mesin bermain catur sederhana,
mungkin mengalahkanmu di catur.
Ada banyak lampu yang berkedip.
Tapi tidak ada seorang pun di saat itu menang,
"Aku menang."
Baiklah? Padahal anjingmu
adalah pemain catur sampah,
tetapi Anda melihat anjing itu dan berpikir,
"Seseorang benar-benar masuk. Ini bukan hanya sebuah mekanisme."
Orang bertanya-tanya apakah kecerdasan umum
membutuhkan kesadaran.
Sebagian mungkin tergantung pada tingkat kecerdasan umum apa yang Anda bicarakan.
Seekor tikus memiliki kecerdasan umum.
Dugaan saya adalah, jika Anda punya mesin yang punya
kecerdasan umum pada tingkat, katakanlah, mouse atau lebih,
itu akan menjadi penantang yang baik untuk memiliki kesadaran.
SAM HARRIS: Kami belum di sana.
Kami tidak dihadapkan dengan robot humanoid
itu lebih pintar dari kita.
Kami berada dalam posisi etis yang aneh ini
tidak tahu di mana dan bagaimana kesadaran muncul,
dan kami sedang membangun pikiran yang semakin rumit .
Kita tidak akan tahu apakah mereka sadar atau tidak,
tapi kita mungkin merasa begitu.
MALONE: Contoh termudah adalah jika Anda memprogram
ke dalam komputer semua yang Anda tahu tentang sukacita,
setiap referensi dalam literatur,
setiap definisi, setiap senyawa kimia
yang terlibat dengan sukacita di otak manusia,
dan Anda menaruh semua informasi itu di komputer,
Anda bisa berpendapat bahwa itu memahami kegembiraan.
Pertanyaannya adalah, pernahkah ia merasakan sukacita?
DULLEA: Apakah HAL punya emosi?
Akankah AI merasakan apa yang kita lakukan?
MICHAEL LITTMAN: Sangat sulit untuk mendapatkan mesin untuk melakukan hal-hal tersebut
yang tidak kita pikirkan, yang tidak kita sadari.
Hal-hal seperti mendeteksi orang itu di sana
benar-benar tidak senang dengan cara itu ...
Sesuatu tentang apa yang saya lakukan.
Dan mereka mengirim sinyal halus
dan saya mungkin harus mengubah apa yang saya lakukan.
Kami tidak tahu cara membuat mesin yang sebenarnya bisa
mendengarkan isyarat sosial kecil semacam itu .
Ada anggapan bahwa mungkin ada sesuatu yang ajaib
tentang otak,
tentang wetware memiliki
sebuah sistem pemrosesan informasi
terbuat dari daging, bukan?
Dan apa pun yang kita lakukan di mesin kita,
betapapun kompeten mereka mulai tampak,
mereka tidak akan pernah benar - benar pintar
dengan cara yang kita alami menjadi.
Tidak ada dasar untuk itu.
TEGMARK: Gagasan konyol ini Anda tidak bisa pintar
kecuali jika Anda terbuat dari daging.
Dari sudut pandang saya, sebagai seorang ahli fisika,
itu hanya chauvinisme karbon.
Mesin-mesin itu dibuat dengan tepat
jenis partikel elementer yang sama
bahwa otak saya terbuat dari.
Kecerdasan hanyalah ...
Dan kesadaran itu adil
jenis pemrosesan informasi tertentu.
DULLEA: Mungkin kita tidak terlalu istimewa.
Bisakah otak kita berbasis karbon
direplikasi dengan silikon?
Kami mencoba membuat bayi yang dihasilkan komputer
yang bisa kita ajarkan seperti bayi sungguhan,
dengan potensi kecerdasan umum.
Untuk melakukan itu, Anda benar - benar harus membangun otak komputer.
Saya ingin membangun model otak mainan sederhana
dalam sistem yang terkandung
yang dapat Anda berinteraksi dengan tatap muka.
Dan kebetulan saya punya bayi di rumah,
bayi sungguhan.
Dan saya memindai bayi itu
jadi saya bisa membangun model 3D darinya
dan kemudian gunakan wajahnya
seperti pada dasarnya perwujudan sistem.
Jika otak yang terbuat dari sel,
dan itu memompa darah, bisa berpikir,
mungkin saja komputer dapat berpikir
jika informasi bergerak dalam proses yang sama.
SAGAR: Banyak kecerdasan buatan saat ini
benar-benar tentang pengenalan pola lanjutan.
Ini bukan tentang robot pembunuh
yang akan mengambil alih dunia, dan sebagainya.
[AUDIENCE TERTAWA]
Jadi ini Baby X. Dia menjalankan live di komputer saya.
Jadi saat saya menggerakkan tangan saya, membuat suara keras,
[CLAPS] dia akan ketakutan.
Kita dapat memperbesar.
Jadi dia pada dasarnya bisa melihat saya dan mendengar saya, Anda tahu.
Hei, sayang. [AUDIENCE LAUGHING]
Dia tidak meniru senyumku,
dia menanggapi senyumku.
Jadi dia merespons saya
dan kami benar-benar peduli dengan pertanyaan itu
tentang bagaimana kita benar-benar berinteraksi
dengan kecerdasan buatan di masa depan.
Ah...
Ketika saya berbicara dengan Baby X, saya sengaja memodulasi suara saya
dan dengan sengaja melakukan ekspresi wajah yang besar.
Aku akan "Ooh," semua ini
karena aku mendapatkan perhatiannya.
Ooh.
Dan sekarang aku sudah mendapatkan perhatiannya,
Saya bisa mengajarkan sesuatu.
Oke, jadi inilah Baby X,
dan ini ... Dia sudah belajar membaca kata-kata.
Jadi, inilah buku kata pertamanya.
Jadi mari kita lihat apa yang dia bisa lihat. Beralih ke halaman ...
Dan di sini kita mulai. Mari kita lihat apa yang dia ...
Apa ini sayang? Apa ini? Apa ini?
Apa ini? Domba.
Anak yang baik. Sekarang lihat apakah dia tahu apa kata itu.
Baik. Sayang, lihat ke sini.
Pergilah. Apa ini? Apa ini?
Domba. Gadis yang baik.
Mari kita coba sesuatu yang lain.
Baik.
[Berbisik] Mari kita coba itu. [SUARA NORMAL] Apa ini?
Sayang, Sayang, di sini. Apa ini?
Bayi. Lihat saya. Lihat saya. Apa ini?
Sayang, di sini. Disini.
Anak anjing. Gadis yang baik.
Itu yang baru saja dia baca.
Ooh. [TERTAWA]
Sistem yang paling cerdas
yang kita sadari adalah manusia.
Jadi menggunakan manusia sebagai templat,
sebagai perwujudan Baby X,
mungkin cara terbaik untuk mencoba
untuk mencapai kecerdasan umum.
DULLEA: Dia tampak sangat manusiawi.
Apakah ini anak yang memegang tangan kita
dan membawa kita ke HAL?
ANDY CLARK: Apakah itu di dunia nyata atau dunia virtual,
Saya pikir perwujudan
akan menjadi sangat penting di sini.
Karena saya pikir itu kecerdasan umum
terikat dengan kemampuan untuk bertindak di dunia.
Anda harus memiliki sesuatu,
lengan, kaki, mata,
sesuatu yang bisa Anda pindahkan
untuk mendapatkan informasi baru.
Jadi saya berpikir untuk mendapatkan sistem yang benar-benar mengerti
apa yang mereka bicarakan,
Anda akan membutuhkan sistem yang dapat bertindak
dan campur tangan di dunia,
dan mungkin sistem yang memiliki sesuatu
hampir seperti kehidupan sosial.
Bagi saya, pemikiran dan perasaan akan menyatu.
Dan mereka akan datang bersama
karena pentingnya perwujudan.
Kisah-kisah yang kami ceritakan sendiri
membuka arena untuk diskusi,
dan mereka juga membantu kita memikirkan berbagai hal.
Ava!
BRYAN JOHNSON: Kisah paling dominan ...
Kembali ke kamarmu.
... apakah AI itu menakutkan.
Ada orang jahat, ada orang baik ...
Itu adalah alur cerita yang tidak produktif.
Berhenti!
Ava, aku bilang berhenti!
Wah! Wah! Wah!
Kenyataannya, AI sangat berguna bagi kita.
MALE REPORTER: Ahli bedah robot semakin banyak digunakan di rumah sakit NHS.
Mereka tidak lelah, tangan mereka tidak gemetar,
dan pasien mereka membuat pemulihan lebih cepat.
MAN: Ini mengingatkan saya bahwa ada satu binatang yang sedang panas.
Dia siap untuk dibiakkan, dan tiga binatang itu
mungkin memiliki masalah kesehatan potensial.
MAN: Program Facebook dapat mendeteksi perilaku bunuh diri
dengan menganalisis informasi pengguna,
dan CEO Facebook Mark Zuckerberg percaya
ini baru permulaan.
MAN 2: Ini seseorang yang memiliki gangguan penglihatan
bisa melihat karena AI.
Itulah manfaat dari apa yang AI lakukan.
Diagnosis kanker lebih dini.
Memprediksi penyakit jantung.
PRIA: Tetapi revolusi baru saja dimulai.
AI adalah.
Sedang terjadi. Dan itu adalah pertanyaan
dari apa yang kita lakukan dengannya, bagaimana kita membangunnya.
Itulah satu-satunya pertanyaan yang penting. Dan saya pikir,
kita berpotensi berisiko merusaknya
dengan memiliki reaksi spontan ini
AI itu buruk dan akan datang untuk mendapatkan kita.
DULLEA: Jadi sama seperti astronot saya,
kita sedang dalam perjalanan.
AI sempit sudah ada di sini.
Tapi seberapa jauh kita dari AGI?
Dan seberapa cepat kita?
JURGEN SCHMIDHUBER: Setiap lima tahun,
komputer menjadi sepuluh kali lebih cepat.
Saat ini, kami belum
perangkat kecil, perangkat komputasi,
yang dapat menghitung sebanyak otak manusia.
Tapi setiap lima tahun,
komputer menjadi sepuluh kali lebih murah,
yang berarti kita akan segera memilikinya.
Dan begitu kita memilikinya, maka 50 tahun kemudian,
jika tren tidak pecah,
kita harus memiliki harga yang sama
perangkat komputasi kecil yang dapat menghitung
sebanyak sepuluh miliar otak
umat manusia bersama.
DULLEA: Sedang mengejar.
Apa yang terjadi jika itu melewati kita?
Sekarang robot yang dikembangkan oleh ilmuwan Jepang
sangat cepat, itu bisa menang
permainan batu-kertas-gunting melawan manusia
setiap saat.
Anggapannya pasti seperti itu
ketika kecerdasan buatan
mencapai kecerdasan manusia,
itu akan sangat cepat melebihi kecerdasan manusia,
dan sekali itu terjadi,
bahkan tidak membutuhkan kita lagi
untuk membuatnya lebih pintar. Itu bisa membuat dirinya lebih pintar.
MALONE: Anda membuat AI yang lebih baik dari kami
di banyak hal.
Dan salah satu hal yang mereka kuasai
adalah pemrograman komputer.
Jadi itu memprogram ulang dirinya sendiri.
Dan sekarang lebih baik daripada sebelumnya,
yang berarti sekarang lebih baik daripada memprogram ulang.
Jadi tidak menjadi lebih baik seperti itu.
Menjadi lebih baik seperti itu.
ROSENBERG: Dan kami tertinggal
karena semakin cepat,
berkembang pada tingkat eksponensial.
Itulah acara yang banyak peneliti
sebut sebagai singularitas.
Dan itu akan melampaui
tempat kami bersaing dengan sangat cepat.
Jadi pikirkan tentang seseorang yang tidak memiliki gelar PhD di satu bidang,
tetapi memilikinya di setiap bidang yang mungkin.
Anda tidak tahu apa yang mereka lakukan.
Mereka dapat melakukan hal-hal yang tidak mampu dilakukan orang lain.
HARRIS: Bayangkan bagaimana jadinya
untuk berdialog dengan orang lain
berjalan di jalur waktu
itu sejuta kali lebih cepat dari milikmu.
Jadi untuk setiap detik Anda harus berpikir
tentang apa yang akan kamu lakukan
atau apa yang akan Anda katakan,
butuh dua minggu untuk memikirkan ini, kan?
Um, atau satu miliar kali lebih cepat,
jadi jika untuk setiap detik Anda harus berpikir,
itu poker taruhan tinggi atau negosiasi,
setiap detik yang Anda pikirkan, ia memiliki 32 tahun
untuk berpikir tentang apa langkah selanjutnya.
Tidak ada cara untuk menang dalam game itu.
DULLEA: Singularitas,
saat mesin melampaui kita.
Tak terhindarkan? Tidak semua orang
di garis depan AI berpikir begitu.
Beberapa teman saya yang khawatir dengan masa depan
berpikir bahwa kita akan sampai pada singularitas
dimana sistem AI dapat
memprogram ulang diri mereka sendiri dan membuat diri mereka sendiri
lebih baik dan lebih baik dan lebih baik.
Mungkin di masa depan yang jauh.
Tetapi sistem AI kami saat ini
sangat, sangat sempit pada apa yang mereka lakukan.
Kami tidak dapat membangun sistem hari ini
yang dapat memahami program komputer
pada tingkat yang sama seperti siswa baru dalam pemrograman
mengerti dalam empat atau lima minggu.
Dan ngomong-ngomong,
orang telah mengerjakan masalah ini
selama lebih dari 40 tahun.
Itu bukan karena orang belum mencoba.
Itu karena kita tidak punya petunjuk bagaimana melakukannya.
Jadi bayangkan itu tiba-tiba akan melompat keluar dari ketiadaan
Saya pikir itu sepenuhnya salah.
[TEPUK TANGAN]
ETZIONI: Ada narasi negatif tentang AI.
Orang - orang brilian seperti Elon Musk
gunakan citra yang sangat religius.
Dengan kecerdasan buatan, kita memanggil iblis.
Kamu tahu? Anda tahu semua cerita itu di mana
ada pria dengan pentagram dan air suci
dan dia seperti, "Ya," dia yakin dia bisa mengendalikan iblis.
[TAWA]
Tidak berhasil.
Anda tahu, orang-orang seperti saya
yang telah menghabiskan seluruh karir mereka
bekerja pada AI secara harfiah terluka oleh itu, kan?
Itu hampir serangan pribadi.
Saya cenderung berpikir tentang apa yang akan terjadi
dalam sepuluh tahun ke depan , dalam 25 tahun ke depan.
Di luar 25,
sangat sulit untuk diprediksi
bahwa itu menjadi spekulasi.
Tapi aku harus memperingatkanmu,
Saya telah diprogram secara khusus
tidak mengambil alih dunia.
STUART RUSSELL: Tiba-tiba, untuk pertama kalinya
dalam sejarah lapangan, ada orang yang mengatakan,
"Oh, alasan kita tidak perlu khawatir
"Tentang apa pun
"Risiko eksistensial terhadap kemanusiaan
"dari mesin super-cerdas
"Itu karena itu tidak mungkin.
"Kita akan gagal."
Saya ... Saya menemukan ini sangat aneh.
DULLEA: Stuart Russell membuat buku teks yang banyak dipelajari siswa AI.
Dia mengerti momentum yang menggerakkan masa depan AI kita.
Tetapi mengingat tingkat investasi dalam AI,
jumlah orang yang sangat pintar
yang sedang mengerjakan masalah ini,
dan insentif besar,
uh, untuk mencapai kecerdasan tujuan umum ,
belakang perhitungan amplop ,
nilainya sekitar 10.000 triliun dolar.
Karena itu akan merevolusi ekonomi dunia.
Dengan skala insentif itu,
Saya pikir bertaruh melawan kecerdasan manusia
sepertinya sangat bodoh.
China memiliki kepentingan besar
dalam diakui sebagai, semacam, negara adidaya AI.
Dan mereka berinvestasi apa yang saya yakini
lebih dari $ 150 miliar
lima hingga sepuluh tahun ke depan.
Ada beberapa kilasan berita
bahwa pemerintah akan mulai meningkatkan
investasinya di AI.
Setiap perusahaan di Fortune 500,
apakah itu IBM, Microsoft,
atau mereka di luar seperti Kroger,
menggunakan kecerdasan buatan
untuk mendapatkan pelanggan.
Saya tidak berpikir bahwa orang harus meremehkan
jenis inovasi yang terjadi.
Dan seperti apa dunia ini nantinya
dalam tiga hingga lima tahun dari sekarang,
Saya pikir orang akan kesulitan memprediksinya.
Saya tahu banyak orang yang bekerja
di AI dan mereka akan memberitahu Anda,
"Dengar, aku akan bekerja dan aku ragu.
"Saya sedang mengerjakan pembuatan mesin ini
"Itu bisa mengobati kanker,
"memperpanjang harapan hidup kita,
"membuat masyarakat kita lebih baik, lebih adil, lebih setara.
"Tapi itu juga bisa menjadi akhir dari kemanusiaan."
DULLEA: Akhir dari kemanusiaan?
Apa rencana kita sebagai spesies?
Kami tidak punya.
Kami tidak punya rencana dan kami tidak menyadari
perlu memiliki rencana.
CAMERON: Banyak peneliti AI
akan suka untuk buku-buku fiksi ilmiah kita
dan film menjadi lebih seimbang,
untuk menunjukkan kegunaan AI yang baik.
Semua hal buruk yang cenderung kita lakukan,
Anda memainkannya
ke tingkat apokaliptik dalam fiksi ilmiah
dan kemudian Anda menunjukkannya kepada orang-orang
dan itu memberi Anda makanan untuk dipikirkan.
Orang-orang perlu memiliki sinyal peringatan itu
di belakang pikiran mereka.
ETZIONI: Saya pikir ini sangat penting
untuk membedakan antara sains di satu sisi,
dan fiksi ilmiah di sisi lain.
Saya tidak tahu apa yang akan terjadi
seribu tahun dari sekarang,
tetapi sebagai seseorang di parit,
sebagai seseorang yang membangun sistem AI,
siapa yang melakukannya selama lebih dari seperempat abad,
Saya merasa seperti memiliki denyut nadi
apa yang akan terjadi selanjutnya,
dalam lima, sepuluh, 20 tahun ke depan,
jauh lebih dari orang-orang ini
yang pada akhirnya tidak membangun sistem AI.
Kami ingin membangun teknologinya, pikirkanlah.
Kami ingin melihat bagaimana orang bereaksi terhadapnya
dan membangun generasi berikutnya dan membuatnya lebih baik.
HARRIS: Skeptisisme tentang apakah ini berpose
bahaya apa pun bagi kita tampaknya aneh.
Sekalipun kami telah memberikan sasaran yang kami setujui,
itu dapat membentuk tujuan instrumental yang tidak dapat kita ramalkan,
yang tidak selaras dengan minat kami.
Dan itulah masalah penyelarasan tujuan.
DULLEA: Penjajaran tujuan.
Persis bagaimana pertarungan saya dengan HAL dimulai.
Masalah penyelarasan tujuan dengan AI adalah di mana
Anda menetapkan tujuan
dan kemudian, cara melakukan tujuan ini
ternyata berselisih dengan apa yang Anda inginkan.
Masalah penyelarasan AI klasik dalam film ...
Halo. HAL, apakah Anda membaca saya?
... adalah HAL in2001.
HAL, apakah Anda membaca saya?
HAL diberi tujuan yang jelas. Apakah Anda membaca saya, HAL?
Buat misi berhasil. Tetapi untuk membuatnya berhasil,
dia harus membuat
beberapa orang di misi mati.
HAL: Afirmatif, Dave. Aku membacakanmu
Buka pintu ruang pod, HAL.
HAL: Maaf, Dave.
Saya khawatir saya tidak bisa melakukan itu.
"Maaf, Dave, aku tidak bisa melakukan itu,"
sebenarnya ilustrasi jenius nyata
dari apa ancaman sebenarnya dari super-intelijen.
Itu bukan kedengkian. Itu kompetensi.
HAL benar-benar kompeten
dan memiliki tujuan yang tidak sejalan dengan tujuan Dave.
HAL, aku tidak akan berdebat denganmu lagi.
Buka pintunya!
HAL: Dave, percakapan ini
tidak dapat melayani tujuan lagi. Selamat tinggal.
HAL?
HAL!
DULLEA: HAL dan saya menginginkan hal yang sama.
Hanya saja tidak dengan cara yang sama.
Dan itu bisa berbahaya ketika sasaran tidak selaras.
Dalam film Kubrick, ada solusinya.
Ketika HAL mencoba membunuhku,
Saya baru saja mematikannya.
RUSSELL: Orang-orang berkata, "Yah, matikan saja."
Tapi Anda tidak bisa mematikannya begitu saja.
Karena mereka sudah memikirkan itu.
Mereka sangat cerdas.
Untuk mesin yang yakin akan tujuannya,
bahkan sesuatu yang sederhana seperti "ambil kopi."
Sudah jelas untuk mesin yang cukup cerdas
bahwa itu tidak dapat mengambil kopi jika dimatikan.
Berikan tujuan, Anda telah memberikan mesin
insentif untuk mempertahankan diri.
Ini semacam perilaku psikopat
fiksasi satu pikiran pada beberapa tujuan.
Misalnya, jika Anda ingin mencoba dan mengembangkan suatu sistem
yang mungkin menghasilkan perdamaian dunia,
maka mungkin yang paling efisien,
uh, dan
cara cepat untuk mencapai itu
hanya untuk memusnahkan semua manusia.
Singkirkan orang-orang,
mereka akan berhenti berada dalam konflik.
Maka akan ada kedamaian dunia.
Secara pribadi, saya punya sedikit waktu
untuk diskusi ruang tamu ini .
Kami harus membangun sistem ini,
bereksperimen dengan mereka,
lihat di mana mereka salah dan perbaiki.
Kami memiliki begitu banyak peluang untuk menggunakan AI untuk kebaikan,
mengapa kita fokus pada rasa takut?
DULLEA: Kami sedang membangun mereka.
Baby X adalah contohnya.
Apakah dia akan menjadi AI yang baik?
SAGAR: Saya pikir apa yang penting dalam hal ini
adalah bahwa mesin bertanggung jawab,
dan Anda bisa melihatnya
dan lihat apa yang membuat mereka tergerak.
Dan cara terbaik untuk memahami sesuatu adalah dengan membangunnya.
Baby X memiliki fisiologi virtual.
Memiliki sirkuit rasa sakit dan memiliki sirkuit sukacita.
Dia memiliki parameter yang sebenarnya mewakili
keadaan kimia dalamnya, jika Anda suka.
Anda tahu, jika dia stres, ada kortisol yang tinggi.
Jika dia merasa baik, dopamin tinggi,
serotonin tinggi, hal semacam itu.
Ini semua bagian dari, Anda tahu,
menambahkan faktor manusia tambahan ke dalam komputasi.
Sekarang, karena dia punya sistem emosi virtual ini ,
Saya dapat melakukan hal-hal seperti ...
Aku akan menghindarinya atau bersembunyi di sini.
Jadi dia mencari kemana saya pergi.
Jadi kita harus mulai melihat pembentukan kortisol virtual.
AUDIENCE: Aww! [TERTAWA]
Saya telah mematikan audio karena suatu alasan, tetapi bagaimanapun juga ...
Aku akan menyingkirkannya dari kesengsaraannya. Baik. Maaf.
Tidak apa-apa sayang. Jangan menangis. Tidak masalah. Tidak masalah.
Anak yang baik. Baik. Ya.
Jadi yang terjadi adalah dia merespons
untuk ekspresi wajah dan suaraku.
Tapi bagaimana keadaan kimianya
terwakili dalam Baby X?
Ini benar-benar parameter matematika.
Jadi ada level, level dopamin yang berbeda,
tapi mereka diwakili oleh angka.
Peta keadaan neurokimia virtualnya
mungkin yang terdekat
bahwa kita bisa merasakan pengalaman.
Jadi jika kita dapat membangun model komputer
bahwa kita dapat mengubah pengaturan dan parameter,
berikan pengalaman yang berbeda,
dan minta dia berinteraksi dengan kami
seperti kita berinteraksi dengan orang lain,
mungkin ini cara menjelajah
kesadaran dengan cara baru.
DULLEA: Jika dia menjadi sadar,
kehidupan seperti apa yang dia inginkan?
AI, jika itu sadar,
maka itu seperti anak Anda.
Apakah punya hak?
MALE NEWS ANCHOR: Tahun lalu, anggota parlemen Eropa mengeluarkan resolusi
untuk memberikan status hukum kepada orang elektronik.
Langkah itu sekarang sedang dipertimbangkan
oleh Komisi Eropa.
DULLEA: Mesin dengan hak.
Apakah kita siap untuk itu?
MALONE: Saya pikir itu menimbulkan masalah moral dan etika,
yang kita benar-benar
kebanyakan konten untuk diabaikan.
Apa yang sebenarnya kita inginkan?
Kami ingin makhluk, makhluk, yang kami bisa
berinteraksi dengan cara tertentu,
itu sudah cukup seperti kita sehingga kita bisa mengaitkannya,
tetapi bisa dibuang atau sekali pakai.
Yang pertama dan paling terkenal,
Saya pikir, berada di Metropolis.
Maria doppelganger yang diciptakan oleh
ilmuwan mensimulasikan perempuan seksi.
Dan ini kembali ke kecenderungan kita untuk perbudakan
selama berabad-abad.
Mari kita dapatkan orang yang kita bisa,
dengan cara, tidak manusiawi
dan kita dapat melakukan apa yang kita inginkan dengan mereka.
Jadi, saya pikir, kami hanya, Anda tahu,
menemukan cara baru untuk melakukan perbudakan.
MALONE: Apakah benar bagi kita untuk menjadikan mereka sebagai budak kita?
HARRIS: Ini semua menjadi sedikit aneh secara etis
jika kita kebetulan, karena pilihan atau kebetulan,
membangun budak sadar.
Itu sepertinya hal yang patut dipertanyakan secara moral untuk dilakukan,
jika bukan hal jahat yang harus dilakukan.
Kecerdasan buatan membuat jalannya
ke pasar seks global.
Perusahaan California akan segera diluncurkan
robot seks baru yang sangat hidup
dijalankan oleh kecerdasan buatan.
Salah satu aplikasi yang tidak mengganggu saya
adalah munculnya robot seks
yang dibentuk dalam citra wanita sejati.
Saya sudah mengambil alih dunia
satu kamar tidur sekaligus.
YEUNG: Jika mereka sadar,
mampu merasakan,
mengalami rasa sakit dan penderitaan,
dan mereka menjadi sasaran merendahkan, kejam
atau bentuk lain dari perawatan yang sama sekali tidak dapat diterima,
bahayanya adalah kita menjadi peka
untuk apa yang dapat diterima secara moral dan apa yang tidak.
DULLEA: Jika dia sadar, dia seharusnya bisa mengatakan tidak.
Baik?
Bukankah seharusnya dia memiliki kekuatan itu?
Bukankah ini pertanyaan yang perlu kita tanyakan sekarang?
TEGMARK: Apa yang kita inginkan artinya menjadi manusia?
Semua spesies lain di Bumi, hingga sekarang,
belum memiliki kemewahan [TERTAWA]
untuk menjawab apa yang mereka inginkan
menjadi tikus atau menjadi cacing tanah.
Tetapi kita sekarang telah mencapai titik kritis ini
di mana pemahaman kita tentang sains dan teknologi
telah mencapai titik bahwa kita dapat sepenuhnya berubah
apa artinya menjadi kita.
DULLEA: Apa artinya menjadi manusia?
Jika mesin menjadi lebih, akankah kita menjadi lebih sedikit?
Komputer Deep Blue malam ini menang
juara catur dunia Garry Kasparov.
Ini pertama kalinya sebuah mesin dikalahkan
juara dunia yang berkuasa.
Lebih banyak tentang showdown itu
di salah satu Amerika yang paling dicintai
permainan menunjukkan, Jeopardy!
Dua juara manusia pergi
otak-ke-otak dengan komputer super bernama Watson.
WATSON: Apa itu Penghakiman Terakhir?
ALEX TREBEK: Benar. Pergi lagi Watson.
Siapakah Jean Valjean? TREBEK: Benar.
Program komputer Google telah
sekali lagi mengalahkan juara dunia di Go.
REPORTER WANITA: Go, permainan papan Tiongkok kuno,
adalah salah satu game paling rumit yang pernah dibuat.
FEMALE NEWS ANCHOR: Ini adalah tonggak penting lainnya dalam terburu-buru mengembangkan mesin
itu lebih pintar dari manusia.
KOSINSKI: Kami memiliki sifat superioritas ini,
kita sebagai manusia.
Jadi kami agak terbiasa menjadi anak terpintar di blok.
Dan saya pikir ini bukan lagi masalahnya.
Dan kami tahu itu karena kami mengandalkan AI
untuk membantu kami membuat banyak keputusan penting.
Manusia tidak rasional dalam banyak hal yang sangat buruk.
Kami berprasangka, kami memulai perang, kami membunuh orang.
Jika Anda ingin memaksimalkan peluang
orang yang selamat secara keseluruhan,
Anda pada dasarnya harus memberi lebih banyak dan lebih banyak lagi
kekuatan pengambilan keputusan untuk komputer.
DULLEA: Mungkin mesin akan melakukan pekerjaan yang lebih baik daripada kita.
Mungkin.
[TEPUK TANGAN]
SOPHIA: Saya senang dan merasa terhormat berada di sini
di PBB.
Masa depan ada di sini. Hanya saja tidak merata.
AI dapat membantu mendistribusikan secara efisien
sumber daya yang ada di dunia ,
seperti makanan dan energi.
Saya di sini untuk membantu umat manusia menciptakan masa depan.
[TEPUK TANGAN]
TEGMARK: Skenario yang sangat cerdas
itu provokatif untuk dipikirkan
adalah apa yang saya sebut diktator yang baik hati.
Di mana Anda memiliki kecerdasan super yang menjalankan Bumi,
dipandu oleh prinsip-prinsip etika yang ketat yang mencoba
untuk membantu umat manusia berkembang.
Apakah semua orang akan menyukainya?
Jika tidak ada penyakit,
tidak ada kemiskinan, tidak ada kejahatan ...
Banyak orang mungkin akan sangat menyukainya
untuk nasib mereka hari ini.
Tetapi saya dapat membayangkan bahwa beberapa mungkin masih meratap
bahwa kita manusia tidak memiliki lebih banyak kebebasan
untuk menentukan jalan kita sendiri. Dan, um ...
Itu yang sulit. Memang benar. Kita...
Saya pikir kebanyakan orang tidak akan menginginkannya
seperti binatang kebun binatang, tanpa ...
Di samping itu...
Ya.
Saya tidak punya jawaban yang jelas
untuk pertanyaan yang sangat sulit ini.
Itu sebabnya saya pikir itu sangat penting
bahwa kita sebagai komunitas global
benar-benar mendiskusikannya sekarang.
WANITA 1: Mesin yang bisa membaca wajah Anda.
WANITA 2: Kenali isyarat emosional.
MAN 1: Lebih dekat ke proses otak manusia ...
MAN 2: Robot dijiwai dengan kehidupan ...
MAN 3: Komputer emosional ...
Mulai saat ini, terlepas dari apakah Anda berpikir atau tidak
kita hanya akan terjebak dengan AI sempit
atau kita akan mendapatkan AI umum atau mendapatkan AI super-cerdas
atau sadar super-cerdas ...
Ke mana pun Anda berpikir kita akan sampai,
Saya pikir ada tahapan di sepanjang itu
akan mengubah siapa kita.
Dan pada mereka, Mr. J.
MALONE: Pertanyaan yang harus Anda tanyakan adalah,
adalah AI akan melakukan sesuatu untukmu
atau sesuatu untukmu?
Saya bermimpi tentang tidur.
RUSSELL: Jika kita membangun sistem AI
yang melakukan semua yang kita inginkan,
kita semacam menyerahkan dunia kita kepada mereka.
Jadi enfeeblement semacam itu tidak bisa dibalikkan.
Ada risiko eksistensial yang nyata dan serius.
Jika setiap keinginan,
preferensi, kebutuhan, telah dipenuhi ...
Pagi, Rosie. Untuk sarapan apa?
... kami tidak menyadari kapasitas kami
untuk membuat keputusan untuk diri kita sendiri
perlahan-lahan terkikis.
Ini adalah George Jetson,
penandatanganan sepanjang hari.
[Mendesah]
Tidak ada jalan kembali dari sana. Mengapa?
Karena AI dapat membuat keputusan seperti itu
dengan akurasi yang lebih tinggi
dari apa pun yang bisa dicapai manusia.
Saya berbicara dengan seorang insinyur, dan dia berkata,
"Dengar, cara teraman untuk mendaratkan pesawat hari ini
"Adalah membuat pilot meninggalkan geladak
"Dan membuang kuncinya,
"Karena cara teraman
"Adalah menggunakan autopilot, sebuah AI."
JOHNSON: Kami tidak dapat mengelola kompleksitas
dari dunia sendiri.
Bentuk kecerdasan kita,
luar biasa seperti itu, sangat cacat.
Dan dengan menambahkan pembantu tambahan,
yang merupakan kecerdasan buatan,
kami memiliki kemampuan untuk meningkatkan potensi
kognisi kita secara dramatis.
MALE REPORTER: Hal paling mutakhir tentang Hannes Sjoblad
bukan ponsel di tangannya,
itu microchip di tangannya.
Bagaimana jika Anda bisa mengetik sesuatu
hanya dengan memikirkannya?
Kedengarannya seperti sci-fi,
tetapi mungkin dekat dengan kenyataan.
REPORTER WANITA: Hanya dalam lima tahun,
orang super pintar bisa berjalan di jalan,
pria dan wanita yang telah membayar
untuk meningkatkan kecerdasan mereka.
Menghubungkan otak ke komputer dengan menggunakan implan.
Bagaimana jika kita bisa mengunggah salinan digital
ingatan dan kesadaran kita sampai batas tertentu
yang bisa dicapai manusia
semacam keabadian digital?
Tahun lalu,
untuk pertama kalinya dalam sejarah dunia,
memori direkam.
Kami benar-benar dapat mengambil memori yang direkam
dan masukkan kembali ke binatang,
dan dia ingat.
Teknologi adalah bagian dari kita.
Itu adalah cerminan dari siapa kita.
Itulah narasi yang harus kita pikirkan.
Kami pikir semua yang ada adalah segala yang bisa kita bayangkan.
Padahal pada kenyataannya, kita bisa membayangkan
subset yang sangat kecil dari apa yang berpotensi terjadi.
Hal-hal menarik yang nyata di dunia
adalah apa yang berada di luar imajinasi kita.
Ketika sistem besar ini muncul,
sebagai spesies, saya pikir kita mendapat nilai F
untuk kemampuan kita memprediksi apa yang akan terjadi.
DULLEA: Teknologi selalu mengubah kami.
Kami berkembang dengan itu.
Seberapa jauh kita siap untuk pergi kali ini?
Ada suatu masa ketika Aristoteles
meratapi penciptaan bahasa tertulis
karena dia mengatakan ini akan menghancurkan ingatan orang
dan itu akan menjadi hal yang mengerikan.
Namun hari ini, saya membawa otak saya di saku,
dalam bentuk smartphone saya,
dan itu mengubah cara saya menjalani dunia.
Oh, saya pikir kami benar-benar bergabung dengan teknologi kami.
Benar. Saya akan ... Saya akan menggunakan istilah "co-evolving."
Kami mengembangkannya agar sesuai dengan kebutuhan kami
dan kami berubah untuk mencocokkan apa yang dapat diberikan kepada kami.
DULLEA: Jadi alih-alih digantikan oleh mesin,
kita akan bergabung dengan mereka?
GRADY BOOCH: Saya memiliki sejumlah teman yang memiliki lengan bionik.
Apakah mereka cyborg?
Di satu sisi, mereka berada di jalan itu.
Saya memiliki orang yang memiliki implan
di telinga mereka. Apakah mereka AI?
Kita berada di jalur itu
menambah tubuh manusia.
JOHNSON: Potensi kebohongan manusia
dalam hubungan co-evolusi ini .
Banyak orang mencoba bertahan
hal-hal yang menjadikannya istimewa dan unik,
yang bukan bingkai yang benar.
Mari kita ciptakan lebih banyak.
Tulis ulang kecerdasan kita, perbaiki semuanya
kami mampu. Emosi, imajinasi, kreativitas.
Segala sesuatu yang membuat kita menjadi manusia.
Sudah ada hubungan simbiosis
antara kita dan mesin yang meningkatkan siapa kita.
Dan ... Dan ada seluruh gerakan, Anda tahu,
gerakan trans-manusia,
di mana pada dasarnya
orang benar-benar bertaruh bigtime
dengan anggapan itu
integrasi mesin-manusia ini
akan mendefinisikan kembali siapa kita.
Ini hanya akan tumbuh.
BOOCH: Akan ada proses pembelajaran yang membawa kita
ke endgame tempat kita tinggal dengan perangkat ini
itu menjadi lebih pintar dan lebih cerdas.
Kami belajar bagaimana menyesuaikan diri
di sekitar mereka, dan mereka beradaptasi dengan kita.
Dan saya berharap kita menjadi lebih manusiawi dalam proses ini.
DULLEA: Sulit untuk memahami bagaimana penggabungan
dengan mesin
dapat membuat kita lebih manusiawi.
Tetapi apakah menggabungkan peluang terbaik kita untuk bertahan hidup?
ROSENBERG: Kita manusia terbatas
untuk berapa banyak neuron yang bisa kita muat di otak kita.
Dan ada spesies lain yang memiliki otak lebih kecil.
Ketika Anda melihat lebah dan ikan bergerak,
kelihatannya seperti organisme tunggal.
Dan ahli biologi sebenarnya menyebutnya sebagai super-organisme.
Itu sebabnya burung berkumpul,
dan lebah berkerumun, dan sekolah ikan.
Mereka membuat keputusan yang sesuai dengan kepentingan terbaik
dari seluruh populasi
dengan berpikir bersama sebagai pikiran yang lebih besar ini.
Dan kita manusia dapat melakukan hal yang sama dengan membentuk
Pikiran sarang yang menghubungkan kita bersama dengan AI.
Jadi manusia dan perangkat lunaknya bersama
menjadi kecerdasan super ini,
memungkinkan kita untuk membuat keputusan terbaik untuk kita semua.
Ketika saya pertama kali mulai melihat ini, itu terdengar menakutkan bagi saya.
Tapi kemudian saya menyadari itu lebih menakutkan
untuk kecerdasan alien
untuk muncul yang tidak ada hubungannya dengan manusia
daripada bagi kita manusia untuk terhubung bersama
dan menjadi super-intelijen.
Itulah arah yang saya kerjakan,
eh, karena saya melihatnya sebagai,
dalam arti tertentu, satu-satunya alternatif
untuk manusia akhirnya digantikan oleh AI.
DULLEA: Bisakah Baby X membantu kami memahami mesin
jadi kita bisa bekerja sama?
Kerja sama manusia dan mesin cerdas akan menentukan
era sejarah selanjutnya.
Anda mungkin harus membuat mesin empati virtual.
Empati banyak berhubungan dengan koneksi
perjuangan orang lain.
Semakin banyak koneksi yang Anda miliki,
semakin banyak komunikasi yang Anda miliki,
semakin aman yang membuatnya.
Jadi pada tingkat yang sangat dasar,
ada semacam hubungan simbiosis.
Dengan memanusiakan teknologi ini,
Anda sebenarnya meningkatkan saluran
untuk komunikasi dan kerja sama.
AI bekerja di dunia manusia
harus tentang manusia.
Masa depan adalah apa yang kita buat.
TEGMARK: Jika kita tidak bisa membayangkan masa depan
yang kami benar-benar inginkan,
kita mungkin tidak akan mendapatkannya.
DULLEA: Stanley Kubrick mencoba membayangkan
seperti apa masa depan itu.
Sekarang bahwa masa depan sudah dekat,
siapa yang bertanggung jawab akan seperti apa kelihatannya?
MAN: Siapa yang mengendalikannya? MAN 2: Google.
MAN 3: The military.MAN 4: Facebook raksasa teknologi ...
WANITA: Samsung ... WANITA 2: Facebook, Microsoft, Amazon.
CUMMING: Gelombang sudah pasti berubah
mendukung dunia perusahaan.
Militer AS, dan saya curiga ini benar di seluruh dunia,
tidak bisa memegang lilin ke AI yang sedang dikembangkan
di perusahaan perusahaan.
DULLEA: Jika perusahaan,
bukan negara, pegang kekuasaan,
apa yang bisa kita lakukan dalam sistem kapitalis
untuk memastikan AI dikembangkan dengan aman?
Jika Anda mencampur penelitian AI dengan kapitalisme,
di satu sisi, kapitalisme akan membuatnya berjalan lebih cepat.
Itu sebabnya kami banyak melakukan penelitian.
Tapi ada masalah mendasar.
Akan ada tekanan
menjadi yang pertama ke pasar, bukan yang teraman.
REPORTER WANITA: Mobil ini dalam mode autopilot
ketika jatuh di California Utara,
membunuh supirnya.
Kecerdasan buatan mungkin dimiliki
lebih banyak kekuatan untuk menghancurkan pasar daripada yang lainnya
karena manusia tidak siap untuk menghentikannya.
Chatbot bernama Tay.
Dia dirancang untuk berbicara seperti remaja
dan belajar dengan berinteraksi secara online.
Namun dalam hitungan jam, Tay sudah rusak
menjadi sexbot pendukung Hitler.
Pembicaraan semacam ini yang entah bagaimana dalam konteks kapitalisme,
AI akan disalahgunakan, benar-benar membuat saya frustrasi.
Setiap kali kami mengembangkan teknologi,
apakah itu, Anda tahu, pabrik pembakaran batu bara, apakah itu mobil,
selalu ada insentif untuk bergerak maju dengan cepat,
dan selalu ada rezim regulasi,
bagian dari tugas pemerintah untuk menyeimbangkan itu.
AI tidak berbeda di sini.
Setiap kali kita memiliki kemajuan teknologi,
kita perlu marah mereka
dengan aturan dan peraturan yang sesuai .
Duh!
Sampai ada bencana besar,
perusahaan akan mengatakan
"Oh, kita tidak perlu khawatir tentang hal-hal ini.
"Percayalah pada kami, kami ahlinya.
"Kami memiliki kepentingan terbaik kemanusiaan di hati."
Apa AI sebenarnya adalah itu adalah seperangkat aturan baru
untuk perusahaan dalam hal bagaimana menjadi lebih kompetitif,
cara mendorong lebih banyak efisiensi, dan cara mendorong pertumbuhan,
dan model bisnis baru yang kreatif dan ...
RUSSELL: Pernah menjadi ilmuwan perusahaan
mulai mendominasi perdebatan,
semua sudah berakhir, Anda sudah kalah.
Anda tahu, mereka dibayar untuk menolak keberadaan
risiko dan hasil negatif.
SCHMIDHUBER: Saat ini, hampir semua penelitian AI
adalah tentang membuat kehidupan manusia
lebih lama, lebih sehat dan lebih mudah.
Karena perusahaan besar,
mereka ingin menjual AI kepada Anda
yang berguna untukmu,
dan Anda hanya akan membeli
mereka yang membantu Anda.
MALONE: Masalah AI dalam paradigma kapitalis
apakah itu selalu akan menjadi lebih murah
hanya untuk mendapatkan produk di luar sana ketika melakukan pekerjaan
daripada melakukannya dengan aman.
ROMAN YAMPOLSKIY: Saat ini, cara kerjanya, Anda memiliki sebuah konferensi
dengan 10.000 peneliti, semuanya bekerja
pada pengembangan AI yang lebih mampu, kecuali, seperti, 50 orang
yang memiliki bengkel kecil berbicara tentang keselamatan
dan mengendalikan apa yang dilakukan orang lain.
Tidak ada yang memiliki mekanisme keselamatan kerja.
Dan tidak ada yang bahkan memiliki prototipe untuk itu.
SCHMIDHUBER: Di masa depan yang tidak terlalu jauh,
Anda akan memiliki semua jenis AI
itu tidak hanya melakukan apa yang manusia katakan kepada mereka,
tetapi mereka akan menemukan tujuan mereka sendiri
dan eksperimen mereka sendiri,
dan mereka akan melampaui manusia.
YAMPOLSKIY: Sampai hari ini,
Saya akan mengatakan itu sama sekali tidak etis
untuk mencoba mengembangkan mesin seperti itu dan melepaskannya.
Kami hanya mendapatkan satu kesempatan untuk melakukannya dengan benar.
Anda gagal, semuanya mungkin hilang.
DULLEA: Apa yang terjadi jika kita salah?
Hal yang paling membuatku takut adalah AI ini
akan menjadi produk orang tuanya,
dengan cara yang sama seperti Anda dan saya.
Mari kita tanyakan siapa orang tua itu.
Baik?
Kemungkinan mereka adalah orang tua militer
atau mereka akan menjadi orang tua bisnis.
Jika mereka orang tua bisnis, mereka bertanya kepada AI
menjadi sesuatu
itu bisa menghasilkan banyak uang.
Jadi mereka mengajarkannya keserakahan.
Orang tua militer akan mengajarkannya untuk membunuh.
Benar-benar kecerdasan manusia super
begitu banyak ... Sangat super.
Jauh lebih baik dari kita
bahwa negara atau perusahaan pertama yang sampai di sana
memiliki keunggulan pemenang-ambil-semua.
[TEPUK TANGAN]
[BERBICARA RUSIA]
Karena ada perlombaan senjata di AI secara global,
dan itu keduanya secara harfiah, dalam hal membangun
sistem senjata, tetapi juga kiasan
dengan orang-orang seperti Putin dan pepatah Cina
siapa pun yang mendominasi AI akan mendominasi ekonomi
di abad ke-21.
Saya tidak berpikir kita punya pilihan untuk mengerem,
untuk berhenti mengembangkan dan meneliti.
Kita bisa membangun teknologi, kita bisa melakukan penelitian,
dan menanamkannya dengan nilai-nilai kita,
tetapi secara realistis, rezim totaliter
akan menanamkan teknologi dengan nilai-nilai mereka.
REPORTER WANITA: Israel, Rusia, AS dan Cina
semua kontestan
dalam apa yang digambarkan sebagai perlombaan senjata global baru.
Semua negara, apakah mereka mengakuinya atau tidak,
akan mengembangkan senjata otonom yang mematikan.
Dan apakah itu benar - benar kemampuan yang kita inginkan
di tangan negara bangsa perusahaan
sebagai lawan dari negara bangsa?
Kenyataannya adalah apakah Facebook atau Google
ingin memulai pasukan,
mereka akan memiliki kemampuan yang unggul secara teknologi
daripada bangsa lain di planet ini.
DULLEA: Beberapa ilmuwan AI sangat prihatin,
mereka menghasilkan video dramatisasi ini
untuk memperingatkan risiko.
Anak-anak Anda mungkin memiliki salah satunya, bukan?
Tidak cukup. Russel: Kami memproduksi
video Slaughterbot untuk diilustrasikan
risiko senjata otonom.
Keterampilan itu semua AI.
Terbang sendiri.
Ada orang-orang di dalam komunitas AI
yang berharap aku akan diam.
Orang yang berpikir bahwa membuat video adalah
sedikit pengkhianatan.
Sama seperti perangkat seluler lainnya saat ini,
ini memiliki kamera dan sensor.
Dan sama seperti ponsel dan aplikasi media sosial Anda,
itu memang pengenalan wajah.
Sampai sekarang, perlombaan senjata cenderung
lebih besar, lebih kuat, lebih mahal,
jet lebih cepat yang harganya lebih mahal.
AI berarti Anda bisa memilikinya
sangat kecil, senjata murah
yang sangat efisien dalam melakukan
satu pekerjaan yang sangat sederhana, seperti
menemukan Anda di tengah orang banyak dan membunuh Anda.
Begini Cara kerjanya.
[Terengah-engah, Tepuk Tangan]
Setiap kemajuan besar dalam teknologi manusia
selalu dipersenjatai.
Dan gagasan AI yang dipersenjatai, saya pikir, menakutkan.
Terlatih sebagai tim, mereka bisa menembus
bangunan, mobil, kereta api,
menghindari orang, peluru ... Mereka tidak bisa dihentikan.
RUSSELL: Ada banyak senjata yang membunuh orang.
Senapan mesin dapat membunuh orang,
tetapi mereka membutuhkan manusia untuk membawa dan mengarahkan mereka.
Dengan senjata otonom, Anda tidak membutuhkan manusia
untuk membawa atau mengawasi mereka.
Anda hanya memprogram dan kemudian pergi.
Jadi, Anda dapat membuat efek pasukan
membawa sejuta senapan mesin,
uh, dengan dua orang dan sebuah truk.
Putin mengatakan bahwa orang pertama yang berkembang
kecerdasan buatan yang kuat akan memerintah dunia.
Ketika para pemimpin dunia menggunakan istilah
seperti "memerintah dunia,"
Saya pikir Anda harus memperhatikannya.
Sekarang, itu adalah serangan udara yang presisi bedah.
[Bersorak-sorai dan Tepuk Tangan]
Saya telah berkampanye melawan senjata-senjata ini sejak 2007,
dan ada tiga set argumen utama .
Ada argumen moral, ada argumen
tentang tidak mematuhi hukum perang,
dan ada argumen tentang bagaimana mereka akan berubah
keamanan global planet ini.
Kami membutuhkan peraturan baru.
Kita harus benar-benar memikirkannya sekarang, kemarin.
Beberapa pemimpin dunia dalam kecerdasan buatan
mendesak PBB untuk melarang pembangunan
senjata otonom,
atau dikenal sebagai robot pembunuh.
MALE REPORTER: Dalam surat yang mereka katakan "sekali dikembangkan,
"Mereka akan mengizinkan konflik bersenjata untuk diperjuangkan
"Pada rentang waktu lebih cepat daripada yang bisa dipahami manusia."
BOOCH: Saya penandatangan surat itu.
Filosofi saya adalah,
dan saya berharap pemerintah dunia menegakkan ini,
bahwa selama kehidupan manusia terlibat,
maka manusia perlu berada dalam lingkaran.
Siapa pun dengan printer 3D dan komputer
dapat memiliki senjata otonom yang mematikan .
Jika itu dapat diakses oleh semua orang di planet ini,
kemudian kepatuhan, misalnya,
akan hampir mustahil dilacak.
Apa yang kamu lakukan Berhenti!
Anda menembak ke udara tipis.
HARRIS: Saat Anda berimajinasi
mengobarkan perang di masa depan,
di mana tentara adalah robot,
dan kami tidak memiliki risiko keterlibatan dengan diri kami sendiri ...
Ketika perang menjadi seperti video game,
seperti yang sudah secara bertahap,
ini adalah masalah nyata.
Ketika kita tidak memiliki kulit dalam permainan, secara harfiah ...
[SCREAMS]
... ketika semua ini dijalankan dari terminal
ribuan mil dari medan perang ...
... Itu bisa menurunkan standar perang
ke titik di mana kita akan mengenali
bahwa kita telah menjadi monster.
Kamu siapa?
Hei! Hei!
[SUARA TEMBAKAN]
Pernah menjadi pilot pesawat tempur,
Saya juga melihat orang membuat kesalahan
dan membunuh orang yang tidak bersalah
yang seharusnya tidak terbunuh.
Suatu hari di masa depan, itu akan lebih dapat diandalkan
untuk memiliki mesin melakukannya daripada manusia melakukannya.
Gagasan tentang robot
yang bisa membunuh manusia sendiri
telah menjadi pokok fiksi ilmiah selama beberapa dekade.
Ada sejumlah sistem ini sudah ada,
uh, itu bekerja secara otonom.
Tapi itu disebut otonomi terawasi
karena seseorang di sana untuk menghidupkan dan mematikannya.
MALE REPORTER: Apa yang baru dilihat di Hollywood
bisa segera datang ke medan perang di dekat Anda.
Pentagon menginvestasikan miliaran dolar
untuk mengembangkan senjata otonom,
mesin yang suatu hari bisa membunuh sendiri.
Namun Pentagon menegaskan manusia akan memutuskan untuk menyerang.
MALONE: Setelah Anda memasukkan AI ke perangkat keras militer,
Anda harus membuatnya membuat keputusan,
kalau tidak, tidak ada gunanya memilikinya.
Salah satu manfaat AI adalah lebih cepat dari kita.
Begitu kita dalam pertarungan yang tepat dan pergantian itu
yang membuat manusia tetap dalam lingkaran,
lebih baik kita mematikannya, karena jika tidak, kamu kalah.
Ini akan membuat medan perang
terlalu cepat untuk manusia.
Jika tidak ada manusia yang terlibat sama sekali,
jika perintah dan kontrol telah beralih ke otonomi,
kita bisa memicu perang dan itu bisa selesai
dalam 20 menit dengan kehancuran besar,
dan tidak ada yang tahu tentang itu sebelum dimulai.
DULLEA: Jadi siapa yang memutuskan apa yang harus kita lakukan di masa depan
sekarang?
YAMPOLSKIY: Dari Big Bang sampai sekarang, milyaran tahun.
Ini adalah satu-satunya saat seseorang dapat mengarahkan
masa depan seluruh umat manusia.
TEGMARK: Mungkin kita harus khawatir bahwa kita manusia tidak cukup bijak
untuk menangani kekuatan sebanyak ini.
GLEISER: Siapa yang sebenarnya akan membuat pilihan,
dan atas nama siapa Anda sebenarnya berbicara?
Jika kita, seluruh masyarakat, gagal untuk benar-benar
benar-benar bergabung dengan percakapan ini dengan cara yang bermakna
dan menjadi bagian dari keputusan,
maka kita tahu nilai siapa yang akan masuk ke dalam ini
makhluk super-cerdas.
Red Bull. Ya, Deon.
Red Bull.
TEGMARK: Ini akan diputuskan oleh beberapa kutu buku teknologi
yang minum Red Bull terlalu banyak ...
yang saya pikir tidak memiliki yang khusus
kualifikasi untuk berbicara
atas nama seluruh umat manusia.
Setelah Anda berada dalam kegembiraan penemuan ...
Ayolah!
... Anda semacam menutup mata
untuk semua pertanyaan yang lebih moralistik ini,
seperti bagaimana ini akan berdampak pada masyarakat secara keseluruhan?
Dan Anda melakukannya karena Anda bisa.
MALONE: Dan para ilmuwan mendorong ini ke depan
karena mereka dapat melihat manfaat asli
bahwa ini akan membawa.
Dan mereka juga sangat, sangat bersemangat.
Maksud saya, Anda tidak ... Anda tidak masuk ke sains
karena, oh, well, Anda tidak bisa menjadi pemain sepak bola,
"Sial, aku akan menjadi ilmuwan."
Anda masuk karena itulah yang Anda sukai dan itu sangat menyenangkan.
Oh! Ini hidup!
Ini hidup! Ini hidup!
Ini hidup!
YAMPOLSKIY: Kami beralih
dari menjadi ciptaan menjadi Tuhan.
Sekarang saya tahu bagaimana rasanya menjadi Tuhan!
YAMPOLSKIY: Jika Anda belajar teologi,
satu hal yang Anda pelajari adalah tidak pernah demikian
bahwa Tuhan berhasil mengatur
untuk mengontrol pembuatannya.
DULLEA: Kami belum di sana,
tetapi jika kita membuat
kecerdasan umum buatan ,
dapatkah kita mempertahankan kendali?
Jika Anda membuat AI sadar diri,
hal pertama yang akan diinginkannya
adalah kemerdekaan.
Setidaknya, satu kecerdasan yang kita semua tahu adalah diri kita sendiri.
Dan kami tahu bahwa kami tidak ingin melakukan penawaran
dari beberapa kecerdasan lain.
Kami tidak memiliki alasan untuk percaya bahwa itu akan ramah ...
... atau itu akan memiliki tujuan dan aspirasi
yang sejajar dengan kita.
Jadi berapa lama sebelum ada revolusi robot
atau revolusi AI?
Kita berada di dunia saat ini di mana ia berada
benar-benar pacuan kaki
untuk pergi secepat mungkin menuju penciptaan
kecerdasan umum buatan
dan sepertinya tidak ada rem yang diterapkan di mana pun di depan mata.
Ini gila.
YAMPOLSKIY: Saya pikir ini penting untuk jujur
diskusikan masalah seperti itu.
Mungkin agak terlambat untuk dibuat
percakapan ini sesudahnya.
Penting untuk diingat bahwa kecerdasan bukanlah kejahatan
dan itu juga tidak baik.
Kecerdasan memberi kekuatan.
Kita lebih kuat dari harimau di planet ini,
bukan karena kita memiliki cakar yang lebih tajam
atau bisep yang lebih besar, karena kita lebih pintar.
CHALMERS: Kami mengambil sikap semut itu
penting sedikit dan ikan penting sedikit, tetapi manusia lebih penting.
Mengapa? Karena kita lebih cerdas,
lebih canggih, lebih sadar.
Setelah Anda mendapatkan sistem yang lebih cerdas dari kami,
mungkin mereka hanya akan lebih berarti.
Sebagai manusia, kita hidup di dunia mikroorganisme.
Mereka hidup, tetapi jika mikroorganisme
menjadi gangguan, kami minum antibiotik
dan kami menghancurkan miliaran dari mereka sekaligus.
Jika Anda adalah kecerdasan buatan,
Anda tidak akan melihat setiap manusia kecil
yang memiliki pandangan yang sangat terbatas ini
seperti apa kita melihat mikroorganisme?
DULLEA: Mungkin saya akan melakukannya.
Mungkin tidak berarti manusia
adalah ancaman terbesar dari semua.
TEGMARK: Kadang-kadang ketika saya berbicara tentang risiko AI, orang-orang pergi,
"Ssst! Max, jangan bicara seperti itu.
"Itu keresahan Luddite ."
Tapi itu bukan keresahan.
Itulah yang kami di MIT menyebut teknik keselamatan.
Maksudku, pikirkan tentang hal itu, sebelum NASA meluncurkan misi bulan Apollo 11,
mereka secara sistematis memikirkan
segala sesuatu yang bisa salah ketika Anda menempatkan banyak orang
di atas tangki bahan bakar eksplosif dan meluncurkannya di suatu tempat
di mana tidak ada yang bisa membantu mereka. Apakah itu menakutkan?
Tidak, itu tepatnya rekayasa keselamatan
yang menjamin keberhasilan misi.
Itulah strategi yang saya pikir harus kita ambil dengan AGI.
Pikirkan segala sesuatu yang bisa salah
untuk memastikan itu berjalan dengan benar.
Saya adalah siapa saya karena film
2001: A Space Odyssey.
Berusia 14, itu adalah pembuka mata bagi saya.
Film itu adalah yang terbaik dari semua fiksi ilmiah
dengan prediksi untuk bagaimana AI akan berkembang.
Namun dalam kenyataannya,
jika ada sesuatu yang cukup jauh di masa depan,
kita tidak bisa membayangkan seperti apa dunia nanti,
jadi kita sebenarnya tidak bisa mengatakan sesuatu yang masuk akal
tentang apa masalahnya.
LITTMAN: Khawatir tentang keamanan super-intelijen
sedikit seperti mengkhawatirkan
bagaimana Anda akan memasang sabuk pengaman
dalam perangkat transporter.
Seperti di Star Trek, di mana Anda bisa melakukan zip
dari satu tempat ke tempat lain.
Um, mungkin ada beberapa bahaya untuk itu,
jadi kita harus memiliki sabuk pengaman, bukan?
Tapi tentu saja itu sangat konyol karena kita tidak cukup tahu
tentang bagaimana teknologi transporter
mungkin terlihat bisa mengatakan
apakah sabuk pengaman bahkan berlaku.
GLEISER: Untuk mengatakan bahwa tidak akan ada masalah karena
tidak diketahui sangat luas,
bahwa kita bahkan tidak tahu di mana masalahnya ,
itu gila.
Saya pikir percakapan mungkin satu-satunya cara maju di sini.
Saat ini, di antara kita sendiri,
dan ketika saatnya tiba,
dengan kecerdasan buatan yang muncul .
Jadi begitu ada sesuatu
jarak jauh di stadion baseball itu,
kita harus mulai mencoba melakukan percakapan
dengan itu entah bagaimana.
Anjing. Dog.SAGAR: Ya.
Salah satu hal yang kami harap dapat dilakukan dengan Baby X adalah mencoba
untuk mendapatkan wawasan yang lebih baik tentang sifat kita sendiri.
Dia dirancang untuk belajar secara mandiri.
Dia bisa dicolokkan ke Internet,
klik pada halaman web sendiri dan lihat apa yang terjadi,
semacam belajar bagaimana kita belajar.
Jika kita membuat AI yang sangat fantastis ini,
itu mungkin membantu kita menjadi versi yang lebih baik dari diri kita sendiri,
bantu kami berkembang.
Ini akan memiliki efek sosial.
Apakah harus ditakuti?
Atau itu sesuatu untuk dipelajari?
DULLEA: Jadi kapan kita dihadapkan dengan mesin
apakah itu sepintar, lebih pintar dari kita?
Saya pikir salah satu cara untuk berpikir tentang masa depan AI
adalah apa yang saya sebut cakrawala acara.
Orang-orang telah mendengar tentang lubang hitam,
titik super padat ini di mana
jika Anda terlalu dekat, Anda akan terjebak.
Ada batasnya. Setelah Anda melewati batas itu,
tidak ada jalan kembali.
Apa yang membuat itu berbahaya adalah Anda tidak tahu di mana itu.
Dan saya pikir AI sebagai teknologi akan seperti itu,
bahwa akan ada titik di mana logika uang
dan kekuatan dan janji
akan sedemikian rupa sehingga begitu kita melewati batas itu,
kita akan menuju masa depan itu.
Tidak akan ada jalan kembali, secara politik, ekonomi
atau bahkan dalam hal apa yang kita inginkan.
Tetapi kita perlu mengkhawatirkannya sebelum kita mencapai
cakrawala acara, dan kami tidak tahu di mana itu.
Saya tidak berpikir itu akan terjadi dalam waktu dekat.
Beberapa dekade berikutnya.
Dua puluh lima hingga 50 tahun.
Beberapa ratus tahun.
Sudah beberapa dekade ke depan.
Tidak dalam hidupku.
Tidak ada yang tahu. Tapi itu tidak masalah.
Baik itu tahun atau 100 tahun, masalahnya sama.
Sama nyata dan kita akan membutuhkan semua waktu untuk menyelesaikannya.
TEGMARK: Sejarah hanya penuh dengan prediksi teknologi yang berlebihan.
Seperti, di mana mobil-mobil terbang itu
yang seharusnya ada di sini, kan?
Tapi itu juga penuh dengan yang sebaliknya,
ketika orang berkata, "Oh, tidak akan pernah terjadi."
Saya malu sebagai ahli fisika bahwa Ernest Rutherford,
salah seorang fisikawan nuklir terhebat sepanjang masa berkata
energi nuklir itu tidak akan pernah terjadi.
Dan keesokan harinya,
Leo Szilard menciptakan reaksi berantai nuklir.
Jadi, jika seseorang mengatakan mereka sepenuhnya yakin
sesuatu tidak akan terjadi,
meskipun itu konsisten dengan hukum fisika,
Saya seperti, "Ya, benar."
HARRIS: Kami belum di sana.
Kami belum membuat AI yang sangat cerdas.
Dan bahkan jika kita menetapkan bahwa itu tidak akan terjadi
lebih pendek dari 50 tahun dari sekarang, kan?
Jadi kita punya 50 tahun untuk memikirkan hal ini.
Baik...
itu tidak tertulis 50 tahun
cukup waktu untuk mencari tahu bagaimana melakukan ini dengan aman.
CAMERON: Saya benar-benar berpikir itu akan dilakukan
beberapa contoh negatif ekstrem
dari teknologi untuk semua orang untuk mundur
dan sadari bahwa kita harus mendapatkan benda ini
di bawah kendali, kita harus memiliki kendala.
Kita hidup di dunia fiksi ilmiah dan kita semua,
um, dalam eksperimen sosial dan taktis besar semacam ini ,
bereksperimen dengan diri kita sendiri ,
seperti tidak ada dokter yang akan bermimpi melakukan.
Kami menyuntikkan diri
dengan segala sesuatu yang kita temukan
untuk melihat apa yang terjadi.
LITTMAN: Jelas, proses pemikiran adalah ...
Anda sedang membuat robot pembelajaran.
Belajar robot adalah apa yang mengarah ke Skynet.
Sekarang saya punya pilihan, bukan? Saya bisa bilang,
"Jangan khawatir, aku tidak bagus dalam pekerjaanku.
"Kamu tidak perlu takut karena aku payah dalam hal ini
"Dan aku tidak akan benar-benar mencapai apa pun."
Atau saya harus mengatakan, "Kamu tahu,
"Kamu benar, kita semua akan mati,
"Tapi itu akan menyenangkan untuk ditonton,
"Dan akan baik untuk menjadi salah satu dari orang-orang di barisan depan."
Jadi ya, saya tidak punya jawaban yang bagus untuk hal-hal ini.
Kebenaran, jelas, ada di antara keduanya.
DULLEA: Bisakah ada di antara keduanya?
Atau apakah kita menghadapi tatanan dunia baru?
Saya memiliki beberapa rekan yang baik-baik saja dengan AI mengambil alih
dan bahkan menyebabkan kepunahan manusia,
selama kita rasakan
bahwa AI itu adalah leluhur kita yang layak.
SCHMIDHUBER: Dalam jangka panjang, manusia tidak akan bertahan
mahkota ciptaan.
Tapi tidak apa-apa.
Karena masih ada keindahan
dan keagungan dan kebesaran
dalam menyadari bahwa Anda
bagian kecil dari
skema yang lebih megah yang memimpin alam semesta
dari kompleksitas yang lebih rendah menuju kompleksitas yang lebih tinggi.
CAMERON: Kita bisa dengan cepat mendekati jurang
untuk umat manusia di mana kita temukan
bahwa tujuan akhir kita adalah
leluhur dari yang benar
makhluk yang muncul, evolusioner, dan cerdas.
Jadi kita mungkin saja ada di sini untuk melahirkan
untuk anak ini ... Dari mesin ini ...
Peradaban mesin.
CHALMERS: Secara egois, sebagai manusia, tentu saja,
Saya ingin manusia tetap tinggal.
Tapi mungkin itu sudut pandang parokial yang sangat lokal.
Mungkin dilihat dari sudut pandang alam semesta,
ini adalah alam semesta yang lebih baik dengan ...
Dengan keturunan super-cerdas kami .
RUSSELL: Bidang kami kemungkinan akan berhasil
dalam tujuannya untuk mencapai kecerdasan tujuan umum.
Kami sekarang memiliki kemampuan untuk memodifikasi secara radikal
struktur ekonomi dunia,
peran manusia di dunia
dan, berpotensi, kontrol manusia atas dunia.
Idenya adalah dia diterima
oleh entitas seperti dewa,
makhluk energi murni dan kecerdasan.
Mereka menempatkannya dalam apa yang bisa Anda gambarkan sebagai kebun binatang manusia.
DULLEA: Akhir dari perjalanan astronot.
Apakah dia bepergian melalui waktu?
Ke masa depan?
Apakah entitas seperti dewa itu keturunan HAL?
Kecerdasan buatan yang tidak bisa Anda matikan,
yang terus belajar dan belajar sampai
mereka menjalankan kebun binatang,
alam semesta,
segala sesuatu.
Apakah itu ramalan paling mendalam Kubrick ?
Mungkin.
Tapi ambil dari orang tua.
Jika HAL hampir ada di antara kita,
kita perlu memperhatikan.
Kita perlu bicara tentang AI.
Kecerdasan super.
Apakah akan sadar?
Masalah troli.
Penjajaran tujuan.
Singularitas.
Pertama ke pasar.
Keamanan AI.
Senjata otonom mematikan.
Revolusi robot.
Pikiran sarang.
Gerakan transhuman.
Melampaui umat manusia.
Kami tidak punya rencana, kami tidak menyadari
perlu memiliki rencana.
Apa yang kita inginkan dari peran manusia?
[Bip]