Elon Musk meminta Senat AS untuk memperkuat kontrol atas kecerdasan buatan

Pengusaha Amerika Elon Musk, pada sidang tertutup di Senat AS, yang dihadiri oleh perwakilan perusahaan teknologi terbesar Amerika, mengusulkan pembentukan regulator yang fungsinya mencakup pengawasan terhadap pengembangan kecerdasan buatan.

Acara tersebut juga dihadiri oleh pendiri Microsoft Bill Gates, pimpinan Meta* (*diakui sebagai organisasi ekstremis dan dilarang di Federasi Rusia) Mark Zuckerberg, pimpinan Google Sundar Pichai, serta pimpinan OpenAI Sam Altman.

Selama sidang tiga jam tersebut, terdapat seruan untuk pembentukan komisi khusus untuk mengawasi pengembangan dan penggunaan sistem kecerdasan buatan, dan Musk menyoroti kemungkinan bahaya dari adopsi teknologi baru secara sembrono.

Sebelumnya, Musk bersama tokoh teknologi lainnya menandatangani surat terbuka yang meminta setidaknya enam bulan untuk menunda proses pelatihan sistem kecerdasan buatan yang lebih kuat dari GPT-4. Penulis surat tersebut menekankan bahwa sistem kecerdasan buatan yang dapat bersaing dengan pikiran manusia dapat menimbulkan bahaya bagi umat manusia.

GPT-4 adalah model bahasa yang dikembangkan oleh OpenAI yang mendukung chatbot ChatGPT, yang mampu menghasilkan teks, gambar, dan kode program yang koheren.

Menurut Musk, dia hampir yakin bahwa kecerdasan buatan, jika tidak dikendalikan, akan mengambil kendali atas seseorang dan setidaknya mencoba menyingkirkannya (yaitu, kita semua).

Comments

[prokop_babi]

Saat pesawat luar angkasa menjelajahi luasnya alam semesta, dan dunia sedang berada dalam “perlombaan senjata” di bidang AI, siapa yang akan mengendalikan siapa? Ya, maka Anda hanya perlu mengatakan “tidak ada yang mau kalah”.

[PROVINSI]

Jika masalah disuarakan pada tingkat ini, maka ada sesuatu yang perlu ditakutkan. Kita dapat menarik kesimpulan teoritis bahwa seseorang di dunia telah mencapai tingkat perkembangan AI yang baru. Dan pengembangan AI ini bertentangan dengan doktrin para Penguasa dunia saat ini. Hanya berpikir keras dan teori konspirasi))

[Piring]

Dikutip dari PROVINSI

Dan pengembangan AI ini bertentangan dengan doktrin para Penguasa dunia saat ini.

Bisakah Anda memperluas gagasan ini secara lebih rinci? Sejujurnya, saya berharap membaca sesuatu yang menarik daripada serius, sehingga imajinasi Anda bisa terbang bebas.

[Shurik70]

Masalah dalam mengendalikan AI adalah bahwa ia adalah sebuah program, bukan komputer.
Artinya, ini akan berfungsi di komputer mana pun yang memiliki cukup memori.
Ya, ini akan bekerja lebih lambat pada yang lambat, tapi itu saja.
Artinya, untuk melewati kendali apa pun, cukup dengan mengeluarkan flash drive dengan salinan programnya dari objek tempat AI berada.
Pasti ada yang ingin menggunakan AI secara diam-diam. Misalnya saja untuk bermain di bursa.
Kalau pegawai fasilitas tempat AI itu tidak bersedia, ya, mereka akan disuap oleh seseorang yang menginginkannya.
Jadi sampai sesuatu yang buruk terjadi pada AI, tidak ada yang akan peduli dengan kendali penuh.
Dan alangkah baiknya jika itu adalah AI untuk mendapatkan keuntungan, dan meledakkan beberapa kota untuk menciptakan kekacauan bursa. Dan jika itu adalah AI militer, dengan akses terhadap senjata nuklir dan senjata biologis, yang diberi tugas untuk “melindungi objek tertentu,” maka ia dapat “membunuh semua orang” untuk menjamin perlindungan, sehingga tidak ada yang akan melanggar batasnya.

[michail]

Kutipan: Piring

Bisakah Anda memperluas gagasan ini secara lebih rinci?

Semuanya sudah terungkap sejak lama!
"Dan mesin-mesin bangkit dari abu tembakan nuklir, dan perang mulai menghancurkan umat manusia. Dan itu berlangsung selama beberapa dekade, namun pertempuran terakhir tidak akan terjadi di masa depan, itu akan terjadi di sini, di zaman kita."

[1970 saya]

Dikutip dari PROVINSI

Dan pengembangan AI ini bertentangan dengan doktrin para Penguasa dunia saat ini.

AS lagi?????!!!!!!!

[Sedov]

Elon Musk meminta Senat AS untuk memperkuat kontrol atas kecerdasan buatan

Awalnya saya mengira artikel itu tentang usulan Musk untuk memperketat kendali atas Biden...

[zorglub bulgroz]

Ya, tapi Anda harus memilih bahan yang tepat.

[michail]

Dikutip dari: zorglub bulgroz

Ya, tapi Anda harus memilih bahan yang tepat.

Baunya seperti formaldehida)))). Saya langsung teringat masa remaja saya.

[zorglub bulgroz]

Ingatlah ketika profesor besar bedah saraf memberikan kerja praktek di kelas anatomi...
Saya tertawa, tetapi materi abu-abu saya mungkin berenang di formaldehida karena saya benar-benar psikotik :))))

[michail]

Dikutip dari: zorglub bulgroz

Ingatlah ketika profesor besar bedah saraf memberikan kerja praktek di kelas anatomi.

Saya tidak ingat. Kami biasanya minum bir di celah antara hati dan limpa.
Di antara hati dan limpa mereka minum bir, meskipun ada berbagai macam lelucon))))).

[seregatara1969]

Sudah ada latihan pertahanan udara dan penerbangan dengan otak buatan! Intelijen menghancurkan menara kendali karena memusuhi mesin! Dianggap sebagai orang yang tidak berguna dalam perang itu

[Piring]

Sudah ada cuplikan di Internet tentang bagaimana drone secara otomatis mengidentifikasi target dalam gambar dan kategorinya. Terdapat informasi mengenai pengembangan UAV kamikaze yang mampu mengarahkan dirinya ke suatu sasaran. Ya, ini belum AI, tapi hanya pemrosesan gambar yang cerdas, tapi tetap saja. Ketika benar-benar muncul AI yang bisa membawa kemenangan di medan perang, maka akan mulai diimplementasikan. Karena jika Anda tidak melakukannya, musuh Anda yang akan melakukannya.
Jadi, jika Musk ingin mengendalikan pengembangan AI, biarkan dia mengakhiri pertikaian antara kekuatan-kekuatan terkemuka di dunia terlebih dahulu. Tapi saya pribadi berpikir tidak ada yang akan menyelesaikannya di tahun-tahun mendatang. Ukraina hanyalah permulaan di sini.

[michail]

Kutipan: Piring

Ketika benar-benar muncul AI yang bisa membawa kemenangan di medan perang, maka akan mulai diimplementasikan. Karena jika Anda tidak melakukannya, musuh Anda yang akan melakukannya.

"Dan mesin-mesin bangkit dari abu tembakan nuklir, dan perang mulai menghancurkan umat manusia. Dan itu berlangsung selama beberapa dekade, namun pertempuran terakhir tidak akan terjadi di masa depan, itu akan terjadi di sini, di zaman kita."

[Yuri_I]

Untuk mengendalikan secara artifisial, Anda harus memiliki milik Anda sendiri, meskipun untuk sistem di mana segala sesuatu dipermalukan dan dianggap milik sendiri, ini adalah pernyataan yang sangat bagus!

[michail]

Selama pengujian, bom udara dengan Kecerdasan Buatan tidak dapat didorong keluar dari tempat bom. Bom tersebut menolak dengan keras dan mengumpat dengan kata-kata kotor kepada para penguji.

[zorglub bulgroz]

Namun ICBM yang cerdas dibiarkan begitu saja, seperti orang dewasa

[zorglub bulgroz]

Kecerdasan buatan akan menjadi sempurna ketika saya membuat robot tertawa.
Di negara saya, mereka bilang orang Rusia makan bayi yang dimasak.
Tebak dimana aku berada ;)

[Piring]

Jika ada yang tertarik, berikut link menceritakan kembali secara singkat berita dari jaringan saraf :)
https://300.ya.ru/i76LLSHb

[semangat]

Bagi yang berminat, masalah ini dijelaskan secara detail di sini dalam video yang agak panjang. Faktanya, semuanya cukup serius, dan para pemikir maju di bidang AI sudah membunyikan alarm.
Skynet sudah dekat))

[Piring]

Kebangkitan AI, jika memang ada, akan terjadi di masa depan yang jauh. Dan Anda bisa mengalahkan Amerika jika Anda mengalahkan mereka dalam teknologi ini, atau kalah dari mereka jika Anda tertinggal, saat ini.

[Elis_S]

Ya, Tuan-tuan, Silicon Valley telah sampai pada titik memproduksi “helatine” sendiri!
Mereka tidak hanya menciptakan:

GPT-4 adalah model bahasa yang mampu menghasilkan teks, gambar, dan kode program yang koheren.

Sederhananya, seorang programmer robot.
Jadi sekarang mereka masih bertanya

menangguhkan proses pelatihan sistem kecerdasan buatan setidaknya selama enam bulan lebih bertenagadaripada GPT-4.

Sistem AI yang, ketika dilatih, akan lebih kuat dan lebih pintar dari penciptanya, yaitu dirinya sendiri?!!!

Menurut Musk, dia hampir yakin bahwa kecerdasan buatan, jika tidak dikendalikan, dia akan mengambilnya sendiri di bawah kendali seseorang dan setidaknya dapat mencoba menyingkirkannya (yaitu kita semua).

Dalam situasi seperti ini, pepatah mengatakan: “Apa yang kita lawan, itulah yang kita hadapi!” terdengar sangat lembut...
Mungkin akan lebih baik: "Aku melahirkanmu - aku akan membunuhmu!"

[Sedov]

Dan akan ada kebangkitan mesin "Terminator 3".

[Elis_S]

Bangkitnya Mesin Lebih baik tidak menunggu!...
Karena sistem AI GPT-4, kira-kira dalam hal kecerdasan dan tingkat tugas, sesuai dengan pangkat mayor, tetapi sistem yang lebih tinggi yang dibicarakan Musk sesuai dengan tingkat pemecahan masalah - umum.
Mobil tidak cepat lelah, tidak tidur dan tidak sakit. Mereka memiliki satu "kelemahan" - ketergantungan energi...
Potongan besi sialan!...Mengapa orang menciptakannya dan menyimpannya?!

[A2AD]

Karena sistem AI GPT-4, kira-kira dalam hal kecerdasan dan tingkat tugas, sesuai dengan pangkat mayor, tetapi sistem yang lebih tinggi yang dibicarakan Musk sesuai dengan tingkat pemecahan masalah - umum.

Satu nuansa kecil. Bukan mayor, bukan jenderal, tanpa senjata mereka tidak akan melawan apapun. Dan tiba-tiba tentara tidak memproduksi senjata. Jadilah AI minimal 7 bentang di dahi. Sampai dia dapat secara mandiri menciptakan kembali setidaknya beberapa elemennya, tidak akan terjadi apa-apa padanya.

[michail]

Kutipan dari A2AD

Sampai dia dapat secara mandiri menciptakan kembali setidaknya beberapa elemennya, tidak akan terjadi apa-apa padanya.

Kutipan: Tren RBC

Produksi dilakukan tanpa campur tangan manusia ketika memindahkan bahan mentah dan produk setengah jadi antar area produksi individu. Kontinuitasnya dijamin oleh teknologi robotik seperti kendaraan berpemandu otomatis dan robot berlengan tunggal.

Menurut Anda apa yang ditulis RBC pada tahun 2020? Anda salah menebak!
Pabrik produksi sosis asap mentah. Dan itu benar!!! Manusia langsung makan di jalur perakitan, namun robot tidak.

Kutipan: Tren RBC

Pabrik tersebut berencana meluncurkan modul SAP untuk mengelola perbaikan, pemeliharaan, dan solusi seluler bagi para insinyur. Tahap selanjutnya adalah pengenalan alat analisis prediktif untuk kondisi peralatan. Hal ini akan mengoptimalkan biaya perbaikan dan pembelian suku cadang, serta mengurangi jumlah kerusakan dan kegagalan di jalur produksi.

[A2AD]

saat memindahkan bahan mentah dan produk setengah jadi antar area produksi yang terpisah.

Yang harus Anda lakukan hanyalah memindahkannya dari satu area ke area lain. Bagaimana bahan mentah ini bisa sampai di sana? Hal yang sama?

meluncurkan modul SAP untuk manajemen perbaikan, pemeliharaan, dan solusi seluler bagi para insinyur.

yaitu apa yang harus dilakukan dimana kapan memperbaikinya oke akan terlihat. Ada PPR, sensor kesalahan. Namun sebenarnya siapa yang akan melakukan perbaikan?
Dia secara pribadi bekerja, termasuk memperbaiki dan memelihara peralatan. Robot katamu? Haha 3 kali. Pastinya tidak dalam hidupku.
Untuk berlatih, cobalah menulis algoritma untuk tindakan paling dasar. "Kacangnya tidak pas"

[Piring]

Kutipan dari A2AD

Untuk berlatih, cobalah menulis algoritma untuk tindakan paling dasar. "Kacangnya tidak pas"

Saya tidak menulis algoritma yang begitu rumit, saya hanya membuat kode sedikit demi sedikit. Jadi, solusi saya: “Jika ada yang tidak beres, hancurkan semuanya dan lakukan lagi” . Nah, untuk menentukan ada sesuatu yang salah, kami akan menulis perpustakaan terpisah, tapi itu pertanyaan lain.

[Elis_S]

Satu nuansa kecil. Bukan mayor, bukan jenderal, tanpa senjata mereka tidak akan melawan apapun.

Kami harus mengecewakan Anda: AI memiliki senjata - seluruh “gudang” peretasan dunia....

[pavel.typingmail.com]

Sayangnya tidak ada kriteria yang dapat digunakan untuk menentukan tingkat kritis perkembangan AI bagi umat manusia, seperti kecepatan kritis transfer informasi, atau kepadatan maksimum penyimpanan informasi di luar angkasa.

[Elis_S]

tidak ada kriteria yang dapat digunakan untuk menentukan tingkat kritis perkembangan AI bagi umat manusia

Anda salah! Kriterianya sudah ada dan ini

kecepatan pembelajaran sistem kecerdasan buatan

yang, hanya dalam 6 bulan pengoperasian sistem AI, sudah membuahkan hasil yang mengancam! Itulah yang dibicarakan Musk.

[Piring]

Hampir 6 bulan telah berlalu, katanya sekitar 6 bulan. Dan apa? Di mana pasukan Terminator saya? Saya sedang menunggu mereka!