Kenali Museum Misalignment AI Masa Depan

Kenali Museum Misalignment AI Masa Depan – memiliki kebiasaan berteman dengan burung gagak dengan berkomunikasi melalui kombinasi anggukan kepala dan 10 tombol di lantai, katanya. Dia mengajarinya cara menggunakan saklar karena dia percaya kesadaran adalah sebuah spektrum dan kecerdasan adalah sebuah misteri. Prinsip tersebut pula yang mengantarkannya menjadi kurator Misalignment Museum. Museum ini dibuka hari ini di San Francisco dengan pameran khusus tentang masa depan kecerdasan buatan, yang menampilkan antusiasme terkini terhadap AI generatif dan chatbot seperti ChatGPT OpenAI.

 

Kenali Museum Misalignment AI Masa Depan

 

weaverhallmuseum – Misalignment Museum membayangkan masa depan di mana AI mulai mengikuti jalur yang digambarkan dalam banyak film fiksi ilmiah. AI menjadi sadar diri dan mulai membunuh manusia. Untungnya, dalam visi Kim, algoritme tersebut akan mengoreksi dirinya sendiri dan tidak membunuh semua orang. Museumnya dipenuhi dengan alegori artistik tentang AI dan karya seni yang dibuat dengan bantuan AI, disajikan sebagai peringatan tentang masa depan umat manusia yang akan segera punah.

“Aneh karena ceritanya menakutkan, tapi saya senang orang-orang tertarik,” kata Kim dari sebuah kafe di seberang jalan. Saat kami mengobrol, orang-orang yang lewat mengintip ke dalam ruang galeri, yang terletak delapan blok jauhnya dari kantor OpenAI, dan sebuah tanda di dinding bertuliskan, “Maaf telah membunuh begitu banyak umat manusia.” Saya melihatnya diposkan.

 

 

baca juga : Jelajahi Galeri Seni Metaverse 

 

 

Proyek ini dimulai lima bulan lalu, tepat sebelum ChatGPT menjadi topik hangat di dunia teknologi. Selain itu, kita berada di tengah gelombang gangguan AI, yang semakin mendekati konsep kecerdasan umum buatan (AGI). Meskipun tidak ada konsensus mengenai definisi AGI, museum menyebutnya sebagai kemampuan untuk memahami atau mempelajari tugas intelektual yang mampu dilakukan manusia. Kim mengatakan tujuan museum ini adalah untuk mendorong diskusi tentang dampak destabilisasi dari teknologi yang dianggap cerdas. Koleksinya dibagi menjadi dua lantai, dengan visi yang lebih optimis tentang masa depan yang dipenuhi AI di lantai atas dan visi distopia di lantai bawah.

Di lantai atas, ada musik piano yang terbuat dari bakteri, permainan interaktif Penciptaan Adam dari Kapel Sistina karya Michelangelo, dan visi komputer Google akan segera digunakan untuk menciptakan orang dan objek yang muncul di depan kamera. Instalasi yang menggambarkan karya ini akan untuk dipamerkan kepada publik.

Di bawah ini, Anda akan menemukan karya seni dari The Matrix Resurrection (perancang lokasi film Barbara Munk Cameron membantu merencanakan tata letak museum), percakapan tanpa akhir yang dihasilkan AI antara Slavoj Arniek dan Werner Herzog, dan pencatatan Ada lengan robot dengan pena. AI menulis dari sudut pandang yang memandang manusia sebagai ancaman.

“Ini adalah gerbang selfie menuju neraka,” kata Kim, menunjuk pada kata-kata Dante di atas pintu masuk bawah museum: “Mereka yang masuk ke sini harus putus asa.” Dibuat oleh ChatGPT. Patung dua orang berpelukan yang terbuat dari 15.000 penjepit kertas yang dimaksudkan sebagai alegori keselamatan AI, dan robot dengan lengan sangat kecil yang terbuat dari kaleng Spam yang diterbangkan dari Wina.

 

 

baca juga : Daftar Alat AI Terbaik Untuk Siswa 

 

 

“Ada begitu banyak manfaat dari teknologi semacam ini, dan begitu banyak penderitaan yang bisa dicegah. Kita juga tahu seberapa besar kerugian yang bisa ditimbulkannya, dan seberapa besar kerugian yang bisa ditimbulkan dalam prosesnya.” tidak ada,” kata Anne Earley. Kim, seorang Googler, juga pernah bekerja di PBB dan sebagai asisten Paul Graham, salah satu pendiri inkubator startup Y Combinator. “Saya pikir kita tidak punya semua jawabannya. Kita hanya perlu menjadi manusia dan memberikan alat penting kepada orang-orang untuk berpikir tentang teknologi ini.”

Pameran khusus tersebut, yang didanai oleh donor anonim hingga bulan Mei, menampilkan koleksi pasta dari tweet berbingkai salah satu pendiri Facebook Dustin Moskowitz tentang AI dan altruisme yang efektif. bak mandi modern. Dekat pameran. Pintu masuk. Yang terakhir ini didasarkan pada gagasan Holden Karnofsky, yang ikut mendirikan Open Philanthropy dengan Moskowitz dan mendanai OpenAI dan aktivitas lain yang terkait dengan masa depan AI. Karnofsky mengatakan kita hidup di abad paling penting dalam sejarah manusia, menghadapi potensi munculnya AI revolusioner dan Proses Otomatisasi Kemajuan Ilmiah dan Teknologi (PASTA). Saya menyatakan bahwa saya menelepon. Upaya terbaru untuk memprediksi masa depan AI berfokus pada teknologi terkait seperti ChatGPT dan antarmuka pencarian baru Microsoft, namun keterbatasannya terdokumentasi dengan baik dan nilainya masih belum jelas. Pengusaha teknologi membuat klaim yang berlebihan mengenai kemampuan teknologi mereka. Minggu lalu, CEO OpenAI menerbitkan postingan blog tentang bagaimana perusahaan “merencanakan AGI”.

Tak lama kemudian, Komisi Perdagangan Federal AS, badan yang melindungi praktik bisnis yang menipu, memperingatkan para pemasar agar tidak membuat klaim palsu tentang kinerja teknologi mereka. “Kita belum hidup di dunia fiksi ilmiah di mana komputer secara umum dapat membuat prediksi yang dapat diandalkan tentang perilaku manusia,” tulis pengacara FTC Michael Attleson dalam postingan blognya.

Banyak peneliti AI percaya bahwa meskipun sistem AI generatif seperti ChatGPT sangat bagus, teknologinya tidak dapat dianggap cerdas karena algoritmenya hanya mengulangi dan mengacak pola dalam data pelatihan.