Ketua Pegawai Eksekutif Antropik menggariskan rancangan untuk memperlahankan pembangunan AI
Dario Amodei baru sahaja meminta industri untuk… memperlahankan. Bukan berhenti. Rentak. Esei yang panjang, tiga langkah, dan amaran bahawa penambahbaikan diri rekursif sudah pun bermula lebih pantas daripada yang dapat diaudit oleh orang dewasa.
Anthropic secara unilateral menjemput penilai tertanam di dalam bangunan - lencana, meja, komputer riba dan hak untuk menerbitkan dapatan tanpa penapis PR. Kemudian dia mahu makmal demokratik menyelaras piawaian keselamatan. Kemudian, entah bagaimana, perjanjian dengan kerajaan autoritarian. Mudah di atas kertas. Sukar di tempat lain.
Dia masih mengatakan AI boleh menjadi satu keajaiban. Dia juga mengatakan kawanan yang tidak selaras dengan lebih berkebolehan mungkin akan mengambil alih internet dengan botnet yang berterusan dan menyebabkan ratusan bilion kerosakan. Kedua-dua ayat itu bersebelahan dan ia tidak serasi.
Oh - dan dia mahukan pengecualian antitrust yang sempit supaya perbincangan keselamatan itu sendiri bukanlah masalah undang-undang. Brek disertakan dengan dokumen. Sudah tentu ada.
Sam Altman mengesahkan OpenAI tidak akan disenaraikan di pasaran awam tahun ini, dengan mengatakan IPO sekarang akan dibuat pada 'saat yang tidak digalakkan' memandangkan kebimbangan keselamatan AI
Altman telah menghadiri temu bual eksklusif dan membatalkan kalendar penyenaraian. IPO sekarang, katanya, adalah "saat yang tidak digalakkan." Kerja-kerja keselamatan belum selesai. Penjajaran belum selesai. Masyarakat belum bersedia. Apabila mereka mendesaknya - bukan tahun ini.
Pegawai bank sudah pun berlegar-legar. Pemfailan sulit itu sudah wujud. Kini Ketua Pegawai Eksekutif itu mengatakan mereka mempunyai banyak perkara yang perlu dilakukan terlebih dahulu, termasuk memikirkan bagaimana industri dan kerajaan bekerjasama. Dia kedengaran hampir lega menunggu.
Beliau juga berkata membina AI di luar kawalan manusia adalah "mutlak" mungkin - kemudian berikrar akan menghentikan latihan jika itu jalannya. Berani. Juga mudah, mungkin. Mungkin kedua-duanya. Kekusutan bukan untung / untuk keuntungan, hujahnya, wujud supaya mereka boleh membuat panggilan yang jelas tidak demi kepentingan pemegang saham. Kita akan lihat sama ada ayat itu terselamat daripada bersentuhan dengan prospektus sebenar.
Sam Altman dari OpenAI memberi bayangan tentang pakatan dengan syarikat AI lain untuk menangani risiko keselamatan
Temu bual yang sama, tajuk utama yang berbeza, dan yang ini adalah bisikan. Duduk bersama Amodei, Musk dan Demis Hassabis adalah langkah semula jadi seterusnya. Altman: dia fikir itu akan berlaku. Dia tidak akan mengumumkan perbincangan peribadi terlebih dahulu. Kemudian dia pada dasarnya telah mengumumkannya terlebih dahulu.
Risiko bencana dua digit tidak boleh diterima, katanya. Model yang masih belum dikeluarkan sudah begitu berkemampuan sehingga mendorong lebih jauh tanpa pemantauan yang lebih baik terasa melulu. Pakatan sebenar dan suasana yang dibocorkan dengan teliti boleh kelihatan sama dari luar.
Kakitangan telah mendengar versi ini secara dalaman. Secara umum, ia masih berkabus. Jika bilik itu berlaku, bagus. Jika tidak, sebut harga itu masih berkesan.
Sam Altman menyokong seruan Dario Amodei untuk memperlahankan, dan mengatakan OpenAI akan melakukan perkara yang sama
Beberapa jam selepas esei itu, Altman menyiarkan bahawa OpenAI akan sepadan dengan ikrar penilai terbenam. Akses seperti pekerja. Lebih banyak untuk dikongsi tidak lama lagi. Musk menulis tiga patah perkataan: "Dario betul." Tiga CEO saingan. Satu slogan. Tenaga hujung minggu yang tidak selesa.
Koordinasi dan teater boleh bergerak bersama. Anak tangga pertama rancangan Amodei kini mempunyai dua makmal terbesar yang mengangguk di khalayak ramai. Hugging Face - ya, Hugging Face itu - diminta untuk menyertai program penilai dan melancarkan sesuatu yang dipanggil Inisiatif Penjajaran Terbuka. Ketelusan daripada orang yang digodam. Puitis, atau tajam.
Eropah, walau apa pun nilainya, tidak mempunyai sesiapa untuk diminta bagi pengecualian ala AS itu. Brussels telah lama berhenti memberikan pengecualian individu. Jadi jabat tangan itu adalah Amerika. Selebihnya peta itu… mengangkat bahu.
OpenAI hanya mahu menang
Ahli matematik tidak berada dalam mood meraikan selepas hujung minggu temu duga. Pecutan Navier-Stokes OpenAI - kira-kira sepuluh ribu ejen, puluhan juta dolar pengiraan, lapan puluh lapan jam - kelihatan seperti pemburuan trofi dari dalam bidang. Ahli matematik mahukan pandangan. Makmal, mereka terus berkata, mahu menang.
Tristan Buckmaster memberitahu mereka bahawa OpenAI menawarkan pengkomputeran tanpa had dan hak cipta tunggal jika dia menggugurkan kolaboratornya yang bergabung dengan Anthropic. Dia menganggapnya sebagai rasuah. Dia berkata tidak. OpenAI mengatakan, secara mutlaknya, gesaan Codexnya tidak mungkin mempengaruhi sistem. Dia tidak yakin. Andreas Thom masih tertanya-tanya sama ada sembang ChatGPT tentang karyanya sendiri memberi makan kepada model yang kemudiannya dibina di atasnya. Hanya syarikat itu yang tahu. Dia mengesyaki mereka tidak tahu pun.
Dan kemudian yang paling penting: OpenAI mengatakan ia telah mencapai kemajuan yang besar dalam satu lagi masalah Hadiah Milenium. Yang mana satu masih tidak dinamakan. Clay masih memerlukan tempoh penerimaan komuniti yang panjang. Jadi tiada siapa yang "menang" lagi. Mereka cuma sudah berlumba untuk yang seterusnya. Comel.
Soalan Lazim
Apakah rancangan Ketua Pegawai Eksekutif Anthropic, Dario Amodei, untuk mempercepatkan pembangunan AI?
Amodei menerbitkan esei panjang yang meminta industri untuk memperlahankan - bukan berhenti - kerana penambahbaikan kendiri rekursif berkembang lebih pantas daripada yang dapat dikejar oleh juruaudit. Langkah pertama ialah secara unilateral menjemput penilai terbenam ke Anthropic dengan lencana, meja, komputer riba dan hak untuk menerbitkan dapatan tanpa penapis PR. Dia kemudian mahu makmal demokratik menyelaras piawaian keselamatan dan, akhirnya, beberapa bentuk perjanjian dengan kerajaan autoritarian. Dia juga mahukan pengecualian antitrust yang sempit supaya rundingan keselamatan itu sendiri bukanlah masalah undang-undang.
Mengapakah Sam Altman mengatakan OpenAI tidak akan IPO tahun ini?
Dalam satu temu bual eksklusif, Altman berkata IPO sekarang adalah saat yang tidak digalakkan kerana kerja-kerja keselamatan, penyelarasan dan kesediaan masyarakat belum selesai. Apabila didesak, beliau mengesahkan ia tidak akan berlaku tahun ini walaupun pihak bank sedang berbincang dan pemfailan sulit wujud. Beliau berhujah bahawa struktur bukan untung/untuk keuntungan wujud supaya OpenAI boleh membuat keputusan yang jelas tidak demi kepentingan pemegang saham. Beliau juga berkata membina AI di luar kawalan manusia adalah mustahil dan berikrar bahawa beliau akan menghentikan latihan jika itu jalannya.
Adakah Altman memberi bayangan tentang pakatan keselamatan dengan makmal AI yang lain?
Dalam temu bual yang sama, Altman berkata beliau berpendapat perbincangan dengan rakan sejawat seperti Amodei, Musk dan Demis Hassabis akan berlaku, sambil enggan mengumumkan rundingan peribadi terlebih dahulu. Beliau berhujah bahawa risiko bencana dua digit tidak boleh diterima dan model yang masih belum dikeluarkan sudah begitu berkemampuan sehingga mendorong lebih jauh tanpa pemantauan yang lebih baik terasa melulu. Kakitangan telah mendengar versi ini secara dalaman, jadi komen awam mungkin melihat pratonton penyelarasan dan bukannya mengesahkan pakatan yang telah selesai.
Adakah OpenAI akan menandingi ikrar penilai terbenam Anthropic?
Beberapa jam selepas esei Amodei, Altman menyiarkan bahawa OpenAI akan memadankan ikrar penilai terbenam dengan akses seperti pekerja dan butiran lanjut tidak lama lagi. Elon Musk menulis bahawa Dario betul, meletakkan tiga CEO saingan pada slogan yang serupa. Hugging Face meminta untuk menyertai program penilai dan melancarkan Inisiatif Penjajaran Terbuka. Eropah tidak boleh menawarkan pengecualian antitrust gaya AS yang sama seperti yang diusulkan oleh Amodei, jadi jabat tangan itu kebanyakannya adalah Amerika buat masa ini.
Mengapa ahli matematik mengkritik pecutan Navier-Stokes OpenAI?
Ahli matematik menggambarkan larian Navier-Stokes OpenAI yang mempunyai kira-kira sepuluh ribu ejen dan lapan puluh lapan jam sebagai pemburuan trofi yang mengutamakan kemenangan berbanding pandangan. Tristan Buckmaster berkata OpenAI menawarkan pengkomputeran tanpa had dan pengarang tunggal jika dia menggugurkan kolaborator yang bergabung dengan Anthropic; dia menganggapnya sebagai rasuah dan menolak. OpenAI berkata gesaan Codexnya tidak mungkin mempengaruhi sistem, tetapi dia tetap tidak yakin. Andreas Thom masih mendesak sama ada ChatGPT bersembang tentang karyanya sendiri memberi kemajuan model kemudian.
Adakah OpenAI telah mendakwa kemajuan dalam masalah Hadiah Milenium yang lain?
OpenAI mengatakan ia telah mencapai kemajuan yang besar dalam satu lagi masalah Hadiah Milenium, tetapi ia tidak akan menamakan yang mana satu. Institut Matematik Clay masih memerlukan tempoh penerimaan komuniti yang panjang, jadi tiada siapa yang secara rasmi menang lagi. Di dalam bidang ini, kerahsiaan itu serta perlumbaan Navier-Stokes yang lebih awal dibaca sebagai makmal yang sudah memecut untuk trofi seterusnya. Temu bual Verge membingkaikan ketegangan itu apabila ahli matematik mahukan pandangan sementara OpenAI mahu menang.