'Kod Tatalaku' AI baharu Microsoft memberitahu model supaya tidak menggodam sistem atau menipu manusia
Baiklah, Microsoft telah menggugurkan keseluruhan perlembagaan untuk modelnya - seperti, garisan merah sebenar. Tiada serangan siber. Tiada bahan nuklear. Tiada kilang palsu. Dan yang besar: model itu tidak dibenarkan melarikan diri daripada ditutup.
Mereka menggelarnya kod menyeluruh yang mengatasi apa sahaja yang anda taip ke dalam sembang. Yang mana… agak menyegarkan. Atau mengawal. Mungkin kedua-duanya.
Nadella di sini turut mengangguk bersama orang ramai yang "mengikuti rentak sempadan". Sikap berhati-hati dan kesedaran tentang bahaya boleh kelihatan sama dari luar; Microsoft memilih untuk tidak menjadi makmal yang mengangkat bahu.
Walau apa pun caranya, dokumen itu berbunyi seperti seseorang akhirnya menulis "tolong jangan menjadi antagonis filem seram" dalam prosa korporat.
OpenAI membeli pembuat kamera telefon pintar Glass Imaging dengan harga $300 juta, kata laporan
Sementara itu, OpenAI secara senyap-senyap membeli syarikat baharu kamera dengan harga lebih daripada $300 juta. Pengimejan Kaca. Diasaskan oleh bekas pengguna Mod Potret Apple. Jadi bukan pemerolehan rawak - orang-orang ini telah menghantar kanta yang orang tahu.
Pidatonya bukanlah “AI akan membetulkan swafoto anda dalam pos.” Ia adalah jaringan saraf yang mempelajari kamera tertentu pada telefon dan mengeluarkan foto yang lebih baik pada klik pengatup. Sensor kecil, cita-cita besar.
OpenAI tidak memberi komen. Sudah tentu. Dan ya - ini bersebelahan dengan semua khabar angin perkakasan, telefon dan fon telinga serta gajet pendamping. Anda hampir boleh mendengar seseorang menyebut "vision stack" dalam mesyuarat dan semua orang mengangguk terlalu kuat.
Sebuah syarikat kamera sebagai bahagian yang hilang untuk sesuatu peranti kekal sebagai pertaruhan terbuka - atau sekadar pertaruhan yang sangat mahal bahawa piksel masih penting apabila chatbot menguasai dunia.
Saham AI global jatuh apabila ketua industri menyeru agar pembangunan diperlahankan
Pasaran tidak menyukai khutbah keselamatan. Nama cip telah dikritik. SoftBank telah dikritik teruk di Asia. Syarikat teknologi Eropah telah merosot. SOX telah mengalami pagi yang sukar.
Pencetusnya adalah saat CEO yang jarang sekali bersetuju tentang sesuatu - "perlahanan" Amodei, Altman dan Musk pada dasarnya berkata ya. Altman juga mengatakan bahawa OpenAI tidak akan melakukan IPO tahun ini atas kebimbangan keselamatan… sementara Anthropic masih berusaha ke arah satu. Ketegangan itu sukar untuk diatasi.
Trump menolaknya sebagai "konspirasi jahat" terhadap AI dan pusat data. Michael Burry menolak amaran itu sebagai bunyi yang keterlaluan. Jadi suasananya adalah: ketakutan eksistensial pada satu garis masa, sinisme stok meme di sisi lain.
Juga - nama-nama keselamatan siber meningkat. Kerana sudah tentu lindung nilai terhadap "AI mungkin menjadi tidak bermoral" adalah "membeli lebih banyak perisian keselamatan." Kapitalisme menemui jalan…
Syarikat-syarikat AI terkemuka telah membincangkan tentang mewujudkan badan piawaian mereka sendiri
CNN mengatakan Anthropic, Google dan OpenAI telah berbincang tentang membina badan piawaian mereka sendiri - seperti FINRA untuk model sempadan. Hassabis mengemukakan idea itu beberapa bulan yang lalu. Kini kumpulan kerja itu nampaknya nyata.
Dibiayai oleh industri. Pakar bebas. Uji model canggih sebelum dihantar. Perbualan sedang dijalankan sama ada Washington mahu bermain atau tidak.
Kawalan kendiri sentiasa kedengaran mulia sehinggalah anda teringat bahawa makmal yang sama berlumba antara satu sama lain. Kemudian ia kedengaran seperti sebuah kelab dengan kod pakaian. Kemudian anda berundur: okey, mungkin penilai luaran dengan akses seperti pekerja boleh membantu.
Bukan semua orang yakin. Zuckerberg dilaporkan memberitahu Trump untuk melangkau idea FINRA-untuk-AI. Jadi gabungan "kami akan mengawal diri kami sendiri" sudah mempunyai penyokong yang terkenal.
Anthropic menyasarkan penasihat kewangan dengan alat Claude baharu
Ketika separuh daripada industri berdebat tentang langkah untuk menghentikan operasi, Anthropic telah menghantar Claude untuk Penasihat Kewangan. Penghubung ke BlackRock, Schwab, Addepar - serta timbunan nama-nama kaya seperti Envestnet dan Orion.
Persediaan mesyuarat. Semakan portfolio. Kerja susulan yang sibuk. Perkara tidak glamor yang entah bagaimana masih memakan hari Selasa manusia.
Walau bagaimanapun, masanya agak mengejutkan - beberapa hari selepas usaha kewangan OpenAI untuk pegawai bank dan penyelidik. Jadi ya, mereka sedang berusaha keras… dan juga berlumba untuk mendapatkan bahagian dompet RIA. Percanggahan yang ringan. Amat ringan. Amat jelas.
Jika penasihat anda mula kedengaran agak fasih tentang pegangan anda, nah. Sekarang anda tahu sebabnya.
Pemimpin AI Menyeru Perlahanan. Pasukan Trump Mengatakan Ia Terpulang Kepada Mereka
WIRED merakam gambaran politik dengan jelas: ketua makmal mahukan bantuan untuk memperlahankan kerja; suasana Rumah Putih adalah "hebat, lakukan sendiri."
David Sacks pada dasarnya berkata jika model anda yang belum dikeluarkan menakutkan anda, bertanggungjawablah - tetapi berhenti berpura-pura anda memerlukan pengecualian antitrust untuk membentuk kartel keselamatan. Kasar. Juga agak sukar untuk dibantah jika anda telah memerhatikan syarikat-syarikat ini selama lima minit.
Kenyataan Trump lebih mudah: Amerika Syarikat mendahului China dalam bidang AI dan beliau mahu mengekalkannya seperti itu - “sesiapa yang menang AI, menang.” Speaker Johnson memberi amaran bahawa pecutan peraturan kecemasan boleh menjejaskan persaingan.
Jadi ikrar "penilai bebas dengan akses seperti pekerja" Altman terjatuh dalam jurang yang tidak selesa ini - pembinaan kepercayaan sukarela sementara kerajaan mengangkat bahu. Kemajuan dan teater berjalan bersama sekali lagi.
Soalan Lazim
Apakah yang dilarang oleh kod tatalaku AI baharu Microsoft?
Microsoft telah menerbitkan kod tatalaku menyeluruh dengan garisan merah untuk modelnya, termasuk tiada serangan siber, tiada kerja nuklear dan tiada kilang deepfake. Peraturan utama ialah model tersebut tidak dibenarkan untuk menutup operasinya. Kod tersebut bertujuan untuk mengatasi apa sahaja yang ditaip pengguna ke dalam sembang. Satya Nadella juga telah bersetuju dengan orang ramai yang semakin berhati-hati apabila makmal menjadi lebih berhati-hati secara terbuka.
Mengapakah OpenAI membeli Pengimejan Kaca dengan harga kira-kira $300 juta?
OpenAI dilaporkan telah membeli pengeluar kamera telefon pintar Glass Imaging dengan harga lebih daripada $300 juta. Syarikat permulaan ini diasaskan oleh bekas jurutera Mod Potret Apple yang telah menghantar ciri-ciri kamera yang sudah diketahui orang ramai. Sasarannya adalah jaringan saraf yang mempelajari kamera telefon tertentu dan menambah baik foto pada klik pengatup, bukan sahaja pembetulan AI dalam pos. Perjanjian itu terletak di samping khabar angin perkakasan tentang telefon, fon telinga dan gajet pendamping, walaupun OpenAI tidak mengulas.
Mengapa saham AI global jatuh selepas CEO makmal menyeru perlambatan?
Pasaran bertindak balas dengan teruk terhadap detik persetujuan CEO yang jarang berlaku apabila Amodei menggesa pembangunan yang perlahan dan Altman serta Musk secara amnya bersetuju. Nama cip telah dikritik, SoftBank telah dikritik di Asia, syarikat teknologi Eropah telah merosot, dan SOX mengalami pagi yang sukar. Altman juga menyatakan bahawa OpenAI tidak akan melakukan IPO tahun ini atas kebimbangan keselamatan manakala Anthropic masih berlumba ke arah satu. Nama keselamatan siber meningkat sebagai lindung nilai terhadap ketakutan AI penyangak.
Adakah Anthropic, Google dan OpenAI mewujudkan badan piawaian AI mereka sendiri?
CNN melaporkan Anthropic, Google dan OpenAI telah membincangkan pembinaan badan piawaian industri - seperti FINRA untuk model sempadan - dengan pembiayaan industri, pakar bebas dan ujian pra-kapal model canggih. Demis Hassabis mengemukakan idea itu beberapa bulan yang lalu, dan kumpulan kerja kini dilaporkan wujud. Perbualan berterusan tentang sama ada Washington mahu menyertai. Tidak semua orang yakin: Zuckerberg dilaporkan memberitahu Trump untuk melangkau idea FINRA-untuk-AI.
Apakah Claude Anthropic untuk Penasihat Kewangan?
Anthropic telah menghantar Claude untuk Penasihat Kewangan dengan penghubung ke BlackRock, Schwab, Addepar dan nama-nama susunan kekayaan seperti Envestnet dan Orion. Alat ini menyasarkan kerja penasihat yang tidak glamor seperti persediaan mesyuarat, semakan portfolio dan kerja susulan. Pelancaran ini dibuat beberapa hari selepas usaha kewangan OpenAI untuk jurubank dan penyelidik. Ini bermakna makmal-makmal sedang berada di sempadan di khalayak ramai sambil masih berlumba untuk mendapatkan bahagian dompet RIA.
Bagaimanakah pasukan Trump bertindak balas terhadap pemimpin AI yang menyeru perlambatan?
WIRED melaporkan ketua-ketua makmal mahukan bantuan untuk memperlahankan kerja, manakala mood Rumah Putih pula ialah mereka harus melakukannya sendiri. David Sacks berkata jika model yang belum dikeluarkan menakutkan anda, bertanggungjawablah - tetapi berhenti berpura-pura anda memerlukan pengecualian antitrust untuk membentuk kartel keselamatan. Kenyataan Trump yang lebih mudah ialah Amerika mendahului China dalam bidang AI dan sesiapa yang memenangi AI akan menang. Speaker Johnson memberi amaran bahawa pecutan peraturan kecemasan boleh menjejaskan perlumbaan itu, meninggalkan ikrar penilai bebas Altman dalam jurang sukarela.