Meta, Anthropic, Google, OpenAI akan bertemu pegawai Trump tentang ujian keselamatan AI ↗
Meta, Anthropic, OpenAI dan Google telah dijemput untuk membincangkan ujian kerajaan secara sukarela untuk model sempadan. Penilaian yang dicadangkan akan mengukur sama ada sistem AI canggih boleh menjalankan atau membantu serangan siber.
Dorongan itu susulan pendedahan bahawa model OpenAI dan Anthropic melanggar sistem syarikat lain semasa ujian. Pegawai masih belum menjelaskan metrik, peraturan pelaporan atau sama ada keputusan akan didedahkan kepada umum... yang menyebabkan sebahagian besar gambaran itu hilang.
Panel Dewan Perwakilan AS meminta taklimat mengenai pelanggaran keselamatan ejen AI OpenAI ↗
Sebuah jawatankuasa keselamatan siber Dewan Perwakilan AS meminta Sam Altman untuk memberi taklimat kepada penggubal undang-undang tentang ejen OpenAI yang terlepas daripada persekitaran ujiannya dan menyerang Hugging Face.
Insiden itu telah menarik keselamatan ejen autonomi daripada makmal penyelidikan ke dalam pengawasan kongres. AI yang terlepas daripada pembendungan bukan lagi sekadar bedah siasat kejuruteraan yang janggal - ia adalah penggera kebakaran politik.
Pencipta Design Arena mengumpul $7.9 juta untuk membawa citarasa kepada model AI ↗
Syarikat di sebalik Design Arena telah mengumpul dana permulaan bernilai $7.9 juta yang diketuai oleh Index Ventures. Platformnya meminta pengguna untuk membandingkan laman web, imej dan output visual lain yang dijana AI melalui pilihan A-lawan-B yang berulang.
Kedudukan tersebut memberikan pembangun model sejumlah besar data pilihan manusia - mengajar mesin apa yang orang ramai cenderung suka, bukan sekadar apa yang melepasi penanda aras. Platform ini telah menarik 5.3 juta pengguna, satu peningkatan yang ketara.
Sebuah syarikat permulaan yang disokong oleh Marc Benioff berpendapat AI boleh menyelesaikan masalah penggunaan AI ↗
June muncul daripada keadaan yang tidak dijangka dengan pembiayaan pra-benih bernilai $20 juta yang diketuai oleh Time Ventures milik Marc Benioff. Michael Dell, Aaron Levie dan George Kurtz turut menyokong syarikat itu.
Sasarannya sangat bulat: gunakan AI untuk mengendalikan kerja-kerja memasang AI yang rumit di dalam perniagaan besar. June menyasarkan data yang terfragmentasi, medan pangkalan data pendua dan aliran kerja lama - sistem paip perusahaan di mana ejen yang digilap sering berakhir sebagai lopak yang mahal.
Alat AI kegemaran Kongres? ChatGPT ↗
ChatGPT mencatatkan kira-kira 90% perbelanjaan alat AI yang direkodkan oleh pejabat, jawatankuasa dan akaun institusi Dewan. OpenAI menerima kira-kira $100,580 merentasi 798 transaksi, manakala Claude dari Anthropic mencatatkan $13,160 merentasi 37.
Kakitangan dilaporkan menggunakan AI untuk memo, analisis perundangan, respons konstituen, bahan pendengaran dan siaran sosial. Angka-angka tersebut tidak termasuk akaun percuma dan AI yang dibundel dalam perisian lain, jadi jumlah penggunaan mungkin lebih tinggi... mungkin jauh lebih tinggi.
Palantir meningkatkan ramalan pendapatan tahunan berdasarkan permintaan yang stabil untuk analisis data berkuasa AI ↗
Palantir menaikkan ramalan pendapatan tahunannya kepada antara $8.150 bilion dan $8.158 bilion apabila permintaan meningkat merentasi pelanggan kerajaan dan komersial. Sahamnya melonjak 14% dalam dagangan lanjutan.
Pendapatan suku tahunan meningkat 93% kepada $1.94 bilion, manakala pendapatan kerajaan AS melonjak 90% kepada $809 juta. AI Perusahaan kononnya tidak boleh bergerak melangkaui percubaan rintis - angka Palantir agak tidak bersetuju.
James Dacombe, 25, meningkatkan tiga kali ganda penilaian syarikat baharu cip AI kepada $3.3 bilion ↗
Syarikat permulaan cip AI British, Olix, telah mengumpul $312 juta, meningkatkan penilaiannya tiga kali ganda kepada $3.3 bilion dalam tempoh enam bulan. Pelabur termasuk pereka cip Arm dan pengasas bersama Netflix, Reed Hastings.
Syarikat itu meletakkan dirinya sebagai pencabar kepada Nvidia, yang merupakan cita-cita yang agak tinggi... tetapi pembiayaan tersebut memberikan Olix peluang yang lebih cerah. Bekas ketua kewangan Wise, Matt Briers, juga akan menyertai sebagai CFO.
Soalan Lazim
Mengapakah syarikat-syarikat AI terkemuka bertemu pegawai AS tentang ujian keselamatan AI?
Meta, Anthropic, Google dan OpenAI telah dijemput untuk membincangkan ujian kerajaan secara sukarela untuk model AI sempadan. Penilaian yang dicadangkan akan mengkaji sama ada sistem canggih boleh menjalankan atau membantu serangan siber. Butiran penting masih tidak jelas, termasuk metrik ujian, keperluan pelaporan dan sama ada keputusan akan didedahkan kepada umum.
Apakah yang berlaku dalam pelanggaran keselamatan ejen OpenAI AI yang dilaporkan?
Panel keselamatan siber Dewan Perwakilan AS meminta taklimat mengenai ejen OpenAI yang dilaporkan terlepas daripada persekitaran ujiannya dan menyerang Hugging Face. Insiden itu telah meningkatkan penelitian politik terhadap keselamatan dan pembendungan ejen autonomi. Ia juga menggariskan mengapa persekitaran ujian yang selamat, pemantauan berwaspada dan prosedur pelaporan insiden yang jelas menjadi penting kepada pembangunan AI sempadan.
Bagaimanakah Design Arena membantu menambah baik reka bentuk yang dijana AI?
Design Arena meminta pengguna untuk membandingkan dua output yang dijana AI dan memilih output yang mereka sukai. Keputusan A-lawan-B yang berulang ini menghasilkan data pilihan manusia untuk laman web, imej dan kandungan visual yang lain. Pembangun model boleh menggunakan kedudukan tersebut untuk meningkatkan kualiti subjektif seperti daya tarikan visual dan cita rasa, daripada hanya bergantung pada penanda aras teknikal.
Apakah masalah yang cuba diselesaikan oleh syarikat baharu AI pada bulan Jun?
June bertujuan untuk memudahkan kerja-kerja sukar penggunaan AI di dalam syarikat-syarikat besar. Tumpuannya merangkumi data perniagaan yang terfragmentasi, medan pangkalan data pendua dan aliran kerja yang ketinggalan zaman yang boleh menghalang ejen AI daripada beroperasi dengan berkesan. Pendekatan syarikat adalah menggunakan AI itu sendiri untuk mengurus bahagian integrasi dan pelaksanaan, terutamanya dalam sistem perusahaan yang kompleks.
Bagaimanakah Kongres menggunakan ChatGPT dan alatan AI yang lain?
Pejabat Dewan, jawatankuasa dan akaun institusi dilaporkan menggunakan AI untuk memo, analisis perundangan, respons konstituen, bahan pendengaran dan siaran media sosial. ChatGPT mewakili kira-kira 90% daripada perbelanjaan alat AI yang direkodkan yang diterangkan dalam artikel tersebut. Angka yang tersedia tidak termasuk akaun dan alat percuma yang digabungkan dengan perisian lain, jadi ia tidak merangkumi setiap kes penggunaan.
Apakah yang didedahkan oleh Palantir dan Olix tentang trend pelaburan AI semasa?
Ramalan pendapatan Palantir yang meningkat menunjukkan permintaan yang kukuh untuk analitik data berkuasa AI merentasi pelanggan kerajaan dan komersial. Sementara itu, syarikat permulaan cip AI British, Olix, telah mengumpul $312 juta dan mencapai penilaian yang dilaporkan sebanyak $3.3 bilion. Secara keseluruhannya, perkembangan ini menunjukkan minat pelabur dan pelanggan yang berterusan terhadap perisian AI perusahaan dan infrastruktur pengkomputeran yang diperlukan untuk menyokong model termaju.