🛡️ Pengawal selia UK bergegas untuk menilai risiko model AI Antropik terkini, lapor FT ↗
Badan pengawas kewangan Britain dilaporkan bergerak pantas ke atas model Mythos baharu Anthropic selepas kebimbangan ia boleh mendedahkan kelemahan serius dalam sistem kritikal. Rundingan itu melibatkan Bank of England, FCA, Perbendaharaan dan Pusat Keselamatan Siber Negara - yang merupakan barisan yang hebat untuk satu pratonton model.
Kebimbangannya ialah Mythos luar biasa mahir dalam mencari kelemahan perisian, walaupun Anthropic mengatakan pelancarannya sangat terhad dan bertujuan untuk kerja keselamatan pertahanan. Bank, penanggung insurans dan bursa dijangka akan diberi taklimat, jadi ini kini terasa kurang seperti gosip makmal dan lebih seperti dasar infrastruktur.
🤖 Di persidangan HumanX, semua orang bercakap tentang Claude ↗
Anthropic seolah-olah menetapkan nada di HumanX - itulah ceritanya. Merentasi panel, sembang vendor dan perbualan lorong, Claude terus muncul sebagai model yang paling dikehendaki untuk aliran kerja perniagaan dan pengekodan.
Apa yang menonjol ialah suasana agak sunyi di sekitar ChatGPT. Artikel itu menunjukkan OpenAI masih mempunyai skala dan wang, tetapi suasana persidangan condong ke arah Claude sebagai alat dengan tarikan perusahaan yang lebih tajam pada masa ini - atau begitulah nampaknya.
📄 Claude for Word dari Anthropic merupakan satu lagi cabaran kepada empayar perisian Microsoft ↗
Anthropic melancarkan versi beta Claude untuk Word, meneroka lebih lanjut perisian pejabat harian dan bukannya kekal sebagai alat pembangun. Ia boleh menjawab soalan tentang dokumen dengan petikan bahagian yang boleh diklik, mengedit teks yang dipilih tanpa merosakkan pemformatan dan mengendalikan perubahan yang dijejaki.
Sasaran khalayak agak jelas: pasukan yang banyak dokumen, terutamanya undang-undang dan kewangan. Ini menjadikan ini lebih daripada sekadar tambahan ciri - ia merupakan dorongan langsung ke arah Microsoft sendiri, dan langkah yang agak nakal.
🌐 Bot AI Melombong Web, dan Anthropic Mendahului Pek ↗
Pandangan baharu terhadap data Cloudflare berpendapat bahawa syarikat AI mengekstrak lebih banyak daripada web berbanding pulangan yang diperoleh. Statistik utama ialah nisbah merangkak-ke-rujuk - kekerapan bot mengikis halaman berbanding kekerapan mereka menghantar pengguna kembali - dan Anthropic sangat teruk.
Nisbah Anthropic dilaporkan sebagai 8,800 kepada 1, dengan OpenAI juga tinggi tetapi jauh lebih rendah. Perkara yang lebih luas adalah sukar: tawaran web lama ialah merayapi kita, kemudian menghantar trafik kepada kita. Enjin jawapan AI mengekalkan bahagian pertama dan membiarkan bahagian kedua menjadi kabus.
⚔️ Tinjauan terhadap perlumbaan senjata AI global yang semakin meningkat, ketika AS, China, Rusia dan lain-lain bergegas untuk membina senjata autonomi dan sistem pertahanan yang disokong AI ↗
Liputan AI-tentera terkini kurang mengenai demo yang mencolok mata dan lebih kepada pecutan strategik. Kuasa-kuasa besar sedang memacu sistem pertahanan autonomi dan dibantu AI pada masa yang sama, yang menjadikan semuanya terasa seperti perlumbaan berganti-ganti di mana semua orang mengambil baton dan terlupa brek.
Itu menimbulkan persoalan biasa - kawalan, peningkatan, akauntabiliti - tetapi dengan lebih mendesak sekarang. Sebaik sahaja AI diterapkan dengan lebih mendalam dalam penargetan, pengawasan dan pembuatan keputusan medan perang, "eksperimen" mula kedengaran seperti label kertas pada sesuatu yang sudah bergerak.
🏭 SoftBank Jepun melancarkan unit untuk membangunkan AI tempatan ↗
SoftBank telah bekerjasama dengan Sony, Honda dan syarikat Jepun lain untuk membentuk usaha sama AI baharu yang tertumpu pada "AI fizikal" - model yang bertujuan untuk mengawal mesin dan robot, bukan sekadar bertindak balas dalam teks. Itu adalah laluan yang berbeza daripada pertandingan chatbot biasa, dan mungkin yang lebih menarik.
Cita-citanya sangat besar, dengan usaha itu dilaporkan bertujuan untuk model asas yang sangat besar dan landasan panjang ke arah penggunaan industri. Ia sebahagian strategi teknologi kebangsaan, sebahagian moonshot, sebahagian anime mech dengan mesyuarat lembaga.
Soalan Lazim
Mengapakah pengawal selia UK meneliti model Mythos Anthropic dengan teliti?
Laporan mencadangkan pihak berkuasa UK melihat Mythos sebagai risiko yang berpotensi kerana ia mungkin luar biasa mahir dalam mencari kelemahan perisian. Perbincangan itu dilaporkan melibatkan Bank of England, FCA, Perbendaharaan dan Pusat Keselamatan Siber Negara. Gabungan institusi itu menandakan kebimbangan tentang kemungkinan kesan terhadap sistem kritikal, terutamanya dalam kewangan dan infrastruktur.
Apakah yang membezakan model Anthropic Mythos daripada keluaran AI biasa?
Kebimbangannya bukan sekadar kerana ia merupakan model baharu, tetapi ia kelihatan sangat berkemampuan dalam kerja-kerja keselamatan pertahanan yang berkaitan dengan penemuan kelemahan perisian. Anthropic dilaporkan mengatakan akses dihadkan dengan ketat, yang menunjukkan pelancaran itu dikendalikan dengan lebih berhati-hati berbanding pelancaran pengguna yang luas. Dalam praktiknya, itu menjadikannya terasa lebih dekat dengan keupayaan keselamatan terkawal berbanding kemas kini chatbot standard.
Mengapakah Claude mendapat begitu banyak perhatian di persidangan HumanX?
Menurut artikel itu, Claude berulang kali muncul dalam panel, perbualan vendor dan perbincangan tidak formal sebagai pilihan yang kukuh untuk aliran kerja perniagaan dan pengekodan. Artikel itu membentangkan Anthropic sebagai mempunyai momentum yang ketara dengan pengguna perusahaan pada acara tersebut. Ia juga menunjukkan suasana sekitar HumanX lebih tenang di ChatGPT, walaupun OpenAI masih mempunyai skala dan sumber yang besar.
Apakah sebenarnya yang dilakukan oleh Claude for Word untuk pasukan yang banyak dokumen?
Versi beta yang diterangkan di sini direka bentuk untuk berfungsi di dalam dokumen dan bukannya sekadar menjana teks kendiri. Ia boleh menjawab soalan tentang dokumen dengan petikan bahagian, mengedit petikan yang dipilih tanpa mengganggu pemformatan dan mengendalikan perubahan yang dijejaki. Ini menjadikannya amat relevan untuk pasukan perundangan, kewangan dan pasukan lain yang memerlukan semakan teliti dan bukannya penggubalan kasar.
Apakah yang dikatakan oleh nisbah merangkak-ke-rujuk tentang bot AI dan web?
Artikel ini membentangkan nisbah ini sebagai cara untuk membandingkan berapa banyak syarikat AI merayapi laman web dengan kekerapan mereka menghantar pengguna kembali. Dalam pembingkaian itu, nisbah yang sangat tinggi menunjukkan pengekstrakan dengan trafik pulangan yang sedikit. Anthropic digambarkan berprestasi sangat buruk mengikut ukuran ini, yang mempertajam kritikan yang lebih luas bahawa enjin jawapan AI mungkin melemahkan pertukaran web pengindeksan yang lebih lama sebagai balasan untuk rujukan.
Mengapakah orang ramai mengaitkan kemajuan AI dengan senjata autonomi dan AI fizikal?
Artikel ini menunjukkan dua trend yang berkaitan: kerajaan mempercepatkan sistem pertahanan yang disokong AI dan syarikat seperti SoftBank yang menyokong model yang direka untuk mengawal mesin dan robot. Secara keseluruhannya, ia menunjukkan AI bergerak melangkaui sembang dan carian ke dalam sistem fizikal yang boleh mengesan, membuat keputusan dan bertindak. Ini menimbulkan persoalan yang lebih besar tentang kawalan, akauntabiliti, penggunaan perindustrian dan seberapa cepat sistem ini beralih daripada eksperimen kepada operasi.