Penasihat Trump memberitahu firma AI bahawa mereka tidak akan menguji keselamatan model berat terbuka, kata sumber ↗
Pentadbiran Trump memberitahu syarikat-syarikat AI terkemuka bahawa ia tidak akan menguji keselamatan model berat terbuka, menurut orang yang biasa dengan perbincangan tersebut. Ini meninggalkan sebahagian besar penilaian risiko di luar rangka kerja kerajaan.
Dalam praktiknya, pembangun dan pengguna mungkin perlu memikul lebih banyak tanggungjawab untuk menilai model sebelum pelancaran atau penggunaan. Mungkin mesra inovasi... tetapi masanya agak sukar, kerana model terbuka menjadi lebih berkemampuan pada kadar yang pantas. (Reuters)
Model AI berat terbuka semakin hampir dengan sempadan. Jurang keselamatan masih kekal. ↗
GLM-5.2 Z.ai dilaporkan hanya beberapa bulan di belakang model tertutup terkemuka dalam keupayaan siber dan biologi. Ujian SaferAI mendapati bahawa ia tidak menolak sebarang tugas siber ofensif atau biologi dwiguna yang diberikan kepadanya.
Model tertutup boleh bergantung pada latihan penolakan, pengelas dan kawalan API. Pemberat yang boleh dimuat turun adalah makhluk yang berbeza - setelah dilepaskan, perlindungan boleh diubah atau dialih keluar, menjadikan jurang keselamatan terasa berbentuk ngarai yang jelas. (TechCrunch)
Samsung Electronics melancarkan teknologi memori AI generasi akan datang ↗
Samsung memperkenalkan prototaip BV-NAND dengan lebih daripada 400 lapisan dan reka bentuk ikatan wafer baharu. Syarikat itu mengatakan ia memberikan ketumpatan memori kira-kira 58% lebih besar berbanding generasi sebelumnya, di samping prestasi baca, tulis dan input-output yang lebih pantas.
Samsung juga menggariskan memori zHBM yang disusun secara menegak yang diletakkan di atas pemecut AI. Ia mendakwa seni bina itu boleh menawarkan lebih daripada sepuluh kali ganda ketumpatan HBM5 konvensional, tiga kali ganda kecekapan tenaga dan rintangan haba yang jauh lebih rendah - janji yang besar, secara ringkasnya. (Reuters)
Perlumbaan pusat data AI membina beban pajakan $1 trilion untuk Big Tech ↗
Microsoft, Meta, Oracle, Amazon dan Alphabet telah memperuntukkan sekitar $1.09 trilion kepada pajakan yang belum dimulakan, kebanyakannya untuk pusat data AI. Obligasi tersebut hampir empat kali ganda liabiliti pajakan yang diiktiraf.
Kapasiti itu boleh memacu ledakan awan seterusnya. Atau, dengan cara yang kurang menyenangkan, membiarkan syarikat membayar untuk kemudahan yang besar jika permintaan AI mengecewakan - kot bernilai trilion dolar yang dibeli sebelum sesiapa memeriksa cuaca. (Reuters)
Antropik menandatangani perjanjian $10B dengan syarikat permulaan awan AI Volta ↗
Anthropic dilaporkan bersetuju untuk membeli kapasiti pengkomputeran bernilai $10 bilion daripada syarikat permulaan awan AI Volta dalam tempoh enam tahun. Perjanjian itu akan menyokong pusat data Norway yang menawarkan kapasiti 133 megawatt.
Syarikat perlombongan kripto Bitdeer dijangka akan membantu membangunkan kemudahan tersebut, yang akan menggunakan sistem Vera Rubin Nvidia. Anthropic sedang mengumpul perkongsian pengkomputeran seperti magnet peti sejuk - kecuali magnet ini menelan belanja berbilion-bilion. (TechCrunch)
AI menawarkan 'talian hayat' untuk ekonomi membangun, kata Bank Dunia ↗
Bank Dunia mengatakan AI boleh membolehkan ekonomi membangun memampatkan kemajuan selama satu abad kepada satu dekad, dengan syarat ia meningkatkan elektrik, ketersambungan dan kemahiran digital. Alat yang lebih kecil dan disesuaikan secara tempatan boleh menyokong penjagaan kesihatan, pendidikan, pertanian dan perkhidmatan awam tanpa memerlukan model kebangsaan yang gergasi.
Laporannya menganggarkan bahawa 4.5% pekerjaan di negara berpendapatan rendah dan sederhana terdedah kepada AI generatif, berbanding 14.2% di ekonomi yang lebih kaya. Walaupun begitu, janji itu datang dengan amaran yang jelas tentang ketidaksamaan, maklumat salah dan penindasan politik - satu talian hayat dengan beberapa simpulan yang terikat padanya. (Reuters)
Soalan Lazim
Mengapakah kerajaan AS tidak menguji keselamatan model AI berat terbuka?
Menurut artikel itu, pentadbiran Trump memberitahu syarikat-syarikat AI terkemuka bahawa model berat terbuka tidak akan dimasukkan dalam rangka kerja ujian keselamatan kerajaannya. Ini meletakkan lebih banyak tanggungjawab ke atas pembangun model, pengedar dan pengguna, yang mungkin perlu menilai risiko siber, biologi, penyalahgunaan dan penggunaan secara bebas sebelum mengeluarkan atau menerima pakai sistem ini.
Mengapakah model AI berat terbuka lebih sukar untuk dijamin daripada model tertutup?
Model AI berat terbuka boleh dimuat turun, diubah suai dan dikendalikan di luar infrastruktur pembangun asal. Akibatnya, perlindungan seperti latihan penolakan, pengelas dan kawalan akses mungkin dilemahkan atau dialih keluar. Model tertutup biasanya disampaikan melalui API terkawal, memberikan penyedia skop yang lebih besar untuk memantau penggunaan, menyekat akses dan mengemas kini perlindungan selepas penggunaan.
Bagaimanakah organisasi harus menilai model AI berat terbuka sebelum penggunaan?
Pendekatan biasa adalah untuk menguji model terhadap senario penyalahgunaan yang realistik, termasuk tugas siber yang menyinggung perasaan, permintaan biologi dwiguna dan percubaan untuk memintas perlindungan. Organisasi juga harus memeriksa bagaimana model akan dihoskan, siapa yang akan dapat mengubahnya dan sistem pemantauan yang tersedia. Pelaksanaan berisiko tinggi biasanya memerlukan kawalan akses yang lebih ketat dan pengawasan manusia yang berterusan.
Apakah teknologi memori AI baharu Samsung yang direka untuk diperbaiki?
Prototaip BV-NAND Samsung menggunakan lebih daripada 400 lapisan dan reka bentuk ikatan wafer yang bertujuan untuk meningkatkan ketumpatan memori sambil meningkatkan prestasi baca, tulis dan input-output. Syarikat itu juga menerangkan memori zHBM yang disusun secara menegak yang diletakkan di atas pemecut AI. Reka bentuk ini bertujuan untuk menangani permintaan kapasiti, tenaga dan haba yang dihasilkan oleh beban kerja AI yang semakin intensif.
Mengapakah pajakan pusat data AI Big Tech dianggap sebagai risiko kewangan?
Microsoft, Meta, Oracle, Amazon dan Alphabet dilaporkan telah memperuntukkan kira-kira $1.09 trilion untuk pajakan yang belum dimulakan, kebanyakannya dikaitkan dengan pusat data AI. Kapasiti tambahan itu dapat menyokong pertumbuhan pesat dalam permintaan awan dan AI. Walau bagaimanapun, syarikat-syarikat tersebut mungkin masih berhutang pembayaran yang besar jika permintaan berkembang lebih perlahan daripada yang dijangkakan atau infrastruktur masih kurang digunakan.
Bagaimanakah AI boleh memberi manfaat kepada ekonomi sedang membangun?
Bank Dunia berhujah bahawa AI boleh membantu ekonomi membangun memperkukuh penjagaan kesihatan, pendidikan, pertanian dan perkhidmatan awam, terutamanya melalui alat yang lebih kecil yang disesuaikan dengan keperluan tempatan. Faedah tersebut bergantung pada elektrik yang boleh dipercayai, akses internet dan kemahiran digital. Kerajaan juga mesti menguruskan risiko seperti ketidaksamaan, maklumat salah dan penindasan politik apabila penggunaannya berkembang.