OpenAI akan menghentikan sementara beberapa kerja pada model AI Astra atas kebimbangan keselamatan ↗
OpenAI sedang menghentikan kerja dalaman pada Astra yang tidak memenuhi keperluan keselamatan yang lebih ketat selepas penilaian mencadangkan kebolehan sibernya mungkin telah melepasi ambang "kritikal". Ejen itu dilaporkan boleh mencari dan mengeksploitasi kelemahan tanpa campur tangan manusia, atau menjalankan serangan dari matlamat peringkat tinggi. Ya... itu adalah garis panduan yang agak serius untuk dilanggar.
Syarikat itu sedang mengetatkan ujian terpencil, akses rangkaian dan alat, perlindungan berat model, penyulitan dan pemantauan. Astra tidak terlibat dalam insiden Hugging Face OpenAI sebelum ini, tetapi corak ejen autonomi yang semakin meluas menjadikan pembendungan satu kebimbangan yang lebih besar. (Sumber: The Guardian)
Apple mengatakan pengguna Mac di China boleh menyambung ke perkhidmatan Qwen AI Alibaba ↗
Pengguna Mac yang layak di tanah besar China kini boleh menyambungkan Qwen Alibaba ke Siri dan Alat Penulisan Apple. Ini bermakna respons yang lebih terperinci serta analisis dokumen dan imej, di samping penjanaan teks dan imej daripada penerangan.
Secara terus terang, ia satu gabungan yang menarik - Apple mendapat laluan yang mematuhi piawaian tempatan untuk ciri-ciri AI yang lebih kukuh dalam pasaran PC yang sangat kompetitif, manakala Alibaba pula meletakkan Qwen lebih dalam ke dalam ekosistem orang lain. Apple mengatakan bahan yang dihantar melalui sambungan itu tidak boleh digunakan oleh Alibaba untuk melatih modelnya. (Sumber: Reuters)
Google DeepMind memasuki era baharu apabila pengasas bersama Demis Hassabis mengubah peranan AI ↗
Demis Hassabis akan melepaskan kepimpinan harian DeepMind, menjadi pengerusi sambil turut memegang peranan ketua saintis di Alphabet. Rakan sekerja lamanya, Koray Kavukcuoglu, mengambil alih kawalan operasi sebagai naib presiden kanan dan bukannya CEO - perubahan jawatan halus yang cukup bermakna.
Rombakan itu berlaku seiring dengan perubahan penyelidik utama yang lain dan persoalan sama ada DeepMind menjadi kurang bebas dan lebih diserap ke dalam mesin AI komersial Google. Google mempertikaikan bahawa perubahan itu berkaitan dengan prestasi kompetitif Gemini. (Sumber: The Guardian)
Peningkatan bilangan kanak-kanak UK melaporkan melihat deepfake eksplisit diri mereka sendiri ↗
Laporan daripada kanak-kanak UK tentang imej palsu atau manipulasi diri mereka yang eksplisit telah melonjak. Report Remove menerima 420 laporan dalam masa hanya enam bulan, sudah melebihi jumlah tahunan penuh sebelumnya iaitu 397. Alat "penolakan" berkuasa AI menjadikan masalah ini sangat mudah untuk diskalakan.
Yayasan Pemerhatian Internet mengatakan banyak imej yang dimanipulasi yang dilaporkan cukup serius sehingga boleh melepasi ambang batas untuk bahan penderaan seksual kanak-kanak. Sesetengah mangsa juga disasarkan untuk sekstorsi, menjadikan imej yang dijana AI menjadi senjata yang sangat ketara. (Sumber: The Guardian)
Ciri-ciri AI Melonjak Mendahului Nilai Perniagaan, Tinjauan Mendapati ↗
Syarikat perisian perusahaan sedang mengeluarkan ciri-ciri AI, tetapi pelanggan tidak semestinya menggunakannya. Dalam tinjauan terhadap lebih 260 perniagaan perisian vertikal, 51% mengatakan kurang daripada satu perempat daripada pelanggan mereka menggunakan keupayaan AI yang telah mereka bina. Agak janggal selepas semua penghantaran itu...
Kesesakan ini kurang kelihatan seperti keupayaan AI dan lebih kepada integrasi, keselamatan, privasi, perubahan aliran kerja dan membuktikan nilai perniagaan yang konkrit. Satu fenomena yang sangat pelik ialah "tokenmaxxing" - banyak penggunaan AI yang kelihatan mengagumkan pada papan pemuka tanpa bukti jelas ia menghasilkan hasil yang lebih baik. (Sumber: Forbes)
AI mengubah kerja lebih pantas daripada yang dapat dikekalkan oleh data ↗
Hujah pekerjaan AI semakin kusut masai, bukannya lebih bersih. Satu kajian yang merangkumi lebih 21,000 firma AS mendapati pengguna AI yang paling ramai meningkatkan jumlah pekerja keseluruhan sebanyak 10% dan pengambilan pekerja peringkat permulaan sebanyak 12%, manakala pengguna yang kurang intensif tidak menunjukkan pertumbuhan jumlah pekerja.
Tetapi kajian lain telah menemui tekanan pekerjaan dalam kalangan pekerja muda dalam peranan yang terdedah kepada AI, dan ahli ekonomi memberi amaran bahawa syarikat yang sedang berkembang masih boleh mengambil pekerja sementara AI mengubah pekerjaan di seluruh ekonomi yang lebih luas. Jadi, AI membunuh pekerjaan dan mewujudkannya... atau begitulah set data yang bercanggah itu ingin anda percayai. (Sumber: Fortune)
Soalan Lazim
Apakah perkembangan berita AI terbesar sekarang?
Berita AI baru-baru ini menunjukkan beberapa tema yang bertindih: keupayaan autonomi yang lebih kukuh, kawalan keselamatan yang lebih ketat, integrasi platform yang lebih mendalam, perubahan kepimpinan, risiko keselamatan dalam talian dan nilai perniagaan yang tidak menentu. OpenAI sedang mengetatkan perlindungan di sekitar Astra, Apple sedang menghubungkan Qwen ke Mac di China dan DeepMind sedang menukar kepimpinan. Pada masa yang sama, kebimbangan semakin meningkat mengenai deepfake, penggunaan perusahaan dan kesan AI terhadap pekerjaan.
Mengapakah OpenAI menghentikan sementara beberapa kerja pada Astra?
OpenAI dilaporkan telah menghentikan kerja dalaman Astra yang tidak memenuhi keperluan keselamatan yang lebih ketat selepas penilaian mencadangkan keupayaan siber model mungkin telah mencapai tahap kritikal. Kebimbangannya ialah ejen canggih berpotensi menemui dan mengeksploitasi kelemahan dengan campur tangan manusia yang terhad atau tanpa campur tangan manusia. Sebagai tindak balas, OpenAI sedang memperkukuh ujian terpencil, kawalan akses, penyulitan, pemantauan dan perlindungan di sekitar pemberat model.
Bagaimanakah Alibaba Qwen akan bekerjasama dengan Apple Mac di China?
Pengguna Mac yang layak di tanah besar China boleh menyambungkan perkhidmatan Qwen Alibaba kepada Siri dan Alat Penulisan Apple. Integrasi ini boleh menyokong respons yang lebih terperinci, analisis dokumen dan imej, dan penjanaan teks atau imej daripada penerangan. Bagi Apple, pengaturan ini menyediakan laluan yang mematuhi peraturan tempatan kepada fungsi AI yang lebih kukuh, manakala Alibaba mendapat akses yang lebih mendalam kepada ekosistem Apple. Apple mengatakan bahan yang dihantar tidak boleh digunakan untuk melatih model Alibaba.
Apakah maksud perubahan kepimpinan DeepMind untuk Google AI?
Demis Hassabis akan meninggalkan kepimpinan harian DeepMind sambil menjadi pengerusi dan mengambil alih peranan ketua saintis di Alphabet. Koray Kavukcuoglu akan mengambil alih kawalan operasi sebagai naib presiden kanan. Perubahan ini telah menimbulkan persoalan sama ada DeepMind semakin berintegrasi dengan operasi AI komersial Google yang lebih luas, walaupun Google mempertikaikan cadangan bahawa rombakan itu dikaitkan dengan prestasi kompetitif Gemini.
Mengapakah deepfake AI menjadi kebimbangan keselamatan kanak-kanak yang lebih besar?
Alat manipulasi imej berkuasa AI boleh memudahkan penciptaan imej palsu eksplisit yang realistik pada skala besar. Kanak-kanak UK semakin melaporkan imej diri mereka yang dimanipulasi atau direka, dan beberapa kes telah cukup serius untuk memenuhi ambang batas untuk bahan penderaan seksual kanak-kanak. Imej-imej ini juga boleh digunakan untuk sekstorsi, yang bermaksud imej yang direka masih boleh menyebabkan kerosakan reputasi, emosi dan kewangan yang ketara.
Adakah perniagaan dan pekerja mendapat manfaat daripada AI?
Berita AI terkini menunjukkan jawapannya bercampur-campur. Banyak syarikat perisian menambah ciri AI lebih cepat daripada pelanggan yang menerimanya, dengan integrasi, privasi, keselamatan dan nilai perniagaan yang boleh diukur kekal sebagai halangan utama. Data pekerjaan juga rumit: sesetengah syarikat yang menerima pakai AI secara meluas sedang memperluas pengambilan pekerja, sementara kajian lain menunjukkan tekanan ke atas pekerja yang lebih muda dalam peranan yang terdedah kepada AI. Kesan keseluruhan sangat bergantung pada industri, aliran kerja dan cara AI dilaksanakan.