Apakah Peranan Teknologi Besar dalam AI? [Video dan Kuiz]

Jawapan ringkas: Teknologi Besar penting dalam AI kerana ia mengawal perkara penting yang tidak menarik - pengkomputeran, platform awan, peranti, gedung aplikasi dan perkakasan perusahaan. Kawalan itu membolehkannya membiayai model sempadan dan menghantar ciri kepada berbilion-bilion, dengan pantas. Jika tadbir urus, kawalan privasi dan kebolehkendalian lemah, pengaruh yang sama akan terkalsifikasi menjadi penguncian dan penumpuan kuasa.

Kesimpulan utama:

Infrastruktur: Anggap kawalan awan, cip dan MLOp sebagai titik penyumbat AI utama.

Pengedaran: Jangkakan kemas kini platform akan menentukan maksud "AI" bagi kebanyakan pengguna.

Penjagaan Pintu: Peraturan gedung aplikasi dan terma API secara senyap-senyap menentukan ciri AI yang dihantar.

Kawalan pengguna: Memerlukan pilihan keluar yang jelas, tetapan yang tahan lama dan kawalan pentadbir yang berfungsi.

Akauntabiliti: Memerlukan log audit, ketelusan dan laluan rayuan untuk hasil yang berbahaya.

🔗 Masa depan AI: Trend dan apa yang seterusnya
Inovasi, risiko dan industri utama dibentuk semula sepanjang dekad akan datang.

🔗 Model asas dalam AI generatif: Panduan ringkas
Fahami bagaimana model asas memperkasakan aplikasi AI generatif moden.

🔗 Apakah syarikat AI dan cara ia berfungsi
Pelajari ciri-ciri, pasukan dan produk yang mentakrifkan perniagaan yang didahulukan AI.

🔗 Bagaimana rupa kod AI dalam projek sebenar
Lihat contoh corak kod, alatan dan aliran kerja yang dipacu AI.

Mari kita hadapinya sejenak - kebanyakan "perbualan AI" melangkaui bahagian yang tidak menarik seperti pengiraan, pengedaran, perolehan, pematuhan dan realiti janggal bahawa seseorang perlu membayar untuk GPU dan elektrik. Teknologi Besar berada di bahagian yang tidak menarik itu. Itulah sebabnya ia sangat penting. 😅 (IEA - Tenaga dan AI, NVIDIA - Gambaran keseluruhan platform inferens AI)

Peranan AI Big Tech, dalam bahasa mudah 🧩

Apabila orang ramai menyebut "Big Tech," mereka biasanya bermaksud syarikat platform gergasi yang mengawal lapisan utama pengkomputeran moden:

• Infrastruktur awan (tempat AI berjalan) ☁️ (Dokumen AI Amazon SageMaker, dokumen Pembelajaran Mesin Azure, dokumen AI Vertex)

• Peranti dan sistem pengendalian pengguna (tempat AI berada) 📱💻 (Apple Core ML, Google ML Kit)

• Ekosistem dan pasaran aplikasi (tempat AI tersebar) 🛒 (Garis Panduan Semakan Aplikasi Apple, Keselamatan Data Google Play)

• Saluran data dan susunan analitik (tempat AI disalurkan) 🍽️

• Perisian perusahaan (tempat AI dimonetisasikan) 🧾

• Perkongsian cip dan perkakasan (di mana AI dipercepatkan) 🧠🔩 (Gambaran keseluruhan platform inferens AI NVIDIA)

Jadi peranannya bukan sekadar "mereka membuat AI". Ia lebih seperti mereka membina lebuh raya, menjual kereta, mengendalikan pondok tol dan juga menentukan ke mana arah keluar. Sedikit keterlaluan... tetapi tidaklah banyak.

Peranan Teknologi Besar dalam AI: lima pekerjaan besar 🏗️

Jika anda mahukan model mental yang bersih, Big Tech cenderung melakukan lima kerja yang bertindih dalam dunia AI:

1. Pembekal infrastruktur
   Pusat data, awan, rangkaian, keselamatan, alatan MLOps. Perkara yang menjadikan AI boleh dilaksanakan pada skala besar. (Dokumen Amazon SageMaker AI, IEA - Tenaga dan AI)

2. Pembina model dan enjin penyelidikan
   Tidak selalu, tetapi selalunya - makmal, R&D dalaman, penyelidikan gunaan dan “sains terproduksi.” (Hukum Penskalaan untuk Model Bahasa Neural (arXiv), Model Bahasa Besar Pengkomputeran Optimum Latihan (Chinchilla) (arXiv))

3. Pengedar
   Mereka boleh memasukkan AI ke dalam kotak carian, telefon, klien e-mel, sistem iklan dan alatan tempat kerja. Pengedaran ialah kuasa besar.

4. Penjaga pintu dan penetap
   peraturan Dasar gedung aplikasi, peraturan platform, terma API, penyederhanaan kandungan, pintu keselamatan, kawalan perusahaan. (Garis Panduan Semakan Apl Apple, Keselamatan Data Google Play)

5. Peruntukan modal
   Mereka membiayai, memperoleh, bekerjasama, mengeram. Mereka membentuk apa yang masih hidup.

Itulah Peranan Teknologi Besar dalam AI dari segi fungsi: mereka mewujudkan keadaan untuk AI wujud - dan kemudian mereka memutuskan bagaimana ia sampai kepada anda.

Apa yang menjadikan versi peranan AI Big Tech yang baik ✅😬

"Versi yang baik" bagi Teknologi Besar dalam AI bukanlah tentang kesempurnaan. Ia tentang pertukaran yang dikendalikan secara bertanggungjawab, dengan lebih sedikit peluang kejutan untuk orang lain.

Inilah yang cenderung membezakan getaran "gergasi yang membantu" daripada getaran "monopoli uh-oh":

• Ketelusan tanpa membuang jargon
  Pelabelan yang jelas tentang ciri AI, batasan dan data yang digunakan. Bukan labirin dasar 40 halaman. (NIST AI RMF 1.0, ISO/IEC 42001:2023)

• Kawalan pengguna sebenar
  Pilihan keluar yang berfungsi, tetapan privasi yang tidak ditetapkan semula secara misteri dan kawalan pentadbir yang bukan pemburuan harta karun. (GDPR - Peraturan (EU) 2016/679)

• Kebolehkendalian dan keterbukaan - kadangkala
  Tidak semuanya mesti sumber terbuka, tetapi mengunci semua orang dalam satu vendor selama-lamanya adalah… satu pilihan.

• Keselamatan dengan gigi
  Pemantauan penyalahgunaan, red-team, kawalan kandungan dan kesediaan untuk menyekat kes penggunaan yang jelas berisiko. (NIST AI RMF 1.0, profil NIST GenAI (pengiring AI RMF))

• Ekosistem yang sihat
  Sokongan untuk syarikat baharu, rakan kongsi, penyelidik dan piawaian terbuka supaya inovasi tidak menjadi "platform sewa atau hilang." (Prinsip AI OECD)

Saya akan katakan secara terus terang: "versi yang baik" terasa seperti utiliti awam yang kukuh dengan citarasa produk yang kuat. Versi yang buruk terasa seperti kasino di mana rumah itu juga menulis peraturan. 🎰

Jadual Perbandingan: "lorong AI" Teknologi Besar teratas dan sebab ia berfungsi 📊

Pengakuan 'Little table quirk': "agak bebas" memang banyak membantu di sana. Bebas sehingga ia tiada lagi... anda tahu bagaimana hasilnya.

Gambaran dekat: titik tersekat infrastruktur (komputer, awan, cip) 🧱⚙️

Inilah bahagian yang kebanyakan orang tidak mahu bincangkan kerana ia tidak glamor. Tetapi itulah tulang belakang AI.

Teknologi Besar mempengaruhi AI dengan mengawal:

• Bekalan pengiraan (akses GPU, kluster, penjadualan) (IEA - Permintaan tenaga daripada AI)

• Rangkaian (sambungan jalur lebar tinggi, fabrik latensi rendah)

• Storan (tasik data, sistem pengambilan semula, sandaran)

• Saluran paip MLOps (latihan, penggunaan, pemantauan, tadbir urus) (MLOps pada Vertex AI, seni bina Azure MLOps)

• Keselamatan (identiti, log audit, penyulitan, penguatkuasaan dasar) (NIST AI RMF 1.0, ISO/IEC 42001:2023)

Jika anda pernah cuba menggunakan sistem AI dalam syarikat sebenar, anda sudah tahu "model" adalah bahagian yang mudah. ​​Bahagian yang sukar ialah: kebenaran, pembalakan, akses data, kawalan kos, masa operasi, tindak balas insiden… perkara dewasa. 😵💫

Oleh kerana Big Tech memiliki begitu banyak perkara ini, mereka boleh menetapkan corak lalai:

• Alatan yang menjadi standard

• Rangka kerja mana yang mendapat sokongan kelas pertama

• Perkakasan yang mana akan diutamakan

• Model penetapan harga yang menjadi "normal"

Itu bukan secara automatik jahat. Tetapi ia adalah kuasa.

Pandangan dekat: kajian model vs realiti produk 🧪➡️🛠️

Inilah ketegangannya: Big Tech boleh membiayai penyelidikan mendalam dan juga memerlukan kemenangan produk suku tahunan. Gabungan itu menghasilkan penemuan hebat dan juga menghasilkan… pelancaran ciri yang meragukan.

Teknologi Besar biasanya memacu kemajuan AI melalui:

• Latihan besar-besaran (skala penting) (Hukum Penskalaan untuk Model Bahasa Neural (arXiv))

• Saluran penilaian dalaman (penanda aras, ujian keselamatan, semakan regresi) (profil NIST GenAI (pengiring AI RMF))

• Penyelidikan gunaan (menukarkan kertas kerja kepada tingkah laku produk)

• Penambahbaikan perkakas (penyulingan, pemampatan, kecekapan penyajian)

Tetapi tekanan produk mengubah keadaan:

• Kelajuan mengatasi keanggunan

• Rentak penghantaran menjelaskan

• "Cukup baik" mengalahkan "difahami sepenuhnya"

Kadangkala itu tidak mengapa. Kebanyakan pengguna tidak memerlukan ketulenan teori, mereka memerlukan pembantu yang membantu dalam aliran kerja mereka. Tetapi risikonya ialah "cukup baik" digunakan dalam konteks sensitif (kesihatan, pengambilan pekerja, kewangan, pendidikan) di mana "cukup baik"... tidak cukup baik. (Akta AI EU - Peraturan (EU) 2024/1689)

Ini adalah sebahagian daripada Peranan Teknologi Besar dalam AI - menterjemahkan keupayaan canggih kepada ciri-ciri pasaran massa, walaupun ketika kelebihannya masih tajam. 🔪

Gambar dekat: pengedaran adalah kuasa besar sebenar 🚀📣

Jika anda boleh meletakkan AI di tempat orang ramai sudah tinggal secara digital, anda tidak perlu "meyakinkan" pengguna. Anda hanya akan menjadi tetapan lalai.

Saluran pengedaran Big Tech termasuk:

• Bar carian dan pelayar 🔎

• Pembantu OS mudah alih 📱

• Suite tempat kerja (dokumen, mel, sembang, mesyuarat) 🧑💼

• Suapan sosial dan sistem cadangan 📺

• Gedung aplikasi dan pasar platform 🛍️ (Garis Panduan Semakan Apl Apple, Keselamatan Data Google Play)

Inilah sebabnya mengapa syarikat AI yang lebih kecil sering bekerjasama dengan Big Tech walaupun mereka gementar mengenainya. Pengedaran adalah oksigen. Tanpanya, anda boleh mempunyai model terbaik di dunia dan masih boleh menjerit ke dalam kekosongan.

Terdapat juga kesan sampingan yang halus: pengedaran membentuk apa yang dimaksudkan dengan "AI" kepada orang ramai. Jika AI muncul terutamanya sebagai pembantu penulisan, orang ramai menganggap AI adalah tentang penulisan. Jika ia muncul sebagai penyuntingan foto, orang ramai menganggap AI adalah tentang imej. Platform menentukan suasana.

Gambaran dekat: data, privasi dan tawaran amanah 🔐🧠

Sistem AI selalunya menjadi lebih berkesan apabila ia diperibadikan. Pemperibadian selalunya memerlukan data. Dan data mewujudkan risiko. Segi tiga itu tidak pernah hilang.

Big Tech terletak pada:

• Data tingkah laku pengguna (carian, klik, pilihan)

• Data perusahaan (e-mel, dokumen, sembang, tiket, aliran kerja)

• Data platform (aplikasi, pembayaran, isyarat identiti)

• Data peranti (lokasi, sensor, foto, input suara)

Walaupun "data mentah" tidak digunakan secara langsung, ekosistem di sekeliling membentuk latihan, penalaan halus, penilaian dan hala tuju produk.

Tawaran amanah biasanya kelihatan seperti ini:

• Pengguna menerima pengumpulan data kerana produk ini mudah digunakan 🧃

• Pengawal selia bertindak balas apabila ia menjadi menyeramkan 👀 (GDPR - Peraturan (EU) 2016/679)

• Syarikat bertindak balas dengan kawalan, dasar dan pesanan "privasi didahulukan"

• Semua orang berhujah tentang apa yang dimaksudkan dengan "privasi"

Satu peraturan praktikal yang saya lihat berkesan: jika sesebuah syarikat boleh menerangkan amalan data AI mereka dalam satu perbualan tanpa berselindung di sebalik unsur perundangan, mereka biasanya menunjukkan prestasi yang lebih baik daripada purata. Tidak sempurna - cuma lebih baik.

Gambaran dekat: tadbir urus, keselamatan dan permainan pengaruh senyap 🧯📜

Inilah peranan yang kurang ketara: Big Tech sering membantu menentukan peraturan yang dipatuhi oleh orang lain.

Mereka membentuk tadbir urus melalui:

• Dasar keselamatan dalaman (apa yang akan ditolak oleh model) (NIST AI RMF 1.0)

• Dasar platform (apa yang boleh dilakukan oleh aplikasi) (Garis Panduan Semakan Apl Apple, Keselamatan Data Google Play)

• Ciri pematuhan perusahaan (jejak audit, pengekalan, sempadan data) (ISO/IEC 42001:2023, Akta AI EU - Peraturan (EU) 2024/1689)

• Penyertaan piawaian industri (rangka kerja teknikal, amalan terbaik) (Prinsip AI OECD, ISO/IEC 42001:2023)

• Melobi dan penglibatan dasar (ya, bahagian itu juga)

Kadangkala ini benar-benar membantu. Big Tech boleh melabur dalam pasukan keselamatan, alat kepercayaan, pengesanan penyalahgunaan dan infrastruktur pematuhan yang tidak mampu dimiliki oleh pemain yang lebih kecil.

Kadangkala ia mementingkan diri sendiri. Keselamatan boleh menjadi parit, di mana hanya pemain terbesar sahaja yang "mampu" mematuhi. Itulah masalahnya: keselamatan adalah perlu, tetapi keselamatan yang mahal boleh membekukan persaingan secara tidak sengaja. (Akta AI EU - Peraturan (EU) 2024/1689)

Di sinilah nuansa penting. Nuansa yang tidak menyeronokkan juga - jenis yang menjengkelkan. 😬

Gambaran dekat: persaingan, ekosistem terbuka dan graviti syarikat baharu 🧲🌱

Peranan Big Tech dalam AI juga termasuk membentuk bentuk pasaran:

• Pemerolehan (bakat, teknologi, pengedaran)

• Perkongsian (model yang dihoskan di awan, perjanjian perusahaan bersama)

• Pembiayaan ekosistem (kredit, inkubator, pasaran)

• Perkakas terbuka (rangka kerja, pustaka, keluaran "terbuka")

Terdapat corak yang saya tonton berulang kali:

1. Syarikat baharu berinovasi dengan pantas

2. Big Tech mengintegrasikan atau menyalin corak yang berjaya

3. Syarikat baharu beralih kepada niche atau menjadi sasaran pemerolehan

4. "Lapisan platform" menebal

Itu tidaklah teruk secara automatik. Platform boleh mengurangkan geseran dan menjadikan AI mudah diakses. Tetapi ia juga boleh mengurangkan kepelbagaian. Jika setiap produk menjadi "pembungkus di sekitar beberapa API yang sama," inovasi mula terasa seperti menyusun semula perabot di apartmen yang sama.

Persaingan yang sedikit tidak kemas adalah sihat. Seperti pembuka roti masam. Jika anda mensterilkan semuanya, ia akan berhenti mengembang. Metafora itu agak tidak sempurna, tetapi saya akan terus menggunakannya. 🍞

Hidup dengan keterujaan dan juga berhati-hati 😄😟

Kedua-dua perasaan itu sepadan. Keterujaan dan kewaspadaan boleh berkongsi bilik yang sama.

Sebab-sebab untuk teruja:

• Penggunaan alatan yang berguna dengan lebih pantas

• Infrastruktur dan kebolehpercayaan yang lebih baik

• Halangan yang lebih rendah untuk perniagaan menerima pakai AI

• Lebih banyak pelaburan dan penyeragaman keselamatan (NIST AI RMF 1.0, Prinsip OECD AI)

Sebab-sebab untuk berhati-hati:

• Penyatuan pengiraan dan pengedaran (IEA - Permintaan tenaga daripada AI)

• Kunci masuk melalui harga, API dan ekosistem

• Risiko privasi dan hasil bersebelahan pengawasan (GDPR - Peraturan (EU) 2016/679)

• "Dasar satu syarikat" menjadi realiti semua orang

Pendirian yang realistik ialah: Teknologi Besar boleh mempercepatkan AI untuk dunia, di samping menumpukan kuasa. Itu boleh jadi benar pada masa yang sama. Orang ramai tidak menyukai jawapan itu kerana ia kurang menarik, namun ia sesuai dengan bukti.

Pengajaran praktikal untuk pembaca yang berbeza 🎯

Jika anda seorang pembeli perniagaan 🧾

• Tanya ke mana data anda pergi, bagaimana ia diasingkan dan apa yang boleh dikawal oleh pentadbir (GDPR - Peraturan (EU) 2016/679, Akta AI EU - Peraturan (EU) 2024/1689)

• Utamakan log audit, kawalan akses dan dasar pengekalan yang jelas (ISO/IEC 42001:2023)

• Perhatikan lengkung kos tersembunyi (penentuan harga penggunaan menjadi tidak menentu dengan cepat)

Jika anda seorang pembangun 🧑💻

• Bina dengan mengambil kira kebolehgunaan (lapisan abstraksi membantu)

• Jangan pertaruhkan semuanya pada satu ciri vendor yang boleh hilang

• Jejaki had kadar, perubahan harga dan kemas kini dasar seolah-olah ia adalah sebahagian daripada tugas anda (kerana memang begitu) (Garis Panduan Semakan Apl Apple, Keselamatan Data Google Play)

Jika anda pembuat dasar atau ketua pematuhan 🏛️

• Mendorong piawaian yang boleh dikendalikan secara saling berkaitan dan norma ketelusan (Prinsip AI OECD)

• Elakkan peraturan yang hanya syarikat gergasi mampu ikuti (Akta AI EU - Peraturan (EU) 2024/1689)

• Anggap "kawalan pengedaran" sebagai isu teras, bukan perkara sampingan

Jika anda pengguna tetap 🙋

• Ketahui lokasi ciri AI dalam aplikasi anda

• Gunakan kawalan privasi walaupun ia menjengkelkan (GDPR - Peraturan (EU) 2016/679)

• Bersikap skeptikal terhadap keputusan "ajaib" - AI yakin, tidak selalunya betul 😵

Ringkasan penutup: Peranan Teknologi Besar dalam AI 🧠✨

Peranan Big Tech dalam AI bukanlah satu perkara sahaja. Ia adalah sekumpulan peranan: pemilik infrastruktur, pembina model, pengedar, penjaga pintu dan pembentuk pasaran. Mereka bukan sahaja mengambil bahagian dalam AI - mereka menentukan rupa bumi AI berkembang.

Jika anda hanya ingat satu baris, jadikannya begini:

Peranan Teknologi Besar dalam AI
Ia membina saluran, menetapkan tetapan lalai dan mengarahkan bagaimana AI menjangkau manusia - pada skala besar-besaran, dengan akibat yang besar. (NIST AI RMF 1.0, Akta AI EU - Peraturan (EU) 2024/1689)

Dan ya, "akibat" kedengaran dramatik. Tetapi AI adalah salah satu topik di mana dramatik kadangkala... tepat. 

Contoh dunia sebenar: Menguji pelancaran Big Tech AI sebelum ia menjadi terkunci 🧪🔐

Senario

Bayangkan sebuah peruncit dalam talian yang mempunyai 120 orang pekerja yang ingin menambah pembantu AI pada aliran kerja sokongan pelanggannya. Pasukan ini sudah pun menggunakan penyedia awan yang besar untuk pengehosan, suit produktiviti Big Tech untuk e-mel dan dokumen serta platform meja bantuan yang disambungkan melalui API.

Laluan yang menggoda itu mudah: hidupkan ciri AI terbina dalam, sambungkan pusat bantuan dan biarkan ejen menggunakan balasan yang dijana. Mudah. ​​Mungkin terlalu mudah. ​​😅

Laluan yang lebih bijak adalah dengan menganggap ini sebagai ujian tadbir urus yang kecil: bolehkah perniagaan mendapatkan sokongan AI yang berkesan tanpa memberikan terlalu banyak kawalan kepada satu platform ke atas data, gesaan, aliran kerja dan kos masa hadapan?

Apa yang diperlukan oleh pembantu

AI sokongan hanya perlu mempunyai akses kepada:

• Artikel pusat bantuan awam

• Dasar pemulangan

• Dasar penghantaran

• Senarai peraturan bayaran balik yang diluluskan

• 20 contoh balasan sokongan yang baik pada masa lalu

• Peraturan peningkatan yang jelas untuk pelanggan yang marah, ancaman undang-undang, isu pembayaran dan aduan perubatan/keselamatan

• Log pentadbir menunjukkan ejen yang menggunakan AI, apa yang dicadangkan dan apa yang telah dihantar

Ia tidak sepatutnya mempunyai akses terbuka kepada data pelanggan peribadi, dokumen kewangan dalaman, mesej kakitangan atau sejarah pesanan penuh melainkan terdapat sebab kebenaran tertentu.

Contoh arahan

Gunakan pembantu ini untuk mendraf balasan sokongan pelanggan, bukan untuk menghantarnya secara automatik.

Jawapan hanya daripada pusat bantuan, dasar pemulangan, dasar penghantaran dan peraturan bayaran balik yang diluluskan. Jika jawapan tidak disokong dengan jelas oleh sumber tersebut, katakan bahawa ejen harus menyemaknya secara manual.

Pastikan jawapan tidak melebihi 140 patah perkataan. Gunakan nada yang tenang dan praktikal. Jangan janjikan bayaran balik, tarikh penghantaran, diskaun atau keputusan undang-undang melainkan polisi membenarkannya dengan jelas.

Sentiasa sertakan dasar sumber yang digunakan. Maklumkan kepada pengurus manusia apabila pelanggan menyebut tentang penipuan, tindakan undang-undang, kecederaan, caj balik, penghantaran yang gagal berulang atau bayaran balik melebihi £250.

Cara mengujinya

Sebelum melancarkannya, peruncit boleh menjalankan 30 tiket sokongan lama melalui tiga persediaan:

• Aliran kerja manual semasa

• Pembantu AI suit produktiviti Big Tech

• Persediaan yang lebih mudah alih menggunakan API model berasingan di sebalik gesaan dalaman dan lapisan pembalakan

Soalan ujian hendaklah merangkumi kes mudah, kompleks dan berisiko:

• "Mana pesanan saya?"

• "Saya mahu bayaran balik tetapi saya telah membuka produk tersebut."

• "Kurier anda telah merosakkan barang saya dan saya sedang melaporkan anda."

• "Berikan saya pampasan atau saya akan tampal ini di mana-mana."

• "Bolehkah anda mengembalikan wang ini ke kad bank yang lain?"

• "Anak saya cedera semasa menggunakan produk ini."

Seorang pengulas manusia harus memberi skor kepada setiap draf untuk ketepatan, nada, pematuhan dasar, tingkah laku peningkatan dan sama ada jawapan itu merangkumi bukti yang mencukupi.

Keputusan

Keputusan ilustrasi: berdasarkan pemasaan 30 tiket sampel sebelum dan selepas menggunakan aliran kerja, pasukan mungkin mendapati bahawa purata masa draf pertama menurun daripada 6 minit kepada 2 minit setiap tiket.

Untuk 300 tiket seminggu, itu bermakna:

• Masa penggubalan manual: 1,800 minit seminggu

• Masa penggubalan berbantukan AI: 600 minit seminggu

• Anggaran masa yang dijimatkan: 1,200 minit seminggu, atau 20 jam

Pengukuran yang lebih tajam bukan sekadar "menjimatkan masa". Pasukan juga harus mengesan ralat. Dalam ujian contoh ini, sasaran yang baik ialah:

• 0 penghantaran automatik tanpa kelulusan manusia

• 0 peningkatan yang terlepas pada tiket ujian berisiko

• Kurang daripada 2 ralat dasar merentasi 30 draf yang disemak

• 100% balasan berbantukan AI dipautkan kembali kepada sumber yang diluluskan

Itu memberi pembeli perbandingan praktikal: bukan "AI mana yang terasa paling hebat?", tetapi "persediaan mana yang menjimatkan masa sambil mengekalkan kawalan, bukti dan kebolehauditan?"

Apa yang boleh menjadi salah

Kesilapan terbesar ialah menganggap butang AI terbina dalam sebagai aliran kerja penuh. Ia sebenarnya tidak.

Masalah biasa termasuk:

• Membiarkan pembantu menjawab daripada ingatan samar-samar dan bukannya dasar yang diluluskan

• Memberi terlalu banyak data pelanggan terlalu awal

• Gagal merekodkan gesaan, draf, suntingan dan balasan akhir

• Terlupa untuk menguji kes pinggir sebelum pelancaran

• Bergantung pada ciri peribadi seseorang vendor dengan begitu mendalam sehingga bertukar kemudian menjadi menyakitkan

• Hanya mengukur kelajuan, bukan ketepatan atau kualiti peningkatan

Pembantu sokongan yang membuat draf dengan pantas tetapi mereka-reka janji bayaran balik bukanlah kemenangan produktiviti. Ia hanyalah cara yang lebih pantas untuk membuat aduan. 😬

Praktikal bawa pulang

Big Tech AI boleh menjadi sangat berharga apabila ia berada dalam aliran kerja langsung seperti sokongan, jualan, keselamatan dan pentadbiran. Tetapi perniagaan harus menguji asas-asas yang tidak menarik terlebih dahulu: kebenaran, log, kawalan sumber, pilihan keluar, harga dan kebolehgunaan.

Itulah versi praktikal bagi keseluruhan perdebatan Big Tech AI: gunakan kuasa, tetapi jangan berjalan dalam tidur sehingga terkunci.

Soalan Lazim

Apakah Peranan Teknologi Besar dalam AI, secara praktikal?

Peranan Teknologi Besar dalam AI bukanlah "mereka membuat model" tetapi lebih kepada "mereka mengendalikan jentera yang menjadikan AI berfungsi pada skala besar". Mereka menyediakan infrastruktur awan, menghantar AI melalui peranti dan aplikasi, dan menetapkan peraturan platform yang membentuk apa yang dibina. Mereka juga membiayai penyelidikan, perkongsian dan pengambilalihan yang mempengaruhi pendekatan mana yang bertahan. Dalam banyak pasaran, mereka secara berkesan mentakrifkan pengalaman AI lalai.

Mengapakah akses pengiraan begitu penting bagi mereka yang boleh membina AI pada skala besar?

AI moden bergantung pada kluster GPU yang besar, rangkaian pantas, storan dan saluran paip MLOps yang andal - bukan sekadar algoritma yang pintar. Jika anda tidak dapat memperoleh kapasiti yang boleh diramal, latihan, penilaian dan penggunaan menjadi rapuh dan mahal. Teknologi Besar sering mengawal lapisan "tulang belakang" (awan, perkongsian cip, penjadualan, keselamatan), yang boleh menetapkan apa yang boleh dilaksanakan untuk pasukan yang lebih kecil. Kuasa itu boleh memberi manfaat, tetapi ia kekal berkuasa.

Bagaimanakah pengedaran Big Tech membentuk maksud "AI" kepada pengguna seharian?

Pengedaran merupakan kuasa besar kerana ia menjadikan AI sebagai ciri lalai dan bukannya produk berasingan yang mesti anda pilih. Apabila AI muncul dalam bar carian, telefon, e-mel, dokumen, mesyuarat dan gedung aplikasi, ia menjadi "apa itu AI" bagi kebanyakan orang. Itu juga menyempitkan jangkaan orang ramai: jika AI kebanyakannya merupakan alat penulisan dalam aplikasi anda, pengguna menganggap AI bersamaan dengan penulisan. Platform secara senyap-senyap menentukan nadanya.

Apakah cara utama peraturan platform dan gedung aplikasi bertindak sebagai penjaga pintu AI?

Dasar semakan aplikasi, terma pasaran, peraturan kandungan dan sekatan API boleh menentukan ciri AI yang dibenarkan dan bagaimana ia mesti berfungsi. Walaupun peraturan dibingkaikan sebagai perlindungan keselamatan atau privasi, ia juga membentuk persaingan dengan meningkatkan kos pematuhan dan pelaksanaan. Bagi pembangun, ini bermakna kemas kini dasar boleh sama pentingnya dengan kemas kini model. Dalam praktiknya, "apa yang dihantar" selalunya adalah "apa yang telah diluluskan"

Bagaimanakah platform AI awan seperti SageMaker, Azure ML dan Vertex AI sesuai dengan Peranan Teknologi Besar dalam AI?

Platform AI Awan menggabungkan latihan, penggunaan, pemantauan, tadbir urus dan keselamatan ke dalam satu tempat, yang mengurangkan geseran untuk syarikat baharu dan perusahaan. Alatan seperti Amazon SageMaker, Azure Machine Learning dan Vertex AI memudahkan untuk menskala dan mengurus kos melalui hubungan vendor tunggal. Pertukarannya ialah kemudahan boleh meningkatkan penguncian, kerana aliran kerja, kebenaran dan pemantauan disepadukan secara mendalam ke dalam ekosistem tersebut.

Apakah yang perlu ditanya oleh pembeli perniagaan sebelum menggunakan alatan Big Tech AI?

Mulakan dengan data: ke mana ia pergi, bagaimana ia diasingkan dan kawalan pengekalan dan audit yang wujud. Tanya tentang kawalan pentadbir, pembalakan, sempadan akses dan bagaimana model dinilai untuk risiko dalam domain anda. Juga, uji tekanan harga, kerana kos berasaskan penggunaan boleh meningkat apabila penerimaan meningkat. Dalam tetapan yang dikawal selia, selaraskan jangkaan dengan rangka kerja dan keperluan pematuhan yang telah digunakan oleh organisasi anda.

Bagaimanakah pembangun boleh mengelakkan penguncian vendor semasa membina API AI Teknologi Besar?

Pendekatan biasa adalah untuk mereka bentuk untuk kebolehgunaan: balut panggilan model di sebalik lapisan abstraksi dan pastikan gesaan, dasar dan logik penilaian diversikan dan diuji. Elakkan bergantung pada satu ciri vendor "khas" yang boleh berubah atau hilang. Jejaki had kadar, kemas kini harga dan perubahan dasar sebagai sebahagian daripada penyelenggaraan berterusan. Kebolehgunaan tidak percuma, tetapi biasanya kosnya lebih rendah daripada migrasi paksa.

Bagaimanakah privasi dan pemperibadian mewujudkan "tawar-menawar kepercayaan" dengan ciri AI?

Pemperibadian selalunya meningkatkan utiliti AI, tetapi ia biasanya meningkatkan pendedahan data dan persepsi yang menyeramkan. Big Tech terletak berhampiran dengan data tingkah laku, perusahaan, platform dan peranti, jadi pengguna dan pengawal selia meneliti bagaimana data tersebut mempengaruhi latihan, penalaan halus dan keputusan produk. Penanda aras praktikal ialah sama ada sesebuah syarikat boleh menerangkan amalan data AInya dengan jelas tanpa berselindung di sebalik bahasa perundangan. Kawalan yang baik dan penolakan sebenar adalah penting.

Apakah piawaian dan peraturan yang paling relevan dengan tadbir urus dan keselamatan Big Tech AI?

Dalam banyak perancangan, tadbir urus menggabungkan dasar keselamatan dalaman dengan rangka kerja dan undang-undang luaran. Organisasi sering merujuk panduan pengurusan risiko seperti RMF AI NIST, piawaian pengurusan seperti ISO/IEC 42001 dan peraturan serantau seperti GDPR dan Akta AI EU untuk kes penggunaan tertentu. Ini mempengaruhi pembalakan, audit, sempadan data dan apa yang disekat atau dibenarkan. Cabarannya ialah pematuhan boleh menjadi mahal, yang boleh memihak kepada pemain yang lebih besar.

Adakah pengaruh Big Tech terhadap persaingan dan ekosistem sentiasa menjadi perkara yang buruk?

Bukan secara automatik. Platform boleh mengurangkan halangan, menyeragamkan perkakasan dan membiayai keselamatan serta infrastruktur yang tidak mampu dimiliki oleh pasukan yang lebih kecil. Tetapi dinamik yang sama boleh mengurangkan kepelbagaian jika semua orang menjadi pembungkus nipis di sekitar beberapa API, awan dan pasaran yang dominan. Perhatikan corak seperti penyatuan pengiraan dan pengedaran, serta perubahan harga dan dasar yang sukar dielakkan. Ekosistem yang paling sihat biasanya memberi ruang untuk kebolehkendalian dan pendatang baharu.

Rujukan

1. Agensi Tenaga Antarabangsa - Tenaga dan AI - iea.org

2. Agensi Tenaga Antarabangsa - Permintaan tenaga daripada AI - iea.org

3. Gambaran keseluruhan platform inferens AI NVIDIA - nvidia.com

4. Perkhidmatan Web Amazon - Dokumentasi AI Amazon SageMaker (Apakah itu SageMaker?) - aws.amazon.com

5. Microsoft - Azure Machine Learning - learn.microsoft.com

6. Google Cloud - Vertex AI - cloud.google.com

7. Google Cloud - MLOps pada Vertex AI - cloud.google.com

8. Microsoft - Panduan seni bina operasi pembelajaran mesin (MLOps) v2 - learn.microsoft.com

9. Pembangun Apple - Core ML - developer.apple.com

10. Pembangun Google - Kit ML - developers.google.com

11. Garis Panduan Semakan Aplikasi Pembangun Apple - developer.apple.com

12. Bantuan Konsol Google Play - Keselamatan data - support.google.com

13. arXiv - Hukum Penskalaan untuk Model Bahasa Neural - arxiv.org

14. arXiv - Latihan Model Bahasa Besar Pengkomputeran-Optimal (Chinchilla) - arxiv.org

15. Institut Piawaian dan Teknologi Kebangsaan - Rangka Kerja Pengurusan Risiko AI (AI RMF 1.0) - nist.gov

16. Institut Piawaian dan Teknologi Kebangsaan - Profil AI Generatif NIST (pendamping RMF AI) - nist.gov

17. Organisasi Antarabangsa untuk Standardisasi - ISO/IEC 42001:2023 - iso.org

18. EUR-Lex - Peraturan (EU) 2016/679 (GDPR) - eur-lex.europa.eu

19. EUR-Lex - Peraturan (EU) 2024/1689 (Akta AI EU) - eur-lex.europa.eu

20. OECD - Prinsip AI OECD - oecd.ai

Cari AI Terkini di Kedai Pembantu AI Rasmi

Tentang Kami