Rekap Web AI Summit 2024: AI Sisi Klien untuk Developer

NOV 11, 2024
Jason Mayes Web AI Lead

Pertemuan puncak pertama Google untuk developer menggunakan AI di sisi klien


Pada tanggal 18 Oktober 2024, Google menyelenggarakan Web AI Summit perdana untuk mempertemukan para pakar terbaik dari seluruh dunia yang bekerja dengan model machine learning sisi klien di browser web. Ini berarti setelah halaman awal dimuat, semua solusi ini bisa bekerja sepenuhnya secara offline di perangkat klien sehingga pengguna bisa mendapatkan keuntungan dari inferensi latensi yang rendah, biaya yang lebih murah, dan privasi.

Pembicara kami tidak hanya berasal dari tim Google, seperti Chrome dan MediaPipe, tetapi juga perwakilan 3P yang aktif di bidang ini, seperti Intel, Hugging Face, Microsoft, LangChain, dan lainnya. Mulai dari pendeteksian barang kemasan konsumen hingga solusi perawatan kesehatan - pembicaraan mencakup berbagai industri dan bidang bahasan yang menunjukkan seberapa jauh jangkauan Web AI.

Lanjutkan membaca untuk mengetahui detail selengkapnya atau lihat playlist YouTube untuk segera mengikuti dan menyaksikan sendiri perbincangannya!

Machine Learning Panel

Sorotan Web AI Summit perdana

Kami menerima lebih dari 1.100 pendaftaran dari teman-teman yang berasal dari 22 negara, 59 kota, dan 179 kantor Google yang berbeda dan bergabung dengan kami dalam acara bersejarah ini dengan jumlah peserta yang penuh sepanjang hari - sungguh luar biasa melihat betapa antusiasnya mereka dalam mengikuti perbincangan ini.

Kami menghadirkan sejumlah software engineer, pengambil keputusan bisnis, dan kepemimpinan eksekutif di antara para audiens, menciptakan sinergi yang produktif antara keahlian teknis dan perencanaan strategis.


Pembicara dan sesi Web AI Summit

Pembicara ahli kami membagikan wawasan yang sangat berharga untuk membekali para developer Javascript dengan pengetahuan tentang fitur-fitur berteknologi AI yang canggih dan kompleks yang menjadi standar industri untuk memenuhi permintaan klien. Lihat semua pembicaraan di bawah ini atau lihat sendiri saat rehat kopi.

image3

Selamat datang di Web AI Summit 2024

Jason Mayes - Web AI Lead, Google

Jim Bankoski - VP Engineering, Chrome, Google

Ringkasan tentang kondisi Web AI pada tahun 2024 dan alasan mengapa Web AI Summit dibuat. Lihat apa saja yang bisa dilakukan dengan machine learning di perangkat, serta ke mana arahnya, untuk mendapatkan pemahaman dasar sebelum Anda menonton pembicaraan lain dalam seri ini. Pembicaraan ini cocok untuk semua orang dan mencakup beberapa bidang bahasan, seperti AI generatif, LLM, model difusi, WebGPU, WebAssembly, dan API yang sedang naik, seperti WebNN beserta contoh-contoh dari industri yang telah menggunakan Web AI saat ini.


Transformers.js: Machine Learning Canggih untuk Web

Joshua Lochner - ML Engineer (Transformers.js), Hugging Face

Pelajari tentang Transformers.js, library JavaScript baru yang menarik yang memungkinkan developer untuk membangun aplikasi web yang belum pernah ada sebelumnya. Library ini dirancang agar secara fungsional setara dengan library transformer Python Hugging Face dan mendukung lebih dari 120 arsitektur pada beragam tugas dan modalitas. Pengguna bisa memilih lebih dari 1.000 model yang telah dilatih sebelumnya atau mengonversinya sendiri untuk dijalankan secara lokal di browser, menawarkan machine learning yang terjaga privasinya, memiliki latensi rendah, dan skalabel. Penambahan terbaru dukungan WebGPU memungkinkan eksekusi model yang berkinerja tinggi dengan memanfaatkan kemampuan GPU modern secara langsung di browser.


Web Neural Network (WebNN) API: Posisi kita saat ini dan Apa Berikutnya

Rob Kochman - Group Product Manager (Chrome), Google

Rafael Cintron - Principle Software Design Engineer, Microsoft

Teknologi web lanjutan, seperti WebAssembly dan WebGPU, baru-baru ini menghadirkan kemampuan AI yang riil pada browser. Web Neural Network (WebNN) API yang diajukan bertujuan untuk membangun momentum tersebut, yang memungkinkan beban kerja AI berjalan lebih cepat dan efisien pada berbagai perangkat, termasuk perangkat dengan hardware akselerator AI (NPU), semuanya berdasarkan standar web. Sesi ini akan dimulai dengan ringkasan singkat mengenai WebNN, kemudian penjelasan mengenai perkembangan terkini, termasuk bentuk API, dukungan perangkat, dukungan framework, dan implementasi browser. Kami juga akan menjelaskan rencana ke depan, karena kami bekerja untuk mendapatkan masukan dari komunitas.


Web AI pada PC AI

Moh Haghighat - Fellow, Intel

Intel mendemonstrasikan WebNN, sebuah API standar web W3C terpadu yang baru muncul untuk akselerasi ML web di perangkat pada semua mesin eksekusi AI klien: CPU, GPU, dan NPU. Saat ini, WebNN berada dalam versi Pratinjau Developer di browser Chrome dan Edge serta terintegrasi dalam framework ML populer (mis., ONNX Runtime Web), WebNN memberikan performa dan karakteristik daya “mendekati native”. Kami akan menampilkan demo WebNN yang menarik dan pratinjau adopsi yang menghadirkan kelas pengalaman baru ke web.


ml5.js - Machine Learning yang Ramah untuk Web

Yu Lee - Resident Researcher, ML5.js, NYU

Aidan Nelson - Visiting Faculty, ML5.js, NYU

Pembicaraan ini berfokus pada ml5.js - sebuah library open source yang dibangun di atas TensorFlow.js dengan tujuan untuk membuat machine learning lebih mudah diakses oleh audiens yang lebih luas, yaitu artis, penulis kode kreatif, dan mahasiswa. Project ini dibangun sebagai upaya kolaboratif dalam Program ITP NYU, terinspirasi dari Pemrosesan dan fokus project p5.js agar coding dapat diakses dan inklusif. ml5.js bertujuan untuk memperluas misi ini ke domain machine learning, menjembatani kesenjangan antara kompleksitas teknis machine learning dan kreativitas para pemula dan artis.


WebLLM: Mesin Inferensi LLM Dalam Browser Berkinerja Tinggi

Charlie Ruan - siswa peneliti, CMU

Pembicaraan ini membahas tentang WebLLM, sebuah mesin inferensi LLM dalam browser berkinerja tinggi. WebLLM memungkinkan pembuatan aplikasi web berkemampuan AI yang cepat (akselerasi GPU native melalui WebGPU), pribadi (100% komputasi di sisi klien), dan nyaman (tanpa pengaturan lingkungan). Bagi developer, WebLLM memiliki fitur antarmuka bergaya OpenAI-API untuk integrasi terstandardisasi, mendukung aplikasi chat dan pembuatan JSON terstruktur yang efisien, serta menawarkan dukungan bawaan untuk Web/Pekerja Layanan untuk memisahkan eksekusi backend dari alur UI. Dalam pembicaraan ini, kita akan mengeksplorasi fitur-fitur utama WebLLM, arsitektur keseluruhan, dan bagaimana developer bisa membangun aplikasi web berkemampuan AI dengan WebLLM.


Status Bukanlah Hal Utama yang Anda Butuhkan, Tetapi Sangat Membantu: Membangun Aplikasi LLM yang Lebih Baik di Browser

Jacob Lee - Founding Engineer, LangChain

Kemajuan baru yang menarik dari sejumlah project, seperti WebLLM, Transformers.js, dan Chrome AI telah membawa LLM lokal lebih dekat dari sebelumnya kepada siapa pun yang memakai browser. Hal ini berpotensi besar untuk memperluas jangkauan pengembangan web, tetapi model kecil ini lebih terbatas daripada model tercanggih yang di-host dan membutuhkan pertimbangan yang lebih cermat seputar desain dan prompting.

Pembicaraan ini berfokus pada penanganan kendala ini dengan membahas teknik-teknik untuk mengimplementasikan aplikasi praktis yang memanfaatkan model kecil dengan menggunakan toolkit efektif yang disediakan oleh LangGraph.js, sebuah framework baru untuk mengelola aplikasi LLM stateful.


Visual Blocks: Pembuatan Prototipe Visual Pipeline AI

Ruofei Du - Interactive Perception & Graphics Lead, Google

Visual Blocks untuk ML adalah platform pemrograman visual yang memungkinkan pembuatan prototipe AI dan multimedia secara cepat. Dalam pembicaraan ini, kami akan menunjukkan cara membangun pipeline AI interaktif, melakukan augmentasi data interaktif, dan menguji pipeline dengan data langsung menggunakan tindakan tarik-lalu-lepas yang mudah. Kami juga akan menyoroti berbagai pipeline yang dibuat oleh komunitas dan node khusus yang mendemonstrasikan beragam aplikasi dalam grafik interaktif, rantai model bahasa besar, computer vision, dan solusi multi-modal. Yang terakhir, kami mendorong semua praktisi Web AI untuk memberikan kontribusi pipeline ML dan node khusus mereka sendiri, yang akan memperkaya platform bersama dan menginspirasi kasus penggunaan yang inovatif.


Menjelajahi interaksi alternatif dalam JavaScript

Charlie Gerard - Senior Research Engineer, CrowdStrike

Kemajuan terbaru dalam AI terutama berfokus pada model bahasa besar serta cara baru untuk membuat dan mengonsumsi konten. Namun, AI juga menawarkan kesempatan untuk memikirkan kembali cara kita berinteraksi dengan antarmuka. Menggunakan JavaScript dan model yang berfokus pada pelacakan tubuh atau klasifikasi audio, developer web memiliki kesempatan unik untuk bereksperimen dengan interaksi alternatif guna menciptakan pengalaman web yang lebih inovatif.


Ringkasan AI bawaan Chrome

Kenji Baheux - Product Manager, Chrome, Google

Membagikan tentang apa yang telah kami lakukan di Chrome untuk AI bawaan, apa yang telah kami pelajari, dan apa yang akan kami lakukan berikutnya. Kami akan membahas tentang bagaimana kami melihat Prompt API, status kami untuk API tugas level tinggi, seperti peringkasan, penulisan/penulisan ulang, pembelajaran dari program pratinjau awal, dan ke mana kami akan melangkah setelah ini.


Web AI dalam Industri: Bagaimana TensorFlow.js mendorong apa yang Anda lihat di rak-rak supermarket

Hugo Zanini - Technical Project Lead, Nubank

Pembicaraan ini memperlihatkan bagaimana salah satu dari 10 perusahaan barang kemasan konsumen (CPG) terbesar di dunia memanfaatkan Web AI untuk memperluas strategi pemasaran perdagangan dalam toko di Brasil dan bagaimana hal tersebut berkembang menjadi project open source yang bermanfaat bagi perusahaan-perusahaan lain dalam industri ini.


Pelajaran yang dipetik dari menjadi pelanggan awal API bawaan Chrome

Thomas Steiner - Developer Relations Engineer, Chrome, Google

Dalam pembicaraan ini, Thomas merangkum beberapa hal yang telah dipelajari oleh Developer Relations dalam peran mereka sebagai pelanggan awal API bawaan Chrome. Dengan menggunakan contoh aplikasi pencari sinonim berbasis AI, ia akan menunjukkan cara bekerja dengan Prompt API yang berfokus pada berbagai aspek, mulai dari menyesuaikan prompt, mengurai output dengan andal, hingga mengoptimalkan aplikasi untuk performa maksimum.


Masa Depan AI adalah Sekarang: Studi Kasus Kehidupan Nyata untuk Adopsi AI di Sisi Klien dalam Aplikasi Web

Yuriko Hirota - Partner Solutions Engineer, Google

Kazunari Hara - Developer Expert, CyberAgent

Lightning talk ini mengungkapkan kekuatan praktis dari AI sisi klien, bukan hanya untuk kepentingan penggunaan AI, tetapi juga meningkatkan pengalaman pengguna. Pembicaraan ini membahas secara mendalam studi kasus nyata yang ditampilkan di Google I/O 2024, yang menunjukkan bagaimana CyberAgent, perusahaan yang berada di balik salah satu layanan blog teratas di Jepang, berencana memanfaatkan keajaiban AI sisi klien untuk membantu pengguna membuat judul blog secara mudah. Bergabunglah bersama kami untuk mempelajari cara CyberAgent memaksimalkan potensi AI sisi klien melalui desain kasus penggunaan yang inovatif dan pendekatan yang berpusat pada pengguna.


Mengapa Ekstensi Web fantastis untuk AI?

David Li - Product Manager, Chrome, Google

Dalam pembicaraan ini, kami akan menunjukkan potensi AI dan Ekstensi Chrome. Ekstensi Chrome memungkinkan Anda mengontrol browser, mengamati konten web, dan menambahkan UI Anda sendiri. Ketika digabungkan, AI dan Ekstensi Chrome bisa membuat pengalaman menjelajah menjadi sangat terbantu dan lebih produktif. Pembicaraan ini akan memberikan ringkasan tentang bagaimana ekstensi di WebStore sekarang menggunakan AI dan di mana kami melihat potensi terbesarnya.


Lebih dari Sekadar Banner: Kekuatan Web AI untuk Mempersonalisasi Media Berbayar

Cory Grenier - CEO, GEENEE

Evgeny Peshkov - CTO, GEENEE

Temukan bagaimana Web AI merevolusi media berbayar yang dipersonalisasi dengan memperkenalkan iklan percobaan virtual yang inovatif di setiap layar.


MediaPipe Web: Menghadirkan teknologi AI lintas platform ke browser

Tyler Mullen - Staff Software Engineer, Mediapipe, Google

Pelajari tentang pendekatan lintas platform MediaPipe untuk membangun pipeline AI dan membawanya ke browser. Kami akan menyoroti beberapa manfaat dari metode kami dan membicarakan beberapa produk utama yang kami bantu (seperti Google Meet). Kemudian kami akan membahas kemajuan teknologi dan API developer terbaru. Penawaran ini mencakup solusi untuk tugas machine learning tradisional, seperti segmentasi gambar, serta tugas AI generatif, seperti inferensi LLM. Terakhir, kami akan memberikan gambaran sekilas tentang masa depan dengan beberapa demo yang menarik!


Mentransformasi akses ke layanan kesehatan melalui WebAI

Chris Slee - CTO, Include Health


IncludeHealth, penyedia terapi fisik virtual, memanfaatkan kekuatan WebAI untuk mendobrak hambatan logistik dan ekonomi, sehingga pasien dapat menerima perawatan yang dipersonalisasi dan terukur di mana saja, kapan saja, dan pada perangkat apa saja


Pelatihan ML di Web: Membangun Simple ML untuk Google Spreadsheet

Richard Stotz - Software Engineer, Core ML, Google


Pelajari cara kami membangun Simple ML untuk Spreadsheet, add-on Google Spreadsheet gratis untuk ML dan AI. Simple ML untuk Spreadsheet menggunakan Machine Learning di perangkat yang ditenagai oleh WebAssembly, Javascript, dan AI baru bawaan Chrome untuk membuka tugas Machine Learning lanjutan bagi semua pengguna. Pembicaraan ini menyoroti alat yang kami gunakan untuk menghadirkan Simple ML untuk Spreadsheet ke pasar dan bagaimana library open source tim kami membantu developer mencapai kesuksesan ML mereka di web.


Terima kasih semuanya!

Acara ini tidak akan mungkin terlaksana tanpa keterlibatan banyak orang dalam pembuatan dan pelaksanaannya. Kami ingin mengucapkan terima kasih kepada 3 kreator acara kami, Jason Mayes, Jenna Zheng, dan Marcus Chang yang telah menyelenggarakan acara ini dan tentu saja terima kasih yang sebesar-besarnya kepada semua presenter kami yang tercantum di atas, beserta pembantu dan asisten kami di acara ini, serta tim AV kami yang memastikan jalannya acara direkam dengan sempurna agar dapat Anda nikmati setelah acara selesai.


Ingin menghadiri Web AI Summit yang berikutnya?

Jika Anda ketinggalan acara kali ini, ikuti acaranya melalui video di atas, dan pastikan berlangganan Newsletter Web AI publik kami untuk mendapatkan informasi terbaru saat kami melakukan siaran langsung berikutnya!