Menyelami visi Aaron Levie tentang integrasi AI dalam manajemen konten cloud dan tantangan yang dihadapi.
Pada hari Kamis, Box memulai konferensi pengembangnya, Boxworks, dengan mengumumkan serangkaian fitur AI baru, mengintegrasikan model AI agen ke dalam produk inti perusahaan. Ini adalah pengumuman produk yang lebih banyak dari biasanya untuk konferensi tersebut, mencerminkan perkembangan AI yang semakin cepat di perusahaan: Box meluncurkan studio AI tahun lalu, diikuti oleh agen ekstraksi data baru pada bulan Februari, dan lainnya untuk pencarian dan penelitian mendalam pada bulan Mei. Sekarang, perusahaan meluncurkan sistem baru bernama Box Automate yang berfungsi sebagai semacam sistem operasi untuk agen AI, memecah alur kerja menjadi segmen berbeda yang dapat ditingkatkan dengan AI sesuai kebutuhan.
Visi Besar Integrasi AI
Saya berbicara dengan CEO Aaron Levie tentang pendekatan perusahaan terhadap AI, dan tantangan bersaing dengan perusahaan model fondasi. Tidak mengherankan, dia sangat optimis tentang kemungkinan agen AI di tempat kerja modern, tetapi dia juga realistis tentang keterbatasan model saat ini dan bagaimana mengelola keterbatasan tersebut dengan teknologi yang ada.
TechCrunch: Anda mengumumkan banyak produk AI hari ini, jadi saya ingin memulai dengan menanyakan tentang visi gambaran besar. Mengapa membangun agen AI ke dalam layanan manajemen konten cloud?
Aaron Levie: Jadi hal yang kami pikirkan sepanjang hari – dan fokus kami di Box – adalah seberapa banyak pekerjaan yang berubah karena AI. Dan sebagian besar dampaknya saat ini adalah pada alur kerja yang melibatkan data tidak terstruktur. Kami sudah dapat mengotomatisasi apa pun yang berhubungan dengan data terstruktur yang masuk ke dalam basis data. Jika Anda memikirkan sistem CRM, sistem ERP, sistem HR, kami sudah memiliki bertahun-tahun otomatisasi di ruang itu. Tetapi di mana kami belum pernah memiliki otomatisasi adalah apa pun yang menyentuh data tidak terstruktur.
Tantangan dan Risiko Integrasi AI
Pikirkan tentang proses tinjauan hukum apa pun, proses manajemen aset pemasaran apa pun, tinjauan kesepakatan M&A apa pun — semua alur kerja tersebut berurusan dengan banyak data tidak terstruktur. Orang harus meninjau data tersebut, membuat pembaruan, membuat keputusan, dan sebagainya. Kami belum pernah dapat membawa banyak otomatisasi ke alur kerja tersebut. Kami dapat menggambarkannya dalam perangkat lunak, tetapi komputer belum cukup baik dalam membaca dokumen atau melihat aset pemasaran. Jadi bagi kami, agen AI berarti, untuk pertama kalinya, kami benar-benar dapat memanfaatkan semua data tidak terstruktur ini.
TC: Bagaimana dengan risiko menerapkan agen dalam konteks bisnis? Beberapa pelanggan Anda pasti khawatir tentang menerapkan sesuatu seperti ini pada data sensitif.
Levie: Apa yang kami lihat dari pelanggan adalah mereka ingin tahu bahwa setiap kali mereka menjalankan alur kerja itu, agen akan mengeksekusi lebih atau kurang dengan cara yang sama, pada titik yang sama dalam alur kerja, dan tidak memiliki hal-hal yang keluar jalur. Anda tidak ingin agen membuat kesalahan yang bertambah di mana, setelah mereka melakukan beberapa ratus pengajuan pertama, mereka mulai agak liar. Menjadi sangat penting untuk memiliki titik demarkasi yang tepat, di mana agen mulai dan bagian lain dari sistem berakhir. Untuk setiap alur kerja, ada pertanyaan tentang apa yang perlu memiliki batasan deterministik, dan apa yang bisa sepenuhnya agen dan tidak deterministik.
Apa yang dapat Anda lakukan dengan Box Automate adalah memutuskan seberapa banyak pekerjaan yang Anda inginkan setiap agen individu lakukan sebelum menyerahkan kepada agen lain. Jadi Anda mungkin memiliki agen pengajuan yang terpisah dari agen peninjauan, dan sebagainya. Ini memungkinkan Anda untuk secara efektif menerapkan agen AI dalam skala besar dalam alur kerja atau proses bisnis apa pun di organisasi.
TC: Masalah apa yang Anda hindari dengan memecah alur kerja?
Levie: Kami sudah melihat beberapa keterbatasan bahkan dalam sistem yang sepenuhnya agen yang paling maju seperti Claude Code. Pada suatu titik dalam tugas, model kehabisan ruang jendela konteks untuk terus membuat keputusan yang baik. Tidak ada makan siang gratis saat ini di AI. Anda tidak bisa hanya memiliki agen jangka panjang dengan jendela konteks tak terbatas mengejar tugas apa pun di bisnis Anda. Jadi Anda harus memecah alur kerja dan menggunakan sub-agen.
Saya pikir kita berada di era konteks dalam AI. Apa yang dibutuhkan model dan agen AI adalah konteks, dan konteks yang mereka butuhkan untuk bekerja adalah duduk di dalam data tidak terstruktur Anda. Jadi seluruh sistem kami benar-benar dirancang untuk mencari tahu konteks apa yang dapat Anda berikan kepada agen AI untuk memastikan bahwa mereka tampil seefektif mungkin.
TC: Ada perdebatan yang lebih besar dalam industri tentang manfaat model frontier yang besar dan kuat dibandingkan dengan model yang lebih kecil dan lebih andal. Apakah ini menempatkan Anda di sisi model yang lebih kecil?
Levie: Saya mungkin harus memperjelas: Tidak ada yang mencegah tugas dari sistem kami menjadi arbitrer panjang atau kompleks. Apa yang kami coba lakukan adalah menciptakan batasan yang tepat sehingga Anda dapat memutuskan seberapa agen Anda ingin tugas itu.
Kami tidak memiliki filosofi tertentu tentang di mana orang harus berada di kontinum itu. Kami hanya mencoba merancang arsitektur yang tahan masa depan. Kami telah merancang ini sedemikian rupa sehingga, seiring dengan peningkatan model dan kemampuan agen, Anda akan mendapatkan semua manfaat tersebut langsung di platform kami.
TC: Kekhawatiran lain adalah kontrol data. Karena model dilatih pada begitu banyak data, ada ketakutan nyata bahwa data sensitif akan dimuntahkan atau disalahgunakan. Bagaimana faktor itu masuk?
Levie: Di situlah banyak penerapan AI salah. Orang berpikir, "Hei, ini mudah. Saya akan memberikan model AI akses ke semua data tidak terstruktur saya, dan itu akan menjawab pertanyaan untuk orang-orang." Dan kemudian itu mulai memberi Anda jawaban pada data yang tidak Anda miliki aksesnya atau Anda tidak seharusnya memiliki aksesnya. Anda memerlukan lapisan yang sangat kuat yang menangani kontrol akses, keamanan data, izin, tata kelola data, kepatuhan, semuanya.
Jadi kami mendapat manfaat dari beberapa dekade yang kami habiskan untuk membangun sistem yang pada dasarnya menangani masalah itu: Bagaimana Anda memastikan hanya orang yang tepat yang memiliki akses ke setiap bagian data di perusahaan? Jadi ketika agen menjawab pertanyaan, Anda tahu secara deterministik bahwa itu tidak dapat menarik data apa pun yang seharusnya tidak dimiliki orang tersebut. Itu hanya sesuatu yang secara fundamental dibangun ke dalam sistem kami.
TC: Awal minggu ini, Anthropic merilis fitur baru untuk mengunggah file langsung ke Claude.ai. Ini jauh dari jenis manajemen file yang dilakukan Box, tetapi Anda pasti memikirkan kemungkinan persaingan dari perusahaan model fondasi. Bagaimana Anda mendekati itu secara strategis?
Levie: Jadi jika Anda memikirkan apa yang dibutuhkan perusahaan ketika mereka menerapkan AI dalam skala besar, mereka membutuhkan keamanan, izin, dan kontrol. Mereka membutuhkan antarmuka pengguna, mereka membutuhkan API yang kuat, mereka ingin pilihan model AI mereka, karena suatu hari, satu model AI mendukung beberapa kasus penggunaan untuk mereka yang lebih baik daripada yang lain, tetapi kemudian itu mungkin berubah, dan mereka tidak ingin terjebak dalam satu platform tertentu.
Jadi apa yang telah kami bangun adalah sistem yang memungkinkan Anda memiliki semua kemampuan tersebut secara efektif. Kami melakukan penyimpanan, keamanan, izin, embedding vektor, dan kami terhubung ke setiap model AI terkemuka yang ada di luar sana.
