Citi, Ford, dan Experian berbagi strategi mereka untuk mengembangkan agen AI

"Untuk bisa percaya, Anda perlu bisa melihat apa yang sedang terjadi." Prinsip yang tampaknya sederhana ini menjadi inti dari penerapan AI di dunia bisnis saat ini, menurut Laura Heisman, chief marketing officer Dynatrace.

"Itu mungkin topik terbesar yang sedang dibicarakan semua orang di semua industri. Kami mendengarnya dari pelanggan kami setiap hari," kata Heisman baru-baru ini dalam sebuah panel di konferensi Brainstorm Tech Fortune. "Pertanyaan besarnya adalah, bisakah Anda mempercayainya? Apakah itu benar? Dan jika salah, bisakah Anda menghentikannya?"

Saat bisnis mempertimbangkan untuk membiarkan agen AI merangkai serangkaian tugas secara berurutan, masing-masing berdasarkan output model AI, kepercayaan menjadi lebih penting dari sebelumnya. Dan satu-satunya cara untuk membangun kepercayaan itu, menurut Heisman dan pemimpin bisnis lainnya di panel, adalah dengan membangun visibilitas dan kontrol ke dalam sistem. 

"Bagi kami, visibilitas dan keterlacakan bukanlah pilihan, melainkan fondasi. Itulah cara kami melihat setiap keputusan," kata Nikhil Joshi, chief information officer di divisi pasar Citi, raksasa keuangan yang memindahkan triliunan dolar setiap hari di lebih dari 100 negara.

Citi menghabiskan sebagian besar tahun 2024 untuk membangun fondasi teknologi terpusat untuk semua aplikasi dan agennya, kata Joshi. Fondasi tersebut membuat perusahaan jauh lebih nyaman dalam membawa agen ke tahap produksi. 

"Hanya ada satu cara untuk men-deploy agen di Citi, yaitu melalui kerangka kerja terpusat ini," kata Joshi. "Artinya setiap agen didaftarkan melalui proses ini, setiap agen dipantau, setiap agen diaudit, setiap agen diatur." 

Di saat semua orang tampak melaju penuh ke arah AI, sistem teknologi Citi yang deliberatif dan terpusat mungkin terkesan terlalu konservatif bagi sebagian orang. Namun, kata Joshi, hal itu justru membantu Anda bergerak lebih cepat dalam jangka panjang. "Menjadi konservatif terhadap AI bukanlah ungkapan yang buruk," katanya.

Chief Innovation Officer Experian, Kathleen Peters, menyetujui hal tersebut, dan menjelaskan bagaimana perusahaan pelaporan kredit konsumen itu telah menciptakan sistem untuk mengelola berbagai agen yang di-deploy, melacak asal-usul setiap agen, karyawan yang menciptakan agen tersebut, serta izin spesifik untuk mengakses data atau menjalankan tugas yang dimiliki setiap agen.

"Ketika semua orang dalam ekosistem dapat memahami bagian-bagian tersebut, Anda membangun kepercayaan yang memungkinkan Anda untuk berkembang dan bergerak cepat," kata Peters.

Di industri otomotif, di mana rata-rata waktu untuk memperkenalkan kendaraan baru dari desain hingga produksi bisa memakan waktu bertahun-tahun, Ford menggunakan AI untuk mempercepat bagian-bagian tertentu dari proses tersebut dan untuk "gagal cepat," kata Sammy Omari, Executive Director, Advanced Driver Assist Systems and In-Vehicle Infotainment di Ford Motor Company. 

Kuncinya, kata Omari, adalah memiliki pembatas yang tepat.

Sebagai contoh, Omari mengatakan bahwa karyawan non-teknik seperti desainer kini dapat berkontribusi kode komputer untuk fitur mobil baru yang dikembangkan melalui alat "vibecoding" berbasis AI. Hal itu mempercepat waktu yang dibutuhkan untuk melihat tampilan fitur baru dalam versi uji coba mobil, dan untuk segera mengambil keputusan jika ide tersebut tidak layak dilanjutkan. Jika ide terbukti berhasil, para insinyur kemudian menulis kode dari awal, dan kode tersebut masuk ke dalam mobil yang dikirim ke konsumen. Vibecoding desainer hanya berfungsi sebagai bukti konsep awal. 

"Jadi kecepatan aktual menuju pasar akan meningkat," kata Omari, "tetapi proses QA di akhir, sebelum kami benar-benar mengirimkan sesuatu kepada pelanggan, belum tentu berubah."

Artikel ini awalnya ditampilkan di Fortune.com