CEO Palantir, Alex Karp, salah mengenai ancaman yang ditimbulkan oleh Anthropic dan OpenAI terhadap sebagian besar perusahaan. Itu tidak berarti dia tidak memiliki sesuatu untuk dipertaruhkan.

Halo dan selamat datang di Eye on AI. Dalam edisi ini:

• Mengapa CEO Palantir Alex Karp salah tentang laboratorium AI terdepan.
• Ransomware otonom sudah hadir, klaim sebuah perusahaan keamanan siber.
• Tiongkok mempertimbangkan untuk membatasi akses asing ke model AI terkemuka.
• Anthropic menemukan bahwa sebagian fungsi LLM menyerupai aspek kesadaran manusia.
• Standar keamanan AI sedang menurun, kata laporan.

Minggu ini, kami memiliki beberapa berita menarik di sini di Fortune. Kami meluncurkan vodcast baru bernama Fortune AI Weekly, yang saya co-host bersama Bea Nolan. Anda bisa menganggapnya sebagai perpanjangan dari apa yang kami lakukan di Eye on AI—membawa pemikiran kami tentang berita AI terbesar minggu ini, menyoroti beberapa pelaporan AI hebat dari Fortune, dan terkadang menghadirkan wawancara eksklusif dengan pembangun, pemikir, pendiri, pendana, dan pemimpin AI kunci. Anda dapat menonton vod di saluran YouTube kami di sini.
***
Di antara berita AI yang menjadi headline minggu lalu adalah kemarahan Alex Karp terhadap perusahaan model fondasi. CEO Palantir itu tampil di CNBC pada hari Rabu dengan dalih membahas kemitraan baru antara Palantir dan Nvidia untuk menyediakan “infrastruktur AI berdaulat” kepada pemerintah AS dan industri kritis. Kolaborasi ini melibatkan penggunaan model open source Nemotron dari Nvidia bersama dengan Platform Kecerdasan Buatan (AIP) Palantir yang merupakan lapisan aplikasi yang menghubungkan model-model tersebut ke data, serta menawarkan keamanan dan tata kelola data. Namun bukan itu yang akhirnya menjadi headline. Sebaliknya, setelah mengawali komentarnya dengan mengatakan “saya tidak menyindir” OpenAI dan Anthropic, Karp justru melontarkan bayangan setingkat Mordor ke arah laboratorium AI terdepan.
“Ada sesuatu yang sangat salah,” katanya. “Pandangan dasar di kalangan perusahaan di negara ini adalah ‘Saya akan santai-santai saja dan membuang waktu dengan token, saya tidak akan mendapatkan nilai apa pun, dan mereka akan mendapatkan IP saya.'” Dia kemudian mengatakan ini bukan sindiran tetapi “pelaporan.” Dia berulang kali menegaskan poin-poin ini, mengatakan bahwa perusahaan tidak mendapatkan nilai dari token yang mereka beli dari laboratorium terdepan dan bahwa mereka berisiko mentransfer IP bisnis penting mereka ke vendor AI ini.
Jadi apakah Karp ada benarnya? Yah, sedikit. Tapi hanya jika Anda memicingkan mata. Dan banyak dari apa yang dikatakan Karp entah mementingkan diri sendiri, tidak akurat, atau kontradiktif—atau ketiganya.

ROI tertinggal, tetapi tidak ada yang ‘santai-santai’ saja tentang hal itu

Memang benar banyak perusahaan besar khawatir bahwa mereka belum melihat pengembalian investasi yang cukup dari penerapan AI dan cemas tentang berapa biaya token bagi mereka, terutama ketika menggunakan model AI paling canggih dalam kasus penggunaan agen. (Fakta bahwa banyak perusahaan besar khawatir tentang hal ini bertentangan dengan klaim Karp bahwa mereka hanya “santai-santai” saja.) Tetapi tentu saja beberapa perusahaan melaporkan nilai—terutama dalam pengembangan perangkat lunak dan layanan pelanggan. Dan, bagi mereka yang tidak, seringkali karena mereka belum memprioritaskan kasus penggunaan yang paling penting secara strategis atau mencari tahu cara merekayasa ulang alur kerja mereka di seluruh perusahaan untuk memanfaatkan teknologi sebaik mungkin.
Pada satu titik dalam wawancara CNBC, Karp berkata “mengapa mereka mengenakan biaya untuk token, jika itu sangat berharga?” Dia menyarankan bahwa jika model fondasi bekerja sebaik yang diklaim oleh vendor model AI, akan lebih baik menawarkan untuk menyelesaikan seluruh tugas untuk pelanggan dan mengenakan persentase dari nilai yang diperoleh. Ini, pada kenyataannya, adalah bagaimana Palantir menetapkan harga penawarannya (jadi itulah bagian yang mementingkan diri sendiri). Dan inilah yang mulai dilakukan oleh banyak perusahaan konsultan yang menjual layanan AI. Tetapi ini jelas bukan cara perangkat lunak secara tradisional diberi harga. Juga masuk akal bagi teknologi tujuan umum untuk menggunakan model bisnis berbasis nilai. Bagaimanapun, perusahaan listrik mengenakan biaya kepada Anda untuk setiap unit listrik yang Anda gunakan, bukan untuk nilai dari apa yang Anda lakukan dengan elektron-elektron tersebut. Microsoft, misalnya, mengenakan biaya tetap kepada Anda untuk menggunakan Microsoft Word dan Excel—perusahaan itu tidak mencoba mengenakan biaya persentase dari kesepakatan yang Anda menangkan karena deck PowerPoint Anda mengesankan dalam rapat presentasi.
Plus, jika Karp mengatakan salah satu keluhan utama perusahaan tentang laboratorium AI terdepan adalah bahwa mereka “mencuri alpha” (yaitu mencuri pengetahuan yang memberi bisnis keunggulan kompetitifnya), itu akan menjadi kekhawatiran yang lebih besar dengan model bisnis di mana perusahaan AI melakukan tugas untuk pelanggan daripada menjual token kepada mereka. (Ini adalah hal kontradiktif lain yang dia katakan.) Beberapa perusahaan konsultan dan beberapa penyedia cloud memang menawarkan layanan terkelola untuk pelanggan—tetapi pelanggan biasanya hanya bersedia mengalihdayakan tugas-tugas yang mereka anggap non-inti bagi bisnis mereka.

Sedikit bukti laboratorium AI ‘mencuri alpha’

Mengenai argumen Karp bahwa laboratorium terdepan mencuri IP dari pelanggan, tidak ada bukti bahwa ini benar secara harfiah, setidaknya tidak seperti yang tampaknya disarankan Karp. Semua vendor AI terkemuka memiliki kebijakan yang menyatakan bahwa mereka tidak memiliki akses langsung ke prompt, output, atau data pelanggan perusahaan dan bahwa mereka tidak menggunakan interaksi ini untuk melatih model masa depan, kecuali jika pelanggan tersebut secara khusus memilih untuk mengizinkan vendor melakukannya. (Lebih lanjut tentang kasus khusus itu sebentar lagi.)

Baik OpenAI maupun Anthropic memang berbicara tentang penggunaan data pelanggan yang dianonimkan dan dideidentifikasi untuk melakukan penelitian ekonomi tentang bagaimana model mereka digunakan, tetapi bahkan ini hanya dilakukan untuk lalu lintas pesan yang masuk ke layanan konsumen mereka atau API langsung mereka, dan bukan untuk pelanggan yang mengakses model melalui layanan cloud aman, seperti Microsoft Azure, Amazon Bedrock, atau Google Vertex–yang merupakan cara sebagian besar perusahaan besar mengakses model-model ini.
Jadi, bagi sebagian besar bisnis besar, terutama sebagian besar bisnis besar yang tidak bergerak di sektor teknologi, apa yang diklaim Karp adalah omong kosong. Jika Anda adalah Archer-Daniels-Midland atau Boeing, kecil kemungkinan Anthropic akan mencuri IP Anda dan mulai memproduksi jagung atau menghasilkan jet jumbo.

Namun, beberapa perusahaan memiliki alasan untuk khawatir—Palantir adalah salah satunya

Tetapi ada kategori bisnis di mana Karp mungkin ada benarnya. Anthropic, OpenAI, dan Google DeepMind semuanya memiliki “mitra desain” di berbagai industri, dan mitra-mitra ini sering mendapatkan akses awal untuk membantu menguji model terbaru yang sedang dikerjakan oleh laboratorium AI ini. Dan sebagai bagian dari kemitraan tersebut, laboratorium-laboratorium ini sering kali memiliki akses jauh lebih besar ke informasi tentang bagaimana perusahaan-perusahaan tersebut menggunakan model.
Setidaknya ada satu kasus di mana akses tersebut mungkin telah digunakan oleh salah satu laboratorium AI untuk membangun produk pesaing. Kasus tersebut melibatkan Anthropic dan Figma. Seperti yang pertama kali dilaporkan oleh The Information bulan lalu, Anthropic telah berkolaborasi dengan Figma dan Canva dalam pengembangan alat Claude for Design. Mike Kreiger, kepala produk Anthropic, bahkan memiliki kursi di dewan direksi Figma. Tetapi kemudian Figma menarik diri dari peluncuran dan Kreiger tiba-tiba mundur dari dewan direksi setelah Figma menemukan bahwa produk yang dibangun Anthropic bersaing jauh lebih langsung dengan fitur produknya sendiri daripada yang diakui Anthropic, setidaknya menurut pandangan Figma. Menurut pelaporan The Information, CEO Figma Dylan Field memberitahu peserta acara privat yang diselenggarakan Sequoia Capital bahwa Anthropic “tidak selalu jujur dalam komunikasi mereka” dengan Figma tentang cakupan alat desain Claude.

Kasus-kasus lain yang diduga vendor AI menggunakan akses ke data pelanggan untuk kemudian bersaing dengan pelanggan tersebut berasal dari sumber yang memiliki kepentingan pribadi—banyak di antaranya adalah investor di Palantir. Kapitalis ventura Jason Calacanis, pendukung awal Palantir, menduga bahwa Anthropic menggunakan data dari Cursor, asisten pengkodean AI yang merupakan pengguna berat model Claude Anthropic, untuk membantu mengembangkan Claude Code, produk viral Anthropic yang kemudian sebagian besar menggeser popularitas Cursor. Kapitalis ventura Chamath Palihapitiya telah menunjukkan bahwa Anthropic bermitra dengan Eli Lilly dan perusahaan farmasi lainnya, sebelum baru-baru ini mengatakan bahwa mereka berniat memulai program pengembangan obat sendiri. (Anthropic menggambarkan ini sebagai cara untuk mengasah alat Claude of Science mereka sendiri dan tidak jelas apakah Anthropic akan mencoba mengkomersialkan kandidat obat sendiri atau akan bermitra dengan perusahaan farmasi untuk bagian proses tersebut.) Selain menjadi investor awal Palantir, Palihapitiya adalah co-host podcast “All In” bersama David Sacks, yang juga tidak menyukai Anthropic.
Meskipun demikian, tuduhan bahwa Anthropic berniat untuk benar-benar memasuki semua vertikal ini secara langsung, daripada sekadar membangun alat yang akan membuat model mereka lebih mudah diterapkan ke vertikal ini—yang jelas-jelas bukan hal yang sama—terdengar terlalu jauh. Sekali lagi, jika Anda adalah sebagian besar perusahaan Fortune 500, Anthropic atau OpenAI tidak akan mulai bersaing head-to-head dengan Anda.
Faktanya, contoh terbaik laboratorium AI terdepan yang mencuri data untuk membangun produk pesaing berasal dari industri saya sendiri, bisnis media. Di sini laboratorium AI terdepan pasti telah menyedot tumpukan besar materi berhak cipta untuk melatih model AI yang sering bersaing langsung dengan publikasi sebagai sumber informasi faktual. (Hal yang sama dapat dikatakan untuk penerbitan, musik, dan seni rupa.) Tetapi entah mengapa saya tidak berpikir itulah yang dimaksud Karp.
Seorang teman di bidang keuangan menyarankan bahwa apa yang benar-benar mengganggu Karp—serta mengganggu beberapa eksekutif yang biasanya lebih tenang, seperti Satya Nadella dari Microsoft, yang menariknya belakangan ini membuat klaim serupa tentang sifat rakus laboratorium AI terdepan —bukanlah model bisnis Anthropic dan OpenAI, tetapi IPO mereka yang kemungkinan besar akan terjadi. IPO tersebut pasti akan sangat diminati. Dan untuk mengumpulkan likuiditas yang diperlukan untuk membeli saham OpenAI atau Anthropic, investor institusi mungkin akan menjual nama-nama teknologi lain—nama-nama teknologi seperti, ya, Palantir. Ingat, hanya karena Anda paranoid, tidak berarti mereka tidak berusaha menjatuhkan Anda.
Dengan demikian, berikut berita AI lainnya.
Jeremy Kahn
[email protected]
@jeremyakahn

Cerita ini awalnya ditampilkan di Fortune.com