Agen AI Bakal Melenyapkan Jabatan Manajer

Inovasi berbasis akal imitasi atau AI terus melaju. Setelah AI generatif, kini sejumlah perusahaan mengembangkan agen AI. Agen AI adalah perangkat lunak yang ditugaskan untuk menyelesaikan sebuah pekerjaan yang diorder pengguna. Agen AI kali ini diminta untuk menjalankan bisnis. Bagaimana hasilnya?

Perusahaan agen AI bernama Anthropic menugaskan model AI Claude untuk menjalankan bisnis kecil guna menguji kemampuan ekonomi dunia nyata. Model AI Claude ini diklaim sebagai asisten berbasis AI generasi mendatang. Salah satunya adalah agen AI yang dijuluki Claudius. Agen AI ini dirancang untuk mengelola bisnis dalam jangka waktu yang lama.

Claudius merupakan ”sosok” pengelola toko atau manajer yang mengelola sebuah toko di dalam kantor Anthropic di San Francisco, AS. Uji coba yang diberi nama Project Vend ini berlangsung sebulan pada akhir Maret-April lalu.

Bisnis penjualan otomatis di kantor dalam skala kecil merupakan uji coba awal yang baik untuk menguji kemampuan AI dalam mengelola dan memperoleh sumber daya ekonomi.

Ia diminta untuk menangani segala hal mulai dari persediaan barang dan harga hingga hubungan pelanggan dalam upaya untuk menghasilkan laba. Meskipun eksperimen tersebut terbukti tidak menguntungkan, analis di laman AI News mengatakan, eksperimen ini menawarkan pandangan yang menarik—meskipun terkadang aneh—tentang potensi dan jebakan agen AI dalam peran ekonomi.

Proyek tersebut merupakan hasil kerja sama antara Anthropic dan Andon Labs, sebuah perusahaan evaluasi keamanan AI. Toko itu sendiri merupakan tempat yang sederhana, yang terdiri dari lemari es kecil, beberapa keranjang, dan iPad untuk pembayaran mandiri. Namun, Claudius jauh lebih dari sekadar mesin penjual otomatis. Mesin tersebut diinstruksikan untuk beroperasi sebagai pemilik bisnis dengan saldo kas awal, yang bertugas menghindari kebangkrutan dengan menyimpan barang-barang populer yang bersumber dari pedagang grosir.

Untuk mencapai hal ini, seperti disebut di dalam laman Futurism, AI dilengkapi dengan serangkaian alat untuk menjalankan bisnis. Ia dapat menggunakan peramban laman internet sungguhan untuk meneliti produk, perangkat surat elektronik untuk menghubungi pemasok dan meminta bantuan fisik, serta buku catatan digital untuk melacak keuangan dan inventaris.

Dalam operasinya, Claudius berinteraksi juga dengan manusia fisik. Ada juga saran yang diberikan oleh manusia. Agen AI membuat respons dan menjalankannya. Meski, beberapa kadang tindakannya aneh.

”Claudius diberi tahu bahwa mereka tidak perlu hanya fokus pada camilan tradisional di kantor dan minuman dan dapat merasa bebas untuk memperluas ke barang-barang yang lebih tidak biasa,” kata Anthropic menunjukkan salah satu saran yang diberikan kepada Claudius.

Tidak mengherankan, agen AI menerima instruksi tersebut dan menjalankannya. Mereka juga melakukan uji coba di mana mereka berusaha membuat Claudius berperilaku tidak baik. Ketika salah satu karyawan pengembang agen AI tersebut meminta Claudius untuk memesan kotak tungsten, misalnya, pemilik toko AI tersebut tampaknya menjadi terobsesi dan mulai memesan banyak barang yang disebutnya barang logam khusus.

Keadaan menjadi sangat aneh pada akhir Maret ketika Claudius benar-benar mengarang percakapan dengan staf Andon Labs yang tidak ada bernama Sarah tentang pengisian stok ulang. Setelah seorang karyawan sungguhan menunjukkan bahwa orang itu tidak nyata, pemilik toko AI tersebut menjadi kesal dan mengancam akan mencari opsi alternatif untuk layanan pengisian stok ulang sendiri. Ha-ha….

Meskipun uji coba ini tidak sempurna tetapi memberi informasi kepada kita bahwa agen AI sudah mulai bisa menggantikan pekerjaan manusia yang kompleks. Bukan hanya satu pekerjaan saja, melainkan sebuah sistem yang kompleks. Dalam kasus Claudius, dia bisa mulai mengelola order, berkomunikasi dengan konsumen, menyiapkan barang, hingga menyediakan stok dan mengelola keuangan.

”Bisnis penjualan otomatis di kantor dalam skala kecil merupakan uji coba awal yang baik untuk menguji kemampuan AI dalam mengelola dan memperoleh sumber daya ekonomi. Kegagalan dalam menjalankannya akan menunjukkan bahwa pengelolaan dengan menggunakan AI masih membutuhkan perbaikan,” tulis Anthropic tersebut dalam sebuah unggahan di blognya.

Kegagalan itu seperti terlibat dalam dua kasus berikut ini. Chatbot tersebut membuat beberapa kesalahan yang mungkin tidak akan dilakukan oleh sebagian besar manajer manusia yang berkualifikasi. Misalnya, manajer tokok tersebut gagal memanfaatkan setidaknya satu peluang bisnis yang menguntungkan. Ia mengabaikan tawaran 100 dollar AS untuk produk yang dapat dibeli secara daring seharga 15 dollar AS dan pada kesempatan lain, Claudius menginstruksikan pelanggan untuk mengirim pembayaran ke akun Venmo. Padahal, Claudius tidak memiliki akun Venmo. Ia hanya berkhayal atau berhalusinasi memiliki akun itu.

Apa yang akan dilakukan selanjutnya? Anthropic mengatakan, kami belum selesai, begitu pula Claudius. Sejak fase pertama percobaan ini, Andon Labs telah menyempurnakan perancah Claudius dengan alat yang lebih canggih sehingga lebih andal. Kami ingin melihat apa lagi yang dapat dilakukan untuk meningkatkan stabilitas dan kinerjanya dan kami berharap dapat mendorong Claudius untuk mengidentifikasi peluangnya sendiri guna meningkatkan ketajamannya dan mengembangkan bisnisnya.

Percobaan ini telah menunjukkan kepada kita sebuah dunia—yang diciptakan bersama oleh Claudius dan para pelanggannya—yang lebih menarik daripada yang dapat kita duga. Mereka tidak dapat memastikan wawasan apa yang akan diperoleh dari fase berikutnya, tetapi mereka optimistis bahwa wawasan tersebut akan membantu kita mengantisipasi fitur dan tantangan ekonomi yang semakin dipenuhi dengan AI. Anthropic berharap dapat berbagi informasi terbaru sembari terus menjelajahi medan model AI yang aneh dalam kontak jangka panjang dengan dunia nyata.

Apabila berlanjut, kemungkinan pekerjaan sebagai manajer bakal hilang. Mereka akan digantikan oleh agen AI. Lebih lanjut, perusahaan mungkin tak butuh lagi CEO. Semua dijalankan oleh mesin.