Model besar semakin masuk ke industri keuangan, dari semangat yang tinggi menjadi kembalinya rasionalitas

Sejak peluncuran ChatGPT, industri keuangan telah mengalami kecemasan yang cukup besar. Sektor yang percaya pada teknologi ini khawatir akan tertinggal oleh arus zaman yang berkembang pesat. Suasana tegang ini bahkan menyebar ke tempat-tempat yang tidak terduga. Seorang profesional dari industri mengungkapkan bahwa saat dia dalam perjalanan dinas di Dali pada bulan Mei, dia bahkan dapat menemui para pelaku keuangan yang membahas model besar di dalam kuil.

Namun, kecemasan ini perlahan mulai mereda, dan pola pikir orang-orang menjadi lebih jelas dan rasional. Seorang ahli perbankan menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari-Maret, ada perasaan cemas secara umum, takut tertinggal; pada bulan April-Mei, banyak yang membentuk tim untuk melakukan pekerjaan terkait; beberapa bulan berikutnya, mereka menghadapi kesulitan dalam mencari arah dan implementasi, menjadi lebih rasional; sekarang, mereka mulai memperhatikan perusahaan-perusahaan acuan, mencoba memverifikasi skenario aplikasi yang telah teruji.

Sebuah tren baru adalah, banyak lembaga keuangan telah mulai memberi perhatian pada model besar dari sisi strategis. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan yang terdaftar di pasar saham A yang secara jelas menyatakan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang menjelajahi aplikasi model besar. Dari tindakan terbaru, mereka juga sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sisi strategis dan desain tingkat atas.

Dari semangat yang tinggi hingga kembali ke rasionalitas

Pada awal tahun, ketika ChatGPT baru muncul, antusiasme industri keuangan terhadap model besar sangat tinggi, tetapi pemahaman tentang esensi dan cara penerapannya sebenarnya sangat terbatas. Beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi "mengambil keuntungan dari tren". Sementara itu, departemen teknologi di beberapa lembaga keuangan terkemuka aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Mereka umumnya berharap dapat membangun model besar sendiri, menanyakan tentang pembuatan dataset, pengadaan server, dan metode pelatihan.

Setelah Mei, situasinya secara bertahap berubah. Terpengaruh oleh kekurangan sumber daya komputasi, biaya yang tinggi, dan faktor lainnya, banyak lembaga keuangan mulai beralih dari sekadar berharap untuk membangun sendiri menjadi lebih memperhatikan nilai aplikasi. Sekarang setiap lembaga keuangan sedang memperhatikan penggunaan model besar oleh lembaga lain dan efeknya.

Secara spesifik, perusahaan dengan skala yang berbeda mengambil jalur yang berbeda. Lembaga keuangan besar yang memiliki data keuangan dan aplikasi yang sangat besar dapat memperkenalkan model dasar besar terkemuka, membangun model besar perusahaan sendiri, sekaligus menggunakan cara penyesuaian untuk membentuk model tugas khusus dalam bidang tertentu, cepat memberikan kekuatan pada bisnis. Lembaga keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara komprehensif, dengan memperkenalkan API cloud publik berbagai model besar atau layanan penyebaran privat sesuai kebutuhan, untuk langsung memenuhi kebutuhan bisnis.

Namun, karena industri keuangan memiliki persyaratan yang tinggi terkait kepatuhan data, keamanan, dan keandalan, beberapa orang berpendapat bahwa kemajuan penerapan model besar di industri ini sebenarnya sedikit lebih rendah dari yang diperkirakan pada awal tahun. Seorang ahli menyatakan bahwa mereka awalnya memprediksi bahwa industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara massal, tetapi kenyataannya adalah kecepatan penerapan di industri keuangan tidak secepat di industri hukum, perekrutan, dan sebagainya.

Untuk mengatasi berbagai keterbatasan dalam proses penerapan model besar, beberapa lembaga keuangan telah mulai mengambil langkah-langkah. Dalam hal komputasi, beberapa pemikiran solusi telah muncul di industri:

1. Membangun kekuatan komputasi secara langsung, biayanya lebih tinggi tetapi keamanannya baik, cocok untuk lembaga keuangan besar yang memiliki kekuatan yang kuat dan ingin membangun model besar untuk industri atau perusahaan.

2. Penerapan campuran kekuatan komputasi, dalam situasi di mana data sensitif tidak keluar dari domain, menerima panggilan antarmuka layanan model besar dari awan publik, sambil menangani layanan data lokal melalui penerapan privat. Cara ini memiliki biaya yang lebih rendah, cocok untuk lembaga keuangan kecil dan menengah yang memiliki dana relatif terbatas dan hanya menerapkan sesuai kebutuhan.

Untuk mengatasi masalah kelangkaan dan harga tinggi kartu GPU yang dihadapi oleh lembaga kecil dan menengah, pihak berwenang sedang mengeksplorasi pembangunan infrastruktur model besar yang ditujukan untuk industri sekuritas, mengonsolidasikan daya komputasi dan sumber daya model besar yang umum, sehingga lembaga keuangan kecil dan menengah juga dapat menggunakan layanan model besar, mencegah keterbelakangan teknologi.

Selain kekuatan komputasi, seiring dengan eksplorasi penerapan model besar, banyak lembaga keuangan juga memperkuat tata kelola data. Semakin banyak lembaga keuangan berskala menengah mulai membangun platform data tengah dan sistem tata kelola data. Beberapa ahli berpendapat bahwa membangun sistem tata kelola data yang lengkap dan platform teknologi data lake akan menjadi arah penting dalam pembangunan TI lembaga keuangan di masa depan.

Beberapa bank sedang menyelesaikan masalah data dengan menggabungkan model besar dan MLOps. Misalnya, sebuah bank besar menggunakan mode MLOps untuk membangun sistem siklus data model besar, yang mencapai otomatisasi seluruh proses, serta manajemen dan pemrosesan data heterogen multisumber yang efisien. Dilaporkan bahwa saat ini telah dibangun dan diakumulasikan 2,6TB dataset pelatihan berkualitas tinggi.

Memasuki dari Skenario Periferal

Selama lebih dari setengah tahun terakhir, penyedia layanan model besar dan lembaga keuangan telah secara aktif mencari skenario aplikasi, termasuk kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, pengendalian risiko cerdas, dan analisis kebutuhan.

Setiap lembaga keuangan memiliki gagasan yang kaya tentang model besar. Satu bank menyebutkan bahwa mereka telah menerapkan aplikasi di lebih dari 20 skenario, sementara bank lain menyatakan telah melakukan uji coba di lebih dari 30 skenario, dan ada perusahaan sekuritas yang sedang menjajaki integrasi model besar dengan platform manusia digital virtual yang telah diluncurkan sebelumnya.

Namun dalam proses implementasi yang sebenarnya, konsensus di industri adalah melakukan internal terlebih dahulu sebelum eksternal. Bagaimanapun, pada tahap saat ini, teknologi model besar belum matang, ada masalah seperti halusinasi, dan industri keuangan adalah bidang yang sangat diatur, dengan keamanan tinggi dan kepercayaan tinggi.

Ada saran dari para ahli bahwa lembaga keuangan harus memprioritaskan penggunaan model besar dalam analisis dan pemahaman teks serta gambar keuangan dalam skenario yang membutuhkan kecerdasan tinggi. Dalam bentuk asisten, kolaborasi manusia dan mesin dapat meningkatkan efisiensi kerja staf bisnis.

Saat ini, asisten kode telah diterapkan di sejumlah lembaga keuangan. Misalnya, sebuah bank telah membangun sistem pengembangan cerdas berbasis model besar, di mana proporsi kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, ada perusahaan yang mengembangkan plugin pemrograman berbasis model besar yang langsung disematkan ke dalam alat pengembangan internal.

Di bidang perkantoran pintar juga terdapat banyak contoh implementasi. Produk model besar keuangan tertentu telah diluncurkan di sebuah bank besar, dan telah dipromosikan ke ratusan cabang, dengan tingkat adopsi jawaban lebih dari 85%. Solusi terkait juga dengan cepat disalin ke bank dan lembaga keuangan lainnya.

Namun, para ahli industri menilai bahwa skenario-skenario yang telah luas diterapkan ini sebenarnya masih belum menjadi aplikasi inti dari lembaga keuangan. Model besar masih memiliki jarak tertentu untuk memasuki lapisan bisnis di industri keuangan. Skenario pemasaran, manajemen risiko, dan kepatuhan adalah bagian di mana model besar mungkin membawa perubahan, dan juga merupakan bagian dari kebutuhan pelanggan keuangan. Namun, saat ini pekerjaan-pekerjaan ini masih bergantung pada peningkatan kemampuan dari penyedia model besar yang mendasarinya.

Ada pakar yang memprediksi bahwa sebelum akhir tahun ini, akan ada sekumpulan informasi proyek pembangunan atau tender yang benar-benar menggunakan model besar dalam skenario bisnis inti lembaga keuangan.

Sementara itu, beberapa perubahan di tingkat desain puncak sedang dilakukan. Seluruh sistem cerdas dan digital di masa depan akan dibangun kembali berdasarkan model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam mendorong penerapan model besar. Pada saat yang sama, nilai dari model kecil tradisional juga tidak boleh diabaikan, dan harus memungkinkan model besar dan model kecil untuk bekerja sama.

Saat ini, banyak lembaga keuangan terkemuka telah membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi berdasarkan model besar. Kerangka ini umumnya memiliki dua karakteristik utama: pertama, model besar berfungsi sebagai kemampuan pusat, memanggil model tradisional sebagai keterampilan; kedua, lapisan model besar menggunakan strategi multi-model, membandingkan secara internal, dan memilih hasil yang terbaik.

Kekurangan talenta masih besar

Aplikasi model besar telah mulai membawa tantangan dan perubahan pada struktur personel di industri keuangan. Beberapa perusahaan fintech telah memecat lebih dari 300 analis data besar dari awal tahun hingga akhir Mei. Beberapa pekerjaan pengumpulan dan ringkasan informasi yang sebelumnya dilakukan oleh magang, sekarang dapat diselesaikan melalui model besar.

Namun, beberapa bank tidak ingin model besar menyebabkan pengurangan karyawan. Mereka berharap model besar dapat membawa peluang baru, meningkatkan kualitas layanan dan efisiensi kerja karyawan, sambil membebaskan sebagian karyawan untuk melakukan pekerjaan yang lebih bernilai tinggi.

Pertimbangan ini di satu sisi berasal dari stabilitas personel dan struktur, dan di sisi lain juga karena masih banyak kekurangan talenta di berbagai posisi dalam industri. Bank-bank besar memiliki banyak pekerjaan yang perlu diselesaikan, dan beberapa permintaan IT bahkan dijadwalkan sampai akhir tahun depan. Mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi dan kecepatan, bukan mengakibatkan pengurangan staf.

Lebih penting lagi, permintaan untuk model besar meningkat pesat, tetapi pasokan talenta yang langka dalam waktu singkat sulit untuk dipadankan. Seorang eksekutif bank menyatakan bahwa proporsi karyawan baru yang mereka rekrut baru-baru ini yang mempelajari bidang AI sangat tinggi, tetapi talenta yang memahami model besar sangat sedikit.

Beberapa ahli berpendapat bahwa permintaan bakat yang langsung menerapkan model besar relatif sederhana, terutama membutuhkan orang yang bisa mengajukan pertanyaan. Namun, jika ingin membangun model besar industri atau perusahaan sendiri, maka lembaga keuangan perlu memiliki tim teknis model besar vertikal yang terampil.

Untuk mengatasi kekurangan tenaga kerja, beberapa lembaga telah mengambil tindakan. Beberapa perusahaan bekerja sama dengan tim sumber daya manusia dari laboratorium bank untuk merancang serangkaian kursus pelatihan, seperti penyempurnaan Prompt, fine-tuning, operasi model besar, dan bekerja sama dengan berbagai departemen untuk membentuk kelompok proyek bersama, mendorong peningkatan kemampuan staf perusahaan.

Dalam proses ini, struktur personel lembaga keuangan juga akan mengalami beberapa penyesuaian dan perubahan. Pengembang yang menggunakan model besar mungkin lebih mudah bertahan di lingkungan ini dibandingkan dengan mereka yang tidak menggunakannya.

Secara keseluruhan, meskipun teknologi model besar memberikan peluang dan tantangan bagi industri keuangan, untuk benar-benar mewujudkan perubahan paradigma, masih diperlukan tim di dalam sistem keuangan yang dapat mengintegrasikan kebutuhan internal secara mendalam dan melakukan inovasi besar.