Apa yang masuk akal untuk diharapkan dari AI agen di farmasi? Bagian Tiga: Mengetuk Potensi AI Agen

Agen AI, Konsep Pengembangan Buatan Kecerdasan untuk Sistem Otomasi. Pengembang menggunakan laptop untuk pelatihan AI dan dasbor pembelajaran mesin. Teknologi Robot Smart dan Alur Kerja Agen | Kredit Gambar: © Deemerwha Studio – stock.adobe.com

Agen Kecerdasan Buatan (AI)-koordinasi otonom dari “agen” AI yang digerakkan oleh tujuan-bisa dibilang perubahan paling signifikan dalam AI sejak munculnya chatgpt karena potensi untuk mendefinisikan kembali cara organisasi beroperasi. Otonominya terletak pada kemampuan agen AI dan orkestra mereka (atau “agen super”) untuk bernalar, mensintesis pengetahuan, dan secara adaptif menentukan dan mengoordinasikan tugas dan interaksi yang diperlukan untuk mencapai tujuan.

Kemampuan untuk bernalar, mengantisipasi, menghasilkan wawasan dan pengetahuan, dan membuat keputusan yang lebih baik sangat cocok dengan ilmu kehidupan, sebuah industri yang kaya data, berat proses, dan kritis. Ketika daya tarik industri farmasi dengan AI agen tumbuh, seri tiga bagian ini (Access Parts One dan Two) mengeksplorasi potensi teknologi dalam R&D farmasi, diakhiri dengan pemeriksaan faktor-faktor keberhasilan kritis ini untuk memaksimalkan manfaat AI agen.

Faktor keberhasilan kritis

Setiap niat untuk menggunakan AI agen mengasumsikan bahwa organisasi memiliki visi strategis daripada taktis untuk AI; Satu memanfaatkan manfaat kumulatif teknologi di lebih dari satu kasus penggunaan. Ini pada gilirannya menuntut pendekatan yang lebih tertanam dan sistematis untuk menggunakan teknologi.

Inti dari sistem AI agen adalah untuk memberikan tujuan akhir dengan cara terbaik, diberdayakan untuk memilih cara terbaik untuk melakukan itu – meraih dan mengekstrapolasi dari segala sesuatu yang tersedia untuk itu. Agen AI memberikan manfaat dari penalaran otonom dan pengambilan keputusan, serta adaptasi berkelanjutan, dalam mencapai tujuan yang ditentukan. Total manfaat harus berkembang biak karena agen masing -masing terus mengasah apa yang mereka lakukan, berdasarkan pengurangan atau wawasan baru mereka sendiri.

Oleh karena itu, bahwa teknologi ini akan membutuhkan rencana menyeluruh dan mekanisme yang tepat untuk memperoleh manfaat yang optimal dan tepercaya sebagai gabungan antara alur kerja kabur dan agen secara kreatif berkolaborasi untuk memberikan secara optimal pada tujuan mereka. Tapi seperti apa ketentuan seperti itu?

Pemikiran holistik

Bagian kedua memperingatkan terhadap pendekatan “scattergun” untuk penyebaran AI – kebutuhan untuk berpikir di luar yang terkandung, kasus penggunaan niche untuk AI untuk memberikan sesuatu yang secara positif mengganggu dalam skala yang lebih luas. Bertahan dengan penyebaran case-by-case dari alat bertenaga AI akan membatasi manfaat yang tersedia. Forrester berbicara tentang risiko menjebak agen AI di “taman berdinding” (1).

Hanya dengan meruntuhkan tembok-tembok-tembok itulah perusahaan akan dapat memberikan perubahan langkah dalam pekerjaan yang mereka lakukan, dan mengubah dampak dari pekerjaan itu, sebagai hasil dari pengetahuan gabungan atau baru yang dibangun, misalnya, dari wawasan yang sebelumnya tidak dapat diakses.

Menerapkan AI agen untuk dampak yang lebih luas akan membutuhkan percakapan lintas disiplin antara prospek fungsi yang relevan. Ini juga akan membutuhkan masukan dari praktisi AI sejati dengan keahlian domain yang relevan untuk membantu mengembangkan visi dan menyusun rencana.

Freedom vs. Control: Menyerang keseimbangan

Dalam merancang agenda yang lebih luas untuk AI agen, juga perlu ada eksplorasi menyeluruh dari pertimbangan kepatuhan saat ini dan di masa depan untuk memastikan bahwa ketentuan yang tepat diperhitungkan sejak awal, mencakup standar etika dan kewajiban peraturan yang berkembang. Karena AI Agen memanfaatkan penalaran yang lebih lanjut untuk memutuskan cara terbaik untuk memenuhi tujuan, memiliki pagar untuk mengurangi risiko perilaku nakal akan sangat penting. Ini kadang -kadang disebut sebagai “otonomi terikat.”

Pertimbangkan risiko yang diperkuat dengan agen AI khusus, masing -masing dengan izin masing -masing di sekitar apa yang dapat mereka lakukan dan apa yang dapat mereka akses. Ini meningkatkan kebutuhan akan tata kelola data yang kuat dan kontrol privasi, terutama karena batas -batas kabur dan sebagai agen berkolaborasi dengan mulus dan adaptif (misalnya, dengan cara yang mungkin sulit diprediksi).

Namun, ada tantangan lebih lanjut jika perusahaan bergerak terlalu cepat untuk menjabarkan tata kelola. Untuk meninggalkan ruang untuk kasus penggunaan di masa depan, mereka harus menghindari terlalu preskriptif dan membatasi. Untuk menyediakan orkestrasi yang bertanggung jawab dari agen AI, perusahaan tidak hanya membutuhkan kerangka kerja multi-agen yang sesuai untuk tujuan (kendaraan untuk mengoordinasikan beberapa agen AI otonom untuk mencapai tujuan bersama), tetapi juga cara untuk memastikan hal ini terjadi dengan cara yang sesuai, transparan, dan tepercaya.

Sejumlah besar kerangka kerja multi-agen sudah ada untuk mendukung penciptaan sistem AI yang terdiri dari beberapa agen otonom yang berkolaborasi untuk menyelesaikan tugas-tugas kompleks. Contohnya termasuk kerangka kerja sumber terbuka seperti Autogpt dan orkestrasi multi-agen Langchain, yang mengoordinasikan beberapa agen AI untuk bekerja bersama pada tugas-tugas kompleks. Namun, kerangka kerja ini fokus pada dekomposisi dan koordinasi tugas; Mereka secara inheren tidak mengelola kepercayaan, pengambilan keputusan yang peka konteks, atau tata kelola yang sadar risiko. Ketentuan -ketentuan tersebut perlu dirancang sejak awal dan harus beradaptasi seiring perkembangan teknologi, kasus penggunaan baru muncul, dan peraturan berubah.

Pada saat yang sama, penting juga bahwa pengejaran kepatuhan statis dan kaku tidak menghambat potensi AI agen. Di sinilah pertimbangan desain menjadi penting dan di mana tata kelola perlu menjadi fasilitator serta pengontrol atau mitigator risiko.

Keterlibatan manusia masih akan menjadi bagian dari skenario AI agen, tetapi sekarang, mengingat sifat adaptif dari ekosistem AI multi-agen yang terkoordinasi, otonom, multi-agen, manusia dan AI keduanya harus menjadi peserta aktif dalam alur kerja (dengan kontrol utama manusia).

Sampai sekarang, ketika AI telah diterapkan pada kasus penggunaan yang ditentukan (dengan penekanan pada mengotomatisasi proses yang ditentukan), pengambilan keputusan dan intervensi manusia yang aktif telah terjadi pada poin yang ditunjuk (pengambilan keputusan manusia-in-the-loop). Dalam lingkungan AI yang lebih luas, otonom, dan adaptif, penekanannya menjadi lebih dari pengawasan keseluruhan (manusia pada kontrol kualitas loop). Di sini, hanya ketika kondisi tertentu muncul seorang ahli manusia memasuki gambar. Ini memberi agen AI kebebasan yang cukup untuk menemukan cara yang lebih baik dalam melaksanakan beban kerja untuk memenuhi tujuan mereka, tetapi tanpa risiko mereka berlebihan jika ada skenario kompleks yang sebelumnya tidak ditemui. Menentukan apa yang sesuai adalah masalah untuk setiap industri dan setiap organisasi.

Prinsip Panduan

Ada banyak hal yang benar. Jika memperhitungkan semua parameter ini menciptakan terlalu banyak kompleksitas, perusahaan berisiko merusak manfaat ekonomi apa pun. Aspirasi utama adalah bagi organisasi untuk membangun atau menggunakan setidaknya 80% dari kemampuan inti secara global, yang sesuai untuk semua aplikasi dan di semua geografi, baik sekarang maupun di masa depan (misalnya, karena teknologi dan peraturan terus berkembang). Ini cenderung melibatkan pengambilan pendekatan berbasis “prinsip”, daripada yang erat digabungkan dengan spesifik.

Filosofi pendekatan ini saat ini sedang dikembangkan oleh Dewan untuk Organisasi Internasional Ilmu Kedokteran (CIOMS) Kelompok Kerja, dalam konteks AI di Pharmacovigilance (2). Laporan rancangan komprehensifnya, yang baru-baru ini diserahkan untuk konsultasi industri, mengadopsi sikap manajemen risiko berbasis etika, yang dirancang untuk menciptakan landasan umum bagi regulator, industri, dan penyedia teknologi yang dapat mengikuti kecepatan kemajuan teknologi yang belum pernah terjadi sebelumnya yang sedang berlangsung di AI. Laporan CIOM menandakan bahwa usia pharmacovigilance yang digerakkan AI telah tiba.

Perspektif yang dianjurkan berkembang dari pendekatan manajemen risiko untuk mencakup pengawasan manusia, validitas dan ketahanan, transparansi, privasi data, keadilan dan kesetaraan, tata kelola dan akuntabilitas, dan pertimbangan di masa depan. Ini bukan tentang memulai dengan tata kelola dan mencoba menjabarkan ini sebagai sesuatu yang statis untuk didokumentasikan dan dibiarkan di rak. Sebaliknya, ini mendorong perusahaan farmasi untuk mengerjakan skenario dan tujuan yang AI agen dapat membantu menyelesaikan dan kemudian menerapkan prinsip pemikiran sistemik dan desain layanan. Idealnya, ini akan dimulai dengan pengembangan peta perjalanan – menempelkan sistem yang saling berhubungan tentang siapa yang memicu apa, kapan, dan mengapa.

Perspektif “AI-first” juga harus mencakup pertimbangan, seperti tingkat kebebasan yang harus diberikan oleh agen untuk mengejar tujuan masing-masing. Pendekatan desain yang berpusat pada manusia dapat terbukti sangat berharga di sini, mengembalikan penekanan untuk apa yang diperlukan bagi tim untuk dapat mempercayai pengejaran agen yang otonom terhadap suatu tujuan, misalnya. Setelah sepenuhnya dipahami, pertimbangan -pertimbangan itu dapat “dipanggang” ketentuan desain perjalanan untuk keterlibatan manusia.

Ketika perusahaan farmasi terlihat lebih dalam ke AI agen, mereka perlu bekerja dengan penyedia teknologi atau penasihat mereka untuk memastikan bahwa semua dimensi ini ditangani dengan tepat. Dalam kondisi tersebut, prospek membuka pengembalian investasi nyata dari sistem multi-agen AI terlihat menjanjikan.

Referensi

1. Joseph, L. dan Curran, R. Interoperabilitas adalah kunci untuk membuka masa depan Agen AI. Forrester.com25 Maret 2025 (diakses 25 September 2025).
2. Kelompok Kerja Cioms, Kecerdasan buatan dalam farmakovigilance; Draf; Cioms, Mei 2025.

Tentang penulis

Jason Bryant adalah wakil presiden, manajemen produk untuk AI & data di Arisglobal.