Dalam seri kedua dari tiga bagian ini, an
Otonomi bukanlah pilihan biner, kata Bryant di bagian pertama wawancara video ini Teknologi Farmasi®, dan dapat bekerja selaras dengan akuntabilitas meskipun kedua karakteristik tersebut tampaknya tidak sejalan. Dalam video kedua ini, Bryant memperluas sudut pandang tersebut dan menambahkan bahwa AI agen otonom tidak dapat dan tidak akan mengambil alih semua proses.
“Saya bilang ini bukan biner, dan yang saya maksud adalah bahwa otonomi penuh benar-benar merupakan zona larangan untuk farmakovigilans,” kata Bryant. “Dan sejujurnya, otonomi penuh tidak diinginkan atau bahkan akan dilarang jika ada hal-hal penting, seperti pilihan atau etika atau hukum. Hal ini cocok untuk beberapa bidang. Cocok untuk bidang yang hasilnya dapat diubah, menurut saya itulah karakteristik utamanya.”
Bryant juga mengatakan bahwa agen-agen ini unggul dalam penemuan melalui inferensi dibandingkan pencarian.
“Bagi kami, hal ini meningkatkan keselamatan tim, karena Anda kini dapat mengeksplorasi berbagai kemungkinan, terutama dari sinyal lemah,” katanya. “Tetapi sinyal-sinyal lemah ini mungkin membawa banyak wawasan. Jadi kita kini bergerak melampaui pencocokan pola, yang, seperti saya katakan sebelumnya, masih sangat berharga, sangat kuat, namun kini kita benar-benar bergerak menuju generasi wawasan yang sebenarnya.”
Bagian kedua dari wawancara Bryant dapat dilihat di atas. Tonton bagian pertama
Tiga artikel yang ditulis oleh Bryant tersedia
Salinan
Catatan Editor: Transkrip ini adalah rendering konten audio/video asli yang sedikit diedit. Ini mungkin mengandung kesalahan, bahasa informal, atau kelalaian seperti yang diucapkan dalam rekaman aslinya.
Saya bilang ini bukan biner, dan yang saya maksud adalah bahwa otonomi penuh benar-benar merupakan zona larangan untuk farmakovigilans. Dan sejujurnya, otonomi penuh tidak diinginkan atau bahkan dilarang jika ada hal yang penting, seperti pilihan, etika, atau hukum. Sangat cocok di beberapa domain. Ini cocok untuk domain yang hasilnya dapat dibalik, menurut saya itulah karakteristik utamanya. Dan terdapat banyak contoh mengenai hal tersebut, misalnya penemuan ilmiah adalah contoh dari hal tersebut yang hasilnya dapat dibalik.
Namun yang terpenting di sini adalah adanya koordinasi yang dilakukan oleh orkestrator. Orkestra memiliki otonomi yang mengoordinasikan kemampuan, mengelola konteks, memutuskan kapan akan menjalankan atau meningkatkan atau menghentikan sepenuhnya kendali transisi ke manusia. Dan otonomi terbatas tersebut memastikan bahwa, ya, Anda dapat mengantisipasi beberapa variabilitas, namun untuk alasan yang baik, karena Anda akan mendapatkan nilai lebih dari hal tersebut, namun hal tersebut terkendali, sehingga membuat perilaku genetik dapat diatur, dan hal ini sangat penting dalam keamanan obat. Jadi otonomi dan akuntabilitas. Memang terdengar seperti sebuah paradoks, namun bagi kami, hal ini dapat diselesaikan, dan keduanya dapat hidup berdampingan.
Ini terjadi dengan cepat. Kemampuan ini tidak melambat. Kami tidak melihat dataran tinggi terbentuk pada saat ini. Dan di sini kita benar-benar berada di domain tempat mesin berpikir, dan mereka tidak lagi melakukan pencarian. Anda menyebutkan bahwa mereka berpikir, mereka benar-benar berpikir, tetapi dalam berpikir, mereka melakukan simulasi, mereka berpikir ke depan, mereka mengeksplorasi pilihan, dan mereka menghasilkan jalur yang menurut saya pada dasarnya sangat kreatif.
Dan jalur kreatif ini tidak dikodekan dalam instruksi, dan tidak eksplisit dalam materi sumber yang ditemukan, dan itu adalah salah satu bagian penting dari penemuan, dan tidak mungkin mesin bisa berpikir, menurut saya hal itu mungkin terdengar seperti fiksi ilmiah beberapa waktu yang lalu, tapi di sini kita memilikinya dalam kehidupan sehari-hari, Anda dapat mengakses alat konsumen dan melihat pemikiran berantai panjang. Anda dapat melihat refleksi yang lebih dalam ini. Anda dapat melihat eksplorasi skenario dan agen ini.
Pada akhirnya, mereka juga menguji hipotesis. Mereka dapat memikirkan jalur-jalur ini, dan mereka dapat mengantisipasi permasalahan serta mempertimbangkan konsekuensinya. Jadi ini sangat kaya akan data, namun juga merupakan proses yang sangat kreatif, dan ini bukan sekadar pengambilan lagi. Mereka menghubungkan sinyal yang jarang dan lintas domain. Inilah yang saya maksud dengan penemuan, yang tidak bisa Anda peroleh dari satu sumber saja. Itu tidak dapat dikodekan di dalamnya secara langsung.
Jadi itu benar-benar penemuan melalui inferensi, bukan pencarian, karena ini memperluas kemungkinan dari masukan yang terbatas, inferensi, dan bukan pencarian. Dan bagi kami, hal ini meningkatkan tim keselamatan, karena kini Anda dapat menjelajahi berbagai kemungkinan, terutama dari sinyal lemah. Namun sinyal lemah ini mungkin membawa banyak wawasan. Jadi kita sekarang bergerak melampaui pencocokan pola, yang, seperti saya katakan sebelumnya, masih sangat berharga, sangat kuat, namun kita sekarang benar-benar bergerak menuju generasi wawasan yang sebenarnya.
Generasi sudah unggul dalam menulis tingkat manusia. Maksud saya, LLM adalah singkatan dari model bahasa yang besar, yang seharusnya tidak mengherankan, karena bagus dalam bahasa. Jadi mereka luar biasa di sana. Kami tidak melihat adanya peningkatan agen dalam hal ini. Dan seperti yang saya sebutkan, mereka adalah agen yang sempit dan cakupannya sempit. Seperti agen pengkodean utama kami, misalnya, sangat cocok untuk memberikan kemajuan besar dalam penalaran tingkat ahli, dan itu akan sangat berharga.
Namun ketika Anda mulai berpikir tentang proses perusahaan yang melibatkan banyak peran dan banyak tujuan serta banyak keputusan dan interkonektivitas tersebut, di sinilah sistem multi-agen dengan orkestrasi akan benar-benar membuka potensi tersebut, dan orkestratorlah yang akan memastikan kesinambungan ini di seluruh agen. Saya yakin kita akan membahasnya nanti, tapi ini akan memberikan konteks. Hal ini akan memastikan bahwa mereka memahami tujuan, alasan untuk mencapai hal-hal tersebut, dan akan tetap rendah dalam seluruh tahapan proses.
