HITL dan HOTL: Analogi Kontrol Lalu Lintas Udara untuk Agentic AI
Pertama dalam serangkaian artikel tertulis dan sekarang dalam beberapa wawancara,
Bagian ketiga dan terakhir dari wawancara video eksklusif Bryant dengan Teknologi Farmasi® menangani proses yang dikenal sebagai human-in-the-loop (HITL) dan human-on-the-loop (HOTL), dan kaitannya dengan alur kerja AI. Bryant menggunakan persamaan kontrol lalu lintas udara untuk menjelaskannya.
“Bayangkan agen dalam sistem multi-agen Anda seperti pesawat terbang,” kata Bryant dalam wawancara. “Jadi agen adalah pesawatnya, dan agen mempunyai otonominya sendiri untuk bertindak. Pengatur dalam analogi ini adalah manajemen lalu lintas udara. Jadi ini adalah lapisan koordinasi yang menetapkan aturan dan menetapkan batasan serta berbagi konteks, dan ini menangani semua pesawat di udara dengan volume dan kecepatan serta kompleksitas yang di luar kemampuan manusia, dan itulah sebabnya kita memiliki sistem kompleks yang menjaga pesawat-pesawat tersebut tetap di udara melakukan apa yang seharusnya mereka lakukan.”
HITL tidak menggantikan HOTL dalam analogi ini, jelas Bryant; HITL tetap ada.
“Ada titik-titik yang disengaja dalam proses di mana Anda mendesain manusia, dan dalam kasus ini, misalnya, pilotnya adalah manusia, dan pilotnya yang menerbangkan pesawat,” katanya. “Mereka lepas landas, mendaratkan pesawat. Mereka ada di sana. Itulah peran mereka. Namun dengan HOTL, Anda memiliki manusia yang tidak hanya menjadi pilot yang dapat merespons hal-hal yang tidak terduga, namun Anda juga memiliki manusia di menara kendali yang bahkan mengendalikan sistem manajemen lalu lintas udara itu sendiri.”
Bagian ketiga dari wawancara Bryant dapat dilihat di atas. Tonton bagian pertama
Tiga artikel yang ditulis oleh Bryant tersedia
Salinan
Catatan Editor: Transkrip ini adalah rendering konten audio/video asli yang sedikit diedit. Ini mungkin mengandung kesalahan, bahasa informal, atau kelalaian seperti yang diucapkan dalam rekaman aslinya.
Sebagian besar dari apa yang dipasarkan sebagai AI agen saat ini adalah AI uap atau, sejujurnya, palsu. Jadi pola pikir dan perubahan desain di sini sangatlah penting. Anda harus mendesain untuk platform terbuka. Anda harus merancang untuk interoperabilitas, penemuan yang disukai, dan jika Anda membangun taman bertembok sekarang, Anda membatasi kemungkinan tersebut. Anda membatasi seluruh perusahaan. Nanti, Anda benar-benar akan menembak kaki Anda sendiri.
Jadi, Anda memulai dengan pola pikir platform terbuka, orkestrasi bersama, tata kelola bersama, kemampuan agen bersama. Semuanya tergantung pada pola pikir dan berbagi, dan platform dirancang untuk interoperabilitas. Jadi, Anda ingin menghindari ekosistem mini-AI yang tradisional dan semacam departemen. Sungguh, itu akan menjadi utang teknis.
Jadi menurut saya penting untuk diketahui bahwa secara internal, tim dalam kebun ini akan membangun agen mereka sendiri, baik secara eksperimental, yang sehat, atau mungkin karena, untuk penggunaan internal, mereka ingin mempromosikan toko aplikasi agen dalam perusahaan, yang mana agen terbaik muncul yang memecahkan masalah tertentu, rasa frustrasi yang diulang-ulang dengan elegan. Sekali lagi, itu berguna, tetapi nilai perusahaan sebenarnya di sini memerlukan jaringan ikat.
Kualitas data tetap penting, dan salah satu alasan terbesarnya adalah bukan hanya buruk masuk, buruk keluar, tetapi ketika Anda berbicara tentang sistem yang memiliki tingkat otonomi yang dapat dikontrol, tanpa kualitas data tersebut, Anda akan melihat peningkatan nilai, tetapi juga potensi kesalahan. Mereka bisa bertambah.
HITL, human in the loop, adalah tempat manusia dirancang untuk dimasukkan ke tempat-tempat tetap dalam suatu proses. Itu adalah pilihan desain, sedangkan HOTL, human on the loop, bersifat dinamis, sehingga manusia pada akhirnya mengendalikan sistem, namun mereka juga dipanggil oleh sistem, misalnya ketika ada risiko tertentu atau ketidakpastian tertentu, atau ketika ada anomali yang muncul.
Jadi model pengatur lalu lintas udara, menurut saya, yang sudah ada jauh sebelum GenAI, menangkap konsep ini, menurut saya, cukup baik di sini. Dalam analoginya, bayangkan agen dalam sistem multi-agen Anda seperti pesawat terbang. Jadi agen adalah pesawatnya, dan agen mempunyai otonominya sendiri untuk bertindak. Orkestra dalam analogi ini adalah manajemen lalu lintas udara. Jadi ini adalah lapisan koordinasi yang menetapkan aturan dan menetapkan batasan serta berbagi konteks, dan ini menangani semua pesawat di udara dengan volume dan kecepatan serta kompleksitas yang di luar kemampuan manusia, dan itulah sebabnya kita memiliki sistem kompleks yang membuat pesawat-pesawat tersebut tetap di udara melakukan apa yang seharusnya mereka lakukan.
Sekarang, model protokol konteks, MCP, sejujurnya, adalah cara menghubungkan data yang dibagikan. Jadi pesawat-pesawat ini berbagi data tentang posisinya, tentang kecepatannya, kecepatannya, dan tentang identitasnya, tentang siapa mereka, dan itulah lapisan umum yang memungkinkan pesawat-pesawat ini, serta orkestratornya, untuk benar-benar memahami satu sama lain. Kemudian Anda memiliki protokol. Itu adalah protokol tentang berbagi data. Ini benar-benar adaptor universal untuk data.
Ada protokol lain tentang bagaimana agen dapat terhubung satu sama lain daripada terhubung ke data. Dan dalam analogi kita, ini adalah penghindaran tabrakan. Secara efektif, pesawat dapat melakukan negosiasi secara langsung tanpa kehadiran manusia. Kamu mendaki, aku turun. Dan hal itu dilakukan sesuai aturan sistem, dalam otonomi yang terbatas.
Sekarang dengan HITL dan HOTL, Anda menyebutkan pertanyaannya, versi HITL di sini, karena HITL tidak digantikan oleh HOTL. HITL tetap ada. Ada titik-titik yang disengaja dalam proses di mana Anda mendesain manusia, dan dalam kasus ini, misalnya, pilotnya adalah manusia, dan pilotnya menerbangkan pesawat. Mereka lepas landas, mereka mendaratkan pesawat. Mereka ada di sana. Itulah peran mereka. Namun dengan HOTL, Anda memiliki manusia yang tidak hanya menjadi pilot yang dapat merespons hal-hal yang tidak terduga, namun Anda juga memiliki manusia di menara kendali yang bahkan mengendalikan sistem manajemen lalu lintas udara itu sendiri. Jadi manusia mengawasi keseluruhan gambarannya, dan mereka mengambil tindakan ketika ambang batas menuntutnya. Dan itulah model AI agen di bidang farmasi.
