Ringkasan Menyelam:
- IBM siap menerapkan perangkat tata kelola untuk platform AI generatif Watsonx miliknya, perusahaan mengumumkan pada hari Selasa. Solusi watsonx.governance, yang saat ini masih dalam tahap pratinjau, akan tersedia secara umum pada bulan Desember, kata perusahaan tersebut.
- Toolkit ini memvalidasi masukan model bahasa besar dan memantau keluaran untuk melihat adanya bias, penyimpangan, kepatuhan, dan metrik lainnya, sehingga memberikan laporan dan kemampuan dasbor kepada pengguna yang dirancang untuk memenuhi peraturan keselamatan dan transparansi yang diantisipasi, menurut IBM.
- “Pendekatan kami dengan portofolio watsonx adalah menggabungkan model kami, model klien, model mitra, dan memiliki tata kelola yang membungkus semuanya untuk memastikan Anda memahami wawasan yang Anda peroleh,” Nick Otto, kepala strategis global kemitraan di IBM, kata CIO Dive.
Wawasan Menyelam:
Ketika pejabat pemerintah berusaha keras untuk mencegah pelanggaran AI melalui perintah eksekutif dan tindakan regulasi, dan para peneliti mempertimbangkan risiko dampak sosial yang lebih luas, vendor teknologi berupaya untuk mengatasi permasalahan yang lebih cepat dan praktis.
IBM bersandar pada pendekatan multimodel untuk melengkapi strategi cloud hybrid yang sudah mengakar dan membantu organisasi mengatasi hambatan adopsi.
“Akan ada banyak alat dan model berbeda yang akan memberikan jenis nilai berbeda untuk kasus penggunaan perusahaan berbeda, situasi berbeda di seluruh perusahaan Anda,” kata Otto.
Kemampuan tata kelola berfungsi di seluruh model IBM Granite , di rangkaian Azure OpenAI dan AWS Bedrock, dan di seluruh ekosistem kemitraan perusahaan. Ini adalah bagian dari rangkaian kemampuan yang lebih besar yang dibangun ke dalam platform watsonx, yang, selain beberapa LLM, mencakup asisten pengkodean AI dan studio pembangunan model perusahaan.
“Orang-orang menyadari pentingnya pendekatan hybrid, yaitu kemampuan untuk memanfaatkan kemampuan on-prem, hubungan cloud, dan memiliki pendekatan multimodel, termasuk model yang Anda buat dan model yang Anda gunakan,” kata Otto.
Untuk memungkinkan adopsi yang luas, kasus penggunaan harus didasarkan pada model yang dapat dipercaya untuk memberikan wawasan yang akurat dan melindungi data sensitif. Untuk kepatuhan terhadap peraturan dan ketenangan pikiran, organisasi memerlukan visibilitas terhadap sumber data model dan proses pengambilan keputusannya.
Satu-satunya cara untuk membuka kasus penggunaan penting yang melampaui back office adalah dengan memahami dari mana wawasan berasal dan memastikan tidak ada bias atau risiko keamanan, kata Otto.
Standar potensial baru saja mendapatkan pijakan.
Di luar peraturan privasi data, perlindungan kekayaan intelektual, dan protokol keamanan yang ada, tata kelola LLM sebagian besar merupakan praktik terbaik yang dipelajari dari teknologi sebelumnya dan kecelakaan yang tidak disengaja.
“Pemerintahan saat ini mirip dengan Wild West – setiap orang membangun hal-hal mereka sendiri,” kata Otto. “Tetapi, saya pikir hal ini akan berkembang dengan cepat dan akan ada dorongan untuk menerapkan standar.”
