Ketika perusahaan teknologi mulai memasukkan AI ke dalam semua produk mereka dan seluruh hidup kita, para arsitek teknologi revolusioner ini seringkali tidak dapat memprediksi atau menjelaskan perilaku sistem mereka. Ini mungkin aspek paling menakutkan dari misteri AI saat ini dan ini sudah menjadi rahasia umum di antara pembuat AI, meskipun tidak dipahami secara luas oleh orang lain. Dan itulah mengapa beberapa perusahaan melarang ChatGPT.
Apa yang terjadi
Selama beberapa dekade, kami telah menggunakan sistem komputer dengan input yang sama dan memberikan output yang sama. Sistem AI generatif, sebaliknya bertujuan untuk mengeluarkan banyak kemungkinan dari satu prompt. Kita dapat dengan mudah mendapatkan jawaban yang berbeda untuk pertanyaan yang sama.
Unsur kesalahan dalam AI generatif beroperasi pada skala yang melibatkan hingga triliunan variabel sehingga menyulitkan kita untuk membedah bagaimana teknologi sampai pada jawaban tertentu. Tentu pada akhirnya itu semua matematika sistem. Seperti saat mengatakan tubuh manusia semuanya adalah atom. Itu benar, namun ketika perlu menyelesaikan masalah dalam rentang waktu yang masuk akal itu tidak selalu membantu.
Karena pengembang AI tidak dapat dengan mudah menjelaskan perilaku sistem, bidang mereka saat ini beroperasi dengan tradisi lisan bersama seperti halnya dengan sains. Sistem ini dapat disetel menjadi relatif lebih atau kurang acak untuk memberikan variasi respons yang lebih luas atau lebih sempit.
Ini masih merupakan pertanyaan terbuka apakah pembuat AI akan dapat dari waktu ke waktu memberikan jawaban yang lebih dalam dan lebih baik untuk mengapa dan bagaimana sistem mereka bekerja. Tetapi semakin banyak perusahaan membangun AI seperti penggunaan Chatbots AI di Perbankan yang dapat mendokumentasikan pilihan dan jalur keputusannya dengan jelas, semakin besar kemungkinan kita mendapatkan jawaban itu.
