ChatGPT lagi? Gimana Cara Kerjanya Sih?!
Pada Artikel pertama, kita sudah membahas mengenai gambaran umum dari ChatGPT, mulai dari pengertian, kegunaan, fitur-fiturnya, hingga respon masyarakat mengenai kemunculan chatGPT.
Di artikel kedua ini, kita akan mulai berkenalan dengan cara ChatGPT bekerja. Bagaimana suatu teknologi dapat menjawab pertanyaan kita bahkan dapat membuat barisan kode. Sangat menarik jika kita menilik lebih jauh rahasia dari proses tersebut bukan? Jadi tanpa berlama-lama, we will jump in to this!
Bagaimana cara kerja ChatGPT?
ChatGPT merupakan sebuah language model yang termasuk ke dalam family Generative pre-trained transformer (GPT) yang dikembangkan oleh OpenAI. Language model ini dibangun menggunakan sekumpulan block machine learning model bernama Transformer.
Transformer umum diterapkan pada machine learning kompleks contohnya seperti Natural language processing (NLP). Berbeda dengan RNN yang lebih umum digunakan dalam NLP, Transformer dirancang untuk memproses sequential input, dimana dapat diartikan bahwa transformer mampu memproses seluruh masukan sekaligus sehingga ukuran batch yang digunakan jauh lebih besar. Hal ini memungkinkan transformer menggunakan jumlah data yang lebih besar serta waktu training yang lebih singkat tanpa harus membuat model kehilangan konteks dari data.
Penerapan transformer hanya bertugas menjelaskan bagaimana ChatGPT mengerti percakapan manusia, sehingga untuk dapat memberikan respon yang relevan dan layaknya manusia, digunakanlah reinforcement learning dimana model akan dievaluasi menggunakan reward function.
Model akan diberi suatu reward (imbalan) ketika model memberikan respon yang bagus dan punishment (hukuman) ketika model memberikan respon yang buruk. Hal ini berfungsi agar model dapat menggeneralisasikan karakteristik dari sebuah respon yang bagus dan dapat menghasilkan respon yang sesuai dengan karakteristik tersebut.
Sampai mana limitasi dari ChatGPT?
ChatGPT sendiri masih mempunyai beberapa limitasi dalam proses pengembangannya. Dikutip dari openai.com, terkadang chatGPT menulis sesuatu yang terkesan sangat masuk akal namun sebenarnya salah. Hal ini menjadi tantangan yang berat dalam pengembangan chatGPT kedepannya karena beberapa alasan seperti melatih model untuk lebih berhati-hati menyebabkan model menolak pertanyaan yang dapat dijawab dengan benar.
OpenAI menambahkan bahwa idealnya suatu model akan meminta pertanyaan yang lebih jelas ketika pengguna memberikan pertanyaan yang membingungkan, namun ChatGPT biasanya menebak apa yang diinginkan pengguna.
ChatGPT hanya mempunyai data hingga September 2021, jadi mengenai informasi terbaru yang terjadi di setiap negara setelah September 2021 belum dapat dijawab oleh chatGPT. Data dari BBC juga menyebutkan bahwa ChatGPT tidak diperkenankan untuk mengepresikan suatu opini politik ataupun terlibat dalam aktivitas politik.