Abstract. Currently, banking transactions using mobile banking has grown rapidly. The increasing the number of mobile application users becomes one of the main factors. Several approaches have been developed to improve the transaction security. Problems of message security still requires a solution to achieve computing speed and leverage security level. In this paper, we propose a security algorithms used to improve the mobile banking security with hyperelliptic curve algorithm. It will create a safe and an efficient transactions while message will be sent via public internet. Hyperelliptic curve algorithm will run a processes for authentication and encryption. it will produce fast computation and has good security level. This research produced little computing time on m-banking application while it run on Android. Hyperelliptic curve algorithm use a smaller key to achieve a good security level at m-banking application.Keywords: hyperelliptic curve algorithm, security, mobile banking.Abstrak. Saat ini, transaksi perbankan baik di dalam dan di luar menggunakan Mobile Banking semakin pesat, meningkatnya jumlah pengguna aplikasi mobile menjadi salah satu faktor utamanya. Beberapa pendekatan telah dikembangkan untuk meningkatkan keamanan transaksi pesan selama komunikasi. Masalah yang masih memerlukan solusi adalah kecepatan komputasi dan tingkat keamanan pada algoritma pengamanan yang digunakan. Penelitian ini dilakukan untuk meningkatkan keamanan pesan mobile banking dengan memanfaatkan algoritma kurva hyper elliptic. Hal ini dilakukan untuk mewujudkan transaksi yang aman dan efisien dengan penerapan metode kriptografi pada pesan. Dengan menggunakan algoritma kurva hyper elliptic maka proses autentikasi dan enkripsi pesan bisa dilakukan dengan cepat dan memiliki level keamanan yang tinggi. Penelitian ini menghasilkan waktu komputasi yang cukup cepat pada aplikasi m-banking berbasis Android. Hal ini karena, algoritma kurva hyper elliptic menggunakan panjang kunci yang lebih kecil untuk mencapai level keamanan yang baik pada aplikasi m-banking. Kata Kunci: algoritma kurva hyper elliptic, keamanan, mobile banking.