Tetapi di sisi yang lain keberadaan AI ini merupakan sebuah ancaman besar jika diimplementasikan sebagai pengganti manusia, ini akan menjadi salah kaprah.
Beberapa waktu terakhir, dunia maya kembali dihebohkan dengan kemunculan ChatGPT yang merupakan sistem kecerdasan buatan AI yang didalamnya terdapat interaksi melalui percakapan berbasis teks.
Menjadi titik permasalahan ketika ChatGPT ini dapat digunakan dan menghasilkan tulisan seperti skripsi, makalah, essay, paper, dan tulisan lainnya. Ini akan menjadi sebuah permasalahan besar yang dihadapi oleh peserta didik, mungkin mulai dari sekolah dasar hingga perguruan tinggi.
Titik ancaman besar sebenarnya ada pada mahasiswa di perguruan tinggi yang mendapatkan tugas mayoritas sejenis dengan yang telah disebutkan sebelumnya. Apabila tidak digunakan secara bijak tentu akan menjadi ancaman terhadap kualitas pendidikan beserta peserta didik dan juga penciptaan generasi bangsa yang digadang dapat membawa perubahan.
Adanya sistem dari kecerdasan buatan ChatGPT ini, jika tidak digunakan secara bijak akan menjadi sebuah alat untuk ‘memanjakan’ manusia, terutama peserta didik.
Apabila ada tugas membuat makalah, telah ditentukan tema dan topiknya, peserta didik tinggal membuka sistem tersebut, tulis tema dan topik yang diinginkan, maka seketika ditampilkan jenis tulisan sesuai yang diinginkan. Tentu dengan hal seperti ini menjadi tantangan perihal cara berpikir kritis dari peserta didik.
Kesempatan berlatih mereka untuk mengolah data, mempelajari, dan memahami data dan pengetahuan yang terkait akan semakin kurang. Mereka menjadi tidak benar-benar paham akan apa yang disampaikan dalam tulisan tersebut.
Sehingga metode pembelajaran yang diinginkan melalui Kurikulum Merdeka ini akan gagal penerapannya. Berbeda apabila hasil data yang diproduksi dari ChatGPT hanya untuk sebagai pemantik atau referensi tanpa benar-benar menulis sesuai dengan tertera dalam datanya. Inilah bukti dari pernyataan bahwa keberadaan AI jangan diposisikan sebagai pengganti manusia.