Editorial Ilmu Komputer & AI
Kerangka Kerja untuk Membuat Kebijakan dan Prosedur bagi Penggunaan Etis Kecerdasan Buatan (AI) dalam Pembelajaran, Pengajaran, dan Penilaian
Masalah inti
Kecerdasan buatan dalam pendidikan digambarkan oleh Rafique bukan sebagai alat tunggal melainkan sebagai frasa yang lebih luas yang mencakup "kumpulan teknologi, algoritma, dan data yang beragam dan berlipat ganda yang digunakan dalam bidang pendidikan." Teknik-teknik penyusun yang disebutkan adalah pembelajaran mesin, pemrosesan bahasa alami, model bahasa besar (LLM), model generatif, dan jaringan saraf. Karena tumpukan teknologi ini heterogen, pertanyaan etis yang muncul juga sama heterogennya: mesin rekomendasi yang mempersonalisasi konten revisi, LLM yang menyusun tugas, dan pengklasifikasi saraf yang menilai naskah masing-masing menyentuh saraf etis yang berbeda.
Makalah ini dibuka dengan klaim tentang urgensi. "Kemunculan dan proliferasi AI" telah menimbulkan kekhawatiran kuat tentang penggunaan etis, dan kekhawatiran tersebut tidak dapat diselesaikan hanya dengan keahlian teknis. Pemahaman menyeluruh tentang kompleksitas etis diperlukan di seluruh pemangku kepentingan yang luas: pendidik, siswa, pembuat kebijakan, pengembang, dan pemangku kepentingan lain dalam ekosistem pendidikan. Rafique selanjutnya mengamati adanya asimetri antara wacana dan praktik โ meskipun banyak ya
Inovasi
Hasil utama adalah kerangka kerja yang diusulkan yang mengelompokkan sembilan kompleksitas etis ke dalam tiga domain tata kelola, yang masing-masing menghasilkan kelas kewajiban institusional yang sesuai.
Domain **tata kelola data** mencakup kuantitas akumulasi data, privasi, persetujuan, kepemilikan, dan keamanan. Prinsip operasionalnya adalah minimalisasi data: institusi harus menyimpan hanya apa yang diperlukan, dengan tunduk pada batas bawah utilitas.
Di sini adalah kumpulan data yang dikumpulkan, adalah volumenya, dan adalah utilitas pedagogis yang diperoleh, dengan adalah utilitas minimum yang bersedia diterima institusi. Kewajiban persetujuan dan kepemilikan melekat pada setiap elemen yang disimpan.
Domain **integritas algoritmik** mencakup bias algoritmik dan transparansi. Bias dapat dinyatakan sebagai selisih antara ekspektasi hasil bersyarat kelompok yang harus dijaga oleh sistem yang patuh di bawah toleransi:
di mana
Mengapa penting
Dibaca dengan mempertimbangkan kesenjangan yang dinyatakan โ bahwa panduan etis yang komprehensif tidak sampai kepada guru dan siswa โ pilihan desain kerangka kerja yang paling konsekuensial adalah bahwa kerangka ini berakhir pada penyebaran, bukan pada publikasi. Kebijakan yang hanya ada dalam notulen rapat komite tidak mengubah praktik di kelas; oleh karena itu, kerangka kerja ini memperlakukan penyebaran panduan yang dapat dipahami kepada pendidik dan pelajar sebagai hasil yang harus diserahkan. Hal ini membingkai ulang masalah etika yang sudah dikenal. Bagian yang sulit biasanya diasumsikan sebagai menentukan prinsip mana yang penting; kerangka pemikiran Rafique menunjukkan bahwa bagian yang lebih sulit adalah prosedur โ siapa yang menyetujui alat AI, apa yang harus diungkapkan, apa yang terjadi ketika model salah menilai siswa, dan siapa yang memiliki data yang dihasilkan.
Pengelompokan tiga domain juga mengungkap ketegangan yang harus dipegang oleh kerangka kerja, bukan dihilangkan. Minimalisasi data bertentangan dengan personalisasi yang membuat banyak alat AI pendidikan menarik; kendala utilitas justru merupakan tempat institusi harus menegosiasikan pertukaran itu secara eksplisit, bukan secara default. Transparansi bertentangan dengan sifat buram kepemilikan vendor LLM komersial. Otonomi bertentangan dengan argumen efisiensi yang mendorong adopsi pada awalnya. Tanggung jawab adalah domain residual: ketika penilaian berbantuan AI diperdebatkan, nilai kerangka kerja ini adalah bahwa ia menunjuk pihak manusia yang bertanggung jawab, bukan sistem.
Bidang kandidat taksonomi arsitektur, keamanan siber, dan kriptografi relevan dengan lapisan prosedural. Arsitektur kebijakan mencerminkan diagram berlapis di atas; kontrol keamanan mendasari domain tata kelola data; dan teknik kriptografi โ enkripsi saat diam dan saat transit, kontrol akses, dan mekanisme pelacakan persetujuan โ adalah instrumen praktis yang membuat kewajiban privasi, persetujuan, dan kepemilikan menjadi dapat diaudit, bukan sekadar aspirasi.
Keterbatasan utamanya terlihat dari sumber itu sendiri: kontribusinya adalah kerangka kerja konseptual, dan abstraknya tidak melaporkan validasi empiris, penerapan percontohan, atau hasil yang terukur di institusi tertentu. Kegunaan kerangka kerja ini karena itu bergantung pada adopsi dan pada loop pemantauan yang mengembalikan temuan ke inventaris etis. Khususnya bagi pembaca di bidang ilmu kesehatan โ di mana integritas penilaian, sensitivitas data pasien, dan akuntabilitas profesional memiliki bobot tambahan โ nilainya adalah sebagai perancah yang dapat digunakan kembali untuk pengembangan kebijakan lokal, bukan sebagai buku aturan yang siap pakai.
Siapa yang sebaiknya membaca
Membuka konten memberโฆ