Editorial Ilmu Komputer & AI
Open AccessOA2025
Prediksi Keterbentukan Polimorf Kristal Anorganik yang Dapat Dijelaskan Menggunakan Large Language Model
LLM yang di-fine-tune dan pembelajaran positive-unlabeled pada text embedding menyaingi graph neural network sekaligus memberikan penjelasan yang dapat dibaca manusia untuk desain material
Seongmin Kim; Joshua Schrier; Yousung Jung· Angewandte Chemie· 2025· DOI 10.1002/anie.202423950
Masalah inti
Kemampuan memprediksi apakah suatu polimorf kristal anorganik hipotetis dapat disintesis merupakan tantangan kritis dalam penemuan material. Pendekatan tradisional bergantung pada uji coba eksperimental yang mahal dan memakan waktu, sementara metode komputasi seperti density functional theory (DFT) dapat menilai stabilitas termodinamika tetapi tidak kelayakan kinetik. Kemajuan terkini dalam machine learning, khususnya graph neural network (GNN), menunjukkan harapan dalam memprediksi keterbentukan langsung dari representasi struktur kristal. Namun, model-model ini sering beroperasi sebagai black box, hanya memberikan sedikit wawasan tentang faktor-faktor yang mengatur keterbentukan. Penelitian ini mengeksplorasi penggunaan large language model (LLM) untuk tidak hanya memprediksi keterbentukan tetapi juga menghasilkan penjelasan yang dapat dibaca manusia, sehingga menjembatani kesenjangan antara akurasi prediktif dan interpretabilitas. Penulis mengevaluasi LLM yang di-fine-tune pada deskripsi teks struktur kristal, membandingkan performanya dengan convolutional graph neural network khusus, dan memperkenalkan pendekatan pembelajaran positive-unlabeled (PU) pada text embedding yang mel
Inovasi
LLM yang di-fine-tune mencapai performa yang sebanding dengan convolutional graph neural network khusus, dengan akurasi sekitar 85% pada set pengujian. Namun, model pembelajaran PU yang dilatih pada text embedding mengungguli keduanya, mencapai akurasi 89% dan skor 0,88. Peningkatan ini diatribusikan pada kemampuan pembelajaran PU untuk memanfaatkan data tidak berlabel dan informasi semantik kaya yang tertangkap dalam text embedding. Penulis juga menemukan bahwa penjelasan berbasis LLM sebagian besar konsisten dengan aturan fisik yang diketahui. Misalnya, model sering menyoroti pentingnya faktor toleransi Goldschmidt untuk struktur perovskit dan peran bilangan oksidasi dalam senyawa ionik. Analisis kuantitatif terhadap penjelasan mengungkapkan bahwa faktor-faktor seperti rasio jari-jari atom, perbedaan elektronegativitas, dan kompleksitas struktural termasuk yang paling berpengaruh. Penilaian kebenaran menunjukkan bahwa lebih dari 80% aturan yang diekstraksi didukung oleh literatur atau pertimbangan teoretis. Lebih lanjut, penjelasan tersebut memberikan wawasan yang dapat ditindaklanjuti: untuk sekumpulan struktur hipotetis yang tidak dapat disintesis, model menyarankan modifika
Kemampuan memprediksi apakah suatu polimorf kristal anorganik hipotetis dapat disintesis merupakan tantangan kritis dalam penemuan material. Pendekatan tradisional bergantung pada uji coba eksperimental yang mahal dan memakan waktu, sementara metode komputasi seperti density functional theory (DFT) dapat menilai stabilitas termodinamika tetapi tidak kelayakan kinetik. Kemajuan terkini dalam machine learning, khususnya graph neural network (GNN), menunjukkan harapan dalam memprediksi keterbentukan langsung dari representasi struktur kristal. Namun, model-model ini sering beroperasi sebagai black box, hanya memberikan sedikit wawasan tentang faktor-faktor yang mengatur keterbentukan. Penelitian ini mengeksplorasi penggunaan large language model (LLM) untuk tidak hanya memprediksi keterbentukan tetapi juga menghasilkan penjelasan yang dapat dibaca manusia, sehingga menjembatani kesenjangan antara akurasi prediktif dan interpretabilitas. Penulis mengevaluasi LLM yang di-fine-tune pada deskripsi teks struktur kristal, membandingkan performanya dengan convolutional graph neural network khusus, dan memperkenalkan pendekatan pembelajaran positive-unlabeled (PU) pada text embedding yang melampaui metode sebelumnya. Tujuan utamanya adalah memberikan wawasan yang dapat ditindaklanjuti bagi kimiawan untuk memodifikasi struktur hipotetis yang tidak dapat disintesis, sehingga mempercepat desain material.
Penelitian ini memanfaatkan dataset struktur kristal anorganik, masing-masing direpresentasikan oleh deskripsi teks yang dapat dibaca manusia yang mencakup komposisi kimia, parameter kisi, grup ruang, dan koordinat atom. Dua pendekatan utama digunakan: (1) fine-tuning large language model (LLM) pada deskripsi teks ini untuk memprediksi keterbentukan, dan (2) melatih model pembelajaran positive-unlabeled (PU) pada text embedding yang diturunkan dari LLM. LLM di-fine-tune menggunakan objektif pembelajaran terawasi, di mana inputnya adalah deskripsi teks dan outputnya adalah label biner yang menunjukkan apakah struktur tersebut dapat disintesis. Untuk pendekatan pembelajaran PU, deskripsi teks pertama-tama dikodekan menjadi representasi vektor padat menggunakan LLM yang telah dilatih sebelumnya. Kemudian, algoritma pembelajaran PU diterapkan, yang memperlakukan struktur yang diketahui dapat disintesis sebagai contoh positif dan sisanya sebagai tidak berlabel, dengan mempertimbangkan fakta bahwa struktur yang tidak dapat disintesis tidak dilabeli secara eksplisit. Model PU dilatih untuk membedakan data positif dari data tidak berlabel, sehingga secara efektif memperkirakan probabilitas keterbentukan. Selain itu, alur kerja berbasis LLM dirancang untuk menghasilkan penjelasan atas prediksi. Ini melibatkan pemberian prompt kepada LLM untuk mengidentifikasi faktor-faktor kunci yang memengaruhi keterbentukan, seperti komposisi kimia, motif struktural, dan stabilitas termodinamika, serta mengekstraksi aturan fisik yang mendasarinya. Penjelasan tersebut kemudian dinilai kebenarannya dengan membandingkannya dengan prinsip ilmu material yang diketahui. Performa model-model ini dievaluasi menggunakan metrik standar seperti akurasi, presisi, recall, dan skor , dan dibandingkan dengan baseline convolutional graph neural network (GNN) yang beroperasi langsung pada graf kristal. Arsitektur GNN biasanya terdiri dari lapisan konvolusional yang mengagregasi fitur atom dan informasi ikatan, diikuti oleh pooling dan lapisan fully connected untuk klasifikasi. Penulis juga melakukan studi ablasi untuk memahami kontribusi berbagai komponen. Alur kerja keseluruhan dapat diringkas dalam diagram Mermaid berikut:
Mengapa penting
Penelitian ini menunjukkan bahwa large language model dapat secara efektif memprediksi keterbentukan polimorf kristal anorganik, menyamai performa graph neural network khusus sekaligus menawarkan manfaat tambahan berupa interpretabilitas. Performa unggul model pembelajaran PU pada text embedding menunjukkan bahwa representasi tekstual struktur kristal menangkap informasi kimia dan struktural penting yang melengkapi representasi berbasis graf. Temuan ini membuka jalan baru untuk memanfaatkan sejumlah besar data tekstual dalam ilmu material, seperti literatur ilmiah dan basis data, guna meningkatkan model prediktif. Penjelasan yang dihasilkan memberikan jendela ke dalam proses pengambilan keputusan model, memungkinkan kimiawan memahami mengapa suatu struktur diprediksi dapat disintesis atau tidak. Hal ini krusial untuk memandu upaya eksperimental: alih-alih menguji secara membabi buta berbagai struktur hipotetis, peneliti dapat fokus pada struktur yang diprediksi dapat disintesis dan telah dioptimalkan berdasarkan saran model. Ekstraksi aturan fisik dari penjelasan LLM juga berkontribusi pada pemahaman fundamental, karena dapat mengungkap korelasi yang sebelumnya tidak dikenali atau memvalidasi prinsip yang sudah diketahui. Namun, penelitian ini memiliki batasan. Dataset, meskipun komprehensif, mungkin tidak mencakup seluruh keragaman kristal anorganik, dan pendekatan pembelajaran PU mengasumsikan bahwa contoh positif dilabeli dengan benar, yang mungkin tidak selalu terjadi. Penelitian selanjutnya dapat mengeksplorasi penggabungan modalitas tambahan, seperti informasi struktur 3D, dan memperluas pendekatan ke sifat lain seperti stabilitas atau reaktivitas. Secara keseluruhan, penelitian ini menyoroti potensi LLM sebagai alat serbaguna dalam informatika material, menggabungkan kekuatan prediktif dengan kemampuan penjelasan untuk mempercepat penemuan material baru.
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten member…