Jasper van Doornmalen; Alexander Kozachinskiy; Corinna Mathwieser; Tomasz Steifer; Felipe Urrutia; José Verschae; Przem…
Ringkasan
Catatan ini membuktikan bahwa memeriksa apakah suatu barisan bit terurut mustahil bagi transformer 1 kepala 1 lapis tetapi mungkin bagi transformer 2 kepala 1 lapis, di bawah model yang menyertakan MLP keluaran.
Metode
Penulis menganalisis masalah pengurutan di bawah model transformer dengan MLP keluaran. Secara formal, diberikan barisan masukan $x = (x_1, x_2, \ldots, x_n) \in \{0,1\}^n$, tugas…
Hasil
Hasil utamanya ada dua: 1. **Ketidakmungkinan untuk 1 kepala**: Tidak ada transformer 1 kepala 1 lapis dengan MLP keluaran yang dengan benar memeriksa apakah suatu barisan bit terurut untuk semua pan…
KEX-bench mengevaluasi coding agent dalam menghasilkan exploit primitive terhadap kernel Linux dan Windows nyata, mengungkap kesenjangan besar antara mencapai kernel crash dan membentuk kernel state menjadi primitive yang dapat dipakai. Ko…
Metode
Metodologi KEX-bench dibangun di sekitar tiga komponen inti: instance tugas, lingkungan eksekusi, dan verifikasi. **Instance Tugas.** Tolok ukur ini terdiri dari 45 tugas yang ber…
Hasil
Evaluasi mengungkap kesenjangan kinerja yang mencolok antara tugas Windows dan Linux, serta antara pengaturan dengan dan tanpa PoC referensi. **Tanpa PoC referensi:** - Konfigurasi terkuat menyelesai…
ArticleMiner mengekstraksi fakta ilmiah kuantitatif dari makalah dan berkas suplemen dengan merekonsiliasi bukti dari beberapa parser dan sebuah LLM di bawah panduan modul tugas yang ditulis manusia. Dievaluasi pada 163 makalah di empat do…
Metode
ArticleMiner mengikuti pipeline modular yang memisahkan pengumpulan bukti dari interpretasi spesifik domain. Arsitekturnya diilustrasikan di bawah ini: Ensemble parser mengekstrak…
Hasil
ArticleMiner dievaluasi pada 163 makalah di empat domain: kimia penemuan obat, ilmu material, machine learning, dan geokimia mineral. Evaluasi geokimia memperkenalkan tolok ukur baru dengan ground tr…
Wenzhi Fang; Nicholas Tzou; Lazar Valkov; Srinivas Chappidi
Ringkasan
NB-LoRA mereparameterisasi pembaruan peringkat rendah melalui basis nol aproksimatif tetap yang diestimasi dari aktivasi penalaran, memberlakukan kendala pemeliharaan hidden-state per lapisan selama supervised fine-tuning. Metode ini menya…
Metode
NB-LoRA merumuskan retensi penalaran sebagai kendala pemeliharaan hidden-state per lapisan dan membangun basis nol aproksimatif tetap dari aktivasi penalaran. Pembaruan LoRA kemud…
Hasil
Eksperimen ekstensif pada berbagai LLM yang dilatih RL dan beragam tugas hilir menunjukkan bahwa NB-LoRA menyamai LoRA standar dalam kinerja adaptasi, mempertahankan akurasi penalaran mendekati tingk…
ChatT2 adalah agen berbasis LLM multiagen yang dirancang khusus untuk poliketida tipe II bakteri, memadukan retrieval-augmented generation dengan perkakas bioinformatika dan kemoinformatika. Sistem ini mengatasi keterbatasan LLM umum pada …
Metode
ChatT2 memakai arsitektur multiagen dengan tiga komponen inti: mentor, eksekutor, dan evaluator. Mentor bertindak sebagai perantara antara ChatT2 dan pengguna, memanfaatkan chain-…
Hasil
Penulis melaporkan bahwa ChatT2, yang dirancang dengan kerangka multiagen ini, mengatasi tantangan yang dihadapi LLM umum dalam memahami korpus terspesialisasi yang terbatas dan informasi biologis ya…
C. Cazes; B. W. Goni; N. Muhammad; D. Gabillard; Pierrot Kalubi Balonda; Loic Feuzeu; Irine Atanga; Brice Yapi; G. Habi…
Ringkasan
Protokol ini menjelaskan uji acak terkendali klaster dua lengan di Negara Bagian Yobe, Nigeria, yang mengevaluasi apakah integrasi suplemen nutrisi berbasis lipid dosis kecil (SQ-LNS) ke dalam layanan imunisasi rutin meningkatkan cakupan v…
Metode
Studi ini dirancang sebagai uji acak terkendali klaster paralel pragmatis superioritas dua lengan dengan pengukuran dasar. Penelitian akan dilakukan di 20 ward di Wilayah Pemerint…
Hasil
Karena ini adalah protokol studi, hasil belum tersedia. Luaran primer adalah cakupan imunisasi campak tingkat populasi pada anak usia 12–23 bulan, diukur melalui survei cross-sectional akhir. Luaran …
Murzaeva Mariia; Imad Ghanem Qasim; S. H. Ismael; Zahaa Aldeen Jamal; Abdalfattah Sharad; H. Najmuldeen; Nurila Aryntay…
Ringkasan
Tinjauan ini membahas epidemiologi, struktur molekuler, dan upaya pengembangan vaksin yang menargetkan glikoprotein G virus Nipah, menyoroti hasil praklinis yang menjanjikan serta tantangan yang masih ada seperti penghindaran imun dan uji …
Metode
Para penulis melakukan tinjauan komprehensif terhadap literatur tentang epidemiologi, biologi molekuler, dan pengembangan vaksin virus Nipah, dengan fokus pada kandidat vaksin ber…
Hasil
Vaksin berbasis glikoprotein G merupakan jalur yang menjanjikan untuk memerangi infeksi NiV. Kemajuan dalam biologi struktural, penargetan sistem imun, dan teknologi sistem penghantaran membuka jalan…
Penelitian ini menyelidiki bagaimana desain konteks istimewa dalam on-policy self-distillation (OPSD) memengaruhi performa siswa. Pada tugas matematika kompetisi pada skala 4B dan 8B, abstraksi tingkat menengah seperti strategi bernama dan…
Metode
Pengaturan eksperimen mempertahankan tampilan siswa dan prosedur pelatihan tetap sama dalam setiap skala model (4B dan 8B parameter). Untuk setiap skala, penulis mengevaluasi lima…
Hasil
Pada uji utama pada matematika kompetisi, konteks tingkat menengah terbaik meningkatkan rata-rata puncak dalam domain dibandingkan solusi lengkap sebesar 1,4 poin pada 4B dan 1,6 poin pada 8B. Keuntu…
Probe 64 jaringan, empat konfigurasi, atas tumpang-tindih bobot berpasangan sepanjang grokking mengembalikan UNDETERMINED karena langkah penyelarasan yang terdaftar tidak mempertahankan fungsi jaringan. Secara post-hoc, hanya rasio simpang…
Metode
Rancangannya adalah sapuan pelatihan empat konfigurasi dengan 64 seed. Setiap jaringan dilatih hingga konvergensi berkelanjutan atau batas 40.000 epoch. Untuk setiap pasangan solu…
Hasil
Hasil terdaftar adalah UNDETERMINED (kode alasan C0_INSTRUMENT_INVALID). Tidak ada putusan konfirmatori yang tersedia, dan makalah ini menyatakan secara gamblang bahwa data tidak memberikan null konf…
Tesis ini menyelidiki dua arah persinggungan kuantum-AI: metode kuantum untuk machine learning dan machine learning untuk sistem kuantum. Tesis ini memperkenalkan Neural Quantum Embedding untuk klasifikasi yang lebih baik pada perangkat ke…
Metode
Tesis ini menggunakan kombinasi derivasi teoretis, perancangan algoritma, dan validasi empiris. Untuk QML, Neural Quantum Embedding (NQE) diusulkan untuk mempelajari representasi …
Hasil
Dalam QML, NQE meningkatkan akurasi klasifikasi pada perangkat keras kuantum yang bising dengan meningkatkan trace distance antara ansambel kelas. Ekstensi DQC1 berhasil didemonstrasikan pada proseso…
