'Yang terbaik dari kedua-dua dunia', mereka bentuk molekul dari awal, seni bina pembelajaran mendalam S4 untuk pemodelan bahasa kimia

Editor |. KX

Pembelajaran mendalam generatif sedang membentuk semula reka bentuk dadah. Model bahasa kimia (CLM), yang menjana molekul sebagai rentetan molekul, amat penting untuk proses ini.

Baru-baru ini, penyelidik dari Universiti Teknologi Eindhoven di Belanda memperkenalkan seni bina pembelajaran mendalam (S4) terkini ke dalam reka bentuk ubat de novo.

Model Jujukan Ruang Negeri Berstruktur (S4) mempunyai prestasi cemerlang dalam mempelajari sifat global jujukan, jadi bolehkah S4 memajukan pemodelan bahasa kimia direka dari awal?

Untuk memberikan jawapan, penyelidik menanda aras S4 secara sistematik terhadap CLM tercanggih pada pelbagai tugas penemuan ubat, seperti pengenalpastian sebatian bioaktif dan reka bentuk molekul seperti ubat dan produk semula jadi. S4 mempunyai keupayaan unggul untuk meneroka pelbagai perancah sambil mempelajari sifat molekul kompleks.

Akhirnya, 8 daripada 10 molekul yang direka oleh S4 diramalkan sangat aktif oleh simulasi dinamik molekul apabila digunakan secara prospektif pada perencat kinase.

Ringkasnya, S4 mempunyai potensi besar dalam pemodelan bahasa kimia, terutamanya dalam menangkap aktiviti biologi dan sifat molekul kompleks. Ini adalah kali pertama model ruang keadaan telah digunakan untuk tugas molekul.

Penyelidikan berkaitan bertajuk "Pemodelan bahasa kimia dengan model jujukan ruang keadaan berstruktur" dan diterbitkan dalam "Komunikasi Alam Semulajadi" pada 22 Julai.

Pautan kertas: https://www.nature.com/articles/s41467-024-50469-9

Merancang molekul dengan sifat yang diingini dari awal adalah masalah "jarum dalam timbunan jerami". Alam semesta kimia, yang mengandungi sehingga 10^60 molekul kecil, masih tidak diketahui.

Pembelajaran mendalam generatif boleh menghasilkan molekul yang diingini tanpa peraturan rekaan tangan, membolehkan cara yang menjimatkan masa dan kos rendah untuk meneroka alam semesta kimia. Khususnya, CLM telah menghasilkan reka bentuk bioaktif yang disahkan secara eksperimen dan menonjol sebagai penjana molekul yang berkuasa.

CLM menggunakan algoritma yang dibangunkan untuk pemprosesan jujukan untuk mempelajari "bahasa kimia", iaitu cara menjana molekul yang sah secara kimia (sintaks) dan mempunyai sifat yang dikehendaki (semantik). Ini dicapai dengan mewakili struktur molekul sebagai simbol rentetan, seperti Sistem Kemasukan Talian Input Molekul Mudah (SMILES). Rentetan molekul ini kemudiannya digunakan untuk latihan model dan penjanaan molekul seterusnya dalam bentuk teks.

Ilustrasi: Konsep utama model jujukan ruang keadaan berstruktur (S4) untuk pemodelan bahasa kimia. (Sumber: Kertas)

CLM Architecture:

• Long Short-Term Short-Term (LSTM) model
• Transformer Architecture

Structured State Space Sequence Model🜎S4 baru yang sedang membangun

Cemerlang dalam penjanaan audio, imej dan teks
• Mempunyai "sifat dwi":

• Latih keseluruhan jujukan input untuk mempelajari sifat global yang kompleks

  Janakan satu elemen rentetan pada satu masa
  • Aplikasi

• Penyelidik menggunakan S4 untuk pemodelan bahasa kimia pada rentetan SMILES

• Menanda aras terhadap pelbagai tugas yang berkaitan dengan reka bentuk ubat:
  • Mempelajari aktiviti biologi
  • Penerokaan produk kimia semula jadi

Reka bentuk molekul seperti dadah dan produk semula jadi:

• Penyelidik menanda aras S4 terhadap CLM tercanggih
• seperti reka bentuk molekul seperti dadah dan produk semula jadi

• Pertama, Menganalisis keupayaan S4 untuk mereka bentuk dadah -seperti molekul kecil (panjang SENYUM kurang daripada 100 token) yang diekstrak daripada pangkalan data ChEMBL

  🎜1. Semua CLM menjana lebih daripada 91% molekul yang sah, 91% daripada molekul unik dan 81% daripada molekul baharu.
• S4 mereka bentuk molekul yang paling cekap, unik dan baharu dengan menghasilkan lebih banyak molekul baharu daripada garis dasar (kira-kira 4000 hingga lebih 12,000), dan menunjukkan keupayaan yang baik untuk mempelajari "tatabahasa kimia" rentetan SMILES.
• Potensi S4 berbanding kaedah reka bentuk de novo sedia ada disahkan lagi pada penanda aras MOSES, di mana S4 secara konsisten berada di kedudukan antara kaedah pembelajaran mendalam berprestasi terbaik.
• S4 juga diuji lagi terhadap entiti molekul yang lebih mencabar daripada molekul seperti dadah.
• Untuk tujuan ini, penyelidik menilai keupayaannya untuk merekayasa produk semula jadi (NP).
• Berbanding dengan molekul kecil sintetik, NP cenderung mempunyai struktur molekul dan sistem gelang yang lebih kompleks, serta bahagian yang lebih besar daripada atom karbon hibrid sp3 dan pusat kiral.
• Ciri-ciri ini sepadan dengan jujukan SMILES yang lebih panjang secara purata, dengan lebih banyak kebergantungan jarak jauh, dan menjadikan produk semula jadi mencabar kes ujian untuk CLM.

  

  
  Semua CLM boleh mereka bentuk produk semula jadi, tetapi prestasinya lebih rendah berbanding molekul seperti dadah. Reka bentuk S4 mempunyai bilangan molekul berkesan tertinggi, dengan kira-kira 6000 hingga 12,000 lebih molekul daripada S4 (7-13% lebih baik), manakala LSTM mempunyai kebaharuan tertinggi, dengan kira-kira 2000 lebih molekul (2%) daripada S4.
  Akhir sekali, latihan dan kelajuan penjanaan seni bina CLM apabila meningkatkan panjang SMILES juga dianalisis untuk menguji kebolehgunaan praktikalnya apabila mereka bentuk molekul yang lebih besar seperti produk semula jadi. Analisis menyerlahkan bahawa disebabkan sifat dwinya, S4 adalah sepantas GPT semasa latihan (kedua-duanya ~1.3x lebih pantas daripada LSTM) dan terpantas dari segi penjanaan. Ini seterusnya menyokong pengenalan S4 sebagai kaedah yang cekap untuk reka bentuk molekul, menawarkan "yang terbaik dari kedua-dua dunia" berbanding dengan GPT dan LSTM.
  Reka bentuk de novo prospektif
  Penyelidik menggunakan S4 menjalankan kajian prospektif dalam silico tertumpu pada mereka bentuk perencat protein kinase 1 (MAPK1) diaktifkan mitogen, sasaran yang relevan untuk terapi tumor. Aktiviti biologi putative reka bentuk kemudiannya dinilai oleh dinamik molekul (MD).

  

  Ilustrasi: Reka bentuk prospektif de novo perencat MAPK1 yang diduga menggunakan S4. (Sumber: kertas) Model S4 telah diperhalusi dan kemudian lima zaman terakhir model diperhalus digunakan untuk menjana molekul 256K. Reka bentuk telah disenaraikan dan ditapis mengikut skor kemungkinan log dan persamaan perancah dengan set latihan, dan 10 molekul pemarkahan tertinggi telah dicirikan lagi menggunakan simulasi MD.
  8 daripada 10 reka bentuk diramalkan sebagai bioaktif terhadap sasaran yang dimaksudkan oleh MD, dengan ramalan pertalian yang setanding atau lebih tinggi daripada molekul diperhalusi terdekat, keputusan ini mengesahkan lagi potensi S4 untuk reka bentuk ubat de novo.
  Peluang untuk Molekul S4 Secara ringkasnya, kajian ini adalah yang pertama memperkenalkan model ruang keadaan ke dalam pemodelan bahasa kimia, memfokuskan pada ruang keadaan berstruktur (S4). Sifat dwi unik S4, termasuk penjanaan lilitan dan gelung semasa latihan, menjadikannya amat sesuai untuk reka bentuk de novo bermula daripada rentetan SMILES.
  Penyelidik menjalankan perbandingan sistematik dengan GPT dan LSTM mengenai pelbagai tugas penemuan dadah, mendedahkan kelebihan S4: Walaupun penjanaan gelung (LSTM dan S4) lebih unggul dalam mempelajari tatabahasa kimia dan meneroka pelbagai perancah, ia tidak berkesan untuk keseluruhan pembelajaran Ensemble jujukan SMILES (GPT dan S4) berfungsi dengan baik dalam menangkap sifat kompleks tertentu seperti aktiviti biologi.
  S4 mempunyai sifat dwi, ​​"yang terbaik daripada kedua-dua dunia": ia berprestasi sebaik atau lebih baik daripada LSTM dalam mereka bentuk molekul yang cekap dan pelbagai, dan secara sistematik mengatasi garis dasar dalam menangkap sifat molekul kompleks sambil mengekalkan kecekapan pengiraan. Aplikasi
  S4 dalam perencatan MAPK1 telah disahkan oleh simulasi MD, seterusnya menunjukkan potensinya untuk mereka bentuk molekul bioaktif yang kuat. Pada masa hadapan, penyelidik secara prospektif akan menggabungkan S4 dengan eksperimen makmal basah untuk meningkatkan impaknya di lapangan.
  Terdapat banyak aspek S4 yang masih belum diterokai dalam sains molekul, seperti potensinya dalam jujukan yang lebih panjang (cth. peptida makrosiklik dan jujukan protein) dan tugas molekul lain (cth. perancangan tindak balas organik dan reka bentuk ubat berasaskan struktur).
  Pada masa hadapan, aplikasi S4 dalam penemuan molekul akan terus meningkat dan mungkin menggantikan model bahasa kimia yang digunakan secara meluas seperti LSTM dan GPT.

Atas ialah kandungan terperinci 'Yang terbaik dari kedua-dua dunia', mereka bentuk molekul dari awal, seni bina pembelajaran mendalam S4 untuk pemodelan bahasa kimia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!