Lucas Paulo de Lima Camillo at ARDD2025: CpGPT: a Foundation Model for DNA Methylation

Lucas Paulo de Lima Camillo at ARDD2025: CpGPT: a Foundation Model for DNA Methylation

par Lucas Paulo de Lima Camillo

Sciences formelles & physiques IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQFIntelligence artificielle générative
🎙 Lucas Paulo de Lima Camillo 👥 9K 📅 19 janvier 2026 ⏱ 17 min 👁 263 📄 étude originale 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

CpGPTméthylation ADNmodèle de fondationépigénétiquevieillissement

Résumé

Lucas Paulo de Lima Camillo présente CpGPT, un modèle de fondation pour la méthylation de l’ADN, développé à l’Université de Cambridge. Le modèle s’inspire des grands modèles de langage (LLM) en utilisant trois piliers : les données (environ 200 000 échantillons de méthylation du GEO), l’architecture (transformer) et le calcul (une seule GPU RTX 4090). CpGPT encode le statut de méthylation, la séquence génomique et la position génomique pour générer un embedding de l’échantillon. Ce dernier permet de prédire la méthylation de sites non vus, de répondre à des questions comme l’âge ou le statut cancéreux après fine-tuning. L’orateur évalue le modèle selon quatre critères : qualité des représentations (UMAP et distance d’énergie), performance sur l’objectif de pré-entraînement (reconstruction des valeurs bêta), généralisation (sites hors vocabulaire, espèces non vues, données single-cell) et performance en fine-tuning (challenge Biomarkers of Aging, prédiction de l’âge, cancer, protéines plasmatiques, mortalité). Le modèle se distingue par sa capacité à généraliser à des espèces non vues et à surpasser les horloges épigénétiques classiques pour la prédiction de mortalité. Une approche de ‘chaîne de pensée’ est également évoquée. La présentation se conclut par des questions-réponses sur l’intégration multimodale et la fonction de perte pour les horloges de mortalité.

201 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : le modèle CpGPT est présenté avec une méthodologie détaillée, des résultats quantitatifs (MAE, AUC, etc.) et des comparaisons à des modèles de référence (baseline, autres horloges). L’argumentation est solide, structurée autour de quatre critères de validation d’un modèle de fondation. L’orateur démontre l’utilité du modèle pour diverses applications, notamment la prédiction de l’âge et de la mortalité. Les limites sont partiellement abordées (ex. généralisation à d’autres espèces, mais pas les biais potentiels).

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : l’orateur cite des sources (GEO, Nucleotide Transformer, etc.) et mentionne un preprint. La qualité des sources est correcte, mais les références ne sont pas toutes détaillées. L’adéquation titre/contenu est parfaite. Aucun commentaire n’est fourni pour analyser les tendances du public.

140 mots

Adéquation titre / contenu

Le titre correspond parfaitement au contenu : présentation du modèle CpGPT pour la méthylation de l'ADN.

Qualité & fiabilité

8/10

Présentation scientifique rigoureuse avec méthodologie claire, résultats quantitatifs et comparaisons à des modèles de référence. Les conflits d'intérêts sont déclarés. Les limites sont partiellement abordées (ex. généralisation à d'autres espèces).

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • Gene Expression Omnibus (GEO) — Source des données de méthylation pour l'entraînement du modèle.
  • Nucleotide Transformer — Modèle de langage ADN utilisé pour encoder les séquences.
  • Preprint CpGPT — L'orateur mentionne un preprint sans fournir d'URL.

Sources concordantes

  • GrimAge — Horloge épigénétique de mortalité, CpGPT la surpasse.

Apport & nouveautés

CpGPT apporte une innovation en combinant pour la première fois la méthylation de l’ADN, la séquence génomique et la position génomique dans un modèle de fondation unique. Il démontre une généralisation remarquable à des espèces non vues et une supériorité sur les horloges épigénétiques classiques pour la prédiction de mortalité. L’approche de ‘chaîne de pensée’ en embedding space est également originale.

Pour aller plus loin :

  • Nucleotide Transformer — Modèle de langage ADN utilisé dans CpGPT.
  • Universal Sentence Encoder — Inspiration pour l’encodage de séquences.
  • GrimAge — Horloge épigénétique de mortalité, comparée à CpGPT.

94 mots

Profil radar

Le profil radar montre des scores élevés et équilibrés (8/10) sur les quatre axes, indiquant une présentation dense, fiable et techniquement avancée, avec une bonne quantité d'informations.

Fiabilité 8/10