Repenser les fondations
de l’intelligence artificielle.Rethinking the foundations
of artificial intelligence.
CoreMind est une nouvelle architecture d’intelligence artificielle, conçue comme une alternative aux Transformers. Elle repense la représentation des connaissances, l’attention et la génération afin de construire des systèmes plus explicables, plus modulaires et nettement plus sobres en calcul et en énergie.
CoreMind is a new artificial intelligence architecture designed as an alternative to Transformers. It rethinks knowledge representation, attention and generation to build systems that are more explainable, more modular and significantly more efficient in computation and energy use.
Les progrès de l’IA ne devraient pas dépendre d’une augmentation continue de la taille des modèles, du nombre de GPU, du coût du calcul et de la consommation énergétique.
Progress in AI should not depend on continuously increasing model size, GPU count, computational cost and energy consumption.
Une fondation distincte des Transformers, conçue pour repenser la représentation, l’attention, l’apprentissage et la génération.
A foundation distinct from Transformers, designed to rethink representation, attention, learning and generation.
Une architecture orientée réduction du calcul, exploitation de la sparsité et fonctionnement sur des ressources matérielles plus accessibles.
An architecture focused on reducing computation, exploiting sparsity and operating on more accessible hardware.
Des mécanismes internes conçus pour être inspectés, analysés et visualisés, plutôt que traités comme une boîte noire inaccessible.
Internal mechanisms designed to be inspected, analysed and visualised rather than treated as an inaccessible black box.
Un Self-Attention et une Multi-Head Attention configurables, développés selon une logique différente de l’attention des Transformers.
Configurable Self-Attention and Multi-Head Attention developed according to a logic different from Transformer attention.
Une génération qui explore plusieurs tokens et trajectoires sémantiques afin de dépasser la production strictement séquentielle token par token.
Generation that explores multiple tokens and semantic trajectories beyond strictly sequential token-by-token production.
Une architecture capable d’accueillir des modèles spécialisés, génératifs, multimodaux et adaptatifs selon les besoins du domaine.
An architecture able to support specialised, generative, multimodal and adaptive models according to domain needs.
CoreMind est une architecture alternative aux Transformers. Elle repose sur sa propre représentation tensorielle sparse, son propre mécanisme de Self-Attention, sa propre Multi-Head Attention configurable et un moteur de génération repensé. Ces mécanismes ne reproduisent pas l’attention des Transformers : ils sont conçus selon une logique architecturale propre à CoreMind, orientée explicabilité, modularité et efficacité énergétique.
CoreMind is an alternative architecture to Transformers. It relies on its own sparse tensor representation, its own Self-Attention mechanism, its own configurable Multi-Head Attention and a redesigned generation engine. These mechanisms do not reproduce Transformer attention: they follow CoreMind’s own architectural logic, focused on explainability, modularity and energy efficiency.
Le prototype actuel illustre plusieurs capacités déjà implémentées, mais CoreMind ne se limite pas à ces démonstrations. L’architecture est conçue comme une fondation générale permettant de construire des modèles et des fonctions comparables aux systèmes d’IA actuels, tout en reposant sur les mécanismes propres à CoreMind.
The current prototype illustrates several capabilities already implemented, but CoreMind is not limited to these demonstrations. The architecture is designed as a general foundation for building models and capabilities comparable to current AI systems, while relying on CoreMind’s own mechanisms.
Construction et exploration des représentations sémantiques.
Construction and exploration of semantic representations.
Mesure de la proximité entre concepts, mots et phrases.
Measurement of proximity between concepts, words and sentences.
Organisation automatique de concepts en groupes cohérents.
Automatic organisation of concepts into coherent groups.
Analyse des interactions et de l’influence entre tokens.
Analysis of interactions and influence between tokens.
Fusion de mécanismes spécialisés configurables.
Fusion of configurable specialised mechanisms.
Prédiction d’un token masqué à partir du contexte.
Prediction of a masked token from context.
Manipulation des relations conceptuelles dans l’espace latent.
Manipulation of conceptual relationships in latent space.
Ces démonstrations ne représentent qu’un aperçu des capacités et des modèles pouvant être construits sur CoreMind.
These demonstrations represent only a glimpse of the capabilities and models that can be built on CoreMind.
Ces valeurs décrivent la configuration utilisée pour les expérimentations actuelles de CoreMind. Elles permettent de situer concrètement le prototype sans transformer ces résultats en comparaison prématurée avec les architectures Transformer.
These values describe the configuration used for CoreMind’s current experiments. They provide concrete context for the prototype without turning the results into a premature comparison with Transformer architectures.
| ParamètreParameter | ValeurValue |
|---|---|
| Corpus d’entraînementTraining corpus | ≈ 2,1 milliards de tokens / ≈ 2.1 billion tokens |
| VocabulaireVocabulary | 32 000 tokens |
| InfrastructureInfrastructure | CPU |
| ProcesseurProcessor | Intel Core – 16 vCPUs (Haswell) |
| MémoireMemory | 64 Go / 64 GB |
| GPU | AucunNone |
| Durée d’entraînementTraining duration | ≈ 60 minutes |
| Horizon expérimentalExperimental horizon | 40 |
Le développement de CoreMind se poursuit au-delà du texte. Les prochaines explorations visent l’adaptation de l’architecture au traitement des images, de la voix, de l’audio, des signaux et, à terme, à des systèmes multimodaux capables de relier plusieurs formes d’information dans une même représentation.
CoreMind’s development continues beyond text. Upcoming research explores the adaptation of the architecture to images, voice, audio, signals and, ultimately, multimodal systems able to connect several forms of information within a shared representation.
Représentation et compréhension visuelles.
Visual representation and understanding.
Analyse et génération de la parole.
Speech analysis and generation.
Traitement de données temporelles et spécialisées.
Processing temporal and specialised data.
Unification de plusieurs formes d’information.
Unification of multiple information forms.
Assistants spécialisés, analyse documentaire et systèmes explicables dans des contextes sensibles.
Specialised assistants, document analysis and explainable systems in sensitive contexts.
Recherche sémantique, exploration de corpus et assistance fondée sur des connaissances structurées.
Semantic search, corpus exploration and assistance based on structured knowledge.
Modèles locaux, souveraineté des données et adaptation aux processus métiers.
Local models, data sovereignty and adaptation to business processes.
Étude de nouvelles formes de représentation, d’apprentissage et d’explicabilité.
Study of new forms of representation, learning and explainability.
Architecture alternative, intelligence sémantique et sobriété énergétique.Alternative architecture, semantic intelligence and energy efficiency.
Le White Paper présente les objectifs, les principes architecturaux, le prototype expérimental, les résultats observés, les limites actuelles et les perspectives de développement du projet.
The White Paper presents the project’s objectives, architectural principles, experimental prototype, observed results, current limitations and development perspectives.
Télécharger le White PaperDownload the White PaperCoreMind est actuellement en phase de validation architecturale. Le prototype expérimental permet déjà de tester les principes fondamentaux de l’architecture, d’en vérifier la faisabilité et d’évaluer plusieurs mécanismes d’intelligence artificielle construits sur cette nouvelle fondation.
Les travaux de recherche se poursuivent afin d’affiner, d’étendre et de consolider l’ensemble des composants. Les prochaines étapes portent sur l’optimisation des mécanismes existants, le développement de nouvelles capacités, les évaluations comparatives à plus grande échelle et l’extension progressive vers le traitement des images, de la voix, des signaux et des systèmes multimodaux.
L’objectif est d’aboutir à une architecture mature, robuste et documentée, prête à être présentée au public à l’issue des phases de validation scientifique et technique.
CoreMind is currently in the architectural validation phase. The experimental prototype already makes it possible to test the architecture’s fundamental principles, verify its feasibility and evaluate several artificial intelligence mechanisms built on this new foundation.
Research is continuing to refine, extend and consolidate every component. The next stages focus on optimising existing mechanisms, developing new capabilities, conducting larger-scale comparative evaluations and progressively extending the architecture to images, voice, signals and multimodal systems.
The objective is to achieve a mature, robust and documented architecture, ready to be presented publicly once the scientific and technical validation phases have been completed.
Une démonstration du prototype peut être organisée sur demande pour les chercheurs, les spécialistes du domaine, les partenaires académiques et les partenaires industriels souhaitant mieux comprendre l’architecture, ses mécanismes et ses premiers résultats.
A prototype demonstration can be arranged on request for researchers, domain specialists, academic partners and industrial partners wishing to better understand the architecture, its mechanisms and its initial results.
Demander une démonstrationRequest a demonstrationContact :Contact:contact@llmsoft.be
Partenariats :Partnerships:partnership@llmsoft.be